Как Forum AI проверяет, говорит ли искусственный интеллект правду о геополитике

Кэмпбелл Браун, известная тележурналистка и бывший руководитель новостей Meta, считает, что история, которая сейчас разворачивается с ИИ, не очень хорошая. Она наблюдает за тем, как люди сегодня потребляют информацию, и уверена, что в это необходимо вмешаться. Браун отметила, что сразу поняла: ИИ станет воронкой, через которую будет проходить вся информация. И если данные окажутся недостоверными, это приведет к экзистенциальным последствиям.

• Mythos от Anthropic заставил Firefox пересмотреть киберзащиту

Детали

Компания Браун Forum AI занимается оценкой того, как фундаментальные модели работают в так называемых «темах с высокими ставками». Речь идет о темах в области геополитики, психического здоровья, финансов, найма. То есть о сферах, где нет однозначных ответов, где много нюансов и важен контекст. Отмечается, что компании, работающие на модели Foundation, «чрезвычайно сосредоточены на кодировании и математике», в то время как новости и информация гораздо сложнее.

Идея проекта заключается в том, чтобы бенчмарки разрабатывали ведущие мировые эксперты. Только после этого начинается обучение судей искусственного интеллекта, которые впоследствии смогут проводить такую оценку в необходимых масштабах. Цель — достичь результата, при котором судьи-ИИ будут совпадать с экспертами-людьми примерно на 90%.

Для работы Forum AI по вопросам геополитики Браун привлекла Нила Фергюсона, Фарида Закарию, бывшего государственного секретаря Тони Блинкена, бывшего спикера Палаты представителей Кевина Маккарти и Энн Нойбергер, которая руководила кибербезопасностью в администрации Обамы.

В настоящее время отмечается, что впереди еще очень много работы. Но уже сейчас есть база для улучшения ситуации. В целом же Браун надеется, что круг будет разорван и компании действительно смогут давать пользователям что-то настоящее, честное и правдивое.

Ранее мы писали о том, что ИИ используется для сокрытия реального места работы операторов. В частности, с помощью искусственного интеллекта маскируют акценты иностранных сотрудников кол-центров. Поскольку специфического произношения не слышно, клиенты думают, что их обслуживают местные агенты.