Як Forum AI перевіряє, чи говорить штучний інтелект правду про геополітику

Кемпбелл Браун, відома тележурналістка та колишній керівник новин Meta, вважає, що історія, яка зараз розгортається з ШІ, не є дуже доброю. Вона спостерігає, як люди сьогодні споживають інформацію, та впевнена, що в це потрібно втрутитися. Браун зазначила, що одразу зрозуміла, що ШІ стане воронкою, через яку протікатиме вся інформація. І якщо дані будуть неправдиві, то це матиме екзистенційні наслідки.

• Mythos від Anthropic змусив Firefox переглянути кіберзахист

Деталі

Компанія Браун Forum AI займається оцінкою того, як моделі фундаменту працюють у тому, що вона називає “темами з високими ставками”. Маються на увазі теми зі сфери геополітики, психічного здоров’я, фінансів, найму. Тобто теми, у яких немає чітких відповідей, де може бути багато нюансів, де варто розуміти контекст. Звертається увага на те, що компанії, що працюють за моделлю Foundation, “надзвичайно зосереджені на кодуванні та математиці”, тоді як новини та інформація є складнішими.

Ідея проєкту в тому, щоб бенчмарки розробляли провідні світові експерти. Тільки після цього має пройти навчання суддів зі штучного інтелекту, які в подальшому зможуть проводити таку оцінку у потрібних масштабах. Метою є результат, коли судді зі штучного інтелекту мають приблизно 90% консенсусу з експертами-людьми.

Для роботи Forum AI з геополітики Браун залучила Ніла Фергюсона, Фаріда Закарію, колишнього державного секретаря Тоні Блінкена, колишнього спікера Палати представників Кевіна Маккарті та Енн Нойбергер, яка очолювала кібербезпеку в адміністрації Обами.

Наразі зазначається, що попереду дуже багато роботи. Але вже зараз є база для покращення ситуації. Загалом же Браун сподівається, що коло буде розірвано і компанії дійсно зможуть давати користувачам щось справжнє, чесне та правдиве.

Раніше ми писали про те, що ШІ використовується для приховування справжнього місця роботи операторів. Зокрема, за допомогою штучного інтелекту маскують акценти іноземних працівників кол-центрів. Оскільки специфічної вимови не чути, клієнти думають, що їх обслуговують місцеві агенти.