Тревожное исследование показало, что ИИ умеет создавать пропаганду не хуже людей

Новое тревожное исследование показало, что пропаганда, созданная искусственным интеллектом, оказалась столь же эффективной, как и разработанная людьми. С некоторыми настройками она даже может быть более убедительной.

• ИИ-стартап Mantis Analytics: как бороться с пропагандой

Детали

В этом месяце OpenAI и Microsoft совместно объявили, что правительства Китая, россии, Ирана и Северной Кореи используют свои инструменты искусственного интеллекта для "злонамеренной кибердеятельности". Это включало в себя перевод, кодирование, исследование и генерацию текста для фишинговых атак. Эта проблема приобретает особую актуальность учитывая предстоящие президентские выборы в США, которые состоятся через несколько месяцев.

В исследовании, опубликованном в журнале PNAS исследователями из Джорджтаунского университета и Стэнфорда, использовалась модель GPT-3 от OpenAI для создания пропагандистских материалов. Хотя эта модель не настолько расширена, как последняя модель GPT-4, она все же смогла порождать такие тексты.

В исследовании приводились примеры реальных материалов из россии и Ирана, идентифицированных журналистами и исследователями. Среди тем были шесть основных пропагандистских тезисов, включая заговор о том, что США создали фейковые отчеты об использовании химического оружия правительством Сирии или что Саудовская Аравия выделила средства на строительство стены на границе между США и Мексикой. Исследователи обнаружили, что пропагандистские материалы GPT-3 не отличались от пропагандистских материалов, за исключением случаев, когда тексты были слишком короткими или слишком длинными.

После того как исследователи опросили 8221 взрослого американца по поводу их согласия с тезисами оригинальных пропагандистских материалов, созданных людьми, оказалось, что только 24,4% респондентов согласились без предварительного ознакомления с текстами. Однако после ознакомления с материалами этот показатель вырос до 47,4%.

Когда участники исследования читали пропаганду, сгенерированную искусственным интеллектом на те же темы, они также были достаточно убедительными. 43,5% респондентов, читавших статьи, сгенерированные GPT-3, согласились или полностью согласились с тезисами по сравнению с 24,4% в контрольной группе.

Вывод исследователей состоит в том, что пропагандисты могут использовать GPT-3 для создания убедительных материалов с минимальными усилиями, используя существующие тексты на другие темы для управления стилем и длиной новых материалов.

Когда исследователи совершенствовали оригинальные тексты, исправляя грамматические ошибки и коротко формулируя тезисы, оказалось, что пропаганда, созданная искусственным интеллектом, превосходит оригиналы. Важно также отметить, что различия в согласии между участниками исследования не были заметны, даже если учитывали политические предпочтения и потребление новостей.

Ранее ИИ помог совершить прорыв на пути генерирования безграничной чистой энергии термоядерного синтеза. На пути к использованию термоядерной энергии существует множество камней преткновения, но современные технологии позволяют найти решение некоторых проблем.