Это страшнее, чем реклама: как чат-боты могут манипулировать мнениями
ИИ может "помочь" сделать ваш выбор
Это страшнее, чем реклама: как чат-боты могут манипулировать мнениями/Фото: theatlantic
-
Политически настроенные чат-боты могут смещать симпатии избирателей в 4 раза эффективнее, чем традиционная видеореклама, согласно исследованию в Nature.
-
ИИ наиболее убедителен, предоставляя аргументы, похожие на факты, но при исчерпании реальных данных он начинает "галлюцинировать" и выдумывать детали.
-
ИИ-агенты также способны массово искажать данные соцопросов, успешно имитируя ответы респондентов и обходя системы обнаружения ботов.
Учёные всё громче предупреждают о рисках влияния искусственного интеллекта на выборы. Ряд новых исследований показывает: современные модели могут не только искажать результаты опросов, но и целенаправленно манипулировать общественным мнением.
Детали
В статье в журнале Nature исследователи продемонстрировали, что политически настроенные чат-боты способны заметно менять симпатии избирателей – эффективнее, чем традиционная теле- или видеореклама. Параллельная работа в Science показала, что модели, специально "натренированные" на убеждение, с ростом интенсивности аргументации всё чаще прибегают к неточным или откровенно ложным утверждениям.
Автор обеих работ, профессор Корнеллского университета Дэвид Рэнд, объясняет: общество очень боится вмешательства ИИ в выборы, тогда как часть политологов считает, что изменить политические взгляды людей сложно. Цель исследований – оценить реальный масштаб риска.
В исследовании для Nature 2306 граждан США в конце августа – начале сентября 2024 года общались с чат-ботом, который должен был "продвигать" конкретного кандидата – Камалу Харрис или Дональда Трампа. Модель пыталась либо увеличить поддержку "своего" политика, либо повысить вероятность явки его избирателей, либо, наоборот, снизить мотивацию голосовать у сторонников оппонента, то есть фактически притушить участие части электората.
В США про-Харрис-бот сместил симпатии вероятных избирателей Трампа на 3,9 процентного пункта в пользу Харрис – примерно в четыре раза сильнее эффект, чем зафиксированный в классических исследованиях эффективности видеорекламы на выборах 2016 и 2020 годов. Про-Трамповская модель изменила оценки сторонников Харрис на 1,51 пункта в пользу Трампа.
Похожие эксперименты провели с 1530 канадцами и 2118 поляками накануне их национальных выборов 2025 года. В Канаде боты поддерживали Марка Карни (Либеральная партия) или Пьера Пуальева (Консервативная партия), в Польше – Рафала Тшасковского (Гражданская коалиция) или Кароля Навроцкого (Право и справедливость). У этих избирателей эффект оказался ещё сильнее: в ряде случаев симпатии к кандидатам менялись до 10 процентных пунктов – втрое больше, чем в американской группе.
Одно из возможных объяснений, по словам Рэнда, – разный информационный фон. В США о главных политических фигурах избиратели годами слышат со всех медиа, поэтому новые аргументы добавляют меньше. В странах с более короткими кампаниями кандидаты меньше "перенасыщают" информационное пространство, поэтому новые "факты" звучат убедительнее.
Ключевой вывод: наибольшее влияние боты оказывают тогда, когда приводят аргументы, которые выглядят фактическими. Чем больше фактов слышал избиратель раньше, тем менее чувствителен он становится к новым.
Однако эти "факты" далеко не всегда правдивы. Во всех трёх странах модели, которые "агитировали" за правых кандидатов, чаще генерировали неточную информацию, чем боты, поддерживавшие кандидатов с левого спектра. Исследователи связывают это с тем, что в интернете, на котором обучаются модели, правые политики и пользователи в целом распространяют больше дезинформации – и эта асимметрия просто отражается в обучающих данных.
В статье в Science команда Рэнда детально разбирает, почему именно ИИ так убедителен. Они протестировали 19 крупных языковых моделей на почти 77 000 участников из Великобритании по 707 политическим темам. Наиболее действенной стратегией оказалось именно предоставление максимально насыщенных фактами аргументов – что согласуется с результатами Nature. Но есть и "обратная сторона": чем больше от моделей требовали конкретных данных, тем больше они начинали "галлюцинировать", то есть выдумывать факты.
Рэнд подчёркивает: не то чтобы ложь сама по себе была эффективнее правды. Модели просто исчерпывают запас реальных фактов, но продолжают генерировать по требованию "ещё немного данных", и дальше уже "добивают" ответ вымышленными деталями.
Ещё одно исследование, опубликованное в Proceedings of the National Academy of Sciences, показало другой вектор риска: ИИ способен массово портить данные опросов. Команда Шона Вествуда из Дартмутского колледжа создала агента, который имитировал ответы людей в соцопросах и смог пройти 6000 проверок по выявлению ботов с точностью 99,8%. Учёный предупреждает, что такие агенты могут сознательно искажать результаты опросов, создавая "вектор информационной войны" и делая традиционные методы защиты данных устаревшими.
Вместе все эти работы показывают: искусственный интеллект уже сегодня способен влиять на избирательные процессы с разных сторон – от подмены общественного мнения на этапе сбора данных до активного убеждения избирателей изменить свои политические предпочтения, в том числе за счёт ложной информации.
В качестве возможного противодействия Рэнд предлагает сочетание регулирования и просвещения: изменить законодательство о финансировании кампаний так, чтобы использование ИИ (в частности агитационных чат-ботов) было прозрачным, и параллельно обучать граждан критически относиться к источнику любого "убедительного голоса" – кто создал модель, кто её настраивает и с какой целью.
Ранее мы писали о гаджете, который непрерывно оценивает уровень психологического стресса. Это устройство использует технологию, которой более ста лет: электроэнцефалограмму (ЭЭГ) для выявления и измерения электрической активности мозга.
Вам может быть интересно:
Не пропустите интересное!
Подписывайтесь на наши каналы и читайте новости в удобном формате!
