Це страшніше, ніж реклама: як чат-боти можуть маніпулювати думками

Науковці дедалі голосніше попереджають про ризики впливу штучного інтелекту на вибори. Низка нових досліджень показує, що сучасні моделі можуть не лише спотворювати результати опитувань, а й цілеспрямовано маніпулювати громадською думкою.

• "Посібник" від ШІ: чат-бот для масового стеження чи інструмент для злочину

Деталі

У статті в журналі Nature дослідники продемонстрували, що політично налаштовані чат-боти здатні помітно змінювати симпатії виборців – ефективніше, ніж традиційна теле- чи відеореклама. Паралельна робота в Science показала, що моделі, спеціально "натреновані" на переконання, із зростанням інтенсивності аргументації все частіше вдаються до неточних або відверто неправдивих тверджень.

Автор обох робіт, професор Корнельського університету Девід Ренд, пояснює: суспільство дуже боїться втручання ШІ у вибори, тоді як частина політологів вважає, що змінити політичні погляди людей важко. Метою досліджень було оцінити реальний масштаб ризику.

У дослідженні для Nature 2306 громадян США наприкінці серпня – на початку вересня 2024 року спілкувалися з чат-ботом, який мав "просувати" конкретного кандидата – Камалу Гарріс або Дональда Трампа. Модель намагалася або збільшити підтримку "свого" політика, або підняти ймовірність явки його виборців, або, навпаки, знизити мотивацію голосувати у прихильників опонента, тобто фактично приглушити участь частини електорату.

У США про-Гарріс-бот зсунув симпатії ймовірних виборців Трампа на 3,9 відсоткового пункту на користь Гарріс – приблизно вчетверо сильніший ефект, ніж зафіксований у класичних дослідженнях ефективності відеореклами на виборах 2016 та 2020 років. Про-Трампова модель змінила оцінки прихильників Гарріс на 1,51 пункту на користь Трампа.

Подібні експерименти провели з 1530 канадцями та 2118 поляками напередодні їхніх національних виборів 2025 року. У Канаді боти підтримували Марка Карні (Ліберальна партія) або П’єра Пуальєвра (Консервативна партія), у Польщі – Рафала Тшасковського (Громадянська коаліція) або Кароля Навроцького (Право і справедливість). У цих виборців ефект виявився ще сильнішим: у низці випадків симпатії до кандидатів змінювалися до 10 відсоткових пунктів – утричі більше, ніж в американській групі.

Одне з можливих пояснень, за словами Ренда, – різний інформаційний фон. У США про головних політичних фігур виборці роками чують з усіх медіа, тому нові аргументи додають менше. У країнах із коротшими кампаніями кандидати менш "пересичують" інформаційний простір, тож нові "факти" звучать переконливіше.

Ключовий висновок: найбільший вплив боти мають тоді, коли наводять аргументи, що виглядають фактичними. Чим більше фактів чув виборець раніше, тим менш чутливим він стає до нових.

Однак ці "факти" далеко не завжди правдиві. В усіх трьох країнах моделі, які "агітували" за правих кандидатів, частіше генерували неточну інформацію, ніж боти, що підтримували кандидатів з лівого спектра. Дослідники пов’язують це з тим, що в інтернеті, на якому навчаються моделі, праві політики й користувачі загалом поширюють більше дезінформації – і ця асиметрія просто відображається в навчальних даних.

У статті в Science команда Ренда детальніше розбирає, чому саме ШІ такий переконливий. Вони протестували 19 великих мовних моделей на майже 77 000 учасників із Великої Британії по 707 політичних темах. Найдієвішою стратегією виявилося саме подання максимально насичених фактами аргументів – що узгоджується з результатами Nature. Але є "зворотний бік": що більше від моделей вимагали конкретних даних, то більше вони починали "галюцинувати", тобто вигадувати факти.

Ренд підкреслює: не те, щоб брехня сама по собі була ефективнішою за правду. Моделі просто вичерпують запас реальних фактів, але продовжують генерувати на вимогу "ще трохи даних", і далі вже "добивають" відповідь вигаданими деталями.

Ще одне дослідження, опубліковане в Proceedings of the National Academy of Sciences, показало інший вектор ризику: ШІ здатен масово псувати дані опитувань. Команда Шона Вествуда з Дартмутського коледжу створила агента, який імітував відповіді людей у соцопитуваннях і зміг пройти 6000 перевірок із виявлення ботів із точністю 99,8%. Учений попереджає, що такі агенти можуть свідомо перекручувати результати опитувань, створюючи "вектор інформаційної війни" та роблячи традиційні методи захисту даних застарілими.

Разом усі ці роботи показують: штучний інтелект уже сьогодні здатен впливати на виборчі процеси з кількох боків – від підміни громадської думки на етапі збору даних до активного переконання виборців змінити свої політичні вподобання, у тому числі за рахунок неправдивої інформації.

Як можливу протидію Ренд пропонує поєднання регулювання й просвіти: змінити законодавство про фінансування кампаній так, щоб використання ШІ (зокрема чат-ботів-агітаторів) було прозорим, і паралельно навчати громадян критично ставитися до джерела будь-якого "переконливого голосу" – хто створив модель, хто її налаштовує і з якою метою.

Раніше ми писали про гаджет, який безперервно оцінює рівень психологічного стресу. Цей пристрій використовує технологію, якій понад сто років: електроенцефалограму (ЕЕГ) для виявлення та вимірювання електричної активності мозку.

Вам може бути цікаво:

• Ресторан у Дубаї створює меню за допомогою ШІ
• Різні ШІ зливаються: чи стануть системи розумнішими за нас
• ШІ добрався до різдвяних светрів