Російська пропаганда в чатботах: чому нейромережі видають брехню та як захиститися

Чи бувало у вас таке, коли просите чатбот розповісти про події в Україні, а він раптом видає типовий російський фейк? Це не система просто дала збій і ШІ не «галюцинує». Це такзвана новітня зброя інформаційної війни.

• Світло є — зйомка є: як Meta навчила свої окуляри викривати таємних операторів

Деталі

У Мінцифри кажуть що час коли пропаганду поширювали живі тролі за клавіатурами, остаточно минули. Зараз ворожі спецслужби масово «виховують» алгоритми, перетворюючи нейромережі на ретрансляторів брехні. А новий етап еволюції загроз отримав офіційну назву FIMI (Іноземне втручання та маніпулювання інформацією).

Звіти компаній Microsoft, OpenAI, Mandiant та Recorded Future демонструють чітку картину: авторитарні режими системно отруюють мовні моделі.

Дослідники з компанії NewsGuard виявили, що росіяни активно застосовують тактику налаштування мовних моделей (LLM Grooming). Ворожа мережа «Правда» згенерувала понад 3,6 мільйона пропагандистських статей на 150 доменах.

Головна мета кампанії - потрапити в навчальні бази ШІ через індексацію пошуковими роботами. Аудит десяти провідних чатботів зʼясував, що у 33% випадків нейромережі видавали російські фейки про Україну як реальні факти. Також діє операція Doppelgänger, де алгоритми миттєво генерують та перекладають сфабриковані матеріали, успішно маскуючи тексти під відомі західні медіа.

Серед мішеней Вікіпедія та бази знань.

• Вікіпедія традиційно залишається фундаментальним ресурсом із найвищим рівнем довіри для алгоритмів. Тому російські агенти цілеспрямовано атакують статті та непомітно інтегрують туди посилання на власні фейкові ресурси. У мережу “зливають” сотні псевдолокальних новинних сайтів, оптимізованих виключно під алгоритми. Коли програми-краулери збирають масиви даних для навчання, системи автоматично захоплюють згенеровану пропаганду та сприймають її як авторитетний фактаж.
• Далі - RAG Poisoning (отруєння баз знань). Сучасні корпоративні ШІ-системи підтягують дані з внутрішньої документації. Щоб змусити корпоративний ШІ брехати, хакерам достатньо розмістити сфабрикований документ на сервері. Масовий запуск автономних ШІ-агентів відкриває ще одну вразливість: використання неверифікованих плагінів дає змогу зловмисникам перехопити управління через приховані інструкції.

За даними дослідження InfoOpsBench за липень 2026 року підтверджує ескалацію загрози. Окремі відкриті моделі не лише погоджуються генерувати пропаганду, а й посилюють її у 60% випадків, самостійно додумуючи фейкові деталі.

Яка може бути протидія?

“Боротьба з технологіями FIMI вимагає відмовитися від сліпої довіри до відповідей ШІ. Надійний захист інформаційного середовища будується на кількох рівнях”, - зазначають у Мінцифри.

Відтак, у відомстві зазначають, що йдеться про технічні фільтри та архітектуру: системи RAG мають використовувати гібридний пошук (поєднання класичного текстового алгоритму та векторного кодування) і контекстуально ізолювати інструкції розробника від сирих даних із мережі.

Крім того, усі зовнішні інструменти та плагіни для автономних ШІ-агентів повинні проходити сувору сертифікацію та працювати виключно за принципом мінімальних привілеїв.

“Стратегічним рішенням для держави залишається розвиток суверенних мовних моделей. Це ШІ-системи, які фахівці тренують на верифікованих національних датасетах”, - йдеться у повідомленні Мінцифри.

Там зазначають, що власна інфраструктура дає змогу уникнути залежності від глобальних LLM, чиї бази постійно зазнають атак. Саме тому ми в Мінцифрі розбудовуємо велику мовну модель Сяйво. Національна LLM навчена на терабайтах оцифрованих українських даних, тому працюватиме без пропаганди та дезінформації. І це гарантує захист від прихованих ворожих наративів та внеможливлює потрапляння чутливої інформації до глобальних мереж.

Експерти радять дотримуватися п’яти правил базового захисту:

• Фіксуйте емоції (техніка «детектор емоцій»). Уявіть, що мовна модель пише: «Завтра запровадять нові жорсткі обмеження, про які медіа мовчать». Повідомлення одразу б’є в емоції: штучно генерує відчуття терміновості, використовує тривожний тон, натякає на приховування фактів та уникає перевірюваних деталей. Якщо відповідь ШІ викликає страх, гнів, провину, обурення або відчуття, що вам відкрили «таємне знання», назвіть це: «я зараз злюся», «мені тривожно», «я хочу негайно це переслати». Таке усвідомлення допомагає не діяти автоматично.
• Беріть паузу: не репостіть текст, не надсилайте його в робочий чат і не ухвалюйте рішення на основі першої відповіді чатбота. Зачекайте 5–10 хвилин перед ухваленням рішень, переходячи від імпульсу до холодного аналізу. Цей прийом називається «правило чашки кави».
• Влаштовуйте «допит»: застосовуйте метод 5W1H — запитуйте алгоритм, хто є джерелом цього твердження; де саме оприлюднено первинні дані; коли це сталося; кому вигідно, щоб я в це повірив / повірила; що тут факт, а що — припущення чи оцінка.
• Шукайте незалежне підтвердження: використовуйте правило SIFT — самостійно знаходьте офіційні повідомлення чи матеріали авторитетних медіа із повною цитатою, документом фото чи відео. Не обмежуйтеся посиланнями, які запропонувала сама модель.
• Визначте безпечну дію або відмовтеся від неї. Після перевірки вирішіть, чи інформація варта вашої уваги, емоцій і поширення: для непідтверджених тверджень найкращим рішенням часто є не репостити їх і не передавати далі. Якщо ж ви ділитеся перевіреним матеріалом, додайте власний контекст.

Також у Мінцифри радять опанувати навички перевірки інформації допоможе освітній серіал «ДезінFAKEція» від Центру протидії дезінформації, який ми відкрили безоплатно на платформі Дія.Освіта

Раніше ми розповідали, що німецький дизайнер Саймон Векерт створив камуфляжну сорочку, яку не можуть розпізнати інтегровані зі штучним інтелектом системи спостереження.