Российская пропаганда в чатах: почему нейросети выдают ложь и как защититься

Случалось ли вам просить чат-бота рассказать о событиях в Украине, а он вдруг выдает типичный российский фейк? Это не просто сбой системы, и ИИ не «галлюцинирует». Это так называемое новейшее оружие информационной войны.

• Свет есть — съемка есть: как Meta научила свои очки разоблачать тайных операторов

Детали

В Минцифры говорят, что времена, когда пропаганду распространяли живые тролли за клавиатурами, окончательно прошли. Сейчас вражеские спецслужбы массово «воспитывают» алгоритмы, превращая нейросети в ретрансляторов лжи. А новый этап эволюции угроз получил официальное название FIMI (иностранное вмешательство и манипулирование информацией).

Отчеты компаний Microsoft, OpenAI, Mandiant и Recorded Future демонстрируют четкую картину: авторитарные режимы системно отравляют языковые модели.

Исследователи компании NewsGuard обнаружили, что россияне активно применяют тактику настройки языковых моделей (LLM Grooming). Вражеская сеть «Правда» сгенерировала более 3,6 миллиона пропагандистских статей на 150 доменах.

Главная цель кампании — попасть в обучающие базы ИИ через индексацию поисковыми роботами. Аудит десяти ведущих чат-ботов выяснил, что в 33% случаев нейросети выдавали российские фейки об Украине как реальные факты. Также действует операция Doppelgänger, в рамках которой алгоритмы мгновенно генерируют и переводят сфабрикованные материалы, успешно маскируя тексты под известные западные СМИ.

Среди мишеней — Википедия и базы знаний.

• Википедия традиционно остается фундаментальным ресурсом с самым высоким уровнем доверия для алгоритмов. Поэтому российские агенты целенаправленно атакуют статьи и незаметно интегрируют туда ссылки на собственные фейковые ресурсы. В сеть «сливают» сотни псевдолокальных новостных сайтов, оптимизированных исключительно под алгоритмы. Когда программы-краулеры собирают массивы данных для обучения, системы автоматически захватывают сгенерированную пропаганду и воспринимают ее как авторитетные факты.
• Далее — RAG Poisoning (отравление баз знаний). Современные корпоративные ИИ-системы подтягивают данные из внутренней документации. Чтобы заставить корпоративный ИИ лгать, хакерам достаточно разместить сфабрикованный документ на сервере. Массовый запуск автономных ИИ-агентов открывает еще одну уязвимость: использование неверифицированных плагинов позволяет злоумышленникам перехватить управление через скрытые инструкции.

Данные исследования InfoOpsBench за июль 2026 года подтверждают эскалацию угрозы. Отдельные открытые модели не только соглашаются генерировать пропаганду, но и усиливают ее в 60% случаев, самостоятельно додумывая фейковые детали.

Как можно противодействовать?

“Борьба с технологиями FIMI требует отказаться от слепого доверия к ответам ИИ. Надежная защита информационной среды строится на нескольких уровнях”, — отмечают в Минцифры.

В ведомстве отмечают, что речь идет о технических фильтрах и архитектуре: системы RAG должны использовать гибридный поиск (сочетание классического текстового алгоритма и векторного кодирования) и контекстуально изолировать инструкции разработчика от сырых данных из сети.

Кроме того, все внешние инструменты и плагины для автономных ИИ-агентов должны проходить строгую сертификацию и работать исключительно по принципу минимальных привилегий.

“Стратегическим решением для государства остается развитие суверенных языковых моделей. Это ИИ-системы, которые специалисты обучают на верифицированных национальных датасетах”, — говорится в сообщении Минцифры.

Там отмечают, что собственная инфраструктура позволяет избежать зависимости от глобальных LLM, базы которых постоянно подвергаются атакам. Именно поэтому мы в Минцифры развиваем большую языковую модель Сяйво. Национальная LLM обучена на терабайтах оцифрованных украинских данных, поэтому будет работать без пропаганды и дезинформации. И это гарантирует защиту от скрытых вражеских нарративов и предотвращает попадание чувствительной информации в глобальные сети.

Эксперты советуют придерживаться пяти правил базовой защиты:

• Фиксируйте эмоции (техника «детектор эмоций»). Представьте, что языковая модель пишет: «Завтра введут новые жесткие ограничения, о которых СМИ молчат». Сообщение сразу бьет по эмоциям: искусственно создает ощущение срочности, использует тревожный тон, намекает на сокрытие фактов и избегает проверяемых деталей. Если ответ ИИ вызывает страх, гнев, чувство вины, возмущение или ощущение, что вам открыли «тайное знание», назовите это: «я сейчас злюсь», «мне тревожно», «я хочу немедленно это переслать». Такое осознание помогает не действовать автоматически.
• Берите паузу: не репостьте текст, не отправляйте его в рабочий чат и не принимайте решения на основе первого ответа чат-бота. Подождите 5–10 минут перед принятием решений, переходя от импульса к холодному анализу. Этот прием называется «правило чашки кофе».
• Устраивайте «допрос»: применяйте метод 5W1H — спрашивайте алгоритм, кто является источником этого утверждения; где именно опубликованы первичные данные; когда это произошло; кому выгодно, чтобы я в это поверил / поверила; что здесь факт, а что — предположение или оценка.
• Ищите независимое подтверждение: используйте правило SIFT — самостоятельно находите официальные сообщения или материалы авторитетных СМИ с полной цитатой, документом, фото или видео. Не ограничивайтесь ссылками, которые предложила сама модель.
• Определите безопасное действие или откажитесь от него. После проверки решите, стоит ли информация вашего внимания, эмоций и распространения: для неподтвержденных утверждений лучшим решением часто является не репостить их и не передавать дальше. Если же вы делитесь проверенным материалом, добавьте собственный контекст.

Также в Минцифры советуют освоить навыки проверки информации — в этом поможет образовательный сериал «ДезинFAKEция» от Центра противодействия дезинформации, который мы бесплатно открыли на платформе Дія.Освіта

Ранее мы рассказывали, что немецкий дизайнер Саймон Векерт создал камуфляжную рубашку, которую не могут распознать интегрированные с искусственным интеллектом системы наблюдения.