Сфабрикованные ИИ-кадры катастроф стали новой угрозой для Китая

Борясь с разрушительными последствиями тайфуна «Ноул», пекинские власти столкнулись с новым вызовом. Их обеспокоила масштабная волна сгенерированного искусственным интеллектом чувствительного контента, который волнует общество и провоцирует хаос.

• Компания Zoox отзывает роботакси из-за инцидента во время пожара

В последнее время китайские социальные платформы заполонили фальшивые видеоматериалы о катастрофах. Алгоритмы создают убедительные, но полностью вымышленные кадры с погибшими, имитируют затопление не пострадавших регионов или моделируют симулированные спасательные операции. Искусственно созданные слухи о массовых блэкаутах уже спровоцировали ажиотажный спрос и дефицит товаров первой необходимости в некоторых провинциях.

Часто манипуляторы берут за основу реальные инциденты. Например, когда во время наводнения в Гуанси из питомника сбежали сотни змей, сеть мгновенно наводнили сфабрикованные ИИ-изображения крокодилов, якобы плавающих в местных водоемах.

По данным правоохранителей, контент-мейкеры сознательно паразитируют на чрезвычайных ситуациях ради увеличения трафика и монетизации. В ответ силовые структуры уже развернули кампанию по задержаниям и штрафам для авторов фейков. Эксперты отмечают, что современные нейросети позволяют сгенерировать реалистичное видео или фото за несколько кликов. Это делает противодействие искусственной дезинформации крайне сложной задачей.

Искусственный интеллект для создания фейков активно используют и российские пропагандисты. Исследования аналитических организаций VIGINUM, NewsGuard и American Sunlight Project выявили масштабную сеть пророссийских ресурсов (известную как Portal Kombat или Pravda), которая публикует более 10 тысяч манипулятивных статей ежедневно на разных языках. Сеть генерирует огромный массив информационного мусора не для привлечения реальных читателей, а с целью отравления обучающих данных крупных языковых моделей, заставляя алгоритмы цитировать пропагандистские нарративы в своих ответах.

Последствия этой стратегии оказались критическими. Эксперименты NewsGuard зафиксировали, что в четверти или даже трети случаев искусственный интеллект принимает сфабрикованные утверждения кремлевской пропаганды за истину. Алгоритмы подтверждают фейки независимо от того, как именно сформулирован запрос — нейтрально или предвзято. Российская сеть целенаправленно атакует не только тему войны в Украине или информационное пространство стран НАТО, но и активно распространяет манипуляции на регионы Азии, Ближнего Востока и Африки, где РФ пытается усилить свое геополитическое влияние.

Ранее мы писали о том, что новый искусственный интеллект в Instagram теперь обучается на публичных фотографиях. Meta позиционирует свою разработку как главного конкурента для GPT Images 2.0 от OpenAI и Banana 2 от Google.