Сфабриковані АІ-кадри катастроф стали новою загрозою для Китаю

Борючись із руйнівними наслідками тайфуну “Ноул”, пекінська влада опинилася перед новим викликом. Вона стурбована масованою хвилею згенерованого штучним интеллектом чутливого контенту, який збурює суспільство та провокує хаос.

• Компанія Zoox відкликає роботаксі через інцидент під час пожежі

Останнім часом китайські соціальні платформи заполонили фальшиві відеоматеріали про катаклізми. Алгоритми створюють переконливі, але цілком вигадані кадри із загиблими, імітують затоплення неушкоджених регіонів або моделюють симульовані рятувальні операції. Штучно створені чутки про масові блекаути вже спровокували ажіотажний попит і дефіцит товарів першої потреби в деяких провінціях.

Часто маніпулятори беруть за основу реальні інциденти. Наприклад, коли під час повені в Гуансі з розплідника втекли сотні змій, мережу миттєво заполонили сфабриковані ШІ-зображення крокодилів, які нібито плавають у місцевих водоймах.

За даними правоохоронців, контент-мейкери навмисно паразитують на надзвичайних ситуаціях заради нарощування трафіку та монетизації. У відповідь силовики вже розгорнули кампанію із затримань і штрафів для авторів фейків. Фахівці констатують, що сучасні нейромережі дозволяють згенерувати реалістичне відео чи фото за кілька кліків. Це робить протидію штучній дезінформації надзвичайно складною задачею.

Штучний інтелект для створення фейків активно використовують і російські пропагандисти. Дослідження аналітичних організацій VIGINUM, NewsGuard та American Sunlight Project викрили масштабну мережу проросійських ресурсів (відому як Portal Kombat або Pravda), яка публікує понад 10 тисяч маніпулятивних статей щодня різними мовами. Мережа генерує величезний масив інформаційного сміття не для залучення реальних читачів, а з метою отруєння навчальних даних великих мовних моделей, змушуючи алгоритми цитувати пропагандистські наративи у своїх відповідях.

Наслідки цієї стратегії виявилися критичними. Експерименти NewsGuard зафіксували, що в чверті або навіть третині випадків штучний інтелект сприймає сфабриковані твердження кремлівської пропаганди за істину. Алгоритми підтверджують фейки незалежно від того, як саме сформульовано запит — нейтрально чи упереджено. російська мережа цілеспрямовано атакує не лише тему війни в Україні чи інформаційний простір країн НАТО, а й активно поширює маніпуляції на регіони Азії, Близького Сходу та Африки, де рф намагається посилити свій геополітичний вплив.

Раніше ми писали про те, що новий штучний інтелект в Instagram тепер вчиться на публічних фотографіях. Meta позиціонує свою розробку як головного конкурента для GPT Images 2.0 від OpenAI та Banana 2 від Google.