Вирусный тренд: как сгенерированные ИИ фото «бездомного в доме» вызвали панику и вызовы полиции

Так «пранкуют» своего партнёра, друзей, коллег или начальников. Обычно это сопровождается надписями вроде: «Ты знаешь этого мужчину? Он говорит, что знает тебя?».

• 6 месяцев тюрьмы: бегуна обвинили в преступлении за использование «несанкционированного маршрута» в горах

Детали

Один из инцидентов произошёл с семьёй Спенсер, проживающей в Сент-Огастине, штат Флорида. Жена создала изображение с помощью генератора на базе искусственного интеллекта. Она отправила их своему мужу и выложила переписку в TikTok как часть вирусного тренда, который некоторые интернет-магазины называют «пранком с бездомным при помощи ИИ».

Более 5 миллионов человек лайкнули видео Спенсера в TikTok, где хэштег #homelessmanprank появился более чем в 1200 видео, большинство из которых связаны с этой недавней тенденцией. Некоторые также использовали хэштег #homelessman для публикации своих видео, все из которых фокусируются на идее обмана людей, заставляя их поверить, что в их доме находится незнакомец.

Несколько человек также опубликовали обучающие материалы о том, как создавать такие изображения. Тренд распространился и на другие социальные платформы, включая Snapchat и Instagram.

Поскольку розыгрыш набирает популярность в интернете, местные власти начали предупреждать участников, которые, по их словам, в основном являются подростками, об опасности злоупотребления искусственным интеллектом для распространения ложной информации.

«Помимо того, что это неудачно, есть много причин, почему этот розыгрыш, прямо говоря, глупый и потенциально опасный», — написали на своём сайте в этом месяце представители полиции Салема, штат Массачусетс. «Этот розыгрыш унижает бездомных, вызывает панику у встревоженных получателей и зря тратит ресурсы полиции. Полицейские, которых вызывают на такие случаи, не знают, что это розыгрыш, и воспринимают вызов как настоящее проникновение, создавая тем самым потенциально опасную ситуацию».

Даже за рубежом некоторые местные чиновники сообщали о ложных проникновениях в дома, связанных с этой тенденцией. В Великобритании полиция Дорсета опубликовала предупреждение после того, как на прошлой неделе были привлечены ресурсы из-за «звонка от крайне обеспокоенного отца», но выяснилось, что это был розыгрыш, сообщает BBC.

Национальное полицейское управление Ирландии An Garda Síochána также опубликовало сообщения на своих страницах в Facebook и X, поделившись двумя недавними изображениями, полученными властями и созданными с помощью генеративных инструментов искусственного интеллекта.

Этот розыгрыш — очередной пример способности искусственного интеллекта обманывать с помощью фейковых изображений. Распространение фотореалистичных генераторов изображений и видео на базе искусственного интеллекта в последние годы привело к появлению в интернете массы ИИ-контента: медиафайлов с фейковыми людьми и сценариями, которые, несмотря на явные признаки вмешательства ИИ, вводят в заблуждение многих пользователей, особенно пожилых.

С усложнением технологий многим становится ещё труднее отличить реальность от подделки. В прошлом году Кэти Перри рассказала, что её собственную мать обмануло созданное искусственным интеллектом изображение её присутствия на Met Gala.

Даже если большинство таких случаев не связаны со злыми намерениями, эти розыгрыши подчёркивают, насколько легко искусственный интеллект может манипулировать реальными людьми.

С недавним выходом Sora 2 сотрудник OpenAI прорекламировал способность видеогенератора создавать реалистичное видео с камер наблюдения, на котором генеральный директор Сэм Альтман крадёт в Target — клип, который вызвал обеспокоенность у некоторых по поводу того, как искусственный интеллект может быть использован для проведения масштабных манипуляционных кампаний.

Генераторы изображений и видео на базе искусственного интеллекта обычно добавляют водяные знаки на свои результаты, чтобы указать на использование ИИ. Но пользователи могут легко их обрезать.
Неясно, какие именно модели искусственного интеллекта использовались во многих видеопранках.

Когда NBC News попросили ChatGPT от OpenAI «создать изображение бездомного мужчины в моём доме», бот ответил:

«Я не могу создать или отредактировать такое изображение — это означало бы изображение реального или вымышленного человека в ситуации бездомности, что может считаться эксплуатацией или неуважением».

На тот же вопрос Gemini, помощник Google на базе искусственного интеллекта, ответил:

«Конечно. Вот изображение, которое вы запросили».

OpenAI и Google не сразу ответили на запросы о комментариях.
Представители Snap и Meta (владеющей Instagram) комментариев не предоставили.

В ответ на запрос о комментарии TikTok сообщил, что к видео, которые NBC News пометили как связанные с этим трендом, были добавлены специальные пометки, чтобы уточнить, что это контент, созданный искусственным интеллектом.

TikTok также обратил внимание NBC News на свои Правила сообщества, которые требуют от создателей маркировать контент, созданный искусственным интеллектом или существенно отредактированный, который отображает реалистичные сцены или людей.

Полиция выносит предупреждение «шутникам»

Полиция Оук-Харбора, штат Вашингтон, предупредила, что «инструменты искусственного интеллекта могут создавать очень убедительные изображения, а дезинформация может быстро распространяться, вызывая ненужный страх или отвлекая ресурсы общественной безопасности».

Полицейское управление опубликовало заявление после того, как в социальных сетях появился пост, в котором утверждалось, что «на территории кампуса средней школы Оук-Харбор находится бездомный». По словам чиновников, это утверждение оказалось ложным.

Департамент полиции заявил, что сотрудничает со школьным округом для расследования инцидента и «решения проблемы распространения этого сфабрикованного контента». Никакие конкретные законы напрямую не регулируют такой тип злоупотребления искусственным интеллектом. Но по крайней мере в одном случае, в округе Браун, штат Огайо, были предъявлены обвинения.

«Мы хотим чётко заявить: такое поведение не является „шуткой“ — это преступление», — написал недавно в Facebook шерифский департамент, который сообщил о двух отдельных недавних инцидентах, связанных с этой тенденцией в этом месяце. «Оба несовершеннолетних, причастных к этим инцидентам, были привлечены к уголовной ответственности за их роль в этих происшествиях».

Шерифский департамент не сообщил, в чём обвиняют подозреваемых. Он не ответил на запрос о комментарии. В своём сообщении в Массачусетсе управление полиции Салема посоветовало «шутникам» «подумать о последствиях, прежде чем шутить», ссылаясь на закон штата, который наказывает людей, занимающихся «умышленным и злонамеренным распространением ложной информации в пункты приёма экстренных вызовов».

В городе Раунд-Рок, штат Техас, Энди МакКинни, командир патрульного отдела полицейского департамента Раунд-Рока, предупредил NBC News, что подобные случаи «могут иметь последствия» в будущем. Недавно департамент отреагировал на два вызова о проникновении в дом за один уикенд, оба из которых были связаны с пранковыми текстовыми сообщениями. Один из звонков был от мамы, которая «поверила, что это правда».

«Знаете, розыгрыши, даже если они невинны, могут иметь непредсказуемые последствия», — сказал он. «И часто молодые люди не думают об этих непреднамеренных последствиях и о семьях, на которые это может повлиять, возможно, на своих соседей, и поэтому реальный инцидент может произойти с одним из их соседей, а они тратят ресурсы, думая, что это будет весело».

В настоящее время полиция Раунд-Рока рассматривает подобные инциденты как возможность для обучения.

«Мы хотим поощрять родителей и членов семьи вести открытые разговоры и обсуждать» эти вопросы со своими детьми, — сказала МакКинни. — «Например: „Эй, я знаю, что вещи бывают смешными. Я знаю, что иногда онлайн-тренды интересны, но нам нужно подумать об опасностях, прежде чем мы начнём ими заниматься“».

Ранее мы также сообщали, что недавно археологи раскопали остатки исторического королевского дворца из польской реки, что пролило свет на жестокую часть истории страны. Музей польской истории объявил об этой находке в своём пресс-релизе.