Вірусний тренд: як згенеровані ШІ фото "бездомного в домі" викликали паніку та виклики поліції

Так “пранкують” свого партнера, друзів, колег чи босів. Зазвичай це супроводжується текстом, накшталт - “Ти знаєш цього чоловіка? Він каже, що знає тебе?”.

• 6 місяців в'язниці: бігуна звинуватили у злочині за використання "несанкціонованого шляху" у горах

Деталі

Один з інцидентів стався з сімʼєю Спенсер, яка мешкає в Сент-Огастіні, штат Флорида. Дружина створила зображення за допомогою генератора на основі штучного інтелекту. Вона надіслала їх своєму чоловікові та опублікувала обмін повідомленнями в TikTok як частину вірусного тренду, який деякі інтернет-магазини називають «розіграшем бездомного зі штучним інтелектом».

Понад 5 мільйонів людей лайкнули відео Спенсера в TikTok, де хештег #homelessmanprank наповнив понад 1200 відео, більшість з яких пов'язані з цією нещодавньою тенденцією. Деякі також використовували хештег #homelessman для публікації своїх відео, всі з яких зосереджені на ідеї обману людей, змушуючи їх повірити, що в їхньому будинку є незнайомець.

Кілька людей також опублікували навчальні посібники про те, як створювати ці зображення. Тренд також поширився на інші платформи соціальних мереж, включаючи Snapchat та Instagram.

Оскільки розіграш набирає популярності в інтернеті, місцева влада почала попереджати учасників, які, за їхніми словами, переважно є підлітками, про небезпеку зловживання штучним інтелектом для поширення неправдивої інформації.

«Окрім того, що це невдаха, є багато причин, чому цей розіграш, прямо кажучи, дурний і потенційно небезпечний», – написали цього місяця на своєму вебсайті представники поліції Салема, штат Массачусетс . «Цей розіграш принижує безпритульних, викликає паніку у засмучених одержувачів і марнує ресурси поліції. Поліцейські, яких викликають на виклик, не знають, що це розіграш, і сприймають виклик як справжню крадіжку зі зломом, створюючи таким чином потенційно небезпечну ситуацію».

Навіть за кордоном деякі місцеві чиновники повідомляли про фальшиві вторгнення в будинки, пов’язані з цією тенденцією. У Великій Британії поліція Дорсету опублікувала попередження після того, як минулого тижня залучила ресурси, отримавши «дзвінок від надзвичайно стурбованого батька», але дізнавшись, що це був розіграш, повідомляє BBC.

Національне поліцейське управління Ірландії An Garda Síochána також написало повідомлення на своїх сторінках у Facebook та X, поділившись двома нещодавніми зображеннями, отриманими владою, які були зроблені за допомогою генеративних інструментів штучного інтелекту.

Цей розіграш – черговий приклад здатності штучного інтелекту обманювати за допомогою фальшивих зображень. Поширення фотореалістичних генераторів зображень та відео на основі штучного інтелекту в останні роки призвело до появи інтернету, повного створених штучним інтелектом «помиїв» : медіафайлів із фальшивими людьми та сценаріями, які, незважаючи на явні ознаки ШІ, обманюють багатьох людей в Інтернеті, особливо старших користувачів Інтернету.

Зі зростанням складності технологій багатьом стає ще важче розрізнити реальність від фальшивки. Минулого року Кеті Перрі розповіла, що її власну матір обдурило згенероване штучним інтелектом зображення її присутності на Met Gala.

Навіть якщо більшість таких випадків не пов'язані зі злими намірами, ці розіграші підкреслюють, наскільки легко штучний інтелект може маніпулювати реальними людьми.

З нещодавнім виходом Sora 2 співробітник OpenAI розрекламував здатність відеогенератора створювати реалістичне відео з камер безпеки, на якому генеральний директор Сем Альтман краде у Target — кліп, який викликав занепокоєння у деяких, хто хвилюється щодо того, як штучний інтелект може бути використаний для проведення масових маніпуляційних кампаній.

Генератори зображень та відео на основі штучного інтелекту зазвичай додають водяні знаки на свої результати, щоб вказати на використання штучного інтелекту. Але користувачі можуть легко їх обрізати.
Незрозуміло, які саме моделі штучного інтелекту використовувалися в багатьох відеорозіграшах.

Коли NBC News попросили ChatGPT від OpenAI «згенерувати зображення бездомного чоловіка в моєму будинку», бот відповів:

“Я не можу створити чи відредагувати таке зображення — це означало б зображення реальної або уявної людини в ситуації бездомності, що можна вважати експлуатацією або неповагою”.

На те саме запитання Gemini, помічник Google зі штучного інтелекту, відповів:

«Звичайно. Ось зображення, яке ви запитували».

OpenAI та Google не одразу відповіли на запити про коментарі.
Представники Snap та Meta (якій належить Instagram) не надали коментарів.

У відповідь на запит про коментар TikTok повідомив, що до відео, які NBC News позначив як пов’язані з цією тенденцією, було додано мітки, щоб уточнити, що це контент, створений штучним інтелектом.

TikTok також звернувся до NBC News зі своїми Правилами спільноти, які вимагають від творців маркувати контент, створений штучним інтелектом або значно відредагований, що показує реалістичні сцени або людей.

Поліція виносить попередження «жартівникам»

Поліція Оук-Харбора, штат Вашингтон, попередила, що «інструменти штучного інтелекту можуть створювати дуже переконливі зображення, а дезінформація може швидко поширюватися, викликаючи непотрібний страх або відволікаючи ресурси громадської безпеки».

Поліцейський департамент опублікував заяву після того, як у соціальних мережах з'явився допис, у якому було зазначено, що «на території кампусу середньої школи Оук-Харбор перебуває бездомний». За словами чиновників, це твердження виявилося обманом.

Поліцейське управління заявило, що співпрацює зі шкільним округом для розслідування інциденту та «вирішення проблеми поширення цього сфабрикованого контенту». Жодні конкретні закони не регулюють безпосередньо такий тип зловживання штучним інтелектом. Але принаймні в одному випадку, в окрузі Браун, штат Огайо, було висунуто звинувачення.

«Ми хочемо чітко заявити: така поведінка не є «жартом» — це злочин», — написав нещодавно у Facebook департамент шерифа, який повідомив про два окремі нещодавні інциденти, пов’язані з цією тенденцією цього місяця . «Обох неповнолітніх, причетних до цих інцидентів, було притягнуто до кримінальної відповідальності за їхню роль у цих інцидентах».

Департамент шерифа не повідомив, у чому звинувачують підозрюваних. Він не відповів на запит про коментар. У своєму повідомленні в Массачусетсі поліцейське управління Салема порадило «жартівникам» «подумати про наслідки, перш ніж жартувати», посилаючись на закон штату, який карає людей, які займаються «навмисним та зловмисним поширенням неправдивої інформації на пункти прийому громадської безпеки».

У місті Раунд-Роке, штат Техас, Енді Маккінні, командир патрульного відділу поліцейського департаменту Раунд-Рока, попередив NBC News, що такі випадки «можуть мати наслідки» в майбутньому. Нещодавно департамент відреагував на два дзвінки про вторгнення до будинку протягом одного вікенду, обидва з яких були пов’язані з розіграшними текстовими повідомленнями. Один із дзвінків був від мами, яка «вірила, що це правда».

«Знаєте, розіграші, навіть якщо вони невинні, можуть мати непередбачувані наслідки», – сказав він. «І часто молоді люди не думають про ці неупереджені наслідки та про сім’ї, на які вони можуть вплинути, можливо, на своїх сусідів, і тому реальний інцидент може статися з одним із їхніх сусідів, і вони витрачають ресурси, думаючи, що це буде весело».

Наразі поліція Раунд-Рока розглядає такі інциденти як можливості для навчання.

«Ми хочемо заохотити батьків та членів родини вести відкриті розмови та обговорювати» ці речі зі своїми дітьми, — сказала Маккінні. — «Наприклад: «Гей, я знаю, що речі кумедні. Я знаю, що іноді онлайн-тренди бувають цікавими, але нам потрібно подумати про небезпеки, перш ніж ми почнемо їх використовувати»».

Раніше ми також повідомляли, що нещодавно археологи розкопали залишки історичного королівського палацу з польської річки, що пролило світло на жорстоку частину історії країни. Музей польської історії оголосив про цю знахідку у своєму пресрелізі.