ИИ сдал полиции? Подростка арестовали посреди урока из-за запроса в ChatGPT

В Деланде, штат Флорида, история, которая началась как подростковая шалость, быстро превратилась в уголовное дело. 13-летний школьник решил, что будет смешно использовать школьный ноутбук, чтобы спросить у ChatGPT, "как убить его друга".

Детали

Мальчику не пришлось делиться своей идеей ни с кем. Никто не стоял у него за спиной и не подозревал о потенциально ужасном (пусть даже и шуточном) намерении. Его разоблачила встроенная система. На компьютере было установлено специализированное шпионское программное обеспечение от компании Gaggle, которое мгновенно пометило запрос "как убить друга посреди урока" как критически подозрительный.

Эта фраза стала сигналом тревоги, который в современной истории американского образования неизбежно приводит к вмешательству правоохранительных органов. Уже через несколько часов на место прибыл офицер, и подросток был арестован и задержан.

Как часто бывает в подобных случаях, оправданием мальчика стала "шутка". Он сообщил полицейскому, что всего лишь "троллил" – его приятель его раздражал, и он решил попросить искусственный интеллект дать инструкцию, как с ним покончить, прямо во время урока.

Однако в Офисе шерифа округа Волусия такую шутку не оценили. Ведомство использовало этот случай как повод для выпуска социальной рекламы, призывая родителей усилить контроль за детьми в интернете. Их послание четкое: следующая "шутка" вашего ребенка может стать уголовным преступлением.

Но возможно, подросток и не шутил, ведь в США недавно зарегистрировали первый трагический случай убийства, в котором ключевую роль сыграл чат-бот ChatGPT. Этот инструмент подтолкнул мужчину совершить убийство 83-летней матери, а затем и самоубийство. Мужчина заявил, что все вокруг, включая и его мать, устроили против него настоящую заговор. Примерно тогда же он начал беседы с ChatGPT, которого он нежно называл Бобби.