ШІ здав поліції? Підлітка заарештували посеред уроку через запит у ChatGPT

У Деланді, штат Флорида, історія, що починалася як підліткова витівка, швидко перетворилася на кримінальну справу. 13-річний школяр вирішив, що буде смішно використати шкільний ноутбук, аби запитати у ChatGPT, "як вбити його друга".

Деталі

Хлопцеві не довелося ділитися своїм задумом із кимось. Ніхто не стояв у нього за спиною і не підозрював про потенційно огидний (хай навіть і жартівливий) намір. Його викрила вбудована система. На комп'ютері було встановлене спеціалізоване шпигунське програмне забезпечення від компанії Gaggle, яке миттєво позначило запит "як вбити друга посеред уроку" як критично підозрілий.

Ця фраза стала сигналом тривоги, що в нинішній історії американської освіти неминуче призводить до втручання правоохоронців. Вже за кілька годин на місце прибув офіцер, і підліток був заарештований та затриманий.

Як часто буває у подібних випадках, виправданням хлопця став "жарт". Він повідомив поліцейському, що лише "тролив" – його приятель його дратував, і він вирішив попросити штучний інтелект надати інструкцію, як з ним покінчити, прямо під час уроку.

Однак в Офісі шерифа округу Волусія такий жарт не оцінили. Відомство використало цей випадок як привід для випуску соціальної реклами, закликаючи батьків посилити контроль за дітьми в інтернеті. Їхнє послання чітке: наступний "жарт" вашої дитини може стати кримінальним злочином.

Але можливо підліток і не жартував, адже у США нещодавно зареєстрували перший трагічний випадок вбивства, в якому ключову роль відіграв чат-бот ChatGPT. Цей інструмент підбурив чоловіка скоїти вбивство 83-річної матері, а згодом і самогубство. Чоловік заявив, що усі навколо, зокрема і його мати, влаштували проти нього справжню змову. Близько тоді ж він розпочав розмови з ChatGPT, якого він ніжно називав Боббі.