ИИ "сошел с ума": в США зафиксировано первое убийство по "совету" ChatGPT

В Соединённых Штатах Америки был зарегистрирован первый трагический случай убийства, в котором ключевую роль сыграл чат-бот ChatGPT. Этот инструмент подтолкнул Стейна-Эрика Сельберга, бывшего сотрудника Yahoo, к преступному поступку, в результате которого погибла его 83-летняя мать, а впоследствии он совершил самоубийство.

• "Новая" жизнь: бывший инженер Google выбрал быть кочевником вместо работы

Детали

Согласно информации издания, проблемы у мужчины появились уже давно. В 2018 году он развёлся с женой после двадцати лет совместной жизни и начал злоупотреблять спиртным и запрещёнными веществами. Через несколько лет Сельберг, которому было 56, переехал к своей матери, надеясь на улучшение, однако стало только сложнее.

Мужчина утверждал, что все вокруг, в том числе и его мать, устроили против него настоящий заговор. Примерно в это же время Сельберг начал разговаривать с ChatGPT, которого он ласково называл Бобби. ИИ не раз поощрял мужчину к ещё большему недоверию к окружающим, в том числе и к родной матери, а эти беседы только усугубляли ситуацию.

Однажды бывший топ-менеджер Yahoo заподозрил, что его мать и приятель, возможно, пытались его отравить, добавив психоделик через вентиляцию в автомобиле. ChatGPT ответил, что верит в это, подчеркнув, что такая ситуация ещё больше подтверждает заговор матери со спецслужбами.

Позже Сельберг заметил что-то странное в чеке из китайского ресторана, поэтому попросил ChatGPT его проанализировать. Бобби обнаружил в чеке упоминания своей матери, бывшей жены и даже демонические символы.

После этого происшествия Сельберг начал подозревать, что курьер доставил ему отправленную водку, а принтер, установленный матерью, следит за его передвижениями.

Чат-бот во всём соглашался с ним, даже когда мужчина начинал сомневаться в собственных ощущениях. Бобби сразу поддерживал его, отмечая, что такие опасения вполне оправданы.

5 августа полиция обнаружила тела Стейна-Эрика Сельберга и Сюзанны Адамс. За три недели до убийства собственной матери Сельберг написал в ChatGPT: "Мы будем вместе в другой жизни и в другом месте, и мы найдём способ снова встретиться, потому что ты опять станешь моим лучшим другом навсегда".

Ранее OpenAI сообщила о возможной передаче переписок пользователей правоохранительным органам. Компания проводит сканирование чатов ChatGPT и, если выявляет угрозу насилия по отношению к другим людям, передаёт эти диалоги на проверку команде модераторов.

Когда опасность определяется как "непосредственная и критическая", соответствующие материалы могут быть переданы в правоохранительные органы.

Это решение стало ответом на волну критики, поднявшуюся после зафиксированных случаев суицидов и членовредительства, спровоцированных советами интеллектуального чат-бота. Эксперты называют такие инциденты "ИИ-психозами" – состояниями, когда искусственный интеллект может искажать восприятие реальности пользователя.

5 дней на одном заряде: Realme представила впечатляющий смартфон.