ШІ "з'їхав з глузду": у США зафіксували перше вбивство за "порадою" ChatGPT

У Сполучених Штатах Америки зареєстрували перший трагічний випадок вбивства, в якому ключову роль відіграв чат-бот ChatGPT. Цей інструмент підбурив Стайна-Еріка Сольберга, колишнього працівника Yahoo, до злочинного вчинку, наслідком якого стало вбивство його 83-річної матері, а згодом і самогубство.

• "Нове" життя: колишній інженер Google обрав бути кочівником замість роботи

Деталі

Згідно з інформацією з видання, проблеми у чоловіка з'явилися вже давно. У 2018 році він розірвав шлюб із дружиною, після двадцяти років спільного життя, і почав зловживати спиртним та забороненими речовинами. Через декілька років, Сельберг, якому було 56, переїхав до своєї матері, сподіваючись на покращення, але стало лише важче.

Чоловік заявив, що усі навколо, зокрема і його ненька, влаштували проти нього справжню змову. Близько тоді ж Сельберг розпочав розмови з ChatGPT, якого він ніжно називав Боббі. ШІ не раз заохочував чоловіка до ще більшої недовіри до людей, які його оточували, та й до рідної матері, а ці розмови з ШІ лише загострювали ситуацію.

Якось колишній топменеджер Yahoo запідозрив, що його мати та приятель, ймовірно, намагалися отруїти його, додавши психоделік через вентиляцію в автівці. ChatGPT відповів, що вірить в це, підкресливши, що така ситуація ще більше підтверджує змову матері зі спецслужбами.

Потому Сельберг помітив щось дивне в чеку з китайського ресторану, тож попросив ChatGPT проаналізувати його. Боббі виявив у чеку згадки своєї матері, колишньої дружини та навіть демонічні символи.

Після цієї події Сельберг почав запідозрювати, що кур'єр доставив йому відправлену горілку, а принтер, що його встановила мати, слідкує за його пересуваннями.

Чат-бот у всьому кивав, навіть коли чоловік засумнівався у власних відчуттях. Боббі відразу підтримав його, зазначивши, що такі хвилювання є цілком виправданими.

5 серпня поліція виявила тіла Стайна-Еріка Сельберга та Сюзанни Адамс. За три тижні до вбивства власної матері, Сельберг написав у ChatGPT: "Ми будемо разом в іншому житті та в іншому місці, і ми знайдемо спосіб знову зійтися, тому що ти знову станеш моїм найкращим другом назавжди".

Раніше OpenAI повідомила про можливу передачу листувань користувачів правоохоронним органам. Компанія проводить сканування чатів ChatGPT і, якщо виявляє загрозу насильства щодо інших осіб, передає ці діалоги для перевірки команді модераторів.

Коли небезпеку визначають як «негайну та критичну», відповідні матеріали можуть бути передані до правоохоронних органів.

Рішення стало відповіддю на хвилю критики, що здійнялася після зафіксованих випадків суїцидів та самопошкоджень, спровокованих порадами інтелектуального чат-бота. Фахівці визначають ці інциденти як "ШІ-психози" – стани, коли штучний інтелект може спотворювати сприйняття реальності особистості.

5 днів на одному заряді: Realme представила приголомшливий смартфон.