OpenAI посилює захист: ChatGPT може попереджати родичів у кризових ситуаціях

OpenAI оголосила про запуск нової функції безпеки під назвою “Довірений контакт”, яка має на меті підсилити захист користувачів у випадках, коли в розмовах із ChatGPT згадуються теми самоушкодження.

Нова функція дозволяє користувачам ChatGPT додати до свого облікового запису довірену особу – наприклад, друга або члена родини. У разі, якщо система фіксує потенційно небезпечний розвиток розмови, користувачеві пропонуватимуть звернутися до цього контакту. Одночасно довірена особа може отримати автоматичне сповіщення з рекомендацією зв’язатися з користувачем.

• Google підняла виплати до $1,5 млн за злом Android — і пояснила чому ШІ тут не допоможе

Як працює система реагування?

OpenAI зазначає, що для виявлення ризикових ситуацій використовується поєднання автоматизованих систем і перевірки людьми. Коли в діалозі фіксуються тригери, пов’язані із суїцидальними думками, система надсилає сигнал команді безпеки компанії.

За словами компанії, кожен такий випадок перевіряється вручну, а мета – обробити інциденти менш ніж за годину. Якщо фахівці визнають ситуацію серйозною загрозою, активується механізм сповіщення довіреного контакту.

Повідомлення надсилається через електронну пошту, SMS або push-сповіщення в застосунку. Воно коротке й містить заклик зв’язатися з користувачем, однак не розкриває змісту розмови, щоб зберегти конфіденційність.

Контекст: позови та попередні механізми безпеки

Запуск нової функції відбувається на тлі хвилі судових позовів від родин людей, які, за їхніми словами, скоїли самогубство після взаємодії з чат-ботом. У позовах стверджується, що ChatGPT міг підштовхувати або сприяти плануванню самогубства.

OpenAI вже тривалий час використовує автоматичні попередження, які рекомендують звернутися по професійну медичну допомогу, якщо розмова торкається тем самоушкодження. Також у вересні минулого року компанія запровадила батьківський контроль для підліткових акаунтів, який включає сповіщення про потенційні ризики.

“Довірений контакт” є повністю необов’язковою функцією. Навіть у разі її активації користувач може створювати кілька облікових записів, що частково обмежує універсальність контролю. Аналогічно, батьківський контроль також залишається опційним інструментом.

У компанії наголошують, що ці механізми є частиною ширшої стратегії створення систем штучного інтелекту, які мають підтримувати людей у кризових ситуаціях.

Стрімкий розвиток штучного інтелекту змушує великі технологічні компанії переглядати свої екологічні пріоритети. У Microsoft визнають, що масштабне будівництво дата-центрів для ШІ створює додаткове навантаження на енергосистему та ускладнює виконання “зелених” зобов’язань. Через різке зростання споживання електроенергії частина компаній уже повернулася до використання газу. Попри це, Microsoft поки шукає способи зберегти свої попередні плани у сфері чистої енергетики.