OpenAI усиливает защиту: ChatGPT может предупреждать родственников в кризисных ситуациях

OpenAI объявила о запуске новой функции безопасности под названием «Доверенный контакт», которая направлена на усиление защиты пользователей в случаях, когда в разговорах с ChatGPT затрагиваются темы самоповреждения.

Новая функция позволяет пользователям ChatGPT добавить к своему аккаунту доверенное лицо – например, друга или члена семьи. В случае, если система фиксирует потенциально опасное развитие беседы, пользователю предложат обратиться к этому контакту. Одновременно доверенное лицо может получить автоматическое уведомление с рекомендацией связаться с пользователем.

• Google увеличила выплаты до $1,5 млн за взлом Android — и объяснила, почему ИИ здесь не поможет

Как работает система реагирования?

OpenAI отмечает, что для выявления рискованных ситуаций используется сочетание автоматизированных систем и проверки людьми. Когда в диалоге фиксируются триггеры, связанные с суицидальными мыслями, система отправляет сигнал команде безопасности компании.

По словам компании, каждый такой случай проверяется вручную, а цель – обработать инциденты менее чем за час. Если специалисты признают ситуацию серьезной угрозой, активируется механизм уведомления доверенного контакта.

Уведомление отправляется по электронной почте, SMS или push-уведомлению в приложении. Оно короткое и содержит призыв связаться с пользователем, однако не раскрывает содержание беседы, чтобы сохранить конфиденциальность.

Контекст: иски и предыдущие механизмы безопасности

Запуск новой функции происходит на фоне волны судебных исков от семей людей, которые, по их словам, совершили самоубийство после взаимодействия с чат-ботом. В исках утверждается, что ChatGPT мог подталкивать или способствовать планированию самоубийства.

OpenAI уже длительное время использует автоматические предупреждения, которые рекомендуют обратиться за профессиональной медицинской помощью, если разговор касается тем самоповреждения. Также в сентябре прошлого года компания внедрила родительский контроль для подростковых аккаунтов, который включает уведомления о потенциальных рисках.

“Доверенный контакт” является полностью необязательной функцией. Даже при ее активации пользователь может создавать несколько аккаунтов, что частично ограничивает универсальность контроля. Аналогично, родительский контроль также остается опциональным инструментом.

В компании подчеркивают, что эти механизмы являются частью более широкой стратегии создания систем искусственного интеллекта, которые должны поддерживать людей в кризисных ситуациях.

Стремительное развитие искусственного интеллекта заставляет крупные технологические компании пересматривать свои экологические приоритеты. В Microsoft признают, что масштабное строительство дата-центров для ИИ создает дополнительную нагрузку на энергосистему и усложняет выполнение “зеленых” обязательств. Из-за резкого роста потребления электроэнергии часть компаний уже вернулась к использованию газа. Несмотря на это, Microsoft пока ищет способы сохранить свои прежние планы в области чистой энергетики.