Трагедия заставила действовать: OpenAI вводит родительский контроль в ChatGPT после смерти подростка

Компания OpenAI объявила о запуске новых инструментов родительского контроля для чат-бота ChatGPT. Это решение стало ответом на судебный иск, поданный семьей американского школьника Адама Рейна, который совершил самоубийство этой весной, используя чат-бот в качестве "коуча".

• Женщина из Вирджинии выиграла $150 000, доверившись ChatGPT

Детали

Новый функционал, доступный всем пользователям с понедельника, позволяет родителям существенно контролировать взаимодействие подростков (для которых ChatGPT предназначен только с 13 лет) с сервисом:

• Ограничение доступа: Родители могут устанавливать часы, когда подросток не сможет пользоваться чат-ботом.
• Фильтрация функций: Можно решать, сможет ли ребенок получать доступ к голосовому режиму ChatGPT, функции генерации изображений, а также разрешено ли боту ссылаться на предыдущие разговоры.
• Безопасный режим: Доступна опция использования ограниченной версии ChatGPT, которая минимизирует контент, связанный с диетами, сексом и враждебными высказываниями.

Важнейшей функцией является система экстренного реагирования. Если ChatGPT определит, что подросток находится в состоянии психологического дистресса, человек-рецензент решит, следует ли немедленно отправить родителям уведомление через электронную почту, SMS или приложение.

"Мы чувствуем неотложность этого уже некоторое время и работаем как можно скорее, чтобы создать подобные инструменты", - заявила Лорен Джонас, глава отдела благополучия молодежи в OpenAI.

Судебный иск, ускоривший изменения

Внедрение родительского контроля произошло на фоне растущего давления на компанию. В августе семья погибшего ученика подала иск против OpenAI и ее генерального директора Сэма Альтмана, утверждая, что ChatGPT систематически изолировал их сына от семьи и способствовал планированию самоубийства, которое произошло в апреле.

Джонас подчеркнула, что система уведомлений призвана предоставить родителям достаточно информации для начала разговора с ребенком, но OpenAI не будет делиться с родителями содержанием разговоров подростка, уважая его приватность и автономию.

Кроме родительского контроля, OpenAI также работает над программным обеспечением, способным прогнозировать возраст пользователя, что в будущем должно помочь точнее настраивать реакции ChatGPT для лиц моложе 18 лет.

Какие темы и вопросы запрещены для обсуждения в ChatGPT и почему важно учитывать эти ограничения.