OpenAI лишает ChatGPT человеческих черт при общении с детьми

Разработчики OpenAI внедряют специальный комплекс мер для защиты несовершеннолетних пользователей. Новые инструменты и уведомления призваны снизить эмоциональную зависимость молодежи от искусственного интеллекта и сделать взаимодействие с ним более безопасным.

• Евросоюз ввёл штрафы за сокрытие искусственного интеллекта

В частности, разработчики стремятся учитывать психологические особенности подросткового возраста, чтобы ИИ не вытеснял реальное общение.

Ключевые обновления для молодёжного режима:

Отказ от голосового контакта. Для вновь созданных юношеских профилей появится опция отключения голосового режима, чтобы чат-бот не воспринимался как живой собеседник.

Напоминания о паузах. Алгоритм регулярными уведомлениями будет призывать отвлечься от экрана и напоминать, что пользователь общается с алгоритмом, а не с человеком.

Специальные графики. Подростки смогут заранее настраивать расписание учебного режима, который побуждает искать ответы самостоятельно. Также можно будет задавать «тихое время», когда доступ к сервису будет полностью заблокирован.

Родительский контроль опасных запросов. Обращения, связанные с расстройствами пищевого поведения или рисками для здоровья, попадут в категорию критических. Уведомления родителям будут отправляться примерно в течение часа после предварительной проверки модератором-человеком.

Подростковый аккаунт будет автоматически включаться для всех пользователей до 18 лет (или по внутренней идентификации OpenAI). Доступ для детей младше 13 лет полностью запрещён.

Исследователь искусственного интеллекта Сьюзен Шелмердайн сравнивает чрезмерное увлечение чат-ботами с вредными привычками, отмечая, что цифровая информация превращается в "ультраобработанный продукт", который формирует специфическое восприятие реальности у детей. Сейчас OpenAI старается сохранить полезные функции инструмента для обучения, одновременно снижая риски чрезмерного эмоционального привыкания.

Ранее мы писали о том, что Spotify будет отмечать виртуальных музыкантов меткой “AI Persona” и уберёт их из рекомендаций. Это уже вторая попытка ограничить распространение ИИ-музыки.