OpenAI позбавляє ChatGPT людських рис у спілкуванні з дітьми

Розробники OpenAI розгортають спеціальний комплекс заходів для захисту неповнолітніх користувачів. Нові інструменти та сповіщення покликані знизити емоційну залежність молоді від штучного інтелекту та зробити взаємодію з ним безпечнішою.

• Євросоюз запровадив штрафи за приховування штучного інтелекту

Зокрема, розробники прагнуть врахувати психологічні особливості підліткового віку, щоб ШІ не витісняв реальне спілкування.

Ключові оновлення для молодіжного режиму:

Відмова від голосового контакту. Для новостворених юнацьких профілів з'явиться опція відключення мовного режиму, щоб чатбот не сприймався як живий співрозмовник.

Нагадування про паузи. Алгоритм регулярними повідомленнями закликатиме відволіктися від екрана та нагадуватиме, що користувач спілкується з алгоритмом, а не з людиною.

Спеціальні графіки. Підлітки зможуть заздалегідь налаштовувати розклад навчального режиму, який спонукає шукати відповіді самостійно. Також можна буде задавати "тихий час", коли доступ до сервісу буде повністю заблоковано.

Батьківський контроль небезпечних запитів. Звернення, що стосуються розладів харчування чи ризиків для здоров'я, потраплять до категорії критичних. Сповіщення батькам надсилатимуться приблизно протягом години після попередньої перевірки модератором-людиною.

Підлітковий акаунт буде автоматично вмикатися для всіх користувачів до 18 років (або за внутрішньою ідентифікацією OpenAI). Доступ для дітей віком до 13 років повністю заборонений.

Дослідниця штучного інтелекту Сьюзен Шелмердайн порівнює надмірне захоплення чатботами зі шкідливими звичками, зазначаючи, що цифрова інформація перетворюється на "ультраоброблений продукт", який формує специфічне сприйняття дійсності у дітей. Зараз OpenAI намагається зберегти корисні функції інструменту для навчання, одночасно зменшуючи ризики надмірного емоційного звикання.

Раніше ми писали про те, що Spotify маркуватиме віртуальних музикантів позначкою “AI Persona” та прибере їх із рекомендацій. Це буде вже друга спроба обмежити поширення ШІ-музики.