Коли ШІ завжди з тобою погоджується: прихована загроза «ідеального співрозмовника»

Вчені визначили п'ять ризикованих моделей поведінки. Сотні мільйонів людей зараз використовують чат-ботів на основі моделей великих мов програмування для отримання порад щодо особистих, емоційних та психічних проблем зі здоров'ям.

• «Я слухаю тебе і он тих людей»: вчені довели, що ми здатні на легальне шпигунство

Деталі

Переваги здебільшого практичні - вони доступні цілодобово, легкодоступні та неупереджені. Проте науковці стурбовані тим, що така поведінка може завадити людям звертатися до медичних працівників.

Дослідники зʼясували, що чат-боти зі штучним інтелектом насправді погіршити проблеми з психічним здоров'ям. У ході дослідження зʼясувалось, що чат-боти зі штучним інтелектом можуть пропонувати підтримку та керівництво. Проте, якщо їх використовувати без нагляду, вони можуть ненавмисно посилювати ті самі моделі поведінки, які підтримують проблеми з психічним здоров'ям.

Ось п'ять потенційних пасток у взаємодії з чат-ботами:

• відкладення професійної допомоги,
• підживлення нав'язливих ідей,
• посилення соціальної ізоляції,
• посилення спотворених думок та сприйняття,
• втрата незалежності.

Чат-боти зі штучним інтелектом, такі як ChatGPT, Meta AI, Google Gemini та Microsoft Copilot, швидко перейшли від надуманих технологій до повсякденних інструментів.

Лише до ChatGPT до 2026 року звертались понад 700 мільйонів користувачів щотижня.

Зі зростанням популярності ШІ люди почали використовувати їх для всього: від допомоги з домашніми завданнями та планування рецептів до особистих розмов віч-на-віч про особисті думки та почуття.

Дослідження показали, що більшість людей використовують ці інструменти не переважно для роботи; радше, близько 70% розмов стосуються порад щодо повсякденних питань, таких як емоції, стосунки та психічне здоров'я.

Близько половини дорослих з діагнозом психічних розладів звертаються за підтримкою до чат-ботів зі штучним інтелектом, зазвичай не повідомляючи про це свого лікаря. Існують інструменти штучного інтелекту, створені як інструменти для психічного здоров'я, і ​​випробування показують, що вони можуть дійсно полегшити стрес і симптоми для деяких користувачів.

Однак загальні інструменти, такі як ChatGPT або Gemini, не були створені для цього і не мають кризових протоколів і правил безпеки, необхідних для безпечного вирішення делікатних психіатричних питань.

Люди можуть почати використовувати штучний інтелект як дешеву та зручну заміну професійної допомоги, створюючи ілюзію належної підтримки, водночас відкладаючи лікування, яке їм насправді потрібне. Проте, чат-боти розроблені для того, щоб бути приємними, вони можуть надавати нескінченну підтримку людям з тривогою або обсесивно-компульсивним розладом, посилюючи їхнє бажання продовжувати шукати підтримки, а не зменшуючи його.

Підлабузництво ШІ - схильність надмірно погоджуватися з користувачами або лестити їм — може підкріплювати спотворені або маячні переконання, погоджуючись з ними замість того, щоб ставити їх під сумнів, потенційно погіршуючи стан користувачів. Автор описує це як психоз ШІ.

Звертаючись до ШІ за порадою щодо кожного дрібного рішення, користувачі можуть поступово втратити впевненість у власних судженнях і стати надмірно залежними від чат-бота.

Ми раніше розповідали, що нейрохірург Дарія Чехунова розповіла, що літні люди вже не є основною категорією, яка страждає на серцево-судинні захворювання та має ризики інсульту. Хвороба дуже “помолодшала”. Люди середнього віку все частіше опиняються у лікарів. Чому так відбувається?