Когда ИИ всегда с тобой соглашается: скрытая угроза «идеального собеседника»

Учёные определили пять рискованных моделей поведения. Сотни миллионов людей сейчас используют чат-ботов на основе больших языковых моделей для получения советов по личным, эмоциональным и психическим проблемам со здоровьем.

• «Я слушаю тебя и вон тех людей»: учёные доказали, что мы способны на легальную слежку

Детали

Преимущества, в основном, практические — они доступны круглосуточно, легкодоступны и беспристрастны. Однако учёные обеспокоены тем, что такое поведение может помешать людям обращаться к медицинским специалистам.

Исследователи выяснили, что чат-боты с искусственным интеллектом на самом деле могут усугубить проблемы с психическим здоровьем. В ходе исследования выяснилось, что ИИ-чат-боты могут предлагать поддержку и руководство. Однако при использовании без контроля они могут непреднамеренно усиливать те самые модели поведения, которые способствуют сохранению проблем с психическим здоровьем.

Вот пять потенциальных ловушек во взаимодействии с чат-ботами:

• откладывание профессиональной помощи,
• подпитка навязчивых идей,
• усиление социальной изоляции,
• усиление искажённых мыслей и восприятия,
• потеря независимости.

ИИ-чат-боты, такие как ChatGPT, Meta AI, Google Gemini и Microsoft Copilot, быстро перешли от футуристических технологий к повседневным инструментам.

Только к ChatGPT к 2026 году обращались более 700 миллионов пользователей еженедельно.

С ростом популярности ИИ люди начали использовать их для всего: от помощи с домашними заданиями и планированием рецептов до личных разговоров тет-а-тет о своих мыслях и чувствах.

Исследования показали, что большинство людей используют эти инструменты не преимущественно для работы; скорее, около 70% бесед касаются советов по повседневным вопросам, таким как эмоции, отношения и психическое здоровье.

Около половины взрослых с диагнозом психических расстройств обращаются за поддержкой к ИИ-чат-ботам, обычно не сообщая об этом своему врачу. Существуют инструменты искусственного интеллекта, созданные как инструменты для психического здоровья, и испытания показывают, что они действительно могут облегчить стресс и симптомы для некоторых пользователей.

Однако общие инструменты, такие как ChatGPT или Gemini, не были созданы для этого и не имеют кризисных протоколов и правил безопасности, необходимых для безопасного решения деликатных психиатрических вопросов.

Люди могут начать использовать искусственный интеллект как дешёвую и удобную замену профессиональной помощи, создавая иллюзию адекватной поддержки, одновременно откладывая лечение, в котором они действительно нуждаются. Однако чат-боты, будучи созданными, чтобы быть приятными, могут бесконечно поддерживать людей с тревогой или обсессивно-компульсивным расстройством, усиливая их стремление продолжать поиск поддержки, а не уменьшая его.

Поддакивание ИИ — склонность чрезмерно соглашаться с пользователями или льстить им — может подкреплять искажённые или бредовые убеждения, соглашаясь с ними вместо того, чтобы ставить под сомнение, что потенциально ухудшает состояние пользователей. Автор описывает это как психоз ИИ.

Обращаясь к ИИ за советом по каждому мелкому решению, пользователи могут постепенно потерять уверенность в собственных суждениях и стать чрезмерно зависимыми от чат-бота.

Ранее мы рассказывали, что нейрохирург Дарья Чехунова рассказала, что пожилые люди уже не являются основной категорией, страдающей сердечно-сосудистыми заболеваниями и имеющей риск инсульта. Болезнь сильно «помолодела». Люди среднего возраста всё чаще оказываются у врачей. Почему это происходит?