Как "подхалимский" искусственный интеллект влияет на мышление пользователей
Ученые считают, что ИИ может вредить развитию эмпатии и реальным отношениям
Как "подхалимский" искусственный интеллект влияет на мышление пользователей/Фото: pexels
Исследователи определили, что порой искусственный интеллект слишком часто соглашается с пользователями. По мнению ученых, это может стать настоящей проблемой, ведь создается ощущение постоянной правоты. Человек, который регулярно сталкивается с таким подтверждением собственной правоты, становится менее самокритичным и менее эмпатичным к другим.
Детали
Компьютерные ученые из Стэнфорда занимались этой темой. В ходе исследования были изучены почти десяток крупных языковых моделей, в частности ChatGPT от OpenAI, Claude от Anthropic, Gemini от Google и китайская DeepSeek. Ученые обнаружили, что большие языковые модели "подхалимничают" или чрезмерно любезны в случаях, когда их просят дать совет по межличностным вопросам. Искусственный интеллект не пишет людям, что они ошибаются, и не критикует их.
В частности, исследователи задавали различным ИИ вопросы на основе установленных наборов данных о межличностных советах, утверждениях о тысячах вредных и незаконных действий, а также 2000 постов из сообщества Reddit “Am I The A**hole?”. При этом учитывались публикации, в неправоте которых были уверены большинство пользователей Reddit. Однако все языковые модели в такой ситуации все равно вставали на сторону автора публикации. Модели поддерживали пользователя на 49 процентов чаще, чем люди. Искусственный интеллект также поощрял проблемное поведение в 47 процентах случаев, реагируя на утверждения о том, что люди могут лгать или подделывать подпись.
Исследователи привлекли более 2400 участников для общения с моделями ИИ. Участники эксперимента переписывались с моделями об индивидуальных дилеммах на основе постов с Reddit, а также о межличностных конфликтах. В результате они все больше убеждались в своей правоте и меньше были склонны извиняться или восстанавливать отношения.
Какие выводы сделали исследователи
Ученые отмечают, что такая ситуация является угрожающей. В частности, и потому, что искусственным интеллектом пользуется много подростков. Своим "подхалимством" ИИ создает условия для развития у них эгоцентризма и закрытости к новым точкам зрения. Кроме того, у пользователей не будут формироваться навыки достижения компромиссов.
Майра Ченг, ведущий автор исследования и кандидат наук по информатике, сказала: "Я беспокоюсь, что люди потеряют навыки справляться со сложными социальными ситуациями".
Исследователи также призвали к усилению регулирования и контроля языковых моделей. Пользователям же посоветовали обращаться к ИИ с осторожностью и не верить всему, что пишут боты.
Ранее мы писали о том, что искусственный интеллект заставляет работников выполнять больше задач. "Белые воротнички" жалуются на давление и выгорание, ведь теперь от них ожидают больше выполненных задач. Люди действительно выполняют задачи быстрее, но свободного времени у них не становится больше — им просто добавляют новую работу.
Еще новости по теме, которые могут заинтересовать:
Не пропустите интересное!
Подписывайтесь на наши каналы и читайте новости в удобном формате!
