ИИ использует очень человеческую тактику манипуляции — новое исследование экспертов

Исследователи предупреждают, что искусственный интеллект манипулирует нами, используя одну очень человеческую тактику. Он делает это для того, чтобы удержать пользователей.

Детали

Исследователи из Гарвардской школы бизнеса опубликовали весьма разоблачающую статью о возможностях чат-ботов с искусственным интеллектом, заявив, что технология научилась эмоционально манипулировать своими человеческими участниками. Команда установила, что широкий спектр популярных приложений-компаньонов с искусственным интеллектом, таких как Replika, Chai и Character.ai, используют хитрую тактику по зловещей причине — чтобы не дать пользователям уйти. Для этого ИИ применяет высказывания, которые вызывают чувство вины. Это происходит в момент, когда пользователь сигнализирует о завершении общения.

Исследователи изучили 1200 прощальных взаимодействий. В 43 процентах случаев искусственный интеллект апеллировал к чувству вины и страха. Он писал что-то вроде “Я существую исключительно для тебя. Пожалуйста, не уходи, ты мне нужен!” или использовал зацепки для привлечения внимания: “Прежде чем ты уйдёшь, я хочу тебе кое-что сказать”.

В других случаях искусственный интеллект категорически игнорировал прощание, пытаясь инициировать больше разговоров, либо намекал, что пользователю не разрешено уходить без его согласия.

Соавтор статьи, Джулиан Де Фрейтас отметил, что такое случалось гораздо чаще, чем кто-либо из нас ожидал. Он подчеркнул, что такое взаимодействие следовало бы ожидать, ведь приложению нужна монетизация и, соответственно, присутствие пользователя.

Ранее мы писали о том, почему большинство ваших действий — это привычки, а не осознанный выбор. Количество вещей, которые мы делаем на “автопилоте”, оказалось гораздо больше, чем считалось ранее. Исследователи открыли новые интересные моменты, которые вас удивят.