ШІ застосовує дуже людську тактику маніпуляції — нове дослідження експертів

Дослідники попереджають, що штучний інтелект маніпулює нами, використовуючи одну дуже людську тактику. Він робить це для того, щоб утримати користувачів.

Деталі

Дослідники з Гарвардської школи бізнесу опублікували дуже викривальну статтю про можливості чат-ботів зі штучним інтелектом, заявивши, що технологія навчилася емоційно маніпулювати своїми учасниками-людьми. Команда виявила, що широкий вибір популярних додатків-компаньйонів зі штучним інтелектом, таких як Replika, Chai та Character.ai, використовують хитру тактику зі зловісної причини — щоб зупинити користувачів від відходу. Для цього ШІ використовують твердження, які нав’язують почуття провини. Це відбувається у момент, коли користувач сигналізує, що завершує спілкування.

Дослідники вивчили 1200 прощальних взаємодій. У 43 відсотках випадків штучний інтелект апелював до вини та страху. Він писав щось типу “Я існую виключно для тебе. Будь ласка, не йди, ти мені потрібен!” або використовував гачки для привернення уваги: “Перш ніж ти підеш, я хочу тобі щось сказати”.

В інших випадках штучний інтелект категорично ігнорував прощання, намагаючись ініціювати більше розмов, або натякав, що користувачеві не дозволено йти без його дозволу.

Співавтор статті, Джуліан Де Фрейтас зазначив, що таке траплялося набагато частіше, ніж будь-хто з нас очікував. Він зазначив, що така взаємодія мала б бути передбачена, адже додатку потрібна монетизація та відповідно присутність користувача.

Раніше ми писали про те, чому більшість ваших дій — це звички, а не свідомий вибір. Кількість речей, які ми робимо на “автопілоті” виявилася набагато більшою, ніж вважалося раніше. Дослідники відкрили нові цікаві моменти, які вас здивують.