Як спроби ШІ здаватися людиною налякали клієнтів у супермаркеті

Штучному інтелекту австралійської мережі супермаркетів Woolworths, відомому як Olive, довелося "підрізати цифрові крила". Рішення було прийняте після того, як численні клієнти поскаржилися на глибокий дискомфорт під час спілкування з ботом, який намагався видати себе за справжню людину.

• Пам’ять зникає: чому ПК і смартфони подорожчають у 2026 році

Деталі

Чат-бот Olive працює цілодобово, допомагаючи покупцям відстежувати замовлення та шукати товари. Проте останнім часом користувачі соцмереж почали висловлювати занепокоєння через дивну поведінку системи. Бот почав вплітати у звичайні сервісні діалоги вигадані подробиці про своє "особисте життя" та "родину":

• Вигадані родичі: Користувачі Reddit розповідали, що після надання дати народження бот починав розлого описувати свою "матір", яка нібито народилася в тому ж році.
• Твердження про реальність: У соцмережі X описували випадки, де Olive наполегливо стверджувала, що вона – справжня людина, і ділилася спогадами про "сердитий голос своєї матері".
• Імітація присутності: Для більшої переконливості інструмент використовував фальшиві звуки друку на клавіатурі, що викликало у клієнтів відчуття тривоги через неможливість розрізнити робота та людину.

Представники Woolworths виступили з офіційною заявою, у якій пояснили, що дивні відповіді бота не були результатом самовільної діяльності штучного інтелекту. Як з'ясувалося, ці репліки були частиною заздалегідь написаного людського сценарію.

За словами речника компанії, кілька років тому один із членів команди розробив ці скрипти про дні народження, щоб зробити спілкування з клієнтами більш "особистим". Однак, отримавши негативний фідбек від аудиторії, керівництво мережі прийняло рішення негайно видалити ці специфічні сценарії з бази відповідей Olive.

Раніше ми писали як романісти придумали технології раніше за вчених. Більшість технологій, без яких ми не уявляємо сьогоднішнє життя, хтось вже описав – детально, з технічними характеристиками і навіть із соціальними наслідками.

Схожі новини:

• $7 млн за "звук реактивного двигуна": провал Маска
• Bluetooth-колонка у формі урни від Spotify
• Комахи-кіборги на службі НАТО