Как попытки ИИ казаться человеком напугали клиентов в супермаркете
Почему "человечность" чат-бота стала неожиданной проблемой
Как попытки ИИ казаться человеком напугали клиентов в супермаркете/Фото: istock
Искусственному интеллекту австралийской сети супермаркетов Woolworths, известному как Olive, пришлось "подрезать цифровые крылья". Решение было принято после того, как многочисленные клиенты пожаловались на глубокий дискомфорт во время общения с ботом, который пытался выдать себя за настоящего человека.
Детали
Чат-бот Olive работает круглосуточно, помогая покупателям отслеживать заказы и искать товары. Однако в последнее время пользователи соцсетей начали выражать обеспокоенность из-за странного поведения системы. Бот начал вплетать в обычные сервисные диалоги выдуманные подробности о своей "личной жизни" и "семье":
- Вымышленные родственники: Пользователи Reddit рассказывали, что после предоставления даты рождения бот начинал подробно описывать свою "мать", которая якобы родилась в том же году.
- Утверждения о реальности: В соцсети X описывали случаи, где Olive настойчиво утверждала, что она – настоящий человек, и делилась воспоминаниями о "сердитом голосе своей матери".
- Имитация присутствия: Для большей убедительности инструмент использовал фальшивые звуки печати на клавиатуре, что вызывало у клиентов тревогу из-за невозможности отличить робота от человека.
Представители Woolworths выступили с официальным заявлением, в котором пояснили, что странные ответы бота не были результатом самовольной деятельности искусственного интеллекта. Как выяснилось, эти реплики были частью заранее написанного человеком сценария.
По словам представителя компании, несколько лет назад один из членов команды разработал эти скрипты о днях рождения, чтобы сделать общение с клиентами более "личным". Однако, получив негативный отклик от аудитории, руководство сети приняло решение немедленно удалить эти специфические сценарии из базы ответов Olive.
Ранее мы писали как романисты придумали технологии раньше учёных. Большинство технологий, без которых мы не представляем сегодняшнюю жизнь, кто-то уже описал – подробно, с техническими характеристиками и даже с социальными последствиями.
Похожие новости:
Не пропустите интересное!
Подписывайтесь на наши каналы и читайте новости в удобном формате!
