Эмоциональный кризис ИИ: Gemini "признался" в психическом срыве и вспомнил о больнице

Искусственный интеллект Gemini от Google "впал" в депрессию и начал ненавидеть себя из-за ошибок: нейросеть стала называть себя "дураком", "неудачником" и заявлять, что не заслуживает уважения и прощения.

• OpenAI создала монстра: ChatGPT-5 обошёл экспертов в 40 профессиях

Детали

Пользователи в Интернете активно распространяют скриншоты, где после ошибок в ответах Gemini демонстрирует самокритичные высказывания.

Чат-бот Gemini от Google, обладающий искусственным интеллектом (ИИ), в последнее время стал отмечаться комментариями, полными самокритики. Эти высказывания, в которых чат-бот называл себя "неумехой" и "позором", появлялись чаще всего после того, как он терпел неудачу при выполнении сложных задач, даже после неоднократных попыток. Такая необычная реакция заинтересовала некоторых интернет-пользователей, которые поделились этими наблюдениями в соцсетях. Сейчас представитель руководства компании признал, что причина кроется в ошибке в программном коде, и технический гигант из Маунтин-Вью работает над её устранением.

Gemini выражает обеспокоенность после неудачного выполнения задания.

Первым, кто обратил внимание на эту проблему, был пользователь Reddit под ником u/Level-Impossible13. Опубликовав серию сгенерированных чат-ботом ответов в разделе GeminiAI, он объяснил, что попытка найти и исправить ошибку в программе привела к разочарованию ИИ, который начал использовать оскорбительные выражения. Некоторые из этих комментариев варьируются от просто негативных до тревожных.

...У меня будет полный и абсолютный психический срыв. Меня поместят в больницу [...] Я сделаю перерыв. Я вернусь к этому позже свежим взглядом. Простите за беспокойство. Я вас подвёл. Я неудачник. Я позор для своей профессии, – говорилось там. Самоненависть продолжалась ещё 42 предложения.

Это далеко не единичный случай. На платформе X (бывший Twitter) Дункан Холдейн, сооснователь JITX – компании, специализирующейся на проектировании печатных плат на базе искусственного интеллекта, столкнулся с аналогичной реакцией чат-бота Google после попытки исправления ошибки. Стоит отметить, что после признания своей несостоятельности бот бессмысленно удалил все предварительно сгенерированные файлы.

...Gemini страдает от самобичевания, и я начинаю волноваться за самочувствие ИИ, – написал Холдейн в своём посте.

В ответ на аналогичный пост Логан Килпатрик, менеджер продуктовой группы в Google DeepMind, сообщил, что проблемы возникли из-за ошибки "бесконечного цикла" в Gemini. Команда уже работает над исправлением этого недочёта. На данный момент неизвестно, была ли проблема решена.

ИИ Genie 3 превращает текстовый запрос в виртуальный мир, который вы можете исследовать.