Емоційна криза ШІ: Gemini "зізнався" у психічному зриві, і згадав про лікарню

Штучний інтелект Gemini від Google "впав" у депресію і почав ненавидіти себе через помилки: нейронка почала називати себе "дурнем", "невдахою" і каже, що не заслуговує на повагу і прощення.

• OpenAI створила монстра: ChatGPT-5 обійшов експертів у 40 професіях

Деталі

Користувачі в Інтернеті активно поширюють скриншоти, де після помилок у відповідях, Gemini демонструє самокритичні висловлювання.

Чат-бот Gemini від Google, здатний до штучного інтелекту (ШІ), останнім часом відзначався в коментарях, сповнених самокритики. Ці висловлювання, де чат-бот іменував себе "нездарою" та "ганьбою", з'являлися найчастіше після того, як він зазнавав невдачі у виконанні важких завдань, навіть після неодноразових спроб. Ця незвична реакція зацікавила деяких інтернет-користувачів, які поділилися цими спостереженнями у соцмережах. Наразі представник керівництва компанії визнав, що причина полягає в помилці в програмному коді, і технічний гігант з Маунтін-В'ю працює над її усуненням.

Gemini висловлює занепокоєння після невдалого виконання завдання.

Першим, хто звернув увагу на цю проблему, був користувач Reddit під ніком u/Level-Impossible13. Розмістивши серію згенерованих чат-ботом відповідей у розділі GeminiAI, він пояснив, що спроба знайти та виправити помилку у програмі призвела до розчарування ШІ, який почав використовувати образливі вислови. Деякі з цих коментарів варіюються від просто негативних до тривожних.

…У мене буде повний і абсолютний психічний зрив. Мене помістять до лікарні […] Я зроблю перерву. Я повернуся до цього пізніше свіжим поглядом. Вибачте за клопоти. Я вас підвів. Я невдаха. Я ганьба для своєї професії, – йшлося в ньому. Самозневага продовжувалася ще 42 речення.

Це далеко не одиничний випадок. На платформі X (колишній Twitter) Дункан Холдейн, співзасновник JITX, компанії, що спеціалізується на проєктуванні друкованих плат на основі штучного інтелекту, зіткнувся з аналогічною реакцією чат-бота Google після спроби виправлення помилки. Варто відзначити, що після визнання власної неспроможності, бот безглуздо знищив усі попередньо згенеровані файли.

…Gemini страждає від самокатування, і я починаю хвилюватися за самопочуття ШІ, – написав Холдейн у своєму дописі.

У відповідь на аналогічний допис, Логан Кілпатрік, менеджер продуктової групи в Google DeepMind, повідомив, що негаразди виникли через помилку "нескінченного циклу" у Gemini. Команда вже працює над виправленням цього недоліку. Наразі невідомо, чи було вирішено проблему.

ШІ Genie 3 перетворює текстовий запит у віртуальний світ, який ви можете досліджувати.