Вместо врача – ИИ: мужчина обратился к чат-боту за советом и оказался в больнице

60-летний мужчина оказался в отделении экстренной помощи после экспериментов с диетой, разработанной ChatGPT. Он обратился к чат-боту, надеясь получить рекомендации по ограничению соли, при этом не потеряв ценных для организма нутриентов.

• Эмоциональный кризис ИИ: Gemini "признался" в психическом срыве и вспомнил о больнице

Детали

Искусственный интеллект посоветовал заменить соль на другие химические вещества, что стало причиной редкого, опасного синдрома, вылившегося в паранойю и галлюцинации.

60-летний мужчина, осознав потенциально негативное влияние чрезмерного употребления соли на здоровье, обратился к чат-боту ChatGPT. Его цель заключалась в получении рекомендаций для собственного эксперимента, который должен был полностью исключить хлорид натрия из рациона.

Неизвестно какой именно вопрос мужчина задал ChatGPT. Однако ответ искусственного интеллекта был таков: соль можно заменить на бромид натрия. Авторы отчёта предполагают, что, скорее всего, речь шла о замене хлорида натрия для чистки, а не для употребления в пищу.

Тем не менее 60-летний мужчина приобрёл бромид натрия через интернет и принимал его в течение трёх месяцев, пока не оказался в отделении скорой помощи с тревожными психическими проявлениями.

Врачи поставили ему диагноз редкого заболевания – бромизм, который возникает в результате длительного поступления в организм бромида или брома в чрезмерных количествах. Накопление этих соединений приводит к ухудшению работы нейронов и может вызвать:

• психоз;
• возбуждение;
• манию;
• проблемы с памятью, мышлением и координацией движений.

В XIX и XX веках бромид нашёл широкое применение в лекарственных средствах, доступных без рецепта. Со временем врачи выяснили, что длительное воздействие этого соединения может провоцировать серьёзные проблемы со здоровьем. Поэтому использование бромида в лекарствах было ограничено, что способствовало уменьшению случаев бромизма. Сейчас этот синдром встречается редко.

После пребывания в больнице пациент сообщил о сильной жажде, но проявлял параноидальное поведение относительно питья. После суток в больнице паранойя усилилась, сопровождаясь появлением галлюцинаций.

Со временем мужчина попытался сбежать из лечебного заведения, что стало причиной его принудительной госпитализации в психиатрическую больницу. В медицинском учреждении пациенту вводили электролиты и жидкости, а также стабилизировали его психическое состояние с помощью антипсихотических препаратов.

После улучшения самочувствия мужчина рассказал, что у него были признаки гиперчувствительности к бромиду – прыщи на лице, а также красная сыпь на коже. Кроме того, он жаловался на бессонницу, чувство истощения, затруднения с координацией движений и постоянное ощущение жажды.

Через несколько недель лечения пациента выписали из больницы.

Представитель OpenAI, разработчика ChatGPT, подчеркнул условия использования их технологии. В них отмечено, что языковая модель не предназначена для постановки диагнозов или лечения любых заболеваний. Компания призывает пользователей не рассматривать ChatGPT как "единственный источник истины или достоверной информации", а также не использовать его вместо профессиональной консультации.

Представитель организации выразил позицию, что в OpenAI стремятся развивать технологию, которая будет побуждать пользователей обращаться за квалифицированной помощью.

OpenAI создала монстра: ChatGPT-5 обошёл экспертов в 40 профессиях.