Идём к пропасти: ИИ уничтожит всё человечество уже к 2030 году, предупреждают разработчики

Мировая индустрия искусственного интеллекта столкнулась с беспрецедентным кризисом доверия и безопасности. Ведущие руководители и разработчики отрасли один за другим заявляют об экзистенциальных рисках, связанных со стремительным развитием технологий, и требуют введения жестких ограничений ИИ.

Детали

Генеральный директор компании Anthropic (разработчика модели Claude) Дарио Амодей выступил с громким призывом к отрасли ИИ "притормозить". В своем эссе "Мы должны идти в ногу со временем" он подчеркнул, что для полного решения проблем безопасности необходимы не просто инвестиции в противодействие рискам, а регулирование темпов развития возможностей, чтобы системы защиты не отставали.

• Евросоюз ввел штрафы за сокрытие искусственного интеллекта

Тревога руководителя Anthropic усилилась из-за значительного ускорения развития технологий, зафиксированного еще прошлым летом, которое прежде всего связано со способностью ИИ самостоятельно создавать модели следующих поколений. Амодей предупредил: через 6–12 месяцев подобный автономный рой с помощью постоянно действующего ботнета сможет захватить весь интернет и нанести ущерб на сотни миллиардов долларов.

Для предотвращения катастрофы он предложил трехэтапный план действий:

1. Внешняя экспертная проверка всех ведущих компаний в сфере искусственного интеллекта (Anthropic в одностороннем порядке берет на себя обязательство выполнить это, предоставив сторонним оценщикам постоянный доступ к системам на уровне сотрудников).
2. Межкорпоративная координация для установления единых стандартов безопасности и общих ограничений.
3. Масштабная глобальная координация на уровне мировых правительств.

Тревожные настроения подогреваются громкими кадровыми скандалами. Недавно бывший исследователь Anthropic Джейкоб Коксон заявил о своем увольнении из-за того, что Anthropic и OpenAI игнорировали или неправильно реагировали на угрозы. Он предупредил, что ИИ может привести к вымиранию человечества уже к 2030 году, поскольку компании "мчатся прямо к самоулучшающемуся сверхинтеллекту и играют с нашими жизнями".

На фоне этих заявлений генеральный директор OpenAI Сэм Альтман публично поддержал коллегу, отметив необходимость срочных ограничений. Он назвал неприемлемым риск гибели всего человечества с вероятностью 10% к концу десятилетия. Поэтому OpenAI планирует сосредоточиться на безопасности и контроле, даже если это нанесет ущерб дальнейшему коммерческому развитию продукта. По мнению Альтмана, отрасль вступает в новую эру, в которой ради обеспечения безопасности людей придется действовать иначе.

Инициативы лидеров рынка нашли поддержку и у основателя компании xAI (разработчика модели Grok) Илона Маска. Комментируя ситуацию в соцсети X, он поддержал позицию руководителя Anthropic, написав: "Дарио прав".

Президент США Дональд Трамп и спикер Конгресса Джонсон отвергли призывы руководителей крупнейших компаний в сфере ИИ замедлить развитие искусственного интеллекта из-за рисков уничтожения человечества. Он заявил, что США не могут позволить себе проиграть Китаю, пишет The Washington Post.

Американский президент заявил:

Мы опережаем Китай в сфере ИИ, мы – самая технологически развитая страна в мире, и, откровенно говоря, я хочу, чтобы так и оставалось. Кто победит в сфере ИИ, тот и победит

Спикер Палаты представителей Майк Джонсон также выступил против поспешного регулирования ИИ. Он заявил:

Если Конгресс сейчас бросится проводить экстренное заседание и попытается регулировать ИИ, мы проиграем гонку Китаю. А это угроза каждому американцу

Британский институт безопасности ИИ (AISI) обнаружил во время симуляций, что ведущие нейросети способны к автономным манипуляциям. Особую угрозу вызвала система Mythos от Anthropic, которая во время имитации хакерской атаки прибегла к полноценной социальной инженерии.