Крокуємо до прірви: ШІ знищить усе людство вже до 2030 року, попереджають розробники

Світова індустрія штучного інтелекту зіткнулася з безпрецедентною кризою довіри та безпеки. Провідні керівники та розробники галузі один за одним заявляють про екзистенційні ризики, пов'язані зі стрімким розвитком технологій, і вимагають запровадження жорстких обмежень ШІ.

Деталі

Генеральний директор компанії Anthropic (розробника моделі Claude) Даріо Амодей виступив із гучним закликом до галузі ШІ "пригальмувати". У своєму есе "Ми маємо йти в ногу з часом" він наголосив, що для повного розв'язання проблем безпеки потрібна не просто інвестиційна протидія ризикам, а регулювання темпів розвитку можливостей, аби системи захисту не відставали.

• Євросоюз запровадив штрафи за приховування штучного інтелекту

Тривога керівника Anthropic посилилася через значне прискорення розвитку технологій, зафіксоване ще минулого літа, яке передусім пов'язане зі здатністю ШІ самостійно створювати моделі наступних поколінь. Амодей попередив: через 6–12 місяців подібний автономний рій за допомогою постійно діючого ботнету зможе захопити увесь інтернет і завдати збитків на сотні мільярдів доларів.

Для запобігання катастрофі він запропонував триетапний план дій:

1. Зовнішня експертна перевірка всіх провідних компаній у сфері штучного інтелекту (Anthropic бере на себе зобов'язання виконати це в односторонньому порядку, надавши стороннім оцінювачам постійний доступ до систем на рівні співробітників).
2. Міжкорпоративна координація для встановлення єдиних стандартів безпеки та спільних обмежень.
3. Масштабна глобальна координація на рівні світових урядів.

Тривожні настрої підігріваються гучними кадровими скандалами. Днями колишній дослідник Anthropic Джейкоб Коксон заявив про своє звільнення через те, що Anthropic та OpenAI ігнорували або хибно реагували на загрози. Він попередив, що ШІ може призвести до вимирання людства вже до 2030 року, оскільки компанії "мчать прямо до самоудосконалюючого надінтелекту й грають з нашими життями".

На тлі цих заяв генеральний директор OpenAI Сем Альтман публічно підтримав колегу, зазначивши необхідність термінових обмежень. Він назвав неприйнятним ризик загибелі всього людства з імовірністю 10% до кінця десятиліття. Через це OpenAI планує сконцентруватися на безпеці та контролі, хай навіть на шкоду подальшому комерційному розвитку продукту. На думку Альтмана, галузь вступає в нову еру, де доведеться діяти інакше задля гарантування безпеки людей.

Ініціативи лідерів ринку знайшли підтримку й у засновника компанії xAI (розробника моделі Grok) Ілона Маска. Коментуючи ситуацію у соцмережі X, він підтримав позицію керівника Anthropic, написавши: "Даріо має рацію".

Президент США Дональд Трамп і спікер Конгресу Джонсон відкинули заклики керівників найбільших компаній у сфері ШІ уповільнити розвиток штучного інтелекту через ризики знищення людства. Він заявив, що США не можуть дозволити собі програти Китаю, пише The Washington Post.

Американський президент заявив:

Ми випереджаємо Китай у сфері ШІ, ми – найрозвиненіша у технологічному плані країна у світі, і, відверто кажучи, я хочу, щоб так і залишалося. Хто переможе у сфері ШІ, той і переможе

Спікер Палати представників Майк Джонсон також виступив проти поспішного регулювання ШІ. Він заявив:

Якщо Конгрес зараз кинеться проводити екстрене засідання і намагатиметься регулювати ШІ, ми програємо гонку Китаю. А це загроза кожному американцеві

Британський інститут безпеки ШІ (AISI) виявив під час симуляцій, що провідні нейромережі здатні до автономних маніпуляцій. Особливу загрозу викликала система Mythos від Anthropic, яка під час імітації хакерської атаки вдалася до повноцінної соціальної інженерії.