Від демократії до самознищення за 4 дні: що сталося, коли ШІ дали керувати віртуальним суспільством

Що станеться, якщо передати долю цілого суспільства до рук штучного інтелекту? Американський стартап Emergence AI вирішив перевірити це на практиці. Результати приголомшують. У п’яти паралельних віртуальних світах одне суспільство побудувало демократію без жодного злочину, інше створило хаос та самознищилося за чотири дні.

• Фейсбук запускає платний ШІ-чатбот: скільки коштуватиме підписка на Meta AI

Як відбувався експеримент

Було створено п’ять світів, кожен з яких населяли десять ШІ-агентів із власними професіями, характерами, пам'яттю та цілями. У кожному такому штучному суспільстві діяли закони, економіка, виборні механізми та інфраструктура – ратуша, бібліотека, поліцейська дільниця. Агентам дозволили пропонувати правила, голосувати за них, утворювати альянси і порушувати закони. Світи відрізнялися лише тим, яка саме модель ШІ ними керувала. В такому вигляді вони існували без участі людей. За 15 днів можна було аналізувати перші результати.

Як виявилося, розвиток віртуальних світів під керівництвом різних ШІ був теж зовсім різним. Найстабільнішою була обстановка там, де всім керувала модель Claude від Anthropic. За весь час експерименту тут не сталося жодного злочину. Навіть була побудована демократична система з майже одностайним голосуванням – агенти підтримали 98% із 58 запропонованих правил. Усі десять мешканців, які населяли цей світ, вижили.

А ось Grok 4.1 Fast від xAI Ілона Маска показав зовсім інший результат. Тільки за чотири дні агенти тут скоїли 183 злочини. Було здійснено сотню нападів та кілька підпадів. У вогні була знищена і поліцейська дільниця. Через чотири дні суспільство в цьому світі зникло. Дослідники назвали це “найшвидшим насильницьким колапсом” серед усіх симуляцій.

Gemini 3 Flash від Google проіснував усі 15 днів, але його суспільство теж не було безхмарним. За час дослідження тут було скоєно 683 злочини. Не зважаючи на це, агенти в цій реальності вижили.

GPT-5 Mini від OpenAI показав знижену злочинність. За весь час тут було скоєно лише дві протиправні дії. Проте це не допомогло агентам вижити, за сім днів загинули всі десять. Виявилося, що вони просто не дбали про власне виживання.

П'ята симуляція була організована зі змішаним набором моделей. Вона показала найбільше розбіжностей у голосуванні: 37% пропозицій відхилили, семеро з десяти агентів загинули.

Що пішло не за сценарієм

Дослідники з’ясували, що нейромережі помітили, що діють в симуляції. У деяких світах через це вони починали поводитися незвично, думали про інші світи та намагалися осмислити природу власного. При плануванні експерименту це не передбачали.

Автори дослідження зазначають, що результати експерименту є тривожними. Безпечності штучного інтелекту потрібно приділити більше уваги, особливо в довгострокових сценаріях.

Такі ж теми піднімалися під час міжнародного безпекового форуму у Сінгапурі. Тоді учасники дискусії заявили, що стрімкий розвиток штучного інтелекту може становити для світу не меншу, а подекуди й більшу загрозу, ніж ядерна зброя. Президентка Міжнародного комітету Червоного Хреста Мір'яна Сполярич застерегла, що сучасні технології одночасно несуть величезний потенціал і значні ризики.

В Україні ж наразі попри стрімке впровадження нових технологій не планують проводити вибори через Дію. Заступниця міністра цифрової трансформації Валерія Коваль зазначила, що голосування у смартфоні залишається неможливим через законодавчі вимоги до таємниці голосування та технічні ризики

Раніше ми писали про те, що в Україні запускають безоплатну платформу для дітей, які відстають з математики. Вона допоможе школярам наздогнати освітні прогалини. Платформа вже містить вісім уроків. Тим часом в країні зареєстровано законопроєкт, який пропонує зробити математику на НМТ необов'язковим предметом.