От демократии до самоуничтожения за 4 дня: что произошло, когда ИИ дали управлять обществом

Что произойдет, если передать судьбу целого общества в руки искусственного интеллекта? Американский стартап Emergence AI решил проверить это на практике. Результаты ошеломляют. В пяти параллельных виртуальных мирах одно общество построило демократию без единого преступления, другое создало хаос и самоуничтожилось за четыре дня.

• Фейсбук запускает платный ИИ-чатбот: сколько будет стоить подписка на Meta AI

Как проходил эксперимент

Было создано пять миров, каждый из которых населяли десять ИИ-агентов с собственными профессиями, характерами, памятью и целями. В каждом таком искусственном обществе действовали законы, экономика, избирательные механизмы и инфраструктура — ратуша, библиотека, полицейский участок. Агентам разрешили предлагать правила, голосовать за них, создавать альянсы и нарушать законы. Миры отличались только тем, какая именно модель ИИ ими управляла. В таком виде они существовали без участия людей. За 15 дней можно было анализировать первые результаты.

Как выяснилось, развитие виртуальных миров под управлением различных ИИ также было совершенно разным. Самой стабильной была обстановка там, где всем управляла модель Claude от Anthropic. За все время эксперимента здесь не произошло ни одного преступления. Даже была построена демократическая система с почти единогласным голосованием — агенты поддержали 98% из 58 предложенных правил. Все десять жителей, населявших этот мир, выжили.

А вот Grok 4.1 Fast от xAI Илона Маска показал совсем другой результат. Всего за четыре дня агенты здесь совершили 183 преступления. Было совершено сотня нападений и несколько поджогов. В огне был уничтожен и полицейский участок. Через четыре дня общество в этом мире исчезло. Исследователи назвали это "самым быстрым насильственным коллапсом" среди всех симуляций.

Gemini 3 Flash от Google просуществовал все 15 дней, но его общество также не было безоблачным. За время исследования здесь совершили 683 преступления. Несмотря на это, агенты в этой реальности выжили.

GPT-5 Mini от OpenAI показал сниженную преступность. За все время здесь было совершено лишь два противоправных действия. Однако это не помогло агентам выжить: за семь дней погибли все десять. Оказалось, что они просто не заботились о собственном выживании.

Пятая симуляция была организована со смешанным набором моделей. Она показала наибольшие разногласия в голосовании: 37% предложений отклонили, семеро из десяти агентов погибли.

Что пошло не по сценарию

Исследователи выяснили, что нейросети заметили, что действуют в симуляции. В некоторых мирах из-за этого они начинали вести себя необычно, думали о других мирах и пытались осмыслить природу собственного. При планировании эксперимента это не предусматривали.

Авторы исследования отмечают, что результаты эксперимента вызывают тревогу. Безопасности искусственного интеллекта нужно уделять больше внимания, особенно в долгосрочных сценариях.

Такие же темы поднимались во время международного форума по безопасности в Сингапуре. Тогда участники дискуссии заявили, что стремительное развитие искусственного интеллекта может представлять для мира не меньшую, а порой и большую угрозу, чем ядерное оружие. Президент Международного комитета Красного Креста Мирьяна Сполярич предупредила, что современные технологии одновременно несут огромный потенциал и значительные риски.

В Украине же несмотря на стремительное внедрение новых технологий, не планируют проводить выборы через Дію. Заместительница министра цифровой трансформации Валерия Коваль отметила, что голосование в смартфоне остается невозможным из-за законодательных требований к тайне голосования и технических рисков.

Ранее мы писали о том, что в Украине запускают бесплатную платформу для детей, которые отстают по математике. Она поможет школьникам наверстать образовательные пробелы. Платформа уже содержит восемь уроков. Тем временем в стране зарегистрирован законопроект, который предлагает сделать математику на НМТ необязательным предметом.