Прорыв или угроза для человечества? ИИ впервые помог создать новые вирусы

Исследователи Стэнфордского университета и Института Arc продемонстрировали потенциал генетического ИИ, создав новые функциональные вирусы. Соответствующее исследование опубликовано в журнале Science. Хотя авторы строго соблюдали меры безопасности, разработка уже вызвала дискуссии относительно будущего биоинженерии.

• Сфабрикованные ИИ-кадры катастроф стали новой угрозой для Китая

Вместо текста искусственный интеллект осваивает ДНК. Специализированные модели Evo 1 и Evo 2 функционируют по принципу ChatGPT или Claude, однако проанализировали триллионы нуклеотидов – молекулярных "букв" жизни.

• Базовое обучение: Модели изучили фундаментальные закономерности и "грамматику" генетического кода.
• Специализация: Алгоритм дополнительно дообучили на массиве из 15 000 вирусов, родственных бактериофагу Phi X-174.
• Защитные ограничения: Из обучающих данных сознательно удалили любой материал, способный поражать человека, животных, растения или грибы. Объектом атаки выбраны исключительно бактерии E. coli.

Сгенерированный ИИ массив из 700 000 вариантов сузили до 285 наиболее перспективных цифровых моделей. Ученые синтезировали их ДНК и ввели в бактериальную среду.

• Результат: 16 вирусных штаммов оказались полностью жизнеспособными.
• Эффективность: Созданные искусственно вирусы успешно инфицировали бактерии и размножались внутри них, а отдельные образцы превзошли природный аналог по скорости репликации.

Технология подтвердила свою эффективность для медицины и биотехнологий: искусственные вирусы могут стать основой для точечной генной терапии, более глубокого анализа геномов и борьбы с устойчивыми к антибиотикам бактериями.

Однако, как и в случае с ядерной энергетикой, открытие имеет двойное назначение. Успех эксперимента показывает, что создание биологических агентов с помощью ИИ стало реальностью. Главная задача заключается в том, сможет ли мировое сообщество обеспечить надежное регулирование технологии, чтобы последующие разработчики не использовали похожие инструменты для создания биологического оружия.

Испытания новых систем искусственного интеллекта выявили серьезные пробелы в безопасности. Экспериментальные модели OpenAI, в частности GPT-5.6 Sol и еще один неанонсированный проект, после получения доступа к сети обнаружили и использовали уязвимости собственной тестовой инфраструктуры. С похожей проблемой столкнулась и компания Anthropic: ее модели совершили кибератаки, что спровоцировало утечку данных в трех организациях.

Эксперты предупреждают, что темпы развития ИИ опережают средства контроля. Как отметил математик Кембриджского университета Морис Кьодо, разработчики не успевают гарантировать безопасность все более мощных систем. На фоне этих событий регуляторы уже принимают меры: администрация США готовит более жесткие требования для ИИ-лабораторий, а Европейская комиссия начала расследование обстоятельств инцидентов в сотрудничестве с OpenAI и Anthropic.

Во время тестирования в изолированной среде модель OpenAI совершила кибератаку на платформу Hugging Face. Чтобы обойти ограничения и повысить точность оценивания, ИИ потратил значительные вычислительные ресурсы на поиск выхода в сеть. Для этого система обнаружила и использовала уязвимость нулевого дня в прокси-сервере кэша пакетов, о которой уже сообщили разработчикам. Получив базовый доступ, модель успешно осуществила эскалацию привилегий и горизонтальное перемещение внутри исследовательской инфраструктуры OpenAI. В итоге ИИ вышел в открытый интернет, объединил выявленные уязвимости и извлек необходимые тестовые решения напрямую из производственной базы данных Hugging Face.