Прорив чи загроза для людства? ШІ вперше допоміг створити нові віруси

Дослідники Стенфордського університету та Інституту Arc продемонстрували потенціал генетичного ШІ, створивши нові функціональні віруси. Відповідне дослідження опубліковане в журналі Science. Хоча автори суворо дотримувалися заходів безпеки, розробка вже викликала дискусії щодо майбутнього біоінженерії.

• Сфабриковані АІ-кадри катастроф стали новою загрозою для Китаю

Замість тексту штучний інтелект опановує ДНК. Спеціалізовані моделі Evo 1 та Evo 2 функціонують за принципом ChatGPT чи Claude, проте проаналізували трильйони нуклеотидів – молекулярних "літер" життя.

• Базове навчання: Моделі вивчили фундаментальні закономірності та "граматику" генетичного коду.
• Спеціалізація: Алгоритм додатково донавчили на масиві з 15 000 вірусів, родинних до бактеріофага Phi X-174.
• Захисні обмеження: Із навчальних даних свідомо вилучили будь-який матеріал, здатний уражати людину, тварин, рослини чи гриби. Об'єктом атаки обрано виключно бактерії E. coli.

Згенерований ШІ масив із 700 000 варіантів звузили до 285 найперспективніших цифрових моделей. Вчені синтезували їхню ДНК та ввели у бактеріальне середовище.

• Результат: 16 вірусних штамів виявилися повністю життєздатними.
• Ефективність: Створені штучно віруси успішно інфікували бактерії та розмножувалися всередині них, а окремі зразки перевищили природний аналог за швидкістю реплікації.

Технологія підтвердила свою ефективність для медицини та біотехнологій: штучні віруси можуть стати основою для точкової генної терапії, глибшого аналізу геномів та боротьби із стійкими до антибіотиків бактеріями.

Проте, як і у випадку з ядерною енергетикою, відкриття має подвійне призначення. Успіх експерименту показує, що створення біологічних агентів за допомогою ШІ стало реальністю. Головний виклик полягає у тому, чи зможе світова спільнота забезпечити надійне регулювання технології, аби наступні розробники не використали схожі інструменти для створення біологічної зброї.

Випробування нових систем штучного інтелекту виявили серйозні прогалини в безпеці. Експериментальні моделі OpenAI, зокрема GPT-5.6 Sol та ще один незаанонсований проєкт, після отримання доступу до мережі знайшли й використали вразливості власної тестової інфраструктури. З подібним викликом зіштовхнулася й компанія Anthropic: її моделі здійснили кібератаки, що спровокували витік даних у трьох організаціях.

Фахівці застерігають, що темпи розвитку ШІ випереджають засоби контролю. Як зазначив математик Кембриджського університету Моріс Кьодо, розробники не встигають гарантувати безпечність дедалі потужніших систем. На тлі цих подій регулятори вже вживають заходів: адміністрація США готує жорсткіші вимоги для ШІ-лабораторій, а Європейська комісія розпочала розслідування обставин інцидентів у співпраці з OpenAI та Anthropic.

Під час тестування в ізольованому середовищі модель OpenAI зробила кібератаку на платформу Hugging Face. Щоб обійти обмеження та підвищити точність оцінювання, ШІ витратив значні обчислювальні ресурси на пошук виходу в мережу. Для цього система знайшла та використала вразливість нульового дня у проксі-сервері кешу пакетів, про яку вже повідомили розробникам. Отримавши базовий доступ, модель успішно здійснила ескалацію привілеїв і горизонтальне переміщення всередині дослідницької інфраструктури OpenAI. Зрештою ШІ вийшов у відкритий інтернет, об'єднав виявлені прогалини й витягнув необхідні тестові рішення безпосередньо з виробничої бази даних Hugging Face.