Людина-початківець у грі “Ґо" використала простий трюк й обіграла одного з найкращих ШІ

Системи штучного інтелекту уже порівняно давно перевершили найкращих гравців-людей у таких логічних іграх, як шахи та "Ґо". Однак нещодавно людство відібрало кілька очок у змаганні з "роботами", коли одну з топових систем штучного інтелекту в грі "Ґо" обіграв любитель за допомогою простого трюку.

• Ядерну зброю хочуть передати під контроль штучного інтелекту: США проти

Деталі

Ця перемога для людей сталася через роки після важкої поразки 2016 року, коли програма AlphaGo від Google DeepMind перемогла найсильнішого гравця "Ґо" у світі Лі Седоля, змусивши його достроково піти на пенсію. Але тепер, виявляється, штучний інтелект все ще має слабкі місця у протистоянні з людьми.

Гравець Келлін Пелрін, який перебуває на один рівень нижче найвищого аматорського рейтингу зміг перемогти свого машинного суперника KataGo – комп’ютерну програму "Ґо" з відкритим вихідним кодом, використовуючи пропозиції з іншої комп’ютерної програми, розробленої дослідницькою компанією FAR AI для пошуку недоліків у системах штучного інтелекту, що грають у "Ґо". Примітно, що виграшною тактикою було не переграти KataGo, а використати його природу як машинної програми, щоб обдурити його.

FAR AI створила програму, яка зіграла понад мільйон ігор, щоб знайти сліпу зону, яку можуть використовувати навіть гравці середнього рівня. Пелрін запам'ятав запропоновану програмою тактику і зміг виграти гру 14 із 15 разів. Він також використав той самий метод, щоб перемогти інший ШІ "Ґо" з відкритим кодом Leela Zero.

У "Ґо" є два гравці. В одного чорні камені, а в іншого білі. Мета гри полягає в тому, щоб один гравець оточив камені свого суперника та замкнув якомога більше місця своїми каменями на сітці 19 на 19. Пелрін обдурив ШІ, створивши велику "петлю" з каменів, щоб оточити одну з груп супротивника, відволікаючи її, також переміщуючи каміння в інших кутах дошки. Алгоритм не помітив своєї вразливості, навіть коли оточення було майже завершено, але це було б легко помітити людині.

Здатність Плерін обіграти систему штучного інтелекту показує, що алгоритми все ще не такі довершені, як багатьом може здатися. Вони все ще не можуть передбачити кожен можливий результат кожного ходу та мають інформацію лише з ігор, у яких їх навчали.

Адам Глів, генеральний директор FAR AI, заявив, що в системах штучного інтелекту зазвичай знаходять недоліки за допомогою "змагальних атак", й великі системи ШІ продовжують випускати без належного захисту. Ця вразливість уже з’явилася в деяких найпопулярніших інструментах штучного інтелекту наразі, таких як ChatGPT, які ламаються, коли запитуються аномальні токени.

Раніше ми повідомляли, що південнокорейська компанія DeepBrain створила програму, яка дозволяє спілкуватися з людьми, що померли. Штучний інтелект формує образ людини й може спілкуватися від її імені.