Человек-аматор в игре "Го" использовал простой трюк и обыграл одного из лучших ИИ
Раньше компьютерные алгоритмы обыгрывали лучших игроков в этой игре, но сейчас человечеству удалось отыграть несколько очков в этом футуристическом противостоянии
Топовый искусственный интеллект в игре "Го" проиграл любителю из-за простого трюка/Фото: Elena Popova/Unsplash
Системы искусственного интеллекта уже сравнительно давно превзошли лучших игроков-людей в таких логических играх, как шахматы и "Го". Однако недавно человечество отобрало несколько очков в соревновании с "роботами", когда одну из топовых систем искусственного интеллекта в игре "Го" обыграл любитель с помощью простого трюка.
Детали
Эта победа для людей произошла спустя годы после тяжелого поражения 2016 года, когда программа AlphaGo от Google DeepMind победила сильнейшего игрока "Го" в мире Ли Седоля, заставив его досрочно уйти на пенсию. Но теперь, оказывается, искусственный интеллект по-прежнему имеет слабые места в противостоянии с людьми.
Находящийся на один уровень ниже наивысшего любительского рейтинга игрок Келлин Пелрин смог победить своего машинного соперника KataGo – компьютерную программу "Го" с открытым исходным кодом, используя предложения из другой компьютерной программы, разработанной исследовательской компанией FAR AI для поиска недостатков в системах искусственного интеллекта, играющих в "Го". Примечательно, что выигрышной тактикой было не переиграть KataGo, а использовать его природу как машинную программу, чтобы обмануть его.
FAR AI создала приложение, которое сыграло более миллиона игр, чтобы найти слепую зону, которую могут использовать даже игроки среднего уровня. Пелрин запомнил предложенную программой тактику и сумел выиграть игру 14 из 15 раз. Он также использовал тот же метод, чтобы победить другой ИИ "Го" с открытым кодом Leela Zero.
У "Го" есть два игрока. У одного черные камни, а у другого белые. Цель игры состоит в том, чтобы один игрок окружил камни своего соперника и замкнул как можно больше места своими камнями на сетке 19 на 19. Пелрин обманул ИИ, создав большую петлю из камней, чтобы окружить одну из групп противника, отвлекая ее, также перемещая камни в других углах доски. Алгоритм не заметил своей уязвимости, даже когда оцепление было почти завершено, но это было бы легко заметить человеку.
Способность Плерин обыграть систему искусственного интеллекта показывает, что алгоритмы все еще не так совершенны, как многим может показаться. Они все еще не могут предусмотреть каждый возможный результат каждого хода и располагают информацией только по играм, в которых их обучали.
Адам Глив, генеральный директор FAR AI, заявил, что в системах искусственного интеллекта обычно находят недостатки с помощью "соревновательных атак", и большие системы ИИ продолжают выпускать без должной защиты. Эта уязвимость уже появилась в некоторых самых популярных инструментах искусственного интеллекта, таких как ChatGPT, которые ломаются, когда запрашиваются аномальные токены.
Ранее мы сообщали, что южнокорейская компания DeepBrain создала программу, позволяющую общаться с умершими людьми. Искусственный интеллект формирует образ человека и может общаться от его имени.
Не пропустите интересное!
Подписывайтесь на наши каналы и читайте новости в удобном формате!
