"Плащ-невидимка” для сучасного світу: вчені створили одяг, який не розпізнає ШІ

Команда дослідників з Університету Мериленду, працюючи зі штучним інтелектом Facebook, розробила реальний "плащ-невидимку" для сучасних технологій. Светр із незвичним принтом не дозволяє системам розпізнавання людей помітити вас навіть якщо ви стоїте перед камерою.

• Передбачатиме глобальні зміни клімату: новий метод навчання ШІ дозволить зрозуміти хаотичні процеси

Деталі

Дослідники вивчали створення змагальних атак на детектори об’єктів. Змагальні атаки (adversarial attacks) – це способи обману штучного інтелекту, щоб він видавав хибні результати. Винахідники "плаща-невидимки" пояснюють:

Більшість робіт щодо реальних змагальних атак зосереджено на класифікаторах, які призначають цілісну мітку всьому зображенню, а не на детекторах, які локалізують об’єкти всередині зображення. Детектори працюють, враховуючи тисячі "пріорів" (потенційних обмежувальних рамок) усередині зображення з різними розташуваннями, розмірами та пропорціями. Щоб обдурити детектор об’єктів, змагальна атака має обдурити кожен пріор у зображенні, що набагато складніше, ніж обдурити єдиний результат класифікатора.

Хоч, як зазначають дослідники, обдурити детектори й складніше, але не неможливо. У ширшого розслідування змагальних атак на детектори команді вдалося створити предмет одягу, який мав незвичайний ефект: робив того, хто його носить, абсолютно непомітним для нейромереж, які створення для розпізнавання людей. Вчені створили светр із незвичним принтом, який зміг обдурити детектор YOLOv2, який навчали на наборі даних COCO (набір із 330 тисяч зображень з 1,5 мільйонами об'єктів на них) з ретельно розробленою метою.

Спочатку робота команди була зосереджена на симуляції атак: створенні "змагальної моделі", яка може бути застосована до виявлених об’єктів на певному зображенні, щоб запобігти їх розпізнаванню нейромережею. Ключ полягав у створенні "універсального змагального патча": єдиного візерунка, який можна застосувати до будь-якого об’єкта, щоб приховати його від моделі. Хоча в симуляції легко поміняти візерунки, у реальному світі це складніше, особливо коли візерунок надруковано на светрі.

Раніше ми повідомляли, що компанія Nvidia створила нейромережу GauGAN2, яка вміє створювати зображення за текстовим описом. Алгоритм може створити зображення навіть з одного слова.