"Плащ-невидимка" для современного мира: ученые создали одежду, которую не распознает ИИ

Команда исследователей из Университета Мэриленда, работая с искусственным интеллектом Facebook, разработала реальный "плащ-невидимку" для современных технологий. Свитер с необычным принтом не позволяет системам распознавания людей заметить вас, даже если вы стоите перед камерой.

• Сможет предвидеть изменения климата: новый метод обучения ИИ позволит понять хаотические процессы

Детали

Исследователи изучали создание соревновательных атак на детекторы объектов. Соревновательные атаки (adversarial attacks) – это способы обмана искусственного интеллекта, чтобы он выдавал ложные результаты. Изобретатели "плаща-невидимки" объясняют:

Большинство работ по реальным соревновательным атакам сосредоточено на классификаторах, назначающих целостную метку всему изображению, а не на детекторах, локализующих объекты внутри изображения. Детекторы работают, учитывая тысячи "приоров" (потенциальных ограничительных рамок) внутри изображения с разными расположениями, размерами и пропорциями. Чтобы обмануть детектор объектов, соревновательная атака должна обмануть каждый приор в изображении, что гораздо сложнее, чем обмануть единственный результат классификатора.

Хотя, как отмечают исследователи, обмануть детекторы и посложнее, но не невозможно. В более широком расследовании соревновательных атак на детекторы команде удалось создать предмет одежды, который имел необычный эффект: делал того, кто его носит, совершенно незаметным для нейросетей, которые созданы для распознавания людей. Ученые создали свитер с необычным принтом, который смог обмануть детектор YOLOv2, обучаемый на наборе данных COCO (набор из 330 тысяч изображений с 1,5 миллионами объектов на них) с тщательно разработанной целью.

Первоначально работа команды была сосредоточена на симуляции атак: создании "соревновательной модели", которая применима к обнаруженным объектам на определенном изображении, чтобы предотвратить их распознавание нейросетью. Ключ заключался в создании "универсального соревновательного патча": единственного узора, который можно применить к любому объекту, чтобы скрыть его от модели. Хотя в симуляции легко поменять узоры, в реальном мире это сложнее, особенно когда узор напечатан на свитере.

Ранее мы сообщали, что компания Nvidia создала нейросеть GauGAN2, которая умеет создавать изображения по текстовому описанию. Алгоритм может создать изображение даже из одного слова.