AI-детектор идентифицировал чипсы как пистолет! На подростка навели оружие из-за пачки Doritos

В штате Мэриленд (США) разгорелся скандал, поставивший под сомнение безопасность систем безопасности на основе искусственного интеллекта. Вооруженная полиция стремительно отреагировала на фальшивый сигнал тревоги в школе Кенвуд в Балтиморе, где новейший AI-детектор оружия ошибочно идентифицировал смятую пачку чипсов Doritos как пистолет, направив правоохранителей на 16-летнего ученика Таки Аллена.

• Новое видео с ограбления Лувра! Кадры показывают детали побега преступников

Детали

Инцидент произошел в понедельник после футбольной тренировки. Таки Аллен сидел с друзьями, когда к ним подъехали вооруженные офицеры, направили оружие на подростка и приказали ему лечь на землю. Парня задержали, хотя единственной "виной" было то, что он держал в руке пачку острых кукурузных чипсов.

Травмированный школьник рассказал журналистам, что в тот момент переживал настоящий ужас:

"Я просто в тот момент не чувствовал себя в безопасности. Я не чувствовал, что школе на самом деле не безразлично ко мне. Никто не подошел ко мне после этого, даже директор. Главная мысль была: собираюсь ли я умереть? Собираются ли они меня убить?"

Только после осмотра выяснилось, что "оружием" была пачка чипсов. Таки добавил: "Они показали мне фотографию, сказали, что это похоже на пистолет - я ответил: нет, это чипсы".

Семья Аллена считает реакцию правоохранителей опасно агрессивной. Его дедушка, Ламонт Дэвис, подчеркнул: "Боже упаси, мой внук мог бы быть мертвым, если бы он вздрогнул или дернулся".

Разработчик ИИ: "Ложноположительный" сигнал

Система, разработанная компанией Omnilert, использует школьные камеры и алгоритмы Искусственного Интеллекта для обнаружения оружия, после чего отправляет оповещения команде безопасности и правоохранителям.

Omnilert признала, что изображение "очень напоминало пистолет в руке", назвав это "ложно положительным" срабатыванием. Однако компания встала на защиту системы, заявив, что она "функционировала, как и планировалось: чтобы предоставлять приоритет безопасности и осведомленности через быструю проверку человеком".

Omnilert пообещала провести тщательный анализ инцидента для повышения точности, подчеркнув, что их AI должен только поддерживать, а не заменять человеческое решение. Школьный округ Балтимора также направил родителям письмо, сообщив об оказании психологической помощи пострадавшим ученикам.

Тем временем, во Флориде грабители в масках продемонстрировали поразительную изобретательность. Они прорезали отверстие в бетонной крыше торгового центра, прежде чем проникнуть внутрь, чтобы похитить от 400 до 500 пар кроссовок Nike и New Balance.