AI-детектор ідентифікував чипси як пістолет! На підлітка навели зброю через пачку Doritos

У штаті Меріленд (США) розгорівся скандал, що поставив під сумнів безпечність систем безпеки на основі штучного інтелекту. Озброєна поліція стрімко відреагувала на фальшивий сигнал тривоги в школі Кенвуд у Балтиморі, де новітній AI-детектор зброї помилково ідентифікував зім’яту пачку чипсів Doritos як пістолет, спрямувавши правоохоронців на 16-річного учня Таки Аллена.

• Нове відео з пограбування Лувру! Кадри показують деталі втечі злочинців

Деталі

Інцидент стався у понеділок після футбольного тренування. Таки Аллен сидів із друзями, коли до них під'їхали озброєні офіцери, націлили зброю на підлітка і наказали йому лягти на землю. Хлопця затримали, хоча єдиною "провиною" було те, що він тримав у руці пачку гострих кукурудзяних чипсів.

Травмований школяр розповів журналістам, що у той момент пережив справжній жах:

"Я просто в той момент не почувався у безпеці. Я не відчував, що школі насправді не байдуже до мене. Ніхто не підійшов до мене після цього, навіть директор. Головна думка була: чи помру я? Чи збираються вони мене вбити?"

Лише після огляду з'ясувалося, що "зброєю" була пачка чипсів. Таки додав: "Вони показали мені фотографію, сказали, що це схоже на пістолет — я відповів: ні, це чипси".

Сім'я Аллена вважає реакцію правоохоронців небезпечно агресивною. Його дідусь, Ламонт Девіс, наголосив: "Боже збав, мій онук міг би бути мертвим, якби він здригнувся чи сіпнувся".

Розробник ШІ: "Хибнопозитивний" сигнал

Система, розроблена компанією Omnilert, використовує шкільні камери й алгоритми Штучного Інтелекту для виявлення зброї, після чого надсилає сповіщення команді безпеки та правоохоронцям.

Omnilert визнала, що зображення "дуже нагадувало пістолет у руці", назвавши це "хибнопозитивним" спрацюванням. Водночас компанія стала на захист системи, заявивши, що вона "працювала, як і передбачалося: щоб забезпечити пріоритет безпеки та обізнаності через швидку людську перевірку".

Omnilert пообіцяла провести ретельний аналіз інциденту для підвищення точності, підкресливши, що їхній ШІ має лише підтримувати, а не замінювати людське рішення. Шкільний округ Балтімора також надіслав батькам листа, повідомивши про надання психологічної допомоги постраждалим учням.

Тим часом, у Флориді грабіжники в масках продемонстрували вражаючу винахідливість. Вони прорізали отвір у бетонному даху торгового центру, перш ніж проникнути всередину, щоб викрасти від 400 до 500 пар кросівок Nike і New Balance.