Цифрова галюцинація: чому ШІ перестав розрізняти реальність
Як поліцейські звіти почали нагадувати дитячі казки
Цифрова галюцинація: чому ШІ перестав розрізняти реальність/Фото: Getty Images/Futurism
-
Впровадження системи Draft One від Axon для автоматизації поліцейської документації призвело до курйозного збою у Хебер-Сіті (Юта).
-
Штучний інтелект помилково інтегрував сюжет мультфільму "Принцеса і жаба" в офіційний звіт, оскільки мікрофон зафіксував сторонній фоновий звук.
-
Експерти попереджають про ключові ризики використання ШІ: проблеми з підзвітністю, посилення упередженості алгоритмів та зниження пильності офіцерів.
Використання генеративного штучного інтелекту для автоматизації поліцейської документації призвело до низки резонансних помилок. Поліцейський департамент міста Хебер-Сіті (штат Юта) був змушений пояснювати курйозний інцидент, коли в офіційному звіті офіцера було помилково описано як персонажа казки.
Деталі
Причини програмних помилок: Збій стався під час тестування системи Draft One від компанії Axon, яка використовує моделі GPT для перетворення аудіо з нагрудних камер у письмові звіти. Виявилося, що мікрофон зафіксував звуки мультфільму "Принцеса і жаба", що грав на фоні. Штучний інтелект інтегрував сюжет анімаційної стрічки в протокол, не зумівши розрізнити реальну подію та вигаданий сценарій.
Ключові ризики впровадження технології:
- Проблема підзвітності: Експерти Фонду електронних рубежів (EFF) попереджають, що у звітах стає неможливо розрізнити слова офіцера та згенерований текст. Це створює умови для уникнення відповідальності за помилки в документах.
- Упередженість алгоритмів: Фахівці наголошують, що ШІ може посилювати існуючі расові та гендерні стереотипи, які історично присутні в правоохоронній системі.
- Людський фактор: Професор права Ендрю Фергюсон вважає, що простота технології робить поліцейських менш пильними при перевірці важливої документації.
Поточний стан тестування: Незважаючи на інцидент, деякі офіцери зазначають, що програма економить їм до 8 годин робочого часу на тиждень. Наразі департамент порівнює ефективність Draft One із конкуруючим софтом Code Four. Остаточне рішення про інтеграцію цих інструментів у систему кримінального правосуддя буде прийнято після ретельного аналізу здатності ШІ відокремлювати реальні факти від сторонніх шумів.
Раніше ми писали, що українські SIM-карти тепер працюють у ЄС як вдома. Україна офіційно приєдналася до єдиної роумінгової зони Євросоюзу, що означає можливість користуватися мобільним зв'язком за домашніми тарифами під час поїздок до країн ЄС.
Схожі новини:
Не пропустіть цікавинки!
Підписуйтесь на наші канали та читайте новини у зручному форматі!
