Цифровая галлюцинация: почему ИИ перестал различать реальность
Как полицейские отчёты начали напоминать детские сказки
Цифровая галлюцинация: почему ИИ перестал различать реальность/Фото: Getty Images/Futurism
-
В полицейском отчете Хебер-Сити (штат Юта), сгенерированном ИИ, офицер был ошибочно описан как персонаж сказки из-за фонового звука мультфильма.
-
Сбой произошел при тестировании системы Draft One от Axon, которая использует модели GPT для преобразования аудиозаписей с нагрудных камер в письменные протоколы.
-
Эксперты предупреждают о ключевых рисках внедрения ИИ-систем: проблемах подотчетности, усилении предвзятости алгоритмов и невнимательности офицеров.
Использование генеративного искусственного интеллекта для автоматизации полицейской документации привело к ряду резонансных ошибок. Полицейское управление города Хебер-Сити (штат Юта) было вынуждено объяснять курьёзный инцидент, когда в официальном отчёте офицер был ошибочно описан как персонаж сказки.
Детали
Причины программных ошибок: Сбой произошёл во время тестирования системы Draft One от компании Axon, которая использует модели GPT для преобразования аудио с нагрудных камер в письменные отчёты. Оказалось, что микрофон зафиксировал звуки мультфильма "Принцесса и лягушка", который играл на фоне. Искусственный интеллект интегрировал сюжет анимационного фильма в протокол, не сумев различить реальное событие и вымышленный сценарий.
Ключевые риски внедрения технологии:
- Проблема подотчётности: Эксперты Фонда электронных рубежей (EFF) предупреждают, что в отчётах становится невозможно различить слова офицера и сгенерированный текст. Это создаёт условия для ухода от ответственности за ошибки в документах.
- Предвзятость алгоритмов: Специалисты подчёркивают, что ИИ может усиливать существующие расовые и гендерные стереотипы, которые исторически присутствуют в правоохранительной системе.
- Человеческий фактор: Профессор права Эндрю Фергюсон считает, что простота технологии делает полицейских менее внимательными при проверке важной документации.
Текущее состояние тестирования: Несмотря на инцидент, некоторые офицеры отмечают, что программа экономит им до 8 часов рабочего времени в неделю. Сейчас департамент сравнивает эффективность Draft One с конкурирующим софтом Code Four. Окончательное решение о внедрении этих инструментов в систему уголовного правосудия будет принято после тщательного анализа способности ИИ отделять реальные факты от посторонних шумов.
Ранее мы писали, что украинские SIM-карты теперь работают в ЕС как дома. Украина официально присоединилась к единой роуминговой зоне Евросоюза, что означает возможность пользоваться мобильной связью по домашним тарифам во время поездок в страны ЕС.
Похожие новости:
Не пропустите интересное!
Подписывайтесь на наши каналы и читайте новости в удобном формате!
