Помилка у пріоритетах безпеки: Waymo обмежує рух своїх безпілотників на автомагістралях США

Американська компанія Waymo оголосила про масштабне відкликання свого флоту роботаксі. Причиною стали систематичні помилки штучного інтелекту, який виявився нездатним коректно розпізнавати зони проведення дорожніх робіт на швидкісних трасах.

Деталі

Під сервісну кампанію потрапив 3 871 автомобіль. Усі вони оснащені автоматизованою системою керування (ADS) п’ятого покоління. Поки фахівці шукають вихід із ситуації, роботу безпілотників на автомагістралях буде суворо обмежено. Відкликання не поширюється на ті транспортні засоби компанії, які взагалі не призначені для автономного руху швидкісними трасами.

• Вперше в історії: автопілот самостійно посадив літак під час реальної надзвичайної ситуації

Проблема набула системного характеру протягом весни цього року, коли було зафіксовано понад десяток небезпечних випадків у різних регіонах США.

• Квітень: Зафіксовано 6 випадків, коли роботизовані машини ігнорували знаки про закриття з’їздів і виїжджали безпосередньо на будівельні майданчики автомагістралей. Тоді Комітет з безпеки Waymo вперше запровадив часткові обмеження на трасах.
• Травень: Сталося ще 7 інцидентів. Роботаксі маневрували прямо між конусами, які відокремлювали закриті смуги руху.

Згідно з офіційним звітом про безпеку дорожнього руху, система ADS працювала некоректно через збій у пріоритетах. Штучний інтелект намагався уникнути інших гіпотетичних небезпек на дорозі й через це або повністю ігнорував будівельні зони, або неправильно оцінював їхню загрозу.

Після повторення травневих інцидентів компанія посилила заборону на рух магістралями, а вже 8 червня Рада з безпеки Waymo ухвалила остаточне рішення про офіційне відкликання продукції для оновлення програмного забезпечення.

Нове відкликання безпілотників Waymo відбулося лише через місяць після попереднього сервісного апдейту, пов'язаного із вразливістю системи перед повенями. Як зазначали представники компанії у звіті для Національного управління з безпеки дорожнього руху (NHTSA), через програмний збій автомобілі могли різко гальмувати на швидкісних трасах, а потім виїжджати прямо у стоячу воду.

Така поведінка ШІ на затоплених ділянках загрожувала втратою контролю над транспортом і створювала високий ризик аварій. Проблему наочно підтвердив інцидент 20 квітня у техаському Сан-Антоніо, де пасажири зняли на відео роботаксі, яке заїхало у глибоку калюжу та застрягло.

Минулого року у Каліфорнії поліція Сан-Бруно зупинила безпілотник Waymo за незаконний розворот, проте патрульні так і не змогли виписати штраф, оскільки в салоні не було водія. Як виявилося, законодавство США просто не має механізмів для покарання автономних машин або їхніх операторів за подібні порушення ПДР. Утім, повністю уникати фінансової відповідальності роботаксі не вдається: наприклад, у 2024 році компанія Waymo змушена була сплатити $65 065 штрафів лише за неправильне паркування своїх автомобілів у Сан-Франциско.