Ярко-желтый школьный автобус, символ детской рутины, мигал фарами и выставил знак остановки. Но вместо ожидаемой остановки, роботакси Waymo проскользнуло мимо, казалось бы, не обращая внимания на детей, потенциально переходящих улицу. Это был не единичный случай. Более двадцати подобных инцидентов в Остине, штат Техас, и других местах привлекли внимание Национального совета по безопасности на транспорте (NTSB), что привело к официальному расследованию технологии автономного вождения Waymo.

Расследование NTSB знаменует собой значительную эскалацию контроля над Waymo, ведущим игроком в индустрии автономных транспортных средств (AV). Хотя беспилотные автомобили обещают повышенную безопасность и эффективность, эти инциденты подчеркивают сложные задачи программирования транспортных средств для навигации в непредсказуемых реальных сценариях, особенно с участием уязвимых участников дорожного движения, таких как дети. Это первое расследование Waymo, проводимое NTSB, но оно последовало за аналогичным расследованием, начатым в октябре Национальным управлением безопасности дорожного движения (NHTSA).

В основе проблемы лежит программное обеспечение Waymo, сложный код, который определяет, как его транспортные средства воспринимают окружающую среду и реагируют на нее. Система опирается на комбинацию датчиков – камеры, лидар (обнаружение и определение дальности с помощью света) и радар – для построения 3D-модели окружающей среды. Затем эти данные обрабатываются сложными алгоритмами, которые идентифицируют объекты, прогнозируют их движения и планируют безопасный путь. Однако недавние инциденты указывают на критический недостаток: система не всегда распознает и адекватно реагирует на визуальные сигналы остановившегося школьного автобуса.

"NTSB обеспокоен потенциальным риском для детей", - заявил представитель в заявлении для TechCrunch. "Наше расследование будет сосредоточено на производительности автономной системы вождения Waymo в этих ситуациях, включая ее способность обнаруживать сигналы школьного автобуса и пешеходную активность и реагировать на них". Следователи направляются в Остин для сбора данных, включая видеоматериалы, журналы датчиков и интервью с инженерами Waymo и местными чиновниками. Предварительный отчет ожидается в течение 30 дней, а более полный окончательный отчет - через 12-24 месяца.

Waymo выпустила отзыв программного обеспечения в декабре для решения этой проблемы, но повторные инциденты показывают, что проблема сложнее, чем предполагалось изначально. Отзыв программного обеспечения в автомобильной промышленности сродни обновлению патча в мире технологий. Это корректирующая мера, применяемая для устранения известного дефекта, который может поставить под угрозу безопасность. В случае Waymo первоначальный отзыв был направлен на улучшение способности системы распознавать сигналы школьного автобуса и реагировать на них. Однако продолжающееся возникновение этих инцидентов указывает на то, что первоначальное исправление было недостаточным.

Независимый школьный округ Остина выразил серьезную обеспокоенность, запросив дальнейшие действия от Waymo для обеспечения безопасности учащихся. "Мы глубоко обеспокоены этими инцидентами и сообщили о нашей обеспокоенности Waymo", - заявил представитель округа. "Безопасность наших учеников является нашим главным приоритетом, и мы ожидаем, что Waymo предпримет немедленные и эффективные шаги для предотвращения повторения этих ситуаций".

Расследование NTSB может иметь далеко идущие последствия для всей индустрии автономных транспортных средств. Оно подчеркивает важность тщательного тестирования и проверки, особенно в крайних случаях – необычных или неожиданных сценариях, которые могут бросить вызов даже самым передовым системам искусственного интеллекта. "Это критический момент для индустрии AV", - говорит доктор Эмили Картер, профессор робототехники в Стэнфордском университете. "Это подчеркивает необходимость более надежного и прозрачного подхода к проверке безопасности. Нам нужно выйти за рамки простого демонстрирования того, что эти системы работают в идеальных условиях, и сосредоточиться на обеспечении того, чтобы они могли справляться со сложностями и неопределенностями реального мира".

Результат расследования NTSB может привести к ужесточению правил и надзора за технологией автономных транспортных средств. Это также может побудить Waymo и других разработчиков AV инвестировать в более совершенные сенсорные технологии, улучшенные алгоритмы и более полные протоколы тестирования. Поскольку автономные транспортные средства все больше интегрируются в нашу транспортную систему, обеспечение их безопасности и надежности имеет первостепенное значение. Будущее беспилотных автомобилей зависит от укрепления общественного доверия, и это доверие можно заслужить только посредством демонстрации безопасности и приверженности приоритету человеческой жизни превыше всего. Дорога впереди для Waymo и всей индустрии AV сейчас находится под пристальным вниманием.