Компания Waymo выпускает обновление программного обеспечения для своих роботакси, чтобы улучшить их работу со светофорами, вышедшими из строя из-за отключения электроэнергии, объявила компания во вторник. Обновление устраняет проблемы, возникшие во время отключения электроэнергии в Сан-Франциско в минувшие выходные, когда беспилотные автомобили Waymo столкнулись с трудностями при проезде перекрестков с неработающими светофорами.

Согласно сообщению в блоге компании, автономная система вождения Waymo запрограммирована на то, чтобы рассматривать неработающие светофоры как перекрестки с четырехсторонним движением, что соответствует стандартным методам вождения человека. Однако во время масштабного отключения электроэнергии многие автомобили неоднократно запрашивали подтверждение своих действий у группы реагирования Waymo.

«В связи с таким масштабным отключением электроэнергии в субботу произошел концентрированный всплеск этих запросов на подтверждение», — заявили в Waymo, объяснив, что всплеск запросов способствовал перегруженности, наблюдаемой на видеозаписях, распространяемых в Интернете. Компания подчеркнула, что система запроса подтверждения была первоначально внедрена в качестве меры безопасности на ранних этапах развертывания.

Основная проблема заключалась в неуверенности ИИ в интерпретации необычной ситуации с многочисленными одновременными отказами светофоров. Хотя система предназначена для обработки отдельных сбоев, масштаб отключения электроэнергии в Сан-Франциско перегрузил ее возможности, что привело к чрезмерным запросам на подтверждение. Это подчеркивает проблему в разработке ИИ: обеспечение надежности и адаптируемости перед лицом непредвиденных, масштабных событий.

Обновление программного обеспечения направлено на усовершенствование системы запроса подтверждения, приведение ее в соответствие с текущим масштабом операций Waymo. Это включает в себя снижение частоты ненужных запросов на подтверждение в сценариях, когда система должна быть способна принимать решения самостоятельно. Обновление использует улучшенные алгоритмы и анализ данных, чтобы позволить роботакси более уверенно и эффективно проезжать перекрестки с неисправными светофорами.

Этот инцидент поднимает более широкие вопросы о развертывании автономных транспортных средств в городских условиях. Хотя технология беспилотного вождения обещает повышение безопасности и эффективности, она также создает новые уязвимости и зависимости. Пример Waymo иллюстрирует важность учета крайних случаев и неожиданных сценариев на этапах проектирования и тестирования систем ИИ.

Эксперты отмечают, что эта ситуация подчеркивает необходимость непрерывного обучения и адаптации в ИИ. Модели машинного обучения обычно обучаются на огромных наборах данных реальных сценариев вождения. Однако эти наборы данных могут недостаточно представлять редкие события, такие как отключение электроэнергии в масштабах города. Поэтому крайне важно разрабатывать системы ИИ, которые могут обобщать существующие данные и адаптироваться к новым ситуациям.

Инцидент также подчеркивает роль человеческого надзора в операциях с автономными транспортными средствами. Группа реагирования Waymo служит своего рода подстраховкой, оказывая удаленную помощь, когда ИИ сталкивается со сложными ситуациями. По мере развития технологии беспилотного вождения баланс между автономией и вмешательством человека будет оставаться важным фактором.

Реакция Waymo на отключение электроэнергии в Сан-Франциско демонстрирует приверженность решению проблем и ограничений своей технологии. Внедряя обновления программного обеспечения и совершенствуя свои алгоритмы ИИ, компания стремится повысить надежность и устойчивость своих роботакси в реальных условиях. Продолжающаяся разработка и развертывание автономных транспортных средств, несомненно, сформируют будущее транспорта, требуя тщательного рассмотрения как технологических достижений, так и социальных последствий.