Цифровой призрак в машине, фантомный водитель, принимающий решения, идущие вразрез с правилами дорожного движения. Именно такой тревожный образ возникает в связи с продолжающимся расследованием системы Full Self-Driving (FSD) компании Tesla. Национальное управление безопасностью дорожного движения (NHTSA) углубляется в этот вопрос, предоставив Tesla еще пять недель для ответа на всесторонний запрос информации об инцидентах, когда автомобили, оснащенные FSD, предположительно игнорировали сигналы светофора и выезжали на встречную полосу. Речь идет не просто о программных сбоях; это драма с высокими ставками, разворачивающаяся на наших улицах, поднимающая фундаментальные вопросы о безопасности и надежности автомобилей с искусственным интеллектом.

Текущее расследование, начатое в конце прошлого года, знаменует собой еще одну главу в сложных отношениях между Tesla и регулирующими органами. В его основе лежит FSD, система помощи водителю 2-го уровня, которую Tesla позиционирует как способную к полной автономии, хотя водители по-прежнему должны оставаться внимательными и готовыми вмешаться. Однако более 60 жалоб нарисовали тревожную картину: Tesla, работающие под управлением FSD, по-видимому, игнорируют красные сигналы светофора и выезжают на встречную полосу, потенциально подвергая опасности водителей и пешеходов.

Запрос NHTSA является исчерпывающим, требующим подробной разбивки по каждой Tesla, проданной или сданной в аренду в США, с указанием наличия и версии FSD. Агентство также запрашивает совокупные данные об использовании FSD, настоящую сокровищницу информации, которая может выявить закономерности и аномалии в работе системы. Кроме того, Tesla должна предоставить исчерпывающий список жалоб клиентов, отчетов с мест происшествий, отчетов об инцидентах, судебных исков и любых других данных, связанных с предполагаемыми нарушениями FSD правил дорожного движения. По каждому инциденту с аварией Tesla должна предоставить подробную информацию.

Это расследование подчеркивает проблемы, связанные с развертыванием передового ИИ в системах, критически важных для безопасности. FSD опирается на сложную нейронную сеть, тип ИИ, который учится на огромных объемах данных, чтобы делать прогнозы и принимать решения. Однако нейронные сети часто являются "черными ящиками", то есть их внутренняя работа непрозрачна, что затрудняет понимание того, почему они делают определенный выбор. Это отсутствие прозрачности вызывает опасения по поводу подотчетности и предсказуемости, особенно когда на карту поставлены жизни.

"Проблема с этими передовыми системами помощи водителю заключается в обеспечении их способности справляться с бесконечной изменчивостью реальных условий вождения", - объясняет доктор Эмили Картер, профессор этики ИИ в Стэнфордском университете. "Даже при обширном тестировании невозможно предвидеть каждый сценарий. Система должна быть достаточно надежной, чтобы справляться с неожиданными событиями и ставить безопасность превыше всего".

Последствия выходят за рамки Tesla. По мере развития технологии автономного вождения общество должно решать фундаментальные вопросы об ответственности и обязательствах. Кто виноват, когда самоуправляемый автомобиль становится причиной аварии? Производитель? Разработчик программного обеспечения? Владелец? Это сложные юридические и этические дилеммы, требующие тщательного рассмотрения.

Пятинедельная отсрочка, предоставленная Tesla, подчеркивает масштабность поставленной задачи. NHTSA ищет не просто простые ответы; оно стремится к всестороннему пониманию возможностей, ограничений и потенциальных рисков FSD. Исход этого расследования может иметь далеко идущие последствия для будущего автономного вождения, формируя правила и влияя на общественное восприятие этой преобразующей технологии. Поскольку ИИ продолжает проникать в нашу жизнь, пристальное внимание к FSD служит важным напоминанием о необходимости прозрачности, подотчетности и неустанного внимания к безопасности. Дорога впереди вымощена как обещаниями, так и опасностями, и именно регулирующим органам, производителям и обществу в целом предстоит пройти ее ответственно.