Уязвимость работает с использованием небольших незаметных наклеек, которые заставляют автопилот Model S 75 менять текущую полосу движения, пишет Ars Technica.
Усовершенствованный автопилот Tesla поддерживает множество возможностей, включая центрирование полосы движения, самостоятельную парковку и возможность автоматического изменения полосы движения с подтверждением от водителя. В первую очередь он использует камеры, ультразвуковые датчики и радар для сбора информации об окружающей обстановке, в том числе о ближайших препятствиях, рельефе местности и смене полосы движения. Затем он передает данные на бортовые компьютеры, которые используют машинное обучение, чтобы в режиме реального времени принимать решения о том, как лучше реагировать.
Исследователи из лаборатории Keen Security в Tencent недавно пересмотрели несколько автоматизированных процессов Tesla, чтобы увидеть, как они реагировали на изменения переменных среды. Одним из самых ярких открытий был способ заставить Автопилот направиться на встречное движение. Атака сработала, когда эксперты наклеили три наклейки на дорогу. Эти наклейки были почти невидимы для водителей, но алгоритмы машинного обучения, используемые автопилотом, определяли их как линию, указывающую, что полоса смещается влево. В результате автопилот направился в этом направлении.
"Этот тип атаки прост в развертывании, а материалы легко получить. Tesla использует чисто компьютерное зрение для распознавания полосы движения, и мы обнаружили, что в этом эксперименте по атаке решение о вождении транспортного средства основывается только на результатах распознавания полосы движения с помощью компьютерного зрения. Наши эксперименты доказали, что в этой архитектуре есть риски для безопасности", - подчеркнули авторы работы.
Способность изменять автомобили без водителя, изменяя окружающую среду, не нова. В конце 2017 года исследователи показали, что наклейки, прикрепленные к дорожным знакам, могут вызывать аналогичные проблемы.
Кроме того, исследователям удалось активировать стеклоочиститель автомобиля, показав его камере специальные изображения, а также получить удаленный доступ к бортовому компьютеру и управлять поворотом с помощью игрового геймпада. Стоит отметить, что последняя уязвимость уже устранена в актуальной версии программного обеспечения автомобилей Tesla.