Дурна машина. Як хакери зламали автопілот Tesla
Кіберексперти виявили лазівку, яка дозволяє обдурити систему автопілотування Tesla
Фахівці з цифрового захисту дізналися, в якій ситуації радари автопілота електрокарів Tesla можуть неправильно зчитувати дорожню інформацію.
Е лектрокари Tesla відомі своїм незвичайним програмним забезпеченням.
Ці машини можуть «танцювати», імітувати звуки газів з кишечника, охороняти ваших домашніх тварин, і навіть дозволяють пограти у відеоігри.
Кілька тижнів тому в компанії заявили, що хочуть за замовчуванням встановити в бортовий комп’ютер Tesla популярну гру Відьмак.
Однак, такі «фішки» іноді можуть виявитися проблемою. Особливо це стосується системи автопілота каліфорнійських електрокарів.
Технологію автономного водіння Tesla прийнято вважати однією з найбільш високоефективних, але різні радари, датчики, камери і сенсори як і раніше недосконалі, і можуть призвести до неправильної роботи ПЗ.
Нещодавно це довели кіберексперти з компанії McAfee, які знайшли лазівку в системі автопілота Tesla. Така помилка може призвести до порушення правил дорожнього руху.
Що зробили розробники?
Фахівці експериментували з камерою Tesla MobilEye EyeQ3, яка, зокрема, відповідає за зчитування дорожніх знаків.
Наприклад, камера помічає знак з обмеженням швидкості, передає ці дані в головний блок управління, і система адаптивного круїз-контролю автоматично уповільнює автомобіль.
У McAfee виявили, що якщо до знаку обмеження швидкості в 35 миль додати одну невелику смужку за допомогою сірої клейкої стрічки, автопілот Tesla зчитує його неправильно.
Зовні знак змінюють не сильно, і звичайна людина може навіть не помітити ніякої різниці. Але система автопілота зчитує трійку як вісімку, і автоматично підвищує швидкість.
Експерти зняли на відео, як на приладовій панелі Tesla замість знака обмеження в 35 миль з’являється знак 85 миль, і авто прискорюється.
Повідомляється, що в експерименті взяли участь електрокари Model X і Model S 2016 року.
У минулому році фахівці також змогли обдурити автопілот Tesla, і змусили електрокар повернути в неправильну смугу руху, зманіпулювавши алгоритмами машинного навчання.
«Ми вивчаємо це заздалегідь, тому що інтелектуальні системи в майбутньому будуть виконувати завдання, які зараз вирішуються людьми. Якщо ми не будемо дуже завбачливі щодо вразливостей і проектування таких систем, у нас буде розвиватися транспортний парк взаємопов'язаних комп’ютерів, які стануть одними з найпривабливіших для сторонніх атак», — пишуть автори експерименту.
У Tesla поки що не відреагували на заяви фахівців McAfee, але сказали, що знають про це і не збираються виправляти помилку в тому поколінні ПЗ електрокарів.
Представники компанії Mobileye, яка виробляє камери для Tesla, сказали, що такий знак може ввести в оману навіть людей, і система автопілота враховує й інші дані, включно з інформацією з цифрових карт.
У нових версіях автомобілів Tesla з камерами MobilEye EyeQ3 система зчитує безпомилково навіть підроблений знак.
Проте, у різних систем автопілота залишається багато інших проблем.
Самостійне авто
Як раніше писало НВ, допоміжна система управління авто у Tesla називається Autopilot, а не Advanced driver-assistance, як у авто інших марок.
Насправді ж, це не повноцінний автопілот, і він не дозволяє водіям повністю відволікатися від керування.
Незважаючи на це, багато власників електрокарів Tesla повністю довіряють керування машиною системі Autopilot, знімають веселі відео за кермом, а деяких навіть помітили сплячими в авто на шосе.
Надмірна довіра до автопілота Tesla призвела до кількох смертельним ДТП за останні роки, через які керівництво компанії зазнала серйозних репутаційних втрат.
«Автомобілі з другим і третім рівнем автопілота передбачають, що водій бере участь в управлінні. Такі авто лише розділяють деякі функції водія та описуються як напівавтономні… Ви несете відповідальність за керування авто, незалежно від того, скільки автоматизації може бути на рівні 2 або рівні 3… Поки що не існує авто з п’ятим рівнем автономності, і ми не знаємо, чи вдасться цього досягти взагалі», — говорив професор Південно-Каліфорнійського і Каліфорнійського університетів у Лос-Анджелесі, експерт з ШІ і автономного водіння Ленс Еліот.
І хоч системи штучного інтелекту в автомобілі можуть дуже швидко обробляти величезну кількість даних, сигнал супутникової навігації іноді запізнюється, найкращі камери і радари не завжди вловлюють розмітку, помічають темні об'єкти, правильно оцінюють відстань до перешкод тощо
До речі, через цю проблему, радари в деяких автомобілях не помічають темношкірих пішоходів.
З огляду на наявні проблеми з технологіями безпілотного управління, на початку 2020-го сенатор зі штату Массачусетс Едвард Маркі закликав Tesla перейменувати систему Autopilot.
Політик порадив змінити назву системи і додати в авто «інструменти моніторингу водія», які будуть контролювати, щоб він не заснув.
У Tesla відповіли, що на ринку не існує подібних ефективних систем моніторингу водія, і зловживання технологією Autopilot не є вадою Tesla.
