Парче тиксо заблуждава автопилота на Tesla да вдигне 140 в зона за 55 км/ч


21 фев 2020

Хакери демонстрираха как със съвсем елементарни методи могат да бъдат заблудени камерите на автономните автомобили. Екипът за киберсигурност на McAfee е направил тестове с голям брой автомобили Tesla, произведени през 2016 г., като във всеки един от случаите е успял да заблуди камерата Mobileye EyeQ3 и да накара колата да ускори до 85 вместо 35 мили/ч (137 вместо 56 км/ч).

Как става? С помощта на черна лепенка върху крайпътния знак за ограничение на скоростта, която кара камерата да “вижда” 8 вместо цифрата 3 - 85 вместо 35 мили/ч.

Това е поредното изследване, което показва колко далече са все още изцяло автономните автомобили от справяне с реални ситуации, в които злонамерени лица биха опитали да се възползват от недостатъците на машинния интелект. 

Разбира се, редно е да уточним и това, че Tesla използва тези системи като асистенти за водача и не насърчава опити за шофиране без пълно внимание към случващото се на пътя. Още повече, че системите за пътните знаци все по-често "сверяват" информацията от камерите с тази от навигацията.

Екипът зад опита твърди, че по същия начин само с помощта на лепенки черно тиксо е успял да заблуди коли Tesla да възприемат знак “Стоп” като знак за ограничение на скоростта на 45 мили/ч (72 км/ч). Миналата година подобен експеримент демонстрира как камерите на полуавтономните коли лесно могат да бъдат измамени да влязат в насрещното движение.

Представител на Mobileye, доставчикът на камерите за Tesla, казва, че хардуерът и софтуерът на камерите вече е подобрен и подобно заблуждаване не е възможно при по-новите модели на американската компания. Цитиран от technologyreview.com, говорител на Mobileye изтъква, че тестът с лепенката всъщност би заблудил и истински човек зад волана. Дали това е така, оставяме на вас да прецените, след като разгледате снимките. Освен това от израелската компания изтъкват, че камерите, които предоставят за Tesla, не са предвидени за автономно управление, а само като асистент на шофьора, който винаги носи основната отговорност за скоростта на движение. 

“Автономните автомобилни технологии няма да разчитат само на сензори, но ще бъдат подкрепени от множество допълнителни технологии и данни, като например данни от останалите участници в движението, за да се осигури сигурността на информацията от камерите и сензорите и да се предостави максималното ниво на сигурност.”

Вследствие на теста с лепенката Tesla и Mobileye са направили съответни промени по камерите, така че новите версии на камерите вече не могат да се “хванат” на номера с лепенката. В същото време обаче на пътя има много автомобили Tesla, които използват по-стари версии на хардуера за полуавтономно движение. Те не могат да се подобрят само със софтуерни решения.

“Това, което искаме да покажем е, че както потребителите, така и доставчиците трябва да бъдат нащрек за евентуалните опасности пред автономните автомобили, заявяват “хакерите” от McAfee. Не се опитваме да всяваме паника, нито казваме, че на всяка цена тази кола ще ускори сама или ще се удари в мантинелите.” 

Автомобилите, с които са правени успешни опити за заблуждаване, са Model S и Model X от 2016 г. с доста по-стара от актуалната версия на софтуера за "автопилота", изтъкват собственици на автомобили Tesla.

 

Коментирай

Sending ...