Jsou autonomní vozidla skutečně bezpečnější? Zmátne je i drobnost

Autonomní vozidla jsou v poslední době stále častěji skloňovaným tématem, kterým se zabývají všechny největší automobilky světa. Samořídící auta mají zvýšit bezpečnost na silnicích, jenže stále je před nimi dlouhý vývoj, protože v dnešní podobě jsou zatím spíše hrozbou než krokem k větší bezpečnosti. Dokazuje to i nedávný výzkum americké univerzity ve Washingtonu.

V souvislosti s autonomními vozy se často hovoří o hrozbě hackerského útoku, který by dané automobily „zblbnul“ a dokázal je na dálku ovládnout. Jenže výzkumníci univerzity Washington dokázali, že k takovému pomatení auta není potřeba složitý virus, ale obyčejná samolepka nalepená na dopravní značce. Pokud je vhodně umístěna, systémy danou značku špatně vyhodnotí a zamění ji s jinou.

Výzkumníci vyzkoušeli několik možností. Na značku Stop! přilepili několik černých a bílých obdélníčků, případně ji doplnili o nápis hate a love (nenávist, láska), což mělo připomínat graffiti, případně dílo vandalů. Výzkumníci rovněž zkusili přelepit značku jiným obrázkem, který sice na první pohled jako dopravní značka také vypadal, díky „rozkostičkování“ na pixely ale měl auta také zmást.

Technika autonomních vozidel: Boj s časem i financemi. Kdy bude konečně dostupnější?

A také, že takový obrázek zmátl, stejně jako menší samolepky. Stačilo stopku přelepit několika obdélníčky a autonomní systémy si ji spletly se značkou omezující rychlost na 45 mph (72 km/h) hned v 67 % případů. Nápisy love a hate na stopce zmátly systémy v 73 % případů a u přelepení značky dokonce systémy chybovaly ve všech případech. Ve výzkumu přitom byly značky sledovány z různých úhlů a různé vzdálenosti.

Přestože výzkumníci neuvedli, systémy kterých automobilek při výzkumu používali, své výsledky vysvětlují tím, že většina dnešních autonomních systémů pro čtení značek využívají detektor objektu a klasifikátor. Zatímco první danou značku „vidí,“ druhý interpretuje, co značka vlastně znamená. Klasifikátor přitom lze snadno zmást, stačí, když k němu hacker získá přístup a pomocí algoritmu a fotografie konkrétní dopravní značky vytvoří obrázek, který automobil oklame.

Hacker přitom vlastně využije zranitelnost neuronové sítě, která se díky kamerám naučila detailně rozpoznat značky, semafory a okolní vozidla v provozu. Taková síť je totiž citlivá na zákeřné odchylky, respektive malé, přesně zacílené změny, které ve výsledku mohou znamenat nečekané chování systému při nebezpečné situaci. Zatímco řidič by v tomto konkrétním případě danou značku považoval jen za zničenou a stále by se podle ní orientoval, počítač ji rozpoznal chybně.

Budoucnost aut na vlastní kůži. Naučí se sama parkovat a budou jim chybět reproduktory!

Přestože takový hackerský útok vypadá jednoduše a zároveň velice nebezpečně, podle odborníků existuje řešení, jak si s ním autonomní systémy mohou poradit. Jen bude třeba zapracovat do autonomních systémů kontextové situace, třeba že omezení rychlosti na 70 km/h je v zastavěné, rodinné čtvrti nesmysl, stejně jako Stopka uprostřed dálnice. Navíc autonomní systémy mají využívat data z více senzorů, a tak hackeři budou muset zmást více „očí.“

Tým z univerzity Washington každopádně chce pokračovat v tomto výzkumu, přičemž se zaměří i na další dopravní značky. Dosavadní zjištěná data nicméně dokazují, že autonomní vozidla ještě nejsou tak blízko, jak se někteří výrobci snaží tvrdit. Stále je potřeba dořešit spoustu problémů.