Tesla s autopilotem najížděla do jezera. Zastavit musel řidič
Krátké video, které obletělo síť X, ukazuje Teslu s aktivovaným systémem Full Self-Driving, jak bez zaváhání odbočuje na rampu končící v jezeře. Auto nezpomalí, necouvne, nepřehodnotí situaci. Zastavit musí až řidič. Nejde přitom jen o jednu chybu. Podle majitele se stejná situace opakuje v noci, zatímco za denního světla vůz jede správně.
Video zveřejnil na síti X bývalý inženýr SpaceX Daniel Milligan. Jeho Tesla s aktivovaným systémem autonomního řízení (FSD) zapnula blinkr, odbočila z běžné silnice a najela na betonovou rampu, která končí přímo ve vodě. Vůz zpomalil až poté, co zasáhl řidič. Bez jeho reakce by vůz pravděpodobně skončil v jezeře.
Milligan později uvedl, že nebezpečnou situaci dokázal zopakovat. Klíčový detail? Děje se to po setmění. Ve dne prý auto stejnou rampu ignoruje a pokračuje správně po silnici. I podle dalších majitelů je problém vázaný na světlo, respektive viditelnost.
Na síti X se vedle rozličných emocí objevily i věcnější reakce od uživatelů, kteří systém FSD od Tesly dlouhodobě používají. Jeden z nich upozornil: „Mapy jsou nejslabší článek autonomního řízení. Systém nedokáže zcela samostatně uvažovat, takže je omezený ve chvíli, kdy jsou navigační podklady chybné.“
I další majitel popsal vlastní zkušenost: „Mně se autopilot zastavil uprostřed zaplavené silnice. Nejet do vody chápu, projet ji taky, ale zastavit přímo uprostřed nedávalo smysl.“ Další uživatel uvedl, že jeho vůz zase nedávno sám zamířil do sněhové závěje.
Událost s vjezdem do jezera tak nepůsobí jako ojedinělá historka, ale jako další střípek do mozaiky uživatelských zkušeností s problematickým chováním systému v nestandardních podmínkách.
Tesla svůj systém označuje jako Full Self-Driving, přesto jde stále o asistenci úrovně SAE Level 2. Řidič musí mít ruce na volantu a být připraven okamžitě převzít řízení. V tomto případě systém formálně nehodu nezpůsobil, protože zásah přišel včas.
Přesto je znepokojující, že vozidlo samo vyhodnotilo rampu končící ve vodě jako průjezdnou trasu a bez dalšího ověření po ní pokračovalo. To není drobná odchylka v jízdní stopě, ale zásadní chyba úsudku.
Pokud systém ve dne stejnou situaci zvládá správně, ale v noci opakovaně selhává, nejde o náhodný výkyv. Jde o slabinu konkrétního scénáře, pravděpodobně spojenou s interpretací obrazu nebo kombinací mapových a vizuálních dat při horší viditelnosti. A právě tato konzistence problému dává případu větší váhu než samotné virální video.
Autonomní řízení se rychle vyvíjí, ale podobné incidenty připomínají jeho limity. Dokud musí řidič zachraňovat situaci před vjezdem do jezera, zůstává realita neměnná: odpovědnost i poslední slovo má stále člověk.
Zdroje: Daniel Milligan, The Driven
