Jak zaručit bezpečnost autonomních vozidel

Původní verze z tento příběh se objevil v Časopis Quanta.

Auta bez řidiče a letadla už nejsou věcí budoucnosti. Jen ve městě San Francisco dvě taxislužby společně zaznamenaly 8 milionů mil autonomního řízení do srpna 2023. A ve Spojených státech je registrováno více než 850 000 autonomních vzdušných vozidel neboli dronů – nepočítaje ty, které vlastní armáda.

Existují však oprávněné obavy o bezpečnost. Například během 10měsíčního období, které skončilo v květnu 2022, Národní úřad pro bezpečnost silničního provozu ohlásil téměř 400 nehod, při nichž se podílely automobily, které používaly nějakou formu autonomního řízení. V důsledku těchto nehod zemřelo šest lidí a pět bylo těžce zraněno.

Obvyklý způsob řešení tohoto problému – někdy nazývaný „testování vyčerpáním“ – zahrnuje testování těchto systémů, dokud nebudete přesvědčeni, že jsou bezpečné. Nikdy si ale nemůžete být jisti, že tento proces odhalí všechny potenciální nedostatky. „Lidé provádějí testy, dokud nevyčerpají své zdroje a trpělivost,“ řekl Sayan Mitra, počítačový vědec z University of Illinois, Urbana-Champaign. Samotné testování však nemůže poskytnout záruky.

Mitra a jeho kolegové mohou. Jeho týmu se podařilo prokázat bezpečnost schopností sledování jízdních pruhů pro automobily a přistávacích systémů pro autonomní letadla. Jejich strategie se nyní využívá k přistání dronů na letadlových lodích a Boeing ji letos plánuje otestovat na experimentálním letadle. „Jejich způsob poskytování komplexních bezpečnostních záruk je velmi důležitý,“ řekla Corina Pasareanu, vědecká pracovnice z Carnegie Mellon University a NASA’s Ames Research Center.

Jejich práce zahrnuje garantování výsledků algoritmů strojového učení, které se používají k informování autonomních vozidel. Na vysoké úrovni má mnoho autonomních vozidel dvě složky: systém vnímání a systém řízení. Systém vnímání vám například řekne, jak daleko je vaše auto od středu jízdního pruhu nebo jakým směrem letadlo míří a jaký je jeho úhel vzhledem k horizontu. Systém funguje tak, že dodává nezpracovaná data z kamer a dalších senzorických nástrojů do algoritmů strojového učení založených na neuronových sítích, které znovu vytvářejí prostředí mimo vozidlo.

Tato hodnocení jsou poté odeslána do samostatného systému, řídicího modulu, který rozhoduje, co dělat. Pokud se například objeví nadcházející překážka, rozhodne se, zda sešlápne brzdu nebo ji obejde. Podle Lucy Carlone, docenta na Massachusetts Institute of Technology, zatímco řídicí modul spoléhá na dobře zavedenou technologii, „rozhoduje se na základě výsledků vnímání a neexistuje žádná záruka, že tyto výsledky jsou správné“.

Aby byla zajištěna záruka bezpečnosti, tým Mitra pracoval na zajištění spolehlivosti systému vnímání vozidla. Nejprve předpokládali, že je možné zaručit bezpečnost, když je k dispozici dokonalé ztvárnění vnějšího světa. Poté určili, kolik chyb vnáší systém vnímání do svého znovuvytvoření okolí vozidla.

Klíčem k této strategii je kvantifikovat příslušné nejistoty, známé jako chybové pásmo – neboli „známé neznámé“, jak řekl Mitra. Tento výpočet pochází z toho, co on a jeho tým nazývají smlouvou o vnímání. V softwarovém inženýrství je smlouva závazek, že pro daný vstup do počítačového programu bude výstup spadat do určeného rozsahu. Zjistit tento rozsah není snadné. Jak přesné jsou senzory auta? Kolik mlhy, deště nebo slunečního záření snese dron? Ale pokud dokážete udržet vozidlo ve stanoveném rozsahu nejistoty a pokud je určení tohoto rozsahu dostatečně přesné, tým Mitra dokázal, že můžete zajistit jeho bezpečnost.