Diskuse: Autonomní jízda podle Mercedesu: Raději zabít chodce, než ohrozit posádku

Kdyby si člověk před jízdou mohl rozmyslet, jestli zajede chodce nebo sebe pustí pod Tatru, nevyjede... To je právě problém celého toho nápadu autonomního řízení. Jezdit není PC hra, ale s každým kilometrem riziko pro řidiče i ostatní. Autonomní řízení dosáhne jen toho, že se sníží rychlost ve městech na třicet, pak bude zcela bez problémů, ale mimo města bude mrtvol stále stejně.

Tak to jsem sobec.

Rovnako ako ja, ked sa mi niekto ocitne pred autom, kto si nevazi vlastny zivot a chodi cez cestu naslepo ako ko..t, preco by som mal koli nemu ohrozit moju rodinu? Normalne plne brzdy a volant rovno!

Přesně tak!!!! Za mě 1. MB

Problém je, že to, co bych udělal, tam vůbec není, co jsem koukal. Ani nevím, jestli a kdo zemře. Lidi venku neznám a i kdybych znal, nemám čas nijak vážit, čí život má vyšší hodnotu, i kdybych se do něčeho takového vůbec chtěl pouštět.

Věřím v pud sebezáchovy, takže pochybuji, že bych se obětoval (obzvláště, kdybych neměl čas přemýšlet). Když se * na lidi, tak první věc je je upozornit, aby vypadli z cesty (když už jsou tak hloupí, že nesledují dění okolo). Dále se pokusím auto zpomalit (ať už budu brzdit motorem, nebo to o něco vhodného opřu, na to je však potřeba čas). A ve městě bych možná byl ochoten to risknout a auto odepsat například nárazem do sloupu (ale asi bych opět potřeboval čas) - obzvláště po brzdění motorem. Samozřejmě, že by mohl přecházet někdo hluchý, nebo troubení nemusel slyšet přes sluchátka, prostě smůla.

PS: ří.tit se je zřejmě nevhodné slovo. :-)

no ono to neni o tom, co by jsi udelal ty, ale jak si myslis ze by se melo autonomni auto zachovat, pokud by jsi v nem sedel. A tam uz muzou do hry vstoupit ruzne promenne, ktere to auto bude schopno pouzit ;)

Ale to, jak si myslím, že by se mělo zachovat, se přeci odvíjí od toho, co bych udělal já. Já bych si nevybíral mezi tím, jestli zabiji čtyři tyhle lidi, nebo tři tamty lidi. Já vrazím do klaksonu, možná tam narvu jedničku, možná to opřu o tu bariéru podél silnice a nakonec to možná naperu do sloupu. Když všechno půjde dobře, lidé stihnou uskočit a já projedu možná brzdíc motorem a budu mít víc prostoru na řešení problému. A když to nevyjde a někdo zemře, tak holt smůla; kdo to bude, bude spíš otázkou náhody. I kdybych to vzal přímo do té bariéry, za daných podmínek bych prostě nečekal, že zemřu (riziko tam samozřejmě je; může tě zabít něco, co bys měl přežít) a tedy bych to mohl risknout.

Že by auto identifikovalo lidi na přechodu, stáhlo si jejich životopisy a rozhodlo se, koho nejlépe zabít... takovou techniku nechci. Radši to nechat na "osudu," než takhle chladně kalkulovat se životem a smrtí.

Prohlédl jsem si několik situací, které tam mají, a ani jedna možnost se ani nepřiblížila tomu, co by podle mne byla správná reakce. A jak jsem napsal, kdyby na to přišlo (věřil bych, že určitá akce s nepřijatelně vysokou pravděpodobností povede k mé smrti), věřím v pud sebezáchovy, ať vezu odsouzené zločince, nebo dalšího Einsteina, a na přechodu jsou důchodci, nebo celá školka andílků. Neříkám, co je správné (z čistě filosofického hlediska), ani že bych se s tím dokázal snadno vyrovnat, ale nenamlouvám si, že bych se obětoval. Pokud to nejsou mí potomci, tak takové chování není z evolučního hlediska úspěšné. Proto nemohu odsoudit člověka, který by vybral sebe, a mohu říct, že bych si nekoupil auto, kdybych věděl, že by mě snad v takové situaci obětovalo. Oni to však staví na tom, kdo ti lidé jsou, tedy jakou mají hodnotu, a to je mi celkem jedno (pokud to není rodina).

Souhlasím, že kalkulovat, zda rozmetat hubené lu*** nebo tlusté babičky mi přišlo trochu...zvrhlé.

A jestli babičku nebo dítě? Ale je to divná debata, uznávám.

:yes: :yes: :yes:

cely problem je v tom ze ty resp. iny clovek kona reflexivne...inak povedane nevyhodnoti skoro nic.. oproti tomu autonomny system za ten cas spocita kludne vsetky moznosti ..preto je to "moralna dilema" ako sa ma zachovat.

Já to chápu. Chybí mi tam však ty úkony, které bych udělal před tím, než bych přijal, že někdo zemře. Ty mohou významně ovlivnit mé možnosti. A jak jsem řekl, já si vůbec nechci vybírat na základě těhle informací (řekněme počet, maximálně ještě věk, velmi zjednodušeně - důchodci prostě mají smůlu, ale dál bych se zdráhal jít). Neudělal bych tedy stroj, který by se tak rozhodoval. Předpokládám, že bych se snažil trefit tam, kde si myslím, že se nejspíš stihne udělat díra, i když se to může zvrtnout a naopak vyústit v úmrtí většího množství lidí. Tedy pokud neztuhnu a vůbec něco zvládnu udělat. V první řadě bych čekal, že stihnou vypadnout, pokud bych začal troubit. A jak jsem napsal, pokud tam někdo zůstane, protože mě například z nějakého důvodu neslyšel, tak měl holt smůlu. Udělal bych tedy stroj tak, aby se snažil o podobný proces. S pevnými překážkami se pak počítá lépe než s těmi měkkými, pohyblivými. Plus řízená kolize, ale žádné obětování posádky - pokud však vyjde, že je to relativně bezpečné, lepší mačkat plechy než lámat kosti (i když by auto nemuselo souhlasit :-) ).

Počítač pak těžko odhadne, jak se zachová neřízený element zvaný člověk. Ztuhne, uskočí, kterým směrem atd. Maximálně by na to mohl hodit statistiku, kdyby měl dobrá data o tom, jak se lidé v dané situaci chovají.

a jak myslis, ze to je v letadle?

Navzdory vývoju auto pilotov za posledných 50 rokov sa príčiny leteckých neštastí moc nemenia [odkaz]
A vieš prečo je stále taký vysoký podiel chýb pilota? Lebo riadiace programy sú tak komplexné, že nie je reálne aby piloti poznali každú vychytávku a potom zo strojom často bojujú, prípadne obchádzajú drobné chyby v komplexnom systéme, ktoré na seba môžu nabaliť väčší problém.

vsimni si poklesu fatálních nehod i obeti při nasobnem rustu letecke dopravy za posledních 50 roku

to plne odevzdani se elektronice mam na mysli fly-by-wire, kdy ses odkazanej jen na nuly a jednicky

U FBW můžeš být odkázaný na elektroniku jako takovou (i samotné ovládání řídících ploch může být elektrické), nicméně závislý v tom smyslu, jako jsou piloti některých vojenských letadel, kdy člověk není schopen to letadlo bezpečně pilotovat a potřebuje pomoc počítače pro udržení stability, nejsi. Přinejhorším přijdeš o ochranu a budeš mít přímou kontrolu, přičemž to letadlo je stabilní a dá se pilotovat. Některá letadla měla pak mechanickou zálohu (pro lepší přijetí zákazníky), nicméně řídit letadlo tímhle způsobem může být dost náročné a pilot toho nemusí být schopen. A postupně to mizelo. Protože jsou ta letadla hodně závislá na elektronice, mají hodně záloh a kompletní selhání je hodně nepravděpodobné (mám takový pocit, že k němu u dopravního letadla ani nikdy nedošlo).

Hydraulika také není nesmrtelná. Můžeš mít několik okruhů a přijít o všechny najednou (a to se už stalo).

Autopilot v letadle nelze srovnávat s autonomním řízením v automobilu. Zrovna tak nelze srovnávat operační podmínky provozu v atmosféře s těmi na silnici... :-!

Ano. Autopilot má blíž "hloupému" (obyčejnému) tempomatu.

Počítače nejsou v letadlech pro řešení problémů, ani pro plánování. Počítač nesleduje počasí a neplánuje, jak se mu nejlépe vyhnout. Ani neinterpretuje varování. Vybavuji si jeden případ, kdy piloti dostávali zdánlivě nesouvisející varování (konzultovali to i s technikem na zemi) a kapitán ze staré školy se rozhodl, že počítači prostě straší a hlásí nesmysly. Vyčerpal veškeré palivo nad Atlantikem a naštěstí se mu povedlo tak tak doplachtit na Azory.

Pilot samozřejmě má znát systémy skrz naskrz. Problém je, že si nemůžeš dát pauzu a vyspat se na to. Určitě jsi byl v situaci, kdy jsi prostě problém nemohl vyřešit (vůbec jsi ho nedokázal pochopit a pojmout) a druhý den to šlo samo. Lidé jsou dobří v řešení problémů, ale nejsme tak konzistentní. A nikdy nevíš, v jakém stavu na problém narazíš.

Souhlasím, jednoduše vysvětleno, ale co tedy bude dělat autonomní řízení? Jde nad rámec autopilota, chce nás tahat po městě, kde je mnohem větší cvrkot než v nebesích... Myslím že tempomat hlídající odstup stačí, vše další bude jen opruz. Divná doba nás čeká, divná.

U letadel je největší problém, že nemůžeš zastavit. Takže si musíš být schopen poradit s problémy. Auta se pohybují v mnohem nevyzpytatelnějším prostředí náročném na senzory a zpracování dat, ale když na to přijde, během několika desítek až stovek metrů může auto stát.

Situácia z letectva, ktorú popisuješ ale bola trošku iný problém. Skúsený bývalý vojenský pilot proste vyhodnotil tie chybové hlásenia o nedostatku paliva ako chybu senzorov, pretože si bol vedomý že natankovali dostatočné množstvo paliva aj s rezervou. Nemali cestou nejaké zvýšené nároky na palivo, čiže logicky mi to palivo nemôže chýbať, musí byť chyba v stroji. Nakoniec uprostred atlantiku, veľa iných možností nemal a nakoniec cestujúci určite boli šťastní, že mali skúseného pilota, ktorý dokázal doplachtiť a pristáť aj s veľkým dopravným lietadlom. Z môjho povedzme laického sledovania vyšetrovaní leteckých havárií mi vychádza to, že ľudia v kokpitoch sa priveľmi spoliehajú na automatické systémy a v prípade ich zlyhania nie sú schopní prevziať kontrolu a vyriešiť daný problém, česť výnimkám.

Pointa byla, že počítače nic takového neřeší, tedy je pořád dost prostoru pro to, aby člověk situaci špatně vyhodnotil a udělal chybu. Mimochodem, tenhle incident byl také způsobený člověkem - na ten motor nainstalovali nekompatibilní komponentu.

Nevím, jestli je bývalý vojenský pilot. Nicméně z mého pohledu nedostatečně monitorovali stav paliva. Ve chvíli, kdy se jim objevilo varování, že mají na jedné straně významně více paliva než na druhé, jim palivo unikalo už zhruba hodinu. Spotřebu tou dobou měli myslím čtyřikrát větší, než měli mít. Ve chvíli, kdy se pořádně podívali na palivo, jim ho chybělo tolik, že tomu nemohli uvěřit (měli mít o více než polovinu víc, pokud si dobře vzpomínám). Předtím si všimli podivných parametrů oleje v jednom z motorů, které nedokázali vysvětlit, což připsali chybě počítače. Tohle tedy také připsali chybě počítače. Věřili, že palivo ve skutečnosti mají a počítači šibe, i po té, co jim zhasnul jeden z motorů.

Jediné štěstí bylo, že ve chvíli, kdy počítačem odhadované množství paliva v cíli spadlo pod vyžadované minimum, to otočili na Azory, byť byli přesvědčeni, že jde jen o chybu počítače.

Další problém byl, že se nedrželi standardních postupů. Protože se jim zdálo, že ten jejich je lepší. Oni se o palivo připravili sami. Pokud si dobře vzpomínám, dělali simulace různých scénářů (dodržení různých standardních postupů) a ve všech případech letadlo doletělo na Azory s alespoň jedním fungujícím motorem.

Chápu, že si nedokázali vysvětlit podivné parametry oleje jednoho z motorů. Vysvětlení bylo jednoduché (palivo unikalo až za tepelným výměníkem mezi olejem a palivem, ohromný průtok studeného paliva tak ochladil olej mnohem víc, než bylo normální, což vedlo k nárůstu tlaku), ale je to pochopitelné. Chápu i to, že můžou selhat senzory. Nechápu však, jaká že chyba počítače by měla způsobit něco takového.

Osobně bych nedovolil člověku, který chová nedůvěru k počítačům, aby takové letadlo pilotoval. Ve chvíli, kdy tomu počítači přestaneš věřit, tak s celkem vysokou pravděpodobností zemřeš. Nemusí ti to, co ti ukazuje, dávat smysl, ale to ještě neznamená, že se zbláznil. Je pravděpodobnější, že se děje něco, na co nejsi trénovaný.

Jinak samotné plachtění a přistání bylo bravurní. I když letadlo celkem poškodil a letiště bylo několik dní uzavřené. Nic to však nezmění na tom, že tu situaci sám zhoršil a nepředvedl se, pokud jde o řešení problémů (efektivně plachtit dokáže i počítač). Dnes musí být pilot možná víc inženýrem než pilotem.

:yes: takže o tom vieš viac ako ja, zase som sa niečo nové dozvedel, ku mne sa dostalo tých informácií menej, alebo som niečo doplietol :yes:

Není problém najít zprávy příslušných úřadů a bývají v angličtině, normálně tedy netřeba ovládat tolik jazyků (v tomhle případě Portugalštinu). Bývají však delší. Například závěrečná zpráva BEA k AF447 měla snad 700 stran, pokud si dobře vzpomínám (ano, extrémní příklad).

Když se tu bavíme o automatizaci, to varování by se jim objevilo dřív, to letadlo má však automatický systém, který přečerpává palivo z vyvažovací nádrže do vnitřních na křídlech. Nevyžaduje od pilotů nic, jen generuje zprávy o své činnosti. Ten se snažil vyrovnat nerovnováhu a tím to oddaloval. Kontrola paliva patří k činnostem pilotů, takže se počítalo s tím, že na únik přijdou a poradí si s ním. Ani systém, který počítal palivo v cíli, nedokázal započítat únik, jinak by jim ukazoval záporné hodnoty.

U postupů pak šlo o to, že se jim nechtělo provádět postup při úniku paliva, protože nevěděli, odkud jim uniká, a ta univerzální procedura vyžadovala klesnout (vypnou se palivová čerpadla a palivo do motorů teče jen vlastní tíhou - pokud uniká u motoru, nebude to stačit; pokud poběží normálně dál, uniká z nádrží). Zároveň provedli postup pro nerovnováhu z paměti. Tohle je něco, s čím se normálně nesetkáš. Piloti se s tím však při tréninku setkávají, protože trénují let bez jednoho motoru (palivo se tedy nespotřebovává rovnoměrně; u třímotorových se pak samozřejmě nevypíná prostřední, v těhle cvičeních jde o zvládnutí asymetrie tahu). Kdyby si příručku otevřeli, jak měli, tak by tam měli varování, že to nemají dělat, pokud mají podezření na únik paliva. Oni začali krmit oba motory z jedné nádrže. To při úniku paliva nechceš (když nevíš, kde je). Proto na Azory plachtili, místo aby letěli na jeden motor.

Ještě k senzorům. Nádrž dopravního letadla by jich měla mít hodně. Nevzpomenu si na konkrétní čísla, ale co si vzpomínám, mělo by se to pohybovat v desítkách. Díky tomu dokáže počítač určit množství paliva velmi přesně. Také dokáže poznat vadný senzor. A pokud by odešel počítač, je hodně nepravděpodobné, že by se udávané množství krásně, konzistentně zmenšovalo (tedy řekněme o desetinu tuny každých dvacet vteřin). Nebo že by to přesně reflektovalo, z které nádrže krmíš oba motory (což by sedalo použít k ověření, že je problém u motoru, aniž by museli klesat, když už tedy vymýšlet svůj vlastní postup). Nakonec palivo bude sledovat jiný počítač, než který sleduje provozní parametry motoru. A u oleje se bavíme o teplotě, tlaku a množství, tedy minimálně třech různých senzorech (přičemž růst tlaku při poklesu teploty dává smysl).

PS: Něco v tomto příspěvku prý bylo vyhodnoceno jako spam. >:D

:yes: :yes: :yes: Vidím, že si z odboru a moje doterajšie informácie boli značne osekané a priznám sa, že študovať podrobnú správu z vyšetrovania ma ani nenapadlo. Vďaka za rozšírenie obzorov. :yes: :yes: :yes:

No ale co když autu třeba selžou brzdy? Nebo kamery? Nebo jiná čidla? Jako chodec mám zase morální právo ve zdraví přejít po přechodu a nerad bych skončil na tisíc kousků jen kvůli tomu, že řidič za volantem chrápe a řídící jednotka mě "obětuje".

Pokud mi někdo svou chybou skočí pod auto, tak souhlasím, že auto má chránit v prvé řadě posádku. Na druhou stranu auto těžko pozná, jestli tam skončili svou chybou nebo došlo k poruše auta. V druhém případě se nejedná o ochranu posádku ale přinejmenším o usmrcení z nedbalosti. Jsem zvědav, kdo z MB by si za to šel sednout..

Nicméně pokud bych já jako řidič měl tu volbu, také budu v prvé řadě chránit sebe a svou rodinu. Takže pokud se počítač rozhodne stejně jako by se rozhodl řidič, asi těžko mu to vyčítat. Jen to bude mít tu výhodu, že za to rozhodnutí nepůjdu k soudu já, ale někdo jiný.. ale kdo?

Rozumný chodec počká, až auto zastaví nebo když je tak daleko, že může bezpečně přejít. To platí dnes, i v kterékoli jiné době. Jestli není rozumný, nezachrání ho nikdo a nic.

Tak by sis jako chodec měl uvědomovat, že jsi to ty, kdo je na konci potravního řetězce. Že jsem v právu, ještě neznamená, že je rozumné se na to spoléhat.

Jinak o nedbalost by šlo pouze v případě, že někdo skutečně něco zanedbal. Což nemusel. Že při následné nehodě někdo zemřel... lidé normálně nemohou vybírat, kdo zemře (kdy by bylo dané, že někdo zemřít musí) a zákony tohle nijak neřeší (pokud vím). Ty tu situaci nesmíš vytvořit, ale pokud se do ní dostaneš, jak může soud hodnotit tvé rozhodnutí? Umíš si představit, že by odsoudili člověka, který vběhl do hořícího domu, protože vynesl ven starou paní místo dítěte?

A nemyslím si, že je správné jít po výrobci, pokud je dané odvětví regulované a nějaká autorita schvaluje výrobky. To schválení by mělo mít váhu. Pokud se tedy neukáže, že výrobce autoritu obelhal.

Ak bez varovania zlyhajú brzdy, tak ani vodič moc nevyrieši. Ostanych prípadoch by to mala rozoznať diagnostika a auto zastaviť/znemožniť pokračovať na autopilota.