Morálka samořiditelných aut. Koho zabít a koho ne?

S rozmachem vozidel, která se dokáží řídit sama, se o tomhle tématu hovoří stále častěji. Nejde totiž jen o to, že by samořiditelné auto nemělo nabourat, na silnici je totiž potřeba řešit mnohem složitější situace. A tak zase jednou nastupují debaty o umělé inteligenci a pravidlech, která by měla být pro takové případy nastavena. Komplikovanost tohoto tématu nám ukazuje, že vlastně sami nemáme o hodnotách úplně jasno…

Slavné dilema

Nejzákladnějším problémem, od kterého se další morální dilemata v téhle otázce odvíjejí, je takzvané tramvajové dilema. Jedná se o slavný myšlenkový experiment, který nemá jasně správnou odpověď, namísto toho sleduje, kdo má jaké hodnoty. Spočívá v tom, že po kolejích se řítí tramvaj či vlak. Soupravě nefungují brzdy a na kolejích je přivázáno pět lidí. Vy ale shodou okolností stojíte před výhybkou, která může vlak odklonit na vedlejší kolej, kde je připoután jen jeden člověk. Uděláte to?

Pokud ano, budete mít krev jedné lidské bytosti na svých rukou. Pokud však neuděláte nic, zemře pět lidí. Co je lepší?

Jaké auto chcete?

Touto otázkou se zabývá třeba Robin Kopecký z Přírodovědecké fakulty UK. Jeho výzkum nabízel lidem celou řadu scénářů, kterak by se samořiditelné auto mělo chovat, respektive jaký typ auta by si účastníci výzkumu koupili. Výsledky byly smutné, ačkoli nepřekvapivé: pokud by volba byla tajná, většina lidí by pro sebe a své blízké chtěla inteligentní auto pojmenované tank – tedy takové, které upřednostní bezpečí vezené posádky nad čímkoli jiným. Jestliže by však volba byla veřejná, lidi by to donutilo k odsouhlasení modelu nazvaného počítadlo – auto by vyhodnocovalo, jaké chování povede k nejmenším ztrátám na lidských životech a podle toho by se zachovalo. Zase jednou se tedy ukázala naše povrchnost a dvojí morálka…

Lidská samořiditelnost

Němečtí vědci se pokoušeli o něco podobného, tentokrát za využití virtuální reality. Účastníci výzkumu tak nebyli vystaveni pouze hypotetickým otázkám po možném chování, ale sami si vyzkoušeli, co by v praxi dělali. Jednak se potvrdil očekávaný předpoklad, že se snižujícím se časem na možnou reakci je chování nestabilnější a hůře předvídatelné. Prostě když si to nestihnete dostatečně promyslet, můžete zareagovat v zásadě jakkoli; což je dobrý argument pro vytvoření algoritmů, jež by se v situacích ohrožení aktivovaly a nenechávaly všechnu odpovědnost jen na lidském faktoru.

A jak přesně by se tedy auta měla chovat? Podle německých autorů jsou ideální variantou takové algoritmy, jež vycházejí z typického chování skutečných lidí. V takovém případě bychom totiž nemuseli vést spory o tom, co je etičtější, a prostě bychom počítali s tím, že auta se budou chovat jako trochu lepší (ve smyslu rychlosti rozhodování) lidé. Inu, také varianta.

Že se nejedná o téma vzdálené budoucnost, ale aktuální přítomnosti, dokázaly hned dvě úmrtí během letošního jara, v nich autonomní vozidla hrála roli. Jak byste se zachovali vy? Respektive které auto by bylo to pravé pro vás? Nejsou to vpravdě jednoduché otázky…

Text: MS