Zabije vás vaše inteligentní auto? Ano, když to bude považovat za menší zlo!

Auta, která se řídí sama, jsou tak trošku záhadou. Normální řidiči je nechtějí, celá ta myšlenka je víc než pochybná – a jediné, co přinesou, je ztráta obrovského množství pracovních míst. O co méně je chtějí obyčejní lidé, o to víc se na ně těší velké korporace, které se už třesou na to, jak zase vyhodí na dlažbu pár lidí a ušetří náklady. Jenže celá ta legrace má mnohem více důsledků: například to, že nás nutí znovu definovat, co je to „větší dobro“…

Ukazuje se totiž, že automatické řídicí systémy se pravděpodobně budou muset řídit etickým kodexem, který je přiměje zabít vlastního řidiče – pokud to pomůže vyššímu dobru. Problém je, že definice dobra bude plně v rukou počítače a programátorů…

Každopádně to vypadá, že se automatickým autům nevyhneme; a nepopíráme, že přinesou řadu výhod. Další generace se asi budou hodně divit, že jsme nechali řídit auta osmnáctileté kluky, kteří se vrací z diskotéky. Jenže co současný systém nahradí? Asi se budeme ještě divit…

I když se to nezdá, je řízení automobilu velmi složitý etický problém. Řidič, i když si to příliš neuvědomuje, musí neustále provádět důležitá etická rozhodnutí – ne všechny situace se totiž dají vyřešit prostým dodržováním předpisů a pravidel silničního provozu. Profesor filozofie Eric Schwitzgebel se na svém blogu Splintered Mind zamyslel nad některými problémy budoucího světa autonomních automobilů:

„Dobré zákony by měly umožnit výrobcům variabilitu a spotřebitelům právo volby – pochopitelně v rámci nějakých etických rámců. Výrobci by mohli nabídnout pasažérům (vlastně už ne řidičům) celé spektrum možností: Například když bude ve voze dítě, auto to rozpozná a nadřadí jeho bezpečnost nad bezpečnost ostatních. Auta by mohla mít několik módů – od agresivních, kdy bude prioritou rychlost, až po ty ultra-bezpečné nebo dokonce altruistické…"

Ale některé spotřebitelské volby jsou značně eticky rozporuplné. Každý člověk má při řízení vlastní priority a bude jen těžké nařídit počítačům, aby je rozlišovaly nebo dokonce rozpoznávaly. A co když se najdou lidé, kteří si nastaví auta tak, aby preferovali jejich vlastní bezpečnost nad bezpečností ostatních?

Podle všeho se dají v budoucnosti očekávat snahy třeba majitelů kamionů, aby roboti preferovali bezpečnost nákladu před bezpečností chodců. Můžeme se spolehnout na to, že se spousta firem bude dopouštět podvodů ve snaze vydělat a mít vše co nejbezpečnější…

Kdo koho zabije?

Současně se nevyhneme tomu, že preference jednotlivých lidí se budou lišit a auta se budou muset na silnicích domluvit. Jenže problém spočívá v tom, že budeme tyto složité etické problémy nechávat v rukou počítačových programů. Kdo bude mít zodpovědnost v případě nehod končících smrtí? Výrobce auta? Programátor umělé inteligence nebo majitel auta? Kdo ví, rozhodně všechno bude jinak…

Ať už se v budoucnu dopracujeme k jakémukoliv stavu, jedno je jisté: automaty se nikdy neopijí, nikdy nebudou mít špatnou náladu, nebudou za jízdy telefonovat, ani je nerozptýlí krásná motorkářka – ve většině běžných situací by měly být výrazně bezpečnější než lidští řidiči…