Chytré auto musí zachránit řidiče, chodec má smůlu, naznačil vysoký manažer

Etické dilema „koho zabít“ bude zřejmě jednou z klíčových otázek, které rozhodnou o tom, zda automatická auta uspějí a nahradí jednou normální lidmi řízené vozy.

Matematika nebo etika?

Pohledů je mnoho, některé firmy se snaží vytvářet co nejkomplexnější algoritmy, které co nejpřesněji simulují lidské chování. Jiné se už nyní rozhodly, co je pro ně priorita a podle toho pak budou vytvářet umělé inteligence zodpovědné za řízení aut.

„Mohli byste obětovat auto. Mohli byste, ale pak byste stejně nevěděli, jestli ti lidé, které jste původně chtěli zachránit… co se s nimi stane. Ty situace jsou často velmi komplexní, takže musíte zachránit ty, u nichž jste si možností záchrany jistí,“ uvedl v rozhovoru pro časopis Car and Driver Christoph von Hugo, muž, který je u Mercedesu zodpovědný za vývoj systémů podpory řízení. „Když budete vědět, že můžete zachránit alespoň jednu osobu, zachraňte alespoň ji. Zachraňte člověka v autě.“

Algoritmus se neopije

Zní to poměrně radikálně a určitě se najde mnoho kritiků, kteří tento způsob uvažování napadnou. A měli by pravdu – pokud bychom se pohybovali v poloze, kde se řeší lidské reakce na nehody. Jenže počítačem řízené vozy budou schopné reagovat zcela jinými způsoby než lidé, především v tom, že jejich hlavní prioritou, která by měla být nepřeprogramovatelná, je to, aby k nehodě vůbec nemohlo dojít.

Zatímco u lidí existuje celá řada impulzů a chování, které mohou tuto prioritu snadno přepsat (spěch, stres, únava, alkohol apod.), u chytrých automobilů budoucnosti by k takovým situacím vůbec nemělo docházet.

Výše položená morální otázka by se tedy podle Huga vůbec nemusela pokládat – v podstatě se může ukázat, že na ni nikdy ani nebude potřeba odpovídat, věří manažer. „99 procent naší práce spočívá ve snaze, aby se auto do krizových situací hrozících nehodou vůbec nedostalo. A pokud by takové dilema vůbec hrozilo, měl by se mu vůz pokusit všemi silami vyhnout.“

Tak jak?

Je ale otázkou, zda takový směr uvažování vůbec projde. Německo je totiž společně se Spojenými státy natolik progresivní zemí, že už stanovilo tři základní pravidla, jimiž se všechna budoucí automatická auta budou muset řídit:

- Lidské zdraví je důležitější než poškození majetku

- Auto nesmí rozlišovat mezi lidmi na základě jejich věku, pohlaví nebo jiných charakteristik

- Vždy je zodpovědný výrobce

Z tohoto úhlu je zatím plán „zachraň vždy řidiče“ nepřijatelný. Nicméně někteří experti na etiku upozorňují, že tyto německé „svaté zákony“ stejně nepřežijí setkání s realitou. Například pokud auto nezachrání všemi silami těhotnou ženu místo starého muže, bude to reálně znamenat obrovský problém. Lidská etika je zkrátka příliš složitý problém na to, aby ho vyřešil snadný algoritmus.

To ale nebrání Mercedesu, aby nezkoušel testovat nejrůznější modely automatické dopravy. V dubnu už například testoval automatické autobusy pro 14 osob, které by mohly v neustále ucpaných západních metropolích revolucionizovat zastaralé způsoby dopravy.

Text: MK