I vy zemřete rukou robota. Vědci popsali možnou příčinu smrti blízké budoucnosti

Tato budoucnost je brutální, depresivní a maximálně pravděpodobná: Vojenská technologická korporace vyrobí droboučkého drona, který bezchybně, bez emocí a zcela precizně zabíjí na rozkaz.

Dron zabiják

Ale když se tato technologie dostane do špatných rukou, není v bezpečí nikdo – politici umírají za denního světla, aktivisté a studenti přicházejí o hlavu, jakmile je napadne protestovat. Tento krátký film je dalším pokusem vědců varovat svět před problémem, na který nejsme a zřejmě nikdy nebudeme úplně připravení...

Skupina vědců, aktivistů a expertů na umělé inteligence varuje, že je třeba okamžitě přijmout zákaz autonomních zbraní, které jsou schopné samy najít, zaměřit a zabít cíl, aniž by k tomu potřebovaly lidskou pomoc nebo dohled. Aktivisté pokládají problém za tak vážný, že je podle nich jediným řešením okamžitý a absolutní zákaz výzkumu, vývoje i používání autonomních zbraní.

Film, který je fikcí jen z poloviny

Film aktivisté představili na akci Organizace spojených národů věnované právě zabijáckým robotům.

Podle Stuarta Russela, který se věnuje výzkumu umělých inteligencí na University of California Berkeley, by používání těchto zbraní představovalo obrovskou hrozbu nejen pro bezpečnost, ale také pro svobodu. Možnost zabránit jejich nasazení se podle Russela stále zmenšuje.

Technologie ve výše zmíněném filmu už vlastně existuje dnes, jen ne dohromady, nýbrž v řadě oddělených robotů – doposud ji tímto způsobem nikdo neintegroval. „Tohle není žádná science-fiction. Ve skutečnosti je tohle mnohem snadněji a rychleji dostupné než plně autonomní automobily vhodné do hromadné dopravy, ty vyžadují mnohem přísnější standardy,“ uvedl Russell

Tady nabízíme zmiňovaný film

Problém je jako vždy v penězích. Armády celého světa jsou totiž těmi nejštědřejšími plátci za výzkum umělých inteligencí. Tyto technologie jim nabízejí spoustu výhod: levnější provoz, menší lidské ztráty, přesnější navigaci i lepší identifikaci cílů. Chcete příklad z praxe? Pokud se umělá inteligence specializovaná na detekci lidí připojí na kameru integrovanou s automatickou zbraní, je schopná taková zbraň sama odhalit ukrývajícího se člověka mnohem lépe než sebelepší lidský pozorovatel.

Právě takový přístroj má již několik let ve výzbroji jihokorejská armáda – automatizované kulometné věže analyzují obsah kamer a člověka odhalí a zaměří až na 4 kilometry. A teď si představte, že by se taková zbraň dostala třeba do rukou vlády nějakého totalitního režimu; v České republice máme dost zkušeností s vládou, která byla ochotná oplotit si zem a zabíjet vlastní občany, kteří ji chtěli opustit...

Roboti už jdou

Vojenské drony už umí autonomně létat dávno, nedávno se to naučily i komerčně prodávané přístroje (minimálně pro oblast autonomního návratu, když nad nimi lidský pilot ztratí kontrolu). Nyní však již ale mají armády doslova na dosah technologie, které budou stejným způsobem autonomně zabíjet – aniž by zatěžovaly čas nebo svědomí lidského operátora. Jejich masivnímu používání dnes brání více obavy morální a etické než čistě technologické problémy.

VIDEO: Vojenský mikro dron Black Hornet

Podle Russella a dalších vědců by rozvoj takových zbraní vedl k výraznému poklesu mezinárodní, národní, lokální i osobní bezpečnosti. Stejné argumenty použila generace vědců, jimž se podařilo přesvědčit americké prezidenty Lyndona Johnsona a Richarda Nixona, aby se USA vzdaly svých biologických zbraní a snažily se jejich používání zakázat i na celoplanetárním měřítku. Zní to téměř jako zázrak, ale k výraznějšímu porušení těchto zásad od té doby nedošlo.

Je ovšem otázkou, zda by se podařilo prosadit podobný zákaz také u kybernetických zbraní, od těch biologických se v mnoha ohledech liší. Zejména v ceně: k výrobě biologické zbraně potřebujeme obří laboratoř plnou špičkové techniky a nestabilních biologických vzorků – k vývoji zabijácké umělé inteligence vám stačí počítač a pár talentovaných programátorů.

Loni v srpnu podepsalo petici s přáním zákazu takových zbraní přes sto špičkových expertů na umělé inteligence, jsou mezi nimi i taková jména jako Elon Musk nebo Mustafa Suleyman, zakladatel oddělení Deep Mind v Google. Pro zákaz zabijáckých robotů se do poloviny listopadu vyjádřilo kladně už i 19 zemí celého světa.

Text: MK