Roboti začnou válčit do 15 let, plánuje Pentagon

Minulý týden odstupující americký ministr obrany Chuck Hegel oznámil vznik ambiciózního programu Defense Innovation Iniciative.

Ten by dle nejoptimističtějších představ měl do "tří až pěti let" přijít s nápady na dokonalé vojenské využití nových technologií od 3D tisku po robotiku a umělou inteligenci. Ne nadarmo se komentáře shodují, že nejlepším příměrem k programu je vojenský systém Skynet ze série Terminátor (optimálně samozřejmě před tím, než se jak vyhubit lidstvo). Pokud přitom vše podle plánů, do patnácti let by bojiště mohla podstoupit největší revoluci od objevu střelného prachu – většina přímých bojových operací by totiž mohla být plně automatizována.

Vize pro příští generaci

Celá iniciativa je poháněná obavou, že Spojené státy přicházejí o svou vojenskou dominanci. I konkurenti Ameriky, především Čína, totiž investují desítky miliard do vývoje pokročilých stíhacích letounů a různých forem bezpilotních strojů. Lepší taktická analýza situace na bojišti a dokonalé propojení strategického "mozku" s jednotkami v poli by mohly být způsobem, jak Americe vrátit první místo na žebřížku nejstrašidelnějších armád. Má však idea šanci na úspěch?

Pentagon v posledních dekádách sužuje řada neúspěchů nových bojových systémů. Nechvalně známé jsou programy jako Joinst Strike Fighter (předražený program momentálně neefetktivní moderní stíhačky) nebo Future Warrior (neúspěšný program vojáka budoucnosti). Armáda tedy má na triku celou řadu velkohubých programů, které nakonec selhaly. Rozdílem v případě Defense Innovation Iniciative (dále jen DII) je však spoléhání se na již existující nebo vyvíjené technologie aplikované soukromým sektorem. Tedy zmíněné 3D tiskárny nebo cloudové počítače. Superrychlé analytické nástroje s možností rozhodování přitom už dávno existují například na burzách. DII se v předpokladech technického pokroku do roku 2030 rovněž v zásadě shoduje s vizemi společnosti Google, k DII je navíc přímo nebo nepřímo připojeno hned několik vojenských vizionářů a futuristů, mezi nimiž je i Robert O. Work, autor reportu 20YY: Preparing for War in the Robotic popisující vizi automatizovaných válek 20. století.

Budoucnost nerovnoměrně distribuovaná

Workova a další vize využité i pro DII se shodují v tom, že zrychlující se pokročilé technologie mohou velmi brzy změnit jak tvář války, tak i lidstva. Jedním dechem však zmiňují, že o to větší je riziko zvýšené sociální, finanční nebo rasové nerovnosti po celém světě. Spolu s tím zůstane riziko konfliktu, ať už otevřeného nebo vedeného teroristickými praktikami, minimálně stejné jako dnes. Připomíná to jak citaci spisovatele kyberpunkové literatury Williama Gibsone, podle něhož je "budoucnost už dávno tady, jenom nikoliv rovnoměrně distribuovaná", stejně jako jednu z podob technologické nezaměstnanosti.

Jak si však Pentagon představuje zlepšení bojiště skrze robotiku? Především skrze efektivnější udílení a plnění rozkazu. K tomu všemu by byla potřeba pokročilá umělá inteligence, označovaná jako "silná umělá inteligence" („strong AI“), stejně jako perfektní systém sběru datu skrze bezpilotní prostředky, satelity i datamining aplikace pozorující sociální sítě. "Silná AI" sama by oproti dnešním digitálním entitám uměla emulovat některé z lidských vlastností včetně uvědomění si sebe sama, a tak i lépe analyzovat lidské chování. Existovat by mohla v pokročilých počítačích, které by měly být k dispozici do roku 2030.

"Převážně autonomní"

Samotné bojové operace si pak lze představit si to lze jako útoky série robotů (létajících i pozemních), které jsou operovány "z cloudu" umělé inteligence, čili sdíleného serveru, který sám sbírá a analyzuje data a vydává rozkazy. Dosáhlo by se tak jejich absolutní kooperace. Zásobování municí by stále existovalo, díky 3D tisku munice či náhradních součástech v poli by se však robotické vojenské kontingenty přesto podstatně změnily.

I lidští bojovníci v poli by stále mohli existovat. Podle zprávy by však operační doktrína měla "převážně nebo zcela spoléhat na bezpilotní nebo autonomní systémy" a zajistit tak maximální efektivitu. Krom rychlejší reakce by díky tomu zmizela i řada jiných problémů. Bolístky tisíců let lidského válčení, od kolísající morálky mužstva přes jeho únavu a zásobování jídlem až po pomalou komunikaci a lidskou chybu by okamžitě zmizely.

Vlastně zbývá rozhodnout jediné – budou-li lidé stále mít kontrolu nad okamžiky, kdy budou stroje zabíjet. Nutnost lidské kontroly „stisknutí" spouště, je stále dogma dnešních bezpilotních útoků. Do budoucna by však tato bariéra mohla dříve či později zmizet, popřípadě být podstatně zjednodušena, alespoň nebudou-li stát v cestě politické půtky. Právě politika je ostatně jediný způsob, který by nové iniciativě mohl stát v cestě. Nezdá se totiž, že by technologie neumožňovala to, co si Hegelův projekt vytyčil.

Nepředpokládatelná rizika

Politické protesty přitom lze očekávat. Nejde totiž zdaleka jenom o schopnost "Skynetu" efektivněji vést otevřené bojové operace kdesi v pouštích, nýbrž i jeho efektivitu v protiteroristkém boji, tedy na domácí frontě. Skrze sbírání dat nad na sociálních sítích, v e-mailech a dalších digitálních stopách by dost dobře systém mohl odhalovat hrozby ještě před jejich naplněním. Pokud vám to celé zní jako zápletka chystaného remaku Terminátora obohaceného o paranoiu na způsob Edwarda Snowdena, nejste sami.

Dokonce i Pentagon totiž ve zprávě přiznává, že automatizace klíčových prvků systému rozhodování sebou nese "nepředvídatelná rizika". Velké rozmístění a spoléhání národní obrany na autonomní vojenské systémy totiž prý v historii ještě nikdy neproběhlo, a nejsou tak známé chyby, kterých sje nutno se vyvarovat. Problematického vzniku první silné AI se přitom neobávají jenom vojenští plánovači, ale i vynálezci jako Elon Musk. Stejně jako v případě bezpilotních letounů nebo stealth systémů lze přitom předpokládat, že podobné projekty jako DII vyvíjí i Čína, Rusko nebo další velmoci. Doufejme proto, že k nám naši noví robotičtí vládcové budou vlídnější než ti z fikcí.

Ladislav Loukota

MOHLO BY VÁS ZAJÍMAT: