Velká Británie vyvíjí zabijácké umělé inteligence, varuje zpráva

Uměle inteligentní zabiják

Vývoj autonomních vojenských systémů, kde o zabití člověka rozhoduje jen nějaký program, je vysoce kontroverzní. A to nejen pro veřejnost, filosofy nebo novináře, ale dokonce i pro samotné vývojáře, kteří by na tom mohli pohádkově zbohatnout. Například letos odstoupila společnost Google od projektu Maven, který byl financovaný Pentagonem. Jeho cílem bylo použít metodu strojového učení, aby se takto analyzovaly videozáběry nasbírané drony. Proti programu protestovali sami zaměstnanci technologického obra – připadal jim eticky nesmírně sporný.

Britská vláda podle deníku Guardian trvá na tom, že nemá k dispozici žádné plně autonomní zbraně, ani nemá záměr je vyvíjet. Ale přitom už od roku 2015 odmítá podpořit návrhy, které se v OSN snaží tento typ zbraní zakázat. Nová nezávislá zpráva založená na vládních datech i veřejně dostupných zdrojích teď ale poukazuje na to, že britské Ministerstvo obrany se snaží, nejčastěji přes externí dodavatele, vytvářet desítky programů vybavených umělou inteligencí, které by našly uplatnění ve válečných konfliktech.

Nahlas vývoj nepřiznáme

„Přes deklarace, že Velká Británie nemá záměr vyvíjet autonomní smrtící zbraňové systémy, existují jasné důkazy, že Ministerstvo obrany, zbrojní dodavatelé a univerzity jsou aktivně zapojené do výzkumu a vývoje takových technologií – s cílem jejich použití v armádě,“ popisuje pro Guardian Peter Burt, autor zprávy organizace Drone Wars UK. Jak on, tak tato nezisková organizace se snaží před rizikem autonomních zbraní varovat – a také bránit jejich vzniku.

V jejich rozsáhlé zprávě je mnoho příkladů toho, jak takový výzkum nebo vývoj vypadají. Jedním z nich je projekt britského královského letectva, který probíhá v Joint Forces Intelligence Center ve Wytonu. Tamní systém pracuje s gigantickým množstvím dat a používá neuronové sítě schopné takzvaného hlubokého učení, aby předvídat budoucí události, které budou mít přímý dopad na ozbrojené složky.

Podle Drone Wars existují značná rizika, že takové systémy s vymknou lidské kontrole. „Vidíme, že ve Velké Británii vznikají drony s pokročilými autonomními schopnostmi – například neviditelný dron Taranis společnost BAE Systems. Vývoj plně autonomního dronu v dohledné budoucnosti je není reálnou možnosti,“ varuje Burt.

Nadzvukový dron Taranis, o němž expert hovoří, je experimentální stroj, který podle jeho výrobce dokáže „udržovat nepřítele vystaveného neustálému riziku útoku… pronikat hluboko do nepřátelského území, najít cíl, zapojit kinetické nebo nekinetické vlivy, splnit úkol a pak poskytnout informace velení.“ Slovy normálního člověka – tohle je samočinný zabijácký stroj.

Drony bez operátora?

Potvrzují to i slova bývalého britského vysokého vládního úředníka Lorda Draysona, podle něhož tyto stroje „téměř nepotřebují operátora“. Podle zprávy dospěla britská vláda k tomu, že vývoj autonomních zbraňových systémů je nutný. Tajemník ministerstva obrany Gavin Williamson dokonce nedávno uvedl, že pomocí umělých inteligencí se kapacity armády dostanou na vyšší úroveň.

Samotné ministerstvo obrany potvrzuje, že neřízené letouny „eventuálně budou mít schopnost nezávisle najít a zaútočit na pohyblivé cíle – ale ne dříve než roku 2030.“

Největší problém spočívá podle autorů práce v tom, že tyto technologie je možné vyrábět v současné době poměrně snadno: mnoho programů založených a umělé inteligenci je volně dostupných na internetu – vlastně už jen proto, že tento kód je úmyslně volný. Podle vědců z University of California je dnes dostatečně dobře financovaná a schopná skupina vědců schopná vyvinout a vyrobit malého ozbrojeného drona během 18 měsíců až dvou let.

Experti z Arizona State University zase vytvořili aktuální seznam zbraňových systémů, které už dnes jsou vybavené nějakým druhem umělé inteligence – je jich celkem 273 a 19 z nich jsou autonomní létající stroje. Mluvčí Ministerstva obrany Velké Británie se ke zprávě vyjádřil prostě: „Neexistuje záměr vyvíjet zbraňové systémy, které operují zcela bez lidského vlivu. Naše zbraně budou vždy pod lidskou kontrolou jako absolutní zárukou kontroly.“ Text: MK