Drony představují obrovské riziko, varuje americký expert na moderní zbraně

V reálném vojenském konfliktu by byly autonomní zbraně nekontrolovatelné – kvůli hackování, chybám v designu a také nejrůznějším vnějším vlivům. Tvrdí to Paul Scharre, přední expert a současně ředitel nezávislého Center for a New American Security. Tento bývalý zaměstnanec Pentagonu v nové studii varuje, aby drony nikdy nepracovaly samostatně – vždy by měly být ovládány lidmi.

V této zprávě nazvané Autonomous Weapons and Operational Risk upozorňuje, že reálné operační nasazení dronů je velmi riskantní záležitost. A to příliš neřeší otázky morální, etické nebo legální – jen čistě ty bezpečnostní. Nevaruje před částečně ovládanými drony, pouze před těmi zcela autonomními. U nich by stroj sám rozhodoval o všem důležitém, člověk na jeho fungování prakticky nemá vliv.

Scharre se obává, že důsledky nasazení robotů by byly tragické: „V tom nejextrémnějším případu by tyto zbraně pokračovaly v útoku na nevhodné cíle až do vyčerpání munice; cíle by si přitom zřejmě vybíraly ve velmi široké oblasti. Když přihlédneme k riziku toho, že podobné zbraňové systémy budou operovat v sítích, čelila by armády takovému selhání mnoha dronů současně – což by mělo potenciálně katastrofální důsledky.“

Z operačního hlediska představuje podle experta největší risk autonomních dronů možná palba do vlastních řad. Tento strašák všech armád od starověku až do současnosti se dnes díky spolupráci lidského faktoru a špičkových technologií daří omezit jako nikdy předtím – s příchodem robotů by se však mohl vrátit v mnohem horší míře než kdy předtím.

Rizika stále rostou

Způsobit by to mohla celá plejáda vnějších vlivů – od nepřátelského hackování, přes nevypočitatelné atmosférické podmínky až po chyby softwaru nebo prosté mechanické chyby. Problémem je, že stále stoupá složitost těchto systémů, a tedy se pořád zvyšuje počet šancí na poruchu. A také je pořád složitější komplexně textovat všechny problémy a možné interakce…

Scharre věří, že většině těchto problémů se dalo předejít tím, že nikdy nedojde k odpojení lidských operátorů zodpovědných za klíčová rozhodnutí. Právě lidští manipulátoři dronů jsou ale v současnosti pod nejsilnějším tlakem; jejich chyby a omyly jsou zodpovědné za nejvíce problémů…