Špičkoví vědci varují OSN: Umělá inteligence je hrozbou pro celé lidstvo!

Experti na umělé inteligence, právníci i aktivisté jsou sdružení v organizaci jménem „Campaign to Stop Killer Robots“ – a největší obavy mají z toho, jak nepředvídatelné jsou dopady „primitivních robotů a levných dronů na opravdový svět“. Co tím chtějí říci a kde vidí největší rizika?

„Každý vždycky začne mluvit o Terminátorech,“ vysvětlil Toby Walsh, který učí o umělé inteligenci na University of New South Wales. „To ale není problém, kterého bychom se měli bát nyní – myslím, že od Terminátorů jsme nejméně 50 let daleko…“

Naopak důvodem znepokojení jsou technologie, které jsou vzdálené maximálně několik roků a některé již dokonce existují a testují se. Walsh tím myslel částečně samostatně operující stroje, jako jsou například vojenští droni. „Stačilo by jen málo a lidský operátor by se u nich dal snadno nahradit počítačem.“

Aktivisté vykreslují značně znepokojivou představu blízké budoucnosti, v níž se většina vojenských konfliktů bude odehrávat jen mezi drony – respektive droni bez lidských operátorů budou sami vyhodnocovat, kdo je nepřítel a jaké prostředky proti němu použít.

Dalším problémem je cena a rozšíření takových dronů. Již dnes jejich ceny padají dolů jako podzimní hrušky, v budoucnosti by se měly ceny těchto systémů pohnout ještě níže. Stačí pak jen robota vybavit nějakou palnou zbraní a terorismus nebyl nikdy snadnější…

Příliš rychlý pokrok

Experti se obávají, že pokrok v umělých inteligencích je zejména v USA a ve Velké Británii takový, že mít ozbrojeného drona by již brzy mohlo být tak levné, jako si koupit třeba motorku. „Zvykněte si na to, že je (drony) uvidíte při ochraně pozemků, na hranicích nebo třeba při monitorování a rozhánění demonstrací,“ vysvětlil problém Steve Goose z organizace Human Rights Watch pro britský deník Guardian. „Nosiče umělých inteligencí už existují – není to science fiction, ale úplně nový způsob boje. Pokud teď nevytvoříme jasná pravidla, ocitneme se velmi nepříjemné situaci.“

Jiný problém s drony a umělými inteligencemi zase naznačuje profesor Peter Asaro z New School in New York. Podle něj je nejhorší najít zodpovědnost. „Jaká je situace, jaký je kontext, jakou sílu použít – to není tak obtížné vyhodnotit automaticky pomocí nějakého programu. Ale i když to uděláme skvěle, stále tu zůstává otázka, kdo bude zodpovědný, když se něco nepodaří…“

Walsh zase vidí problém v tom, jak účinná a laciná je válka vedená automatickými „inteligentními“ drony. Vědec tvrdí, že to představuje pokušení, které bude lákat mnohé politiky i generály. „Z technického hlediska, pokud nahradíte člověka umělou inteligencí, bude docházet k více chybám. Naše hloupé UI sice dobře fungují v továrnách a dalších kontrolovaných prostředích, ale ve volném světě se lidskému mozku nevyrovnají…“