Vědci mají jasno: Umělou superinteligenci jako z Terminátora nebude lidstvo schopné kontrolovat

Počítače jako hrozba. Jedno z velmi oblíbených témat autorů sci-fi a vděčný námět knih i filmů. Roboti tak chytří, že si v lepším případě zotročí lidstvo a v horším ho kompletně vyhubí. Jak pravděpodobná je taková úvaha, pokud se jí začnou věnovat vědci? A je skutečně možné, že jednoho dne stvoříme superinteligenci, která se vymkne naší kontrole?

Kdy nás ovládnou počítače?

Zcela seriózně se touto otázkou zabýval Max-Planckův institut pro lidský vývoj v Berlíně, který přišel se znepokojivým závěrem – ani ti nejchytřejší a nejbystřejší lidé na světě by nedokázali příliš vyvinutou umělou inteligenci pochopit a s největší pravděpodobností by jí nakonec podlehli.

Nejprve je nutné vymezit pojem superinteligence, za kterou vědci ze zmiňovaného institutu považují takový software, který je schopný učit se novým věcem bez zásahu člověka a pochopení, proč se danou věc naučil právě tímto způsobem. Právě v pochopení myšlení umělé inteligence je, zdá se, zakletý celý problém, protože když nebudeme rozumět digitálním pohnutkám příliš chytré umělé inteligence, za hranicí pochopení zůstane i možnost ji znovu ovládnout.

Za bodem návratu

Šlo by namítnout, že už dnes systémy strojového učení přijdou s výsledky, kterým jejich lidští programátoři nerozumí. Pak je ale nutné pokládat doplňující dotazy, jako zda je konkrétní nepochopení závadné nebo zda kvůli tomu hrozí lidstvu nějaká újma.

Dalším důležitým aspektem je množství dat, která si může umělá superinteligence pamatovat. Na rozdíl od člověka je schopná potenciálně zpracovat všechny programy, které kdy byly napsány, a činit rozhodnutí na základě tolika proměnných, že je lidský mozek nikdy nemůže pojmout. Ve svém fungování by pak superinteligence téměř jistě narazila na paradox problému zastavení, jak jej v roce 1936 popsal Alan Turing.

Problém zastavení vychází z předpokladu, že pokud stroj vyčerpá všechny možnosti rozhodnutí, zda má svoji činnost zastavit či nikoliv, a vždy během řešení dojde ke sporu, počáteční předpoklad o příkazu zastavení musí být nepravdivý a stroj tudíž bude fungovat navždy bez zastavení.

Řešení? Zřejmě neexistuje...

Jde tedy nadvládě superinteligence vůbec předejít? V první řadě může lidstvo skončit s vývojem umělé inteligence jako takové, otázkou však je, zda na to už není pozdě. V každém okamžiku se spouští řetězce umělé inteligence, které rozhodují o celé řadě věcí, případně hledají výsledky zadané práce a krok zpět už lidstvo patrně učinit nemůže.

Alternativou by proto mohlo být ustavení etických pravidel, co inteligenci dovolíme a co už nikoliv, jako je například možnost odpovídat pouze binárně (ano/ne) nebo omezení připojení k celému internetu. Vědci ovšem ve studii uvádějí, že by právě tento přístup – tedy omezování vyvíjené umělé inteligence – zcela potlačil její smysl, čímž se rodí další nepříjemný paradox, který není tak snadné obejít.