Umělé inteligence jsou obří riziko, varuje Stephen Hawking

Matrix, revoluce

Když před umělými inteligencemi varuje jeden z největších vědců současnosti, člověka to nutí zamyslet se…

Stephen Hawking se v poslední době vyjadřuje nejen k astrofyzice, ale také k nejrůznějším společenským otázkám spojeným s vědou. Naposledy to udělal pro britský Independent – společně s dvěma experty na počítače a umělou fyziku vytvořil něco jako manifest toho, jak by mohly umělé inteligence změnit svět. K lepšímu i horšímu.

Alarmující je, že Hawking, vědec s tolika znalostmi a informacemi, považuje nástup umělých inteligencí za záležitost velmi blízké budoucnosti – a některé jejich zárodečné projevy už vidí v současném světě…

Hawking varuje, že vstupujeme na zcela neznámé území a riziko vydat se tam je příliš velké na to, aby si ho lidstvo v současném stavu mohlo dovolit. Vychází z fyziky: strojům nebrání žádný fyzikální zákon, aby nemohly dosáhnout větších schopností, než máme my, jejich tvůrci:

„Když se podíváme do budoucnosti, nejsou zde žádné fundamentální hranice, které bychom nemohli dosáhnout. Neexistuje žádný fyzikální zákon, který by bránil částicím, aby se organizovaly ještě lépe, než to dokáže lidský mozek.“

Jak by příchod inteligentních strojů vypadal? Asi by se výrazně lišil od čehokoliv, co si dokážeme představit. „Je možný velmi výbušný přechod (do doby inteligentních strojů, pozn. překl.) – ale zřejmě by to vypadalo hodně jinak než ve filmech. Už roku 1965 si Irving Good uvědomil, že stroje s nadlidskou inteligencí by byly samy schopné velmi rychle si vylepšit svou inteligenci ještě víc. Spisovatel sci-fi románů Vernon Vinge tento moment nazval singularitou…“

Od tohoto okamžiku by člověk prakticky ztratil kontrolu a vládu nad světem; naše společnost je řízena toky informací, které by pro tuto Umělou inteligenci (UI) byly přirozeným životním prostředím- a člověk jen hostitelem, v horším případě vetřelcem:

„Není obtížné představit si, jak taková technologie přechytračí naše finanční trhy, překoná lidský výzkum nebo vyvine zbraně, jaké ani nedokážeme pochopit. Zatímco krátkodobě bude klíčové, která mocnost bude tyto UI ovládat, dlouhodobě zní tato otázka jinak: „Jsou vůbec ze své podstaty UI ovladatelné“? ptá se Hawking.

Hawking se obává především jednoho – lidské schopnosti odkládat řešení problémů do budoucnosti: „Ale asi si myslíte, že je všechno v pořádku, že experti určitě dělají vše pro to, aby zajistili nejlepší výsledek, že? Omyl. Pokud by nám nějaká cizí mimozemská civilizace poslala zprávu „Dorazíme za pár desítek let“, asi bychom neodpověděli ve stylu „Jasný, tak nám dejte vědět, až přistanete…“ Ale přesně takhle se chováme v ohledu k Umělým inteligencím – a to přesto, že jejich příchod bude v každém směru znamenat pro lidstvo největší změnu, jakou kdy zažilo. Těmto otázkám se přes jejich závažnost téměř nikdo nevěnuje…"

Celý text najdete v angličtině TADY.