Jak zkrotit umělé inteligence: naučte je pochybovat o sobě

Umělé inteligence byly ve sci-fi literatuře hrozbou už dávno. Ježe až donedávna se zdálo, že jsou naprostou utopií – jak by přece mohl vzniknout za pár (desítek) let stroj schopný překonat miliardy let evoluce?

Světem vládne algoritmus

Bohužel pro člověka ukazují poslední experimenty, že umělé inteligence/roboti/ algoritmy schopné samy se učit – říkejte jim, jak chcete, člověka překonávají vlastně už ve všem. Ať už jde o třídění dat, analýzu obrazového materiálu, anebo třeba hraní šachů – stroje se umí specializovat, učit a analyzovat data tak rychle a precizně, že na ně člověk rozhodně nestačí.

V řadě oborů už stroje člověka zcela nahradily, v řadě jiných nás to teprve čeká – rozhodně ale podle drtivé většiny expertů reálně hrozí, že do půlky století vezmou roboti lidem asi 2/3 pracovních míst – a pokud se jim podaří naprogramovat si univerzálnost (a právě o to se korporace, jako je třeba Google snaží), nahradí člověka vlastně ve všem, nač se během 20. a 21 . století pokoušel zaměřit.

Co s tím? Určitě existují způsoby, jak nastavit umělým inteligencím hranice, které by nikdy neměly překonat – ale otázkou je, jak? Jak známe lidi, budou se snažit dostat na samý kraj poznání (a tedy i vylepšování umělých inteligencí) – ať už to bude představovat sebevětší riziko.

Zachrání nás pochyby?

Nyní vlivná skupina akademiků z University of California navrhuje, aby všechny pokročilejší umělé inteligence měly v sobě zabudovaný mechanismus, který umělých inteligencích zabrání zdokonalovat se samovolně. Mělo by se to týkat až pokročilejších umělých inteligencí, než existují dnes – takzvaných generálních neboli obecných umělých inteligencí. Oním mechanismem jsou pochybnosti: stroje by měly být zakódovány tak, aby pochybovaly o tom, že jsou takových úkolů schopné – díky vloženému kódu by je ani nemělo napadnout něco takového dělat, budou si vědomé toho, že takového pokroku nejsou schopné.

Počítačoví inženýři už několik prvních testů provedli a zkusili, jak umělé inteligence na zárodky takového naprogramování reagují – první výsledky jsou podle prvních zpráv víc než uspokojivé...

Mohlo by to fungovat? Kdo ví, možná ano, ale otázkou je, jestli naopak právě takový kód nemůže být spouštěčem přesného opaku – pochybnosti o sobě samém jsou přece u lidí velmi často impulzem, který ho pošle na nějakou nečekanou cestu životem. Mohlo by se to stát i u počítačů? To samozřejmě dnes ještě nevíme – jisté ale naopak je, že to odhaluje, jak hluboký problém s nimi již nyní máme; naše neschopnost omezit jejích samovolný vývoj i teoreticky je poněkud znepokojivá.

Text: MK