STUDIE: Namísto zlých budou terminátoři zítřka spíše... hloupí...

Díky vrozenému strachu z neznáma i populárních knih či filmů, jako je Terminátor, se stále častěji mluví o riziku plynoucím z robotiky. Povětšinou se odborná debata vede o ztrátě pracovních míst ve prospěch robotů, část lidí pálí i ozbrojování válečných robotů.

Několik málo futuristů ale uvažuje, jak by to vypadalo, kdybychom vytvořili vyšší umělou inteligencí, jež by se rozhodla lidstva zbavit. Ničeho z toho se prý být nemusíme – riziko ze strany robotů prý existuje, ale namísto nenávisti k lidem spíše kvůli neschopnosti strojů. Vkládáme totiž prý do autonomních strojů příliš velkou důvěru – a ta nám může být osudná.

Ztráta svobody

Myslí si to alespoň studie publikovaná vědci z institutu Georgia Tech sídlícího v Atlantě, která kuriózním způsobem zkoumala lidské reakce vůči samostatným strojům. Odborníci v uzavřeném prostoru při hraném náboru zájemců pro svůj nový pokus předstírali požár a nechali zmatkující dobrovolníky následovat autonomního záchranářského robota vstříc k bezpečí. Vtip je v tom, že “robot“ byl ve skutečnosti dálkově ovládán výzkumníky a nebožáky vedl vstříc záhubě. Dobrovolníci přitom až do poslední situace nevěděli, že se účastní pokusu, nikoliv skutečné krize.

Během své cesty dobrovolníci přesto ignorovali jasně vyznačené únikové cesty a raději s robotem kráčeli mnohem delší trasou. Situace byla ještě absurdnější v okamžiku, kdy robot část participantů zavedl do tmavé místnosti zabarikádované nábytkem. I když se dva (!) účastníci v tu chvíli obrátili a odešli za bezpečím po svém, většina lidí v místnosti stála a čekala, co se bude dít, dokud za nimi nedošli výzkumníci sami. Jednat se o skutečný požár, pravděpodobně by se tu všichni udusili.

Výstupem ze studie je požadavek, aby byly skuteční vyvíjení bezpečnostní roboti extrémně schopní v tom, co budou dělat – lidé jim totiž slepě svěřují svou důvěru, takže sebemenší chyba může být fatální. Taktéž by roboti, kteří se porouchají anebo ztratí, měli problém tuto skutečnost lidem oznámit. Dobrovolníci totiž vždy předpokládali, že robot má více informací než oni.

Omyly zítřka už dnes

Takový předpoklad není úplně neoprávněný. Oproti lidským záchranářům mohou roboti pomocí senzorů efektivněji najít chladnější místa, a tak i únikové cesty, orientovat se podle GPS či jiných navigačních systémů a kooperovat mezi více stroji najednou. Jenže roboti jsou jen tak dobří, jak dobře je sestaví a udržují lidé. Nečekaný výsledek georgijského testu proto působí s ohledem na proroctví kolem všech umělé inteligence poněkud komicky – skoro jako kdyby byla vize geniálních umělých inteligencí, které buď lidstvo vynesou k novým zítřkům, anebo naopak srazí na kolena, nahrazena šedivější a přízemní realitou robotů, kteří stejně jako lidé mají své mouchy a chybují.

Futuristé prozatím slibují, že kolem roku 2030 překoná umělá inteligence tu lidskou a poté bude docházet na technologické změny stále rychleji a rychleji. Bylo by však trochu zvláštní, kdyby naše dnešní vize technologií zítřka vyšly přesně do puntíku, jak si optimisté malují.

Stačí vzpomenout, jak drakonicky se sekli vizionáři 40. a 50. let, kteří předpovídali lineární rozvoj jaderné energie do letadel, aut a čistých ternojaderných reaktorů. Namísto toho došlo na vzestup zelených hnutí, které jádro odsunuly do pozadí. I bez nich by ale platilo, že fúzní reaktory jsou už přes půl století stále ve vývoji. Podobně se sekli k prognostici vývoje kosmického věku anebo třeba minulí informační vědci, kteří předpokládali vznik umělých inteligencí už během 80. let.

Možná, že namísto utopie či dystopie s umělou inteligencí se opět dočkáme čehosi mezi tím – a třeba to bude vypadat podobně absurdně jako člověk slepě následující “záchranářského robota” do hořící místnosti.

Ladislav Loukota