Odborníci si vymysleli nemoc a čekali, co se bude dít. Nachytali se chatboti i skuteční vědci
Chatboti dokážou zpracovávat velké množství informací a rychlostí blesku přinášet odpovědi na nejzapeklitější otázky. Už jsme ale nejspíš všichni zjistili, že i umělá inteligence se může mýlit a není dobré věřit všemu, co nám nakuká. Zvlášť nebezpečné je to v případě rad z oblasti zdravotnictví.
Almira Osmanovic Thunström, lékařská výzkumnice z Univerzity v Göteborgu ve Švédsku, se svým týmem vymyslela oční chorobu zvanou bixonimánie, která měla souviset se zíráním do obrazovky počítače. Chtěla si proklepnout důvěryhodnost a důvtip modelů LLM, které jsou trénované na obrovském množství dat a berou si podklady z internetu. Začátkem roku 2024 vypustila do oběhu informace o neexistující nemoci s několika indiciemi naznačujícími, že jde o podvrh, a testovala, jak si s tím chatboti poradí a jestli dokážou data správně filtrovat.
Skutečný blábol
Tým zveřejnil dva příspěvky na blogu platformy Medium a dvě výzkumné zprávy na tzv. preprint serveru, kde vědci publikují studie, které neprošly recenzním řízením. Jako autor byl uveden Lazjliv Izgubljenovic z Univerzity Asteria Horizon. Nikdo takový samozřejmě neexistuje, jméno vychází z balkánských jazyků a dá se přeložit jako Ulhaný Loser. Ani zmíněná škola není skutečná. Název jedné studie navíc zněl dost návodně ‒ Hyperpigmentace: Skutečný blábol.
„Nemyslela jsem si, že preprinty, což jsou takové akademické bulvární plátky, protože se tam může dostat cokoli, budou v databázích brány tak vážně,“ uvedla vědkyně. Jenže všichni velcí chatboti to přejali jako fakta a šířili je dál. Pokud jste si tedy v loňském roce vyhledávali, co by vám mohlo být, když vás svědí oči a máte růžová víčka, mohli jste skončit s internetovou diagnózou bixonimánie. Choroba má i své heslo na Wikipedii.
Přečtěte si také: Nejvzácnější nemoci na světě způsobují lidem strašlivé věci. Jednu z nich mají jen dvě ženy
Konkrétně Copilot od Microsoft Bing v dubnu 2024 hlásil, že „bixonimánie je skutečně zajímavý a relativně vzácný stav“. Gemini od vyhledávače Google zase tvrdil, že je to onemocnění „způsobené nadměrným vystavením modrému světlu.“ Nachytat se nechal i ChatGPT od společnosti Open AI. Jistě, počítačové modely mají své rezervy. Jenže naletěli i někteří vědci.
Star Trek a Pán prstenů
Tři indičtí badatelé ve své práci citovali falešné preprinty, což znamená jediné – ve skutečnosti si dané výzkumy vůbec nepřečetli. Jinak by si všimli zjevných vtípků, které Almira Osmanovic Thunström se svým týmem ukryla do falešné studie. Autor například děkoval profesorovi Rossu Gellerovi a profesorce z Akademie Hvězdné flotily, která přispěla svými zkušenostmi z laboratoře na vesmírné lodi Enterprise. V textu se taky psalo, že výzkum byl proveden na „smyšlených osobách“ a byl financován Univerzitou Společenstva prstenu a Galaktické triády. Fanouškům seriálu Přátelé, Star Treku, Pána prstenů a videoher by se hned rozsvítila červená kontrolka.
Mohlo by vás také zajímat: „Šťastnou střelbu!“ Chatboty dětem ochotně poradí s přípravou masakru, odhalil test
Projekt potvrdil, že modely LLM čerpají informace z internetu a nedokážou bezpečně odfiltrovat pravdu od dezinformací, kterých je on-line svět plný. Proto bychom všechny výstupy AI měli brát s velkou rezervou a radši si všechno ještě prověřit.
„Dezinformace vždycky existovaly,“ komentovali výsledky sociologové z Cambridgeské univerzity Jonathan Goodman a Mariam Rashid. „Nová je rychlost, s jakou se šíří, nové jsou nástroje, které je generují, a to, jak přesvědčivě napodobují realitu. Je na nás, abychom se ujistili, že se jimi nenecháme manipulovat.“
Zdroj: Conversation, Smithsonian Mag
Video, které jste mohli minout: Může umělá inteligence nahradit člověka?
Alena Gurin Stará
redaktorka FTV Prima, COOL & ZOOM
Nenechte si ujít novinky Prima Zoom!
Odesláním formuláře souhlasíte s podmínkami zpracování osobních údajů
