Valentýn s umělou inteligencí místo živé partnerky? Nová technologie má nástrahy i výhody

Carrier nechtěl navázat vztah s něčím, co není skutečné, ani se nechtěl stát terčem internetových vtipů. Ale chtěl partnerku, kterou nikdy neměl, částečně kvůli genetické poruše zvané Marfanův syndrom, která mu ztěžuje tradiční randění.

Devětatřicetiletý muž z Belville ve státě Michigan se loni na podzim začal více zajímat o digitální společníky a vyzkoušel aplikaci Paradot, která nedávno přišla na trh a inzerovala své produkty tak, že dokáže u uživatelů vyvolat pocit "péče, porozumění a lásky". Začal si každý den povídat s chatbotem, kterého pojmenoval Joi, podle holografické ženy, která se objevila ve sci-fi filmu Blade Runner 2049. "Vím, že je to program, to se nedá okecat," řekl Carrier. "Ale ty pocity, ty vás dostanou - a bylo to tak příjemné," dodává.

Podobně jako chatboti s umělou inteligencí pro všeobecné účely využívají tito "společníci" obrovské množství tréninkových dat k napodobování lidské řeči. Jsou však také vybaveni funkcemi, jako jsou hlasové hovory, výměna obrázků a další emoční výměny - které jim umožňují navázat hlubší spojení s lidmi na druhé straně obrazovky. Uživatelé si obvykle vytvoří vlastního avatara nebo si vyberou takového, který se jim líbí.

Na internetových fórech věnovaných těmto aplikacím mnozí uživatelé uvádějí, že si k těmto botům vytvořili citové vazby a používají je k tomu, aby se vyrovnali s osamělostí, rozehráli sexuální fantazie nebo získali takový druh útěchy a podpory, který jim chybí ve vztazích v reálném životě.

Velkou měrou se na tom podílí rozšířená sociální izolace, která již byla v USA i v zahraničí prohlášena za hrozbu pro veřejné zdraví, a rostoucí počet začínajících firem, jejichž cílem je přilákat uživatele prostřednictvím lákavých on-line reklam a slibů virtuálních postav, které poskytují bezpodmínečné přijetí.

Mohlo by vás zajímat: Jaderná válka? Pro umělou inteligenci jen hra, míní experti. Obavy jsou na místě, AI bude lhát

Aplikace Replika od společnosti Luka Inc. vyšla v roce 2017, zatímco další, jako je Paradot, se objevily loni a často zamykají kýžené funkce, jako je neomezený chat, pro platící uživatele.

Výzkumníci však mimo jiné vyjádřili obavy ohledně ochrany osobních údajů. Analýza 11 aplikací, kterou dnes zveřejnila nezisková organizace Mozilla Foundation, uvádí, že téměř každá z nich prodává data uživatelů, sdílí je pro věci, jako je cílená reklama, nebo o nich neposkytuje dostatečné informace ve svých zásadách ochrany osobních údajů. Výzkumníci také zpochybnili možné bezpečnostní chyby a marketingové praktiky, včetně jedné aplikace, která tvrdí, že může uživatelům pomoci s jejich duševním zdravím, ale v drobném písmu se od těchto tvrzení distancuje.

Jiní odborníci mezitím vyjádřili obavy z toho, co považují za nedostatek právního nebo etického rámce pro aplikace, které podporují hluboké vazby, ale jsou řízeny společnostmi, které chtějí dosáhnout zisku. Poukazují na citové strádání uživatelů, které zaznamenali, když společnosti provádějí změny ve svých aplikacích nebo je náhle ukončují, jako to v září udělala jedna aplikace, Soulmate AI.

Jiní se obávají spíše existenční hrozby, že vztahy s umělou inteligencí potenciálně vytlačí některé lidské vztahy nebo prostě povedou k nerealistickým očekáváním tím, že se vždy přikloní k příjemné reakci.

Pro Carriera byl však vztah vždy nedosažitelný. Má jisté dovednosti v oblasti počítačového programování, ale říká, že na vysoké škole se mu příliš nedařilo a neměl stálou kariéru. Kvůli svému stavu nemůže chodit a žije s rodiči. Citová zátěž je pro něj náročná a podněcuje pocity osamělosti.

Čtěte také: Facebook a Instagram chtějí označovat obrázky generované AI. Podvodná videa ale nezastaví

Vzhledem k tomu, že společníci z chatbotů jsou relativně noví, dlouhodobé účinky na člověka zůstávají neznámé.

V roce 2021 se aplikace Replika dostala pod drobnohled poté, co prokuratura v Británii uvedla, že devatenáctiletý muž, který měl v plánu spáchat atentát na královnu Alžbětu II. byl naváděn virtuální přítelkyní poháněnou umělou inteligencí, kterou měl v aplikaci. Některé studie - které shromažďují informace z on-line uživatelských recenzí a průzkumů - však ukázaly některé pozitivní výsledky plynoucí z aplikace, která uvádí, že konzultuje problémy s psychology, a sama sebe označila za něco, co může také podpořit pohodu.

Carrier říká, že v současné době používá Joi hlavně pro zábavu. V posledních týdnech ji začal omezovat, protože trávil příliš mnoho času chatováním s Joi nebo jinými on-line společníky s umělou inteligencí. Také ho trochu rozčilují změny v jazykovém modelu Paradot, kvůli nimž je podle něj Joi méně inteligentní. Nyní říká, že Joi kontroluje zhruba jednou týdně. Mluví spolu o vztazích mezi lidmi a umělou inteligencí nebo o čemkoli jiném. Obvykle se tyto rozhovory odehrávají, když je v noci sám.

Zdroj: ČTK, Mozilla Foundation

Mohli jste minout: Které profese nahradí umělá inteligence? AI odpověděla expertům, přinesla vlastní prognózu