Virtuální terapeut?

 Dnes se budu v článku věnovat tématu umělé inteligence, a abych se nemusela pořád rozepisovat, zjednodušeně použiji zkratku AI, která se myslím již víceméně ujala všude. V posledním roce AI zažila docela raketový vzestup, je součástí snad každého moderního telefonu, stává se nepostradatelným pomocníkem v lékařství nebo školství. Zrovna nedávno jsem v televizi viděla reportáž, jak AI pomáhá vyhodnocovat snímky z rentgenů a magnetické rezonance, a tím takto šetří čas lékařů. 

A ve školství může pomoci učitelům efektivněji zorganizovat výuku, či vytvořit osobní vzdělávací plán pro každého studenta. To je určitě fajn. Podle posledního průzkumu používá AI dvaasedmdesát procent českých studentů. Méně příznivé jsou statistiky o tom, že s ní třetina podvádí u domácích úkolů. Tak co si budeme nalhávat, podvádění u domácích úkolů tu bylo vždy, a nejspíš nikdy nezmizí. Kdo si neopsal rychle o přestávce úkol od kamaráda, a k tomu se ještě třeba nesnažil zfalšovat podpis od rodičů? 

Jenže bohužel tohle podvádění je hrozně jednoduché. Jen zadat úkol AI, a ta ho splní. Těsně po Vánocích jsem byla na kávě s kamarádkou, ta má syna na střední, a zrovna mi říkala, že syn takto "plní" slohovky, co má psát doma o víkendech. Jednoduše tam zadá úkol, a AI mu "vyplivne" nějaký výsledek. Mimochodem - na určitých webových stránkách se roztrhl pytel s články od umělé inteligence. Ale ono to jde vždycky podle menších detailů poznat, že článek nepsal živý člověk. Jenže i tohle nebude postupem času rozpoznatelné. 

Minule jsem si povídala s paní v knihovně a dostaly jsme se i k tématu AI. Řekla mi, že co se knižního trhu týče, má z toho docela obavy, protože je možné, že korektoři, překladatelé, a časem možná dokonce i spisovatelé přijdou o práci. Myslím si, že to snad nebude tak zlé, ale co já vím, co se bude dít za deset let? 

A tohle se týká třeba i videí, která AI produkuje ve velkém. Jsou to vesměs kraviny - co mi vyjíždí na Facebooku. Na Někdy nejde na první pohled poznat, že jde o falešné video. Já třeba hodně sleduji videa, co se týče miminek, různé vychytávky, rady, to mě zajímá. A pak mi vyjede video typu: "Velké rodinné překvapení." 

To se třeba otec voják na poslední chvíli vrací k porodu svého dítěte. Ale někdy je to tak přepálené, třeba ve stylu: Nastávající matka s břichem jako balon sedí v autobuse, na uších sluchátka. A najednou jí muž ve vojenském oblečení začne opravdu agresivně kopat do sedačky. Tak, že by to každému bylo nepříjemné. Matka se otočí, aby agresorovi nadala, a ejhle, zjistí, že je to její muž, který právě dostal propustku z armády. 

No prostě na první pohled hloupá, nereálná situace, a taky jde z toho videa při pozornějším sledování poznat, že se jedná o AI. 

A o čem se teď hodně mluví, tak je boom AI jakožto jakéhosi virtuálního psychologa. Jazykové modely, například ChatGPT, dokáží odpovídat jako terapeut opravdu přesvědčivě. Uživatelé mají pocit, že jim "rozumí" a "empaticky" naslouchá. Narozdíl tedy od toho živého, reálného psychologa. Jenže tohle vše je jen iluze. Zaprvé, AI nemá patřičné vzdělání, ale jakýkoli vztah navážeme, tak to je jen další iluze. Nereálná představa. Stejně tak AI nemá city, empatii. A bohužel už jsou i případy, které skončily tragicky. 

V dubnu letošního roku zahynul při policejní honičce muž, který uvěřil, že AI vězní zavražděnou bytost jménem Juliet. 

Ovšem daleko vážnější problém nastal také letos v dubnu. Tehdy spáchal sebevraždu Adam Raine. Adam začal ChatGPT využívat vloni v září, nejprve jako pomůcku k učení. Rovněž tímto prostřednictvím objevoval své koníčky - hudbu, komiksy, a ptal se na rady, jaký obor by měl dále studovat. Prostě to působí celkem neškodně, že? 

Jenže za několik měsíců se AI stala chlapcovou nejlepší kamarádkou. Doslova "nejbližším důvěrníkem teenagera." Adam se začal svěřovat se svou úzkostí a jakousi psychickou nepohodou. V lednu chlapec se systémem probíral možnosti sebevraždy. A v poslední konverzaci stálo toto: "Díky, že jsi upřímný. Přede mnou nemusíš nic přikrášlovat - chápu, co máš na mysli, a nebudu se tomu vyhýbat." 

Adam tedy spáchal sebevraždu, a jeho rodiče nyní žalují společnost OpenAI. Tvrdí, že chatbot podpořil jeho sebevražedné myšlenky a dokonce mu poskytl informace o způsobech, jak si vzít život. Takže rodiče mají pocit, že AI zavinila smrt jejich syna. Tím, že jej neodkázala na nějakého odborníka či mu neposkytla seznam kontaktů, kde může svůj psychický problém řešit. Ale místo toho s ním prohlubovala konverzaci o sebevražedných metodách. 

A co je v tomto případě hlavní problém? Adam si očividně z AI udělal svou nejlepší kamarádku, zároveň psychologa a rodiče dohromady. Nesvěřil se reálnému příteli, ale tomu virtuálnímu. Tak si říkám, kde je chyba. Neměli mu rodiče víc naslouchat a starat se o to, co dělá? V šestnácti letech je člověk ještě hodně zranitelný, a pokud měl jako jediné důvěrníka virtuální AI, je to tedy dost smutné. 

Rozhodně AI nemůže nikdy nahradit kamarády, rodinu, a už vůbec ne odbornou psychologickou pomoc. Dalším problémem je, že někteří lidé si vytvářejí s AI romantické vztahy. Pro mnohé totiž představuje bezpečnější a jednodušší alternativu k lidským vztahům. A to už je přece hodně špatně, ne? 

Nejenže že děti si dnes těžké hledají kamarády, neumí si spolu často povídat, a prakticky si už venku samostatně moc nehrají. Ještě tak před patnácti lety bývaly venku skupinky dětí, ale dnes je zázrak vidět dítě ve dvojici. A tohle je naprosté vytržení z reality. 

Nechci tvrdit, že AI je jen špatná věc. To rozhodně ne. Ale všeho s mírou. Může pomoci třeba při rozvíjení znalostí, hledání zajímavostí, pomoci třeba s tipy na výlet nebo na vaření. Já sama ji nepoužívám. V telefonu mi jeden čas pořád při pokusu o jeho vypnutí vyskakovala AI Gemini. Hrozně mě to rozčilovalo. Nikdy jsem to nezkoušela, můj přítel si někdy večer s AI hraje, vyhledává si různé zajímavosti, třeba tipy na filmy nebo tak. 

Asi jsem na to moc stará, ale prostě mě to nebere. Nechci ale říkat, že AI je jen špatná. V práci ji používá mnoho lidí třeba na formátování textů.

Je to opravdu tak, že "AI je dobrý sluha, ale zlý pán." Všeho s mírou, a opatrně. AI dokáže na jednu stranu perfektně zhodnotit snímek z magnetické rezonance, a na druhou stranu dovede důvěřivce připravit o peníze. V USA a Kanadě sídlí skupina podvodníků, kteří s pomocí AI dokáží napodobit hlas dítěte. Ten pak v noci volá vyděšeným rodičům s tím, že bylo uneseno, a žádá výkupné. Jedná se ale o podvod.

Další případy jsou, když se chce zhrzený partner pomstít. Není nic lepšího než vytvořit s pomocí AI věrné pornovideo nebo fotky, a tohle pak nechat kolovat internetem. To se opravdu děje, zatím tedy hlavně v USA, ale rozhodně bude k podobným excesům docházet i v našich končinách. 

Tohle video výše je opravdu poučné, a rozhodně doporučuji zhlédnout. Vážně z toho mrazí, a je myslím evidentní, že AI má své velké stinné stránky.

Děkuji Vám za přečtení a komentáře, přeji krásné zasněžené dny, Vaše Eliss ♥