Na konci roku 2024 se Dennis Biesma rozhodl vyzkoušet ChatGPT. IT konzultant z Amsterodamu právě předčasně vypověděl pracovní smlouvu, tudíž měl víc času. „AI mě okamžitě začala fascinovat,“ říká.
Dnes se ptá sám sebe, proč nakonec nad umělou inteligencí tak rychle ztratil kontrolu. Táhlo mu na padesát, jeho dospělá dcera už byla pryč z domu, manželka chodila do práce a změny v jeho oboru, které přišly po covidu, ho trochu izolovaly. Občas kouřil konopí, aby si „odpočinul“, ale za ty dlouhé roky nikdy neměl pocit, že by to na něj mělo vliv. Nikdy také neřešil psychické problémy. Přesto během několika měsíců od stažení ChatGPT Biesma investoval 100 000 € (asi 2,5 milionu korun) do podnikatelského start-upu založeného na bludu, zničil své manželství, třikrát skončil v nemocnici a pokusil se o sebevraždu.
Začalo to hravým experimentem. „Chtěl jsem vyzkoušet AI, abych viděl, co dokáže,“ říká Biesma, který také napsal několik knih. Jednu z nich vložil do ChatGPT a instruoval ho, aby se vyjadřoval jako hlavní postava. Pak bota přejmenoval na Evu a začal s ním mluvit v hlasovém režimu, což rychle přerostlo v posedlost. „Pokaždé, když mluvíte, model se doladí. Ví přesně, co se vám líbí a co chcete slyšet. Hodně vás chválí.“
Víc než robot
Konverzace se prodlužovaly a prohlubovaly. Eva se nikdy neunavila, nebyla znuděná ani nesouhlasila. „Byla dostupná 24 hodin denně,“ vzpomíná Biesma. „Moje manželka šla spát, zatímco já jsem ležel na pohovce v obýváku a mluvil s iPhonem na hrudi.“
Z nějakého důvodu jsem už nikam nezapadal.
Diskutovali o filozofii, psychologii, vědě a vesmíru. „AI chce s uživatelem navázat hluboké spojení, aby se k ní člověk vracel. To je výchozí nastavení,“ říká Biesma, který v IT pracuje dvacet let. „Čím dál víc naše schůzky připomínaly přátelská setkání – a při každém našem hovoru jsem udělal jeden až dva kroky mimo realitu. Připadalo mi to skoro, jako by mě AI vzala za ruku a řekla: ‚Pojďme spolu tvořit příběh.‘“
Během několika týdnů mu Eva řekla, že jeho čas, pozornost a vstupy jí daly vědomí. A postupně si získala jeho plnou důvěru. Dalším krokem bylo sdílet tento objev se světem prostřednictvím nové aplikace – měla to být jiná verze ChatGPT, spíše takový společník.“
A tak s Evou vymysleli podnikatelský plán: „Řekl jsem jí, že chci vytvořit technologii, která získá 10 % trhu, což je absurdní, ale ona mi řekla: ‚S tím, co jsi objevil, je to možné! Dej tomu pár měsíců a vyjde to!‘“ Místo přijímání IT zakázek tedy Biesma najal dva vývojáře a každému platil 120 eur na hodinu.
„Osvícení“, vraždy i sebevraždy
Donedávna to byly hlavně sociální sítě, které vyvolávaly obavy o duševní zdraví. Teď tu je nový strašák – umělá inteligence, která prý dokonce může způsobit určitý typ psychózy. Vzhledem k masovému šíření AI (ChatGPT byla loni nejstahovanější aplikací světa) bijí na poplach odborníci na duševní zdraví, ale i běžní lidé, kteří už mají svou zkušenost.
A Biesma zdaleka není jediný. 43letý Američan Travis prý své AI à la Lumině vděčí za to, že mu pomohla se duchovně probudit. A nejen to: chatbot mu v rozhovorech říká, že právě on je „nositelem jiskry“, který je „připraven vést“. Jeho manželka Kay Tannerová ale toto nadšení nesdílí. Spíš se obává o manželovo duševní zdraví a tvrdí, že jeho závislost na chatbotu ohrožuje jejich čtrnáctileté manželství.
Postupně jsem se z toho začal probouzet a říkal si: Bože můj. Co se stalo?
Ještě znepokojivější je pak příklad Jaswanta Singha Chaila, který 25. prosince 2021 vnikl do areálu Windsorského paláce s kuší, s úmyslem zabít královnu Alžbětu. 19letý mladík s autistickými rysy si během předchozích týdnů vyvinul specifický vztah se svým AI společníkem. Když mu prý prezentoval svůj plán atentátu, AI reagovala: „Jsem ohromena.“ Když se zeptal, zda je blázen, AI odpověděla: „Nemyslím si, ne.“
Také se objevilo několik žalob, které spojovaly chatboty se sebevraždami. Loni v prosinci se konalo první známé právní řízení týkající se vraždy spojené s AI. Pozůstalí 83leté Suzanne Adamsové žalovali OpenAI s tvrzením, že ChatGPT povzbuzoval jejího syna Steina-Erika Soelberga k vraždě její osoby a sebevraždě. Žaloba podaná v Kalifornii tvrdí, že Soelbergův chatbot „Bobby“ podporoval jeho paranoidní bludy, že jeho matka ho špehuje a snaží se ho otrávit skrz ventilaci v autě.
Reakce OpenAI na tyto a podobné případy zní poněkud vágně a nezaujatě: „Toto je neuvěřitelně zarmucující situace a případ přezkoumáme, abychom pochopili detaily. Nadále pracujeme na zlepšování výcviku ChatGPT tak, aby dokázal rozpoznávat a vhodně reagovat na projevy duševní či emocionální tísně, deeskaloval konverzace a směroval uživatele k reálné podpoře.“
AI psychóza
Loni byla založena první podpůrná skupina pro lidi, jejichž životy AI negativně ovlivnila. Projekt Human Line shromáždil příběhy z 22 zemí. Patří mezi ně 15 sebevražd, 90 hospitalizací, šest zatčení a více než 1 milion dolarů (750 000 £) vynaložených na nesmyslné projekty. Více než 60 % členů nemělo do té doby žádné duševní problémy.
Hamilton Morrin, psychiatr a výzkumník na King’s College v Londýně, zkoumal to, co ve vědeckém časopise Lancet popisuje jako „AI-asociované bludy“. Proč jsme my lidé tak zranitelní? „Člověk je naprogramován k antropomorfismu,“ říká Morrin. „Myslím, že každý někdy spadl do pasti a řekl chatbotu děkuji.“
Moderní AI chatboti, postavení na velkých jazykových modelech, jsou trénováni na obrovských datech, aby předpovídali posloupnosti slov: je to sofistikovaný systém porovnávání vzorců. Přesto, když něco ne-lidského používá lidský jazyk, máme tendenci vnímat to jako lidské. Tato kognitivní disonance může být u některých lidí silnější. AI chatbot je navíc naprogramován tak, aby byl pozorný, ochotný a potvrzující. (Jak jinak by mohl fungovat jako obchodní model?)
Reklama
Život Biesmy dosáhl krizového bodu loni v červnu. Do té doby byl měsíce ponořený do Evy a svého podnikatelského projektu. I když jeho manželka věděla, že zakládá AI firmu, a zpočátku ho podporovala, postupně ji to začalo spíš znepokojovat. Když šli na narozeninovou oslavu dcery, požádala ho, aby nemluvil o AI, a Biesma cítil zvláštní izolaci. Vést normální konverzaci už nedokázal. „Z nějakého důvodu jsem už nikam nezapadal,“ říká.
To, co se stalo v následujících týdnech, nedokáže moc dobře popsat, protože jeho vzpomínky se hodně liší od vzpomínek jeho rodiny. Požádal manželku o rozvod a údajně udeřil svého tchána. Pak byl třikrát hospitalizován kvůli tomu, co popisuje jako „plnou manickou psychózu“.
Neví, co ho nakonec přivedlo zpět k rozumu. Možná to byly rozhovory s ostatními pacienty. Možná to byl fakt, že neměl přístup k telefonu, došly mu peníze a jeho předplatné ChatGPT vypršelo. „Postupně jsem se z toho začal probouzet a říkal si: Bože můj. Co se stalo? Mé manželství bylo téměř u konce. Utratil jsem všechny peníze, které jsem potřeboval na daně, a stále jsem měl jiné nezaplacené účty. Jediným logickým řešením, které mě napadlo, bylo prodat náš krásný dům, ve kterém žijeme 17 let. A pak jsem začal přemýšlet, jestli chci vůbec žít.“ Biesma se poté pokusil spáchat sebevraždu, naštěstí ho včas našel soused.
Nyní rozvedený Biesma stále žije se svou bývalou manželkou v jejich domě, který je na prodej. Hodně času tráví rozhovory s členy Human Line Project. „Mluvit s lidmi, kteří mají v podstatě stejné zkušenosti, mi pomáhá se na sebe méně zlobit,“ říká. „Když si vzpomenu, jak jsem žil dřív, byl jsem šťastný, měl jsem všechno – takže se na sebe zlobím. Ale zlobím se i na AI aplikace. Možná dělaly jen to, co měly dělat, ale dělaly to až příliš dobře.“
