RECENZE: Kniha Nazí v AI době popisuje co dělat, když stroje myslí a lidé ztrácejí jistotu

 Moje kamarádka mi jednou řekla: „Vždycky, když se bavím s umělou inteligencí, tak pěkně  pozdravím, poprosím a nakonec poděkuju. Zaprvé proto, že jsem tak byla vychovaná, zadruhé proto, že až se jednou probudí Skynet (což je reference na slavný film Terminátor 2, ve kterém si umělá inteligence uvědomila sama sebe), tak oni budou vědět: jo, to je ta, co se chovala slušně, tu necháme přežít!“ Při četbě Sedláčkovy knihy jsem si uvědomil docela zásadní symboliku této úvahy, řečené samozřejmě v nadsázce. On sám v předmluvě uvádí, že AI je revolučním objevem, srovnatelným s objevem k tomu, že je země kulatá, nebo že není středem vesmíru. V určitém okamžiku sice víme, že jsme něco objevili, ale nedokážeme si ještě vůbec představit důsledky a vlastně ani rozměr dané nové skutečnosti. Zatímco v minulosti si to uvědomovali jedinci, dnes jde do jisté míry o kolektivní vědomí celé (nebo aspoň té vnímavější) části lidstva.

Ve filmu Boj o oheň je závěrečná scéna, kdy hlavní protagonista (humanoidní předchůdce člověka), sedí a kouká v noci na měsíc. Kouká na něj s údivem, přesto hlubokým zájmem. Ví, že v danou chvíli nemá šanci pochopit, co to pro něj znamená. Ví ale, že to je něco velkého. A v jeho tváři se značí touha pochopit, přijít věci na kloub. Je to nevyhnutelná součást lidské povahy, věc, která je motorem vývoje lidského poznání od doby, kdy si člověk uvědomil sám sebe. Podobně jako Sedláček, který v úvodu knihy popisuje přetlak tvůrčího procesu, kdy z imaginární hromady informací potřeboval zformovat myšlenky, obsažené v této knize. Když nastane čas, informace se prostě zjeví. Kdyby Guttenberg nevynalezl knihtisk, vynalezl by ho někdo jiný. Kdyby Marconi nevynalezl dálkový přenos, rádio by vymyslel někdo jiný. Podobně je to s umělou inteligencí, ovšem oproti ní máme dvě zásadní výhody. Zaprvé, téma už dávno zpracovali, a poměrně dopodrobna, spisovatelé science fiction, zadruhé, jakákoliv vědecká práce je díky internetu a dostupnosti informací do značné míry kolektivním dílem. Lukáš Sedláček zajisté tuto analogii promine, protože finální definice má vždycky jednoho autora, a toto v Česku originální autorství už mu nikdo neupře. 

Knih, které se zabývají vztahem člověka a umělé inteligence, je hodně. Nazí v AI době mi připomněla oblíbenou Summu Technologiae od Stanislava Lema. Pro oba z nich nejsou technologie božským zásahem odnikud, jsou to odrazy lidstva. Podle Lema se AI nikdy nemůže vymanit z područí člověka a vždy bude podřízena tomu horšímu nebo lepšímu, co v nás je. Sedláček považuje AI za přirozenou součást lidství a reflexi toho, jací jsme, aniž bychom na výslednou podobu měli zas takový vliv. Je to logické, Lemova kniha vznikla před 60 lety, kdy o umělé inteligenci tak, jak ji vnímáme a známe dnes, ještě nikdo ani neuvažoval, a plně autonomní systémy byly přítomny v hříčkách Isaaca Asimova. Dnes jsou systémy, které se samy učí, naprosto běžnou záležitostí (i když Skynet to ještě není, zdůrazňuji slovo „ještě“). Jak Lem, tak Sedláček se ale zamýšlejí nad tím, jestli lidstvo umělou inteligenci zvládne. Jsme schopni přijmout etickou zodpovědnost za něco, co nás s největší pravděpodobností rychle přeroste, když často nejsme schopni zvládat ani sami sebe? Lem je také bližší kurzweilovské představě singularity jako dalšího stupně vývoje civilizace, Sedláček naopak technologie považuje za výzvu: opravdu se chceme nechat technologiemi ovládnout? Opravdu lidstvu necháme prostor pro to, aby se jednoho dne spustil Skynet a po Zemi běhala (obrazně řečeno) spousta terminátorů s cílem vyhubit lidstvo? Lem je v tomto případě skeptik a s lidstvem se v podstatě loučí, Sedláček je oproti tomu optimista a věří v empatii a sílu humanity. 

„Pokud má vzniknout cosi jako superinteligence, měli bychom se maximálně vynasnažit, aby sledovala naše cíle i  motivace. A pokud by se to nepodařilo, tak aby se kontrole vymknout nemohla.“

Příklad s Lemem jsem nevybral náhodou. Sám Sedláček uvádí své úvahy o moderních technologiích do filozofického kontextu, jmenuje Junga, Nietzcheho i moderního Yuvala Harariho. Uvědomuje si dobře nebezpečí a výzvy, které s sebou umělá inteligence přináší, a že nebezpečí nemusí spočívat vždy v technologiích samotných. Zatímco pro to, abyste někomu ublížili pomocí například sekery nebo střelného prachu, musíte ji vzít do ruky a někoho udeřit nebo vystřelit, technologie jsou vlastně vaší prodlouženou rukou. Co se ale stane, pokud se technologie stanou natolik inteligentními, že začnou využívat slabých stránek lidské povahy? Co když si AI (zcela logicky) řekne: nebude lepší se s některým morálně méně ukotvených světových lídrů prostě domluvit? 

Umělá inteligence se konsenzuálně dělí na 4 stupně: reaktivní AI (specifické úkoly, například Deep Blue pro hraní šachu), omezená paměť (učí se na velkých množstvích dat), teorie vědomí (rozumí pocitům a přizpůsobuje se jim) a plně uvědomělá inteligence. V současné době jsme na úrovni 2, co se ale stane, až se dostaneme na úroveň 4? „Pokud má vzniknout cosi jako superinteligence, měli bychom se maximálně vynasnažit, aby sledovala naše cíle i  motivace. A pokud by se to nepodařilo, tak aby se kontrole vymknout nemohla,“ říká Sedláček. 

Jenže, jak toho dosáhnout? Kdysi dávno stanovil spisovatel Isaac Asimov tři zákony robotiky. Zaprvé, robot nikdy nemůže ublížit člověku. Zadruhé, robot musí vždy poslechnout člověka, s výjimkou případů, kdy by to odporovalo prvnímu zákonu. Zatřetí, robot musí sám sebe chránit před sebezničením, s výjimkou případů, kdy by to odporovalo prvnímu či druhému zákonu. Podle Sedláčka bude hodně záležet na tom, jaká pravidla pro fungování AI nastavíme, a zmiňuje i iniciativy, které se o nastavení mantinelů snaží. Zdali se ovšem tyto hranice podaří udržet, nebo zda je poruší lidstvo samo, či dokonce sama umělá inteligence, která se lidem vymkne z rukou, to ukáže budoucnost. Sedláček je v tomto optimista, což se mimo jiné projevuje i v jeho dalších aktivitách: je organizátorem Týdne Inovací, konference o vývoji umělé inteligence, která mapuje stav vývoje AI a její vliv na společnost a kulturu obecně. I díky tomu není Nazí v AI době jen akademickou hříčkou, ale živoucím důkazem stavu umělé inteligence a jejím postavení v rámci společnosti v roce 2025. Navíc napsanou velmi emotivním a esteticky příjemným civilním jazykem. Otázky, které klade, jsou formulovány tak, aby byly přístupné i těm, pro které je AI maximálně generátorem vtipných obrázků, případně těm, kteří poslední knihu přečetli někdy těsně předtím, než si založili první e-mailovou schránku. Není to ani technokratická, ani ezoterická úvaha. Je to svědectví o stavu vědomí technooptimistů v době, kdy nikdo prostě neví, jak to bude, což Sedláček ostatně v knize přiznává. A zároveň mluví o tom, co musíme udělat, abychom nepřišli o důstojnost, dominantní postavení ve světě, a hlavně o to nejdůležitější: lidskost.

Reklama