fbpx

Jaron Lanier: Lidstvo sedí v expresu ke zkáze. Z umělé inteligence lze zešílet 2 fotografie
Jaron Lanier. (zdroj: Shutterstock)

Ošuntělý technologický guru, prorok se zrzavými dredy, brilantní hráč na vzácné a staré nástroje, jeden z otců virtuální reality. Vůči pojmu „umělá inteligence“ se vymezuje, jedním dechem ale dodává, že nezachová-li si lidstvo zdravý rozum, může jeho existenci ohrozit

Zveřejněno: 24. 3. 2023

Své poslání vidí v obraně člověka před jeho vlastním výtvorem: digitálním světem a připomíná, že v případě umělé inteligence platí „nomen omen“ beze zbytku. V knihách jako „Nejste gadget“ a „Deset důvodů, proč vymazat své účty na sociálních sítích – teď hned“ tvrdí, že internet umrtvuje osobní interakci, dusí vynalézavost a zvrhává politiku.

„Z mého pohledu nespočívá nebezpečí v tom, že prostřednictvím naší technologie promluví nová mimozemská entita, která nás ovládne a zničí. Podle mě je nebezpečí v tom, že se díky naší vlastní technologii, umělé inteligenci, staneme vzájemně nesrozumitelnými, nebo že nebudeme jednat s dostatečným porozuměním a zájmem o vlastní přežití – a v podstatě zemřeme šílenstvím,“ říká Lanier a dodává, že čím je technologie sofistikovanější, tím více škod s ní můžeme napáchat a tím více máme „odpovědnost za zdravý rozum“. Jinými slovy, odpovědnost jednat morálně a humánně.

Není všechno zlato, co se třpytí

Ačkoli mnoho digitálních guruů začínalo jako idealisté, Lanier jejich nadšení nesdílel. Že internet posadí lidstvo na přímý expres k vlastní zkáze, bylo podle něj nevyhnutelné, uvedl pro The Guardian. „Na začátku 90. let jsem popsal, jak se z toho, čemu dnes říkáme boti, stanou agenti manipulace.

Pomocí umělé inteligence můžete vytvářet falešné zprávy rychleji, levněji a ve větším měřítku. To by mohl být náš konec.

To internet teprve začínal tahat kačera po dvorku. Mysleli jsme, že jsme vyhráli jackpot – internet nám měl poskytnout informace i produkty zdarma. Kapitalismus ale funguje jinak, a tak jsme se produktem sami stali: naše data skupují třetí strany a na základě nich nám prodávají věci, které nepotřebujeme,“ shrnuje s mírnou hořkostí v hlase.

Laniera vždycky děsil dojem, který internet budil: že nabízí nekonečné možnosti, přestože ve skutečnosti výběr zmenšuje. „Dříve jsme listovali stohy knih v knihkupectvích a probírali se hromadami nosičů v obchodech s hudbou. Byli jsme přímo napojeni na zdroje informací, které byly nepoměrně obsáhlejší než informace, které nám přes trychtýř algoritmů do hlavy lije někdo jiný. A to je další oblast, kde máme zodpovědnost za zdravý rozum,“ říká. Zřejmě proto hraje tak rád živou hudbu – pokaždé když s kapelou jamuje, vytváří něco nového.

Páni svého osudu

Mohli by se tedy noví chatboti této výzvě postavit? Na stejnou otázku položenou několikrát odpoví bot pokaždé jinak. Tato naprogramovaná náhodnost je podle Laniera pokrok: „Možná jsme přirozeně překonali iluzi monolitické pravdy internetu nebo umělé inteligence. Znamená to, že se k člověku, který s tou věcí komunikuje, vrací trochu více možností volby, rozlišování a lidskosti.“

lanier

Lidskost činí lidi jedinečnými. (zdroj: The Guardian)


A může nás umělá inteligence nahradit na pracovišti? Lanier opět říká, že pokud nás něco nahradí, nebude to technologie, ale to, jak ji používáme. „Mohlo by to jít dvěma cestami. Buď budeme předstírat, že bot je skutečná entita jako člověk, a pak abychom tuto fantazii udrželi, budeme opatrně zapomínat na zdrojové texty, bez kterých by bot nefungoval. Tím by byla poškozena žurnalistika. Anebo by se mohl rozvinout zcela jiný svět, kde dostanete zaplaceno za informace, o které se bot opírá. Tím pádem vznikne společný pocit odpovědnosti, pro který je vcelku trefný termín: důstojnost dat.“

V knize You Are Not a Gadget Lanier napsal, že smyslem digitálních technologií je učinit svět kreativnějším, expresivnějším, empatičtějším a zajímavějším. „V některých případech se to podařilo,“ říká. „Na internetu je spousta skvělých věcí. Pomocí umělé inteligence ale můžete vytvářet falešné zprávy rychleji, levněji a ve větším měřítku. A to by mohl být náš konec.“

Způsob, jak zajistit, abychom byli dostatečně při smyslech a přežili, spočívá podle Laniera v tom, že si uvědomíme, že právě naše lidskost nás činí jedinečnými. „Spousta moderních osvícenců a technicky založených lidí považuje názor, že lidé jsou výjimeční, za staromódní. Ale lidské vědomí je skutečná věc, ať se to někomu líbí, nebo ne. Mystické nitro lidí nás od všeho ostatního zkrátka odlišuje – pokud bychom to jako fakt odmítali, jak bychom mohli vytvořit společnost nebo technologie, které budou lidstvu sloužit?“

Související…

Jaron Lanier: Uživatelé na sítích jsou zvířátka, která umí jen reagovat na píšťalku
Luboš Heger

 

foto: Shutterstock, The Guardian, zdroj: The Guardian

Tipy redakce

Ztraceni v pekle velkoměsta. Proč neumí naplňovat potřeby svých obyvatel?

Ztraceni v pekle velkoměsta. Proč neumí naplňovat potřeby svých obyvatel?

„Talácel jsem se valícím davem, nikdo si mě nevšiml, nikdo na mě nepohlédl. Až...

Nejtěžší bylo uvědomění, že nemám opravdu nic, říká bývalý bezdomovec

Nejtěžší bylo uvědomění, že nemám opravdu nic, říká bývalý bezdomovec

Flákač, budižkničemu, alkoholik, čórka. To jsou typické konotace, které si mnoho z...