fbpx

Infokalypsa? To když umělá inteligence vyrábí falešné události, které si lidé zapamatují, jako by šlo o jejich zážitky

Zveřejněno: 29. 10. 2018
Přečteno 2397x

Někteří z nás za posledních devět měsíců možná zaregistrovali jedno či dvě z pornografických videí, na nichž svá těla nabízejí celebrity jako Emma Watsonová, Katy Perryová, Taylor Swiftová nebo Scarlett Johanssonová. Ve skutečnosti tedy nenabízejí své, nýbrž cizí tělesné schránky. A nejsou to celebrity, nýbrž virtuální hlavy, které k cizím tělům „přimontovala“ technologie, jež získala jméno po anonymním tvůrci, v hackerské komunitě vystupujícím pod přezdívkou „deepfakes“.

banner kniha clanky

Tímto termínem dnes už ale odborná veřejnost rozumí produkty supervýkonného grafického procesoru, který z množství pravých videí umí nastudovat chování objektů zájmu (mimiku obličejů) tak dobře a „hluboce“ (deep), že výsledný fake působí kromobyčejně věrně. Zároveň tu už nenajdete „švy“, jež prozrazovaly dřívější pokusy o průnik virtuální reality do skutečné. Příklad jednoho takového videa jsme ostatně na Flowee zmiňovali nedávno. Hacker s přezdívkou deepfakes mezitím nabízel technologii širokým masám na doméně Fakeapp.org, což prý byl příspěvek k „demokratizaci“ jeho práce.

Lidská identita na internetu je z podstaty věci dosti „kluzká“ záležitost, ovšem deepfakes ji učiní ještě hrozivěji  neuchopitelnou.

V nové kultuře cynického přístupu ke konzumaci zpráv, jenž zavrhuje klasické zpravodajství a věří jen tomu, co lze spatřit „na vlastní oči“ (rozuměj na videozáznamu), se podle všeho bude umělé inteligenci výtečně dařit. Jak píše Franklin Foer v magazínu The Atlantic, lidská identita na internetu je z podstaty věci dosti „kluzká“ záležitost, ovšem deepfakes ji učiní ještě hrozivěji  neuchopitelnou. Foer se obává „kolapsu reality“.

Virtuální zpravodajství

Jak ukazují zkušenosti z posledních let, lidstvo jako celek nemá proti pokusům, jimiž se jej různí podvodníčci snaží ošálit, téměř žádnou imunitu. Trpí přímo živočišným hladem po fotkách a videodůkazech jakékoli nepravosti, které dokazují temné rejdy elit, a pociťuje doslova nechuť předkládaná videa (vytržená ze souvislostí či doplněná jiným kontextem) konfrontovat s agendou jejich šiřitelů. Podstrčte na sociální síť jakoukoli virtuální realitu (VR) a velká část osazenstva nebude mít nejmenší problém ji považovat za regulérní zpravodajství.

obama ahmad

Lidé si zapamatovali, jak si Obama podal tuku s Ahmadínežádem. To se nikdy nestalo


První pokus tohoto druhu učinil v roce 2010 magazín Slate, který ušil ošklivou boudu na vlastní čtenáře a podstrčil jim sadu zfalšovaných fotografií. Na jedné si Barack Obama podával ruku s íránským prezidentem Ahmadínežádem, na jiné senátor Joseph Lieberman hlasoval pro impeachment Billa Clintona (1998) a na další si George W. Bush během záplavy v New Orleans (2005) dopřával odpočinek s profesionálním hráčem baseballu Rogerem Clemensem. 

Ani jedna z událostí se nikdy nestala. Snímky jen trefně mířily na předsudky vůči aktérům – Obama zašel příliš daleko při sbližování s Iránem, Lieberman nebyl vždy loajální vůči demokratům (v roce 2006 ze strany zběhl) a Bush se při likvidaci následků hurikánu Katrina zrovna moc nepřetrhl.

Pokud nějaká lež visí na sociální síti dostatečně dlouho a navíc poškozuje tým protivníka, jsme jakožto konzumenti vůči ní obzvláště bezmocní.

Všechny snímky byly zfalšované, přesto se později více než polovina z tisícovky respondentů rozpomněla, že k nim skutečně došlo. V každém šestém z nich to dokonce vyvolalo osobní vzpomínky na ilustrovanou událost. Dodejme, že šlo o čtenáře magazínu Slate, kteří se (zřejmě právem) považují za informovanější než zbytek populace. „Říkal jsem si tenkrát, že Obama to musel udělat, nepotřást Ahmadínežádovi rukou by bylo neslušné,“ vzpomněl si jeden ze čtenářů na své niterné pocity.

Bezmocný konzument

Od té doby se s podobnými pokusy trhaly pytle. Lidé si třeba vzpomínají na neexistující filmy: „Připadá mi, jako by mi ukradli kus dětství,“ řekl jeden z fanoušků kultovního snímku Shazaam. To když se dozvěděl, že žádný takový film vidět nemohl, přestože se o něm živě diskutovalo na foru Reddit. Ukazuje se, že pokud nějaká lež visí na sociální síti dostatečně dlouho a navíc poškozuje tým protivníka (a tím stmeluje naše vlastní společenství), jsme jakožto konzumenti vůči ní obzvláště bezmocní.

Takže nedávno vyšlo najevo, že si skoro polovina republikánských voličů  vybavuje, jak prezident Donald Trump vypověděl zákon (o dostupné lékařské péči) zvaný Obamacare. Trump ovšem Obamacare vypovědět nemohl, zákon zůstává v platnosti – pouze říkal, že to udělá, a taky říkal, že všechna tradiční média o něm jenom lžou. 

shazaam

Film Shazaam nikdy neexistoval, spousta lidí na něj rádo vzpomíná


Trump si tohoto zvláštního jevu – totiž pevné víry konzumentů zpráv v události, které se nestaly – již stačil povšimnout a vychází mu nenápadně vstříc. Poslední dobou naznačuje, že hlas na snímku z roku 2005, kde se chlubí zvykem „chytat ženy za čičinku“ (grab them by pussy), nemusí být vůbec jeho. Pakliže by s touto verzí uspěl, jednalo by se o první významný případ „kolapsu reality“, jak o něm referoval server Atlantic.

Přichází infokalypsa?

Příchod kolapsu reality nebo také „infokalypsy“ v blízké době očekává Aviv Ovadya, vedoucí Centra pro odpovědná sociální média na Michiganské univerzitě. Ten se proslavil tím, že v říjnu 2016, pár týdnů před prezidentskými volbami v USA, varoval před „návykovým chováním vůči toxickým dezinformacím“ a tvrdil, že společnost se chystá překročit kritický práh (tehdy se o fake news ještě nemluvilo). Tentokrát předvídá, že „kolaps reality“ se postupně přemění v „apatickou realitu“, v níž konzumenti zpráv přestanou věřit čemukoli, a žádné video je nevyvede z letargie.

Žádné médium neslibovalo tolik krásy a tolik hrůzy současně, virtuální realita otestuje náš charakter jako nic před ní.

K virtuální realitě ve zpravodajství zaujímají různí vizionáři odlišně vyhraněné postoje. Například Elon Musk roky varuje před umělou inteligencí a připodobňuje ji k „démonovi, který neměl být vypuštěn z lahve“, zatímco technologický guru (prý vymyslel pojem VR) Jaron Lanier v nedávno zveřejněném memoáru píše: „Žádné médium neslibovalo tolik krásy a tolik hrůzy současně, virtuální realita otestuje náš charakter jako nic před ní.“

Související…

Fake, nebo pravda? U zpráv je důležitější hledat kontextNevěř tomu, co vidíš, aneb je tu éra fake videaFake news tu byly vždy, ale novinařina se musí změnit

Co se stane, až se objeví deepfake, na němž virtuální Trump vypoví Obamacare přímo před kamerou? I kdyby mu desítky milionů lidí uvěřily jen na chvíli, vzpomínky v nich zůstanou uloženy do konce života a u řady z nich dost možná překryjí realitu. „Jakmile se paměť jednou updatuje, zapomene na to, že tak učinila,“ říká Linda Levinová, výzkumnice v oblasti paměti a emocí. Virtuální svět se tak stane realitou a informační společnost se dočká infokalypsy.

foto: Shutterstock, zdroj: The Week

Luboš Heger

Luboš Heger

Texpert a kulturní antropoid. Nevěří, že lze skutečnost věrně zaznamenat do slov, ale každý pokus vytváří novou a zajímavou skutečnost.



Související články

Pokračováním v prohlížení těchto stránek souhlasíte s Podmínkami užití a Pravidly využití Cookies.