fbpx

Proč lidstvo nemůže čekat, až začne AI rozhodovat za něj? Protože pak už nedostane šanci.

Zveřejněno: 25. 3. 2018

Ondřej Vlček, CTO antivirové společnosti Avast, vzdálenost mezi Prahou a Brnem překonává za volantem své Tesly, auta, které aspiruje být jedním z prvních, jež se bude řídit samo. Dobu, kdy by ale neseděl za volantem, si Ondřej dost dobře představit ještě nedovede. K vyřešení zbývá příliš mnoho otazníků. Právní rámec a společenské normy ošetřující použití umělé inteligence jsou světelné roky za jejím vlastním vývojem.

Čtěte také:
Slabá a silná umělá inteligence: Které z nich se máme bát?
Zde je 21 pracovních míst, která pro lidi vytvoří umělá inteligence

 

V úterý v arizonském městě Tempe srazilo SUV společnosti Uber s autonomním řízením devětačtyřicetiletou ženu. Policejní záznamy ukazují, že auto zřejmě nezaznamenalo pohyb před sebou ani nezpomalilo. Žena s bycyklem se zjevila před vozem z temné noci, takže by ani v případě řízení vozu člověkem neměla šanci. Přesto technologie, kterou používá Uber, Lidar technology, bude nutné podrobit zkoumání. 

Vyvstávají ovšem zásadní otázky. Kdo je zodpovědný, když má auto řízené umělou inteligencí nehodu? S kým se soudit v případě, že selže zdravotnické zařízení napojené na umělou inteligenci? A ukazuje se, že i samotná technologie má ještě mezery. V květnu 2016 autopilot Tesly S způsobil smrt svého řidiče, který se stal prvním člověkem, jež zemřel při nehodě samořídícího auta. Autopilot nerozeznal obrysy bílého nákladního auta oproti jasně modré obloze a snažil se jej podjet. Společnost Tesla tehdy sama doporučila nechávat ruce na volantu.

Nevábné slovo – regulace

Brzdou, která bude stát mezi námi, zběsile rychlým vývojem technologií a dobou, kdy by nás umělá inteligence ovládla, bude regulace. „Myslím, že regulace nás bude brzdit v dobrém i špatném slova smyslu,“ upřesňuje Michal Pěchouček z ČVUT. „Umělá inteligence bude nabourávat způsob, jakým naše společnost funguje. Třeba samořídící taxi od Uberu. Municipality i taxi služby se proti Uberu bouří, ale co když byl způsob fungování taxi služeb až do dnešního dne neefektivní? Co když z něj profitovalo jen pár vybraných jedinců? Technologie tuto doménu disruptovala a regulace ji brzdí.“

Umělá inteligence bude nabourávat způsob, jakým naše společnost funguje.

 

Elon Musk tlačí na to, abychom byli v regulaci umělé inteligence napřed a již nyní vytvářeli rámec, ve kterém může fungovat. „Obvykle regulace funguje tak, že se stane řada špatných věcí, veřejnost je pobouřena, za několik let se na to zákonodárci podívají a v daném průmyslu začne platit omezení. Případ umělé inteligence je jeden z mála, kde musíme být s regulací napřed. V okamžiku, kdy se staneme reaktivními, bude pozdě, protože naše civilizace v jejím případě čelí existenciální hrozbě,“ řekl Musk.

Bohužel, veřejný sektor zatím zaostává a povědomí o uplatnění a vlivu umělé inteligence je mizivé. Vědci proto apelují na vlády, aby se umělé inteligenci začali věnovat a snažili se ji pochopit.

Neumíme číst z tváří 

Stejně tak zásadní je uvědomit si naši rostoucí závislost na umělé inteligenci. Vyvíjíme ji proto, abychom na ni delegovali práci, která většinu lidí nebaví, třeba v továrnách u pásu. Vyvíjíme ji proto, abychom daný úkol zvládli lépe a rychleji, třeba lékařskou diagnostiku, a vyvíjíme ji proto, aby nám ve formě humanoidních robotů byla společníkem.

Důsledkem tohoto procesu je koncentrace praktické moci v rukou inženýrů a korporací, které vedou výzkum umělé inteligence, ztráta mnoha schopností, které jsme měli a máme, třeba číst z výrazu v obličeji ostatních, protože pořád hledíme na obrazovky našich chytrých zařízení, a v konečném důsledku usnadňujeme strojům, aby nás eliminovaly, protože se v porovnání s nimi stáváme slabšími.

Svobody jsou okamžitě zřejmé, o závislostech se nemusíme dozvědět nikdy. Abychom zjistili, že jsme na něčem závislí, musí obvykle přijít krize.

 Místo toho, abychom trénovali vlastní kognitivní schopnosti, chceme to po strojích. Americký spisovatel Stewart Brand v 80. letech napsal: „Nové technologie vytvářejí nové svobody a nové závislosti. Svobody jsou okamžitě zřejmé, o závislostech se nemusíme dozvědět nikdy. Abychom zjistili, že jsme na něčem závislí, musí obvykle přijít krize.“ Myšlenka, která pořád platí.

Survival of the fittest

Pokud do přemýšlení zahrneme i otázku toho, kdo skutečně jsme, můžeme relativně jednoduše dojít až k závěru, že si stavíme vlastní vylepšenou verzi, a podle teorie evoluce je pravděpodobné, že pokročilejší druh přežije. Americký filosof Daniel Dennett si v rozhovoru pro Financial Times nebyl příliš jistý, že existuje zásadní rozdíl mezi inteligencí strojů a lidským vědomím. „Naše vědomí je produktem interakcí miliard neuronů, které jsou svým způsobem roboti. Již roky říkám, že v principu je možné, aby se lidské vědomí objevilo u strojů. To jsme koneckonců i my. Jsme roboti vytvoření z robotů, kteří jsou taky utvořeni z robotů.“

Naše vědomí je produktem interakcí miliard neuronů, které jsou svým způsobem roboti.

Podobně přemýšlí i Nell Watsonová, pro niž jsme organická forma umělé inteligence. Pokud budeme vystupovat proti zájmům umělé inteligence, je možné, že se jednoho dne vzbouří, a nemůžeme jí to vyčítat. I dokonale morální umělá inteligence má právo se bránit.

Dennett souhlasí, že scénář, kdy stroje převezmou vládu, je logicky možný, ale zároveň upozorňuje, že nás to odvádí od mnohem ožehavějších problémů. „Máme hluboce zakořeněnou tendenci přisuzovat inteligentním strojům mnohem vyšší stupeň pochopení, než jaký mají. V naší době uvidíme pouze inteligentní nástroje.“ Tvrdí, že uživatelům umělé inteligence by měla být udělena licence, aby byli donuceni převzít zodpovědnost za své činy.

Národy ztracených duší

Pokrok technologií je exponenciální. A je až překvapivé, jak lehce jsme ochotni předat řadu každodenních individuálních rozhodnutí do rukou stále sofistikovanějších algoritmů.

Americký novinář John Markoff píše: „Pro dnešní mladou generaci se svět převrátil naruby. Než aby využívali počítačů k tomu, aby jim uvolnily čas pro velké myšlenky, pro rozvoj vztahů s přáteli a jejich vlastní individuality, kreativity a svobody, mají mladí lidé najednou takový hlad po vedení, že jsou ochotni odevzdat zodpovědnost za rozhodnutí umělé inteligenci v cloudu. To, co začalo jako internetové technologie, které umožnily, aby jednotlivci sdíleli své preference, se rapidně transformovalo do rostoucího zástupu algoritmů, které zrychlujícím se tempem tyto preference diktují.“

Čtěte také:
Proč umělá inteligence není tak inteligentní jako my
Elon Musk naléhavě tweetuje: AI je nebezpečná!

 Řada vlivných rodičů v Silicon Valley, kteří na technologiích zbohatli, posílá své děti do škol, jež razí pravidlo, že technologie do brzkého vzdělávání nepatří. Asi vědí proč. Hlavně díky technologiím se z nás podle Nell Watsonové stávají národy ztracených duší a lidé mají v průměru mnohem méně blízkých přátel než dříve. To nás dělá náchylnější k manipulaci. „Kořenem závislosti je odcizení a odloučenost.“

Tipy redakce

Alkoholismus? Dá se léčit i mírněji než abstinencí, říká psycholožka Marie Funke

Alkoholismus? Dá se léčit i mírněji než abstinencí, říká psycholožka Marie Funke

Možná jste si po propité silvestrovské noci dali jako spousta lidí následující...

Našla se nová planeta naší galaxie? Možná jde jen o černou díru

Našla se nová planeta naší galaxie? Možná jde jen o černou díru

Aby nějaký astronom objevil novou planetu v naší sluneční soustavě, to je věc...

Pokračováním v prohlížení těchto stránek souhlasíte s Podmínkami užití a Pravidly využití Cookies.