Ředitel OpenAI: Umělá inteligence mění svého tvůrce. Máme trochu strach

Varování výkonného ředitele OpenAI Sama Altmana ohledně rizik spojených s jejich vlastním výtvorem přišlo ve chvíli, kdy společnost vypustila do světa nejnovější verzi svého AI jazykového modelu pod názvem GPT-4. Update přichází jen necelé čtyři měsíce od vydání první verze. Z té se za krátkou dobu své existence stala nejrychleji rostoucí spotřebitelskou aplikací v historii.

Varování od tvůrců

„Musíme být opatrní. Myslím, že lidé by měli být rádi za to, že se toho (umělé inteligence) trochu bojíme. Nejvíce se obávám, že tyto modely by mohly být zneužity k šíření dezinformací v obrovském měřítku,“ varuje před možnými negativními dopady umělé inteligence Altman. „Teď, když jsou lepší v psaní počítačového kódu, by mohly být používány ke kybernetickým útokům.“

I přes potenciální rizika považuje Altman umělou inteligenci za „možná tu nejlepší technologii, kterou kdy lidstvo vyvinulo“. GPT-4 podle něj sice zatím není dokonalý, ale s každou novou verzí se k dokonalosti pomalu přibližuje. V USA dokázala tato umělá inteligence získat 90 % bodů u advokátních zkoušek, stejně tak dosáhla skoro bezchybného skóre ve standardizovaném matematickém testu pro střední školy (SAT).

Altman zároveň zdůrazňuje, že činnost umělé inteligence je podmíněna vstupem nebo vedením od člověka. „Čeká na to, až jí někdo zadá vstup. Jedná se o nástroj, který je prakticky naprosto pod kontrolou lidí,“ říká Altman, ale druhým dechem dodává, že existují obavy ohledně úmyslů člověka, který v danou chvíli umělou inteligenci ovládá.

Muskovi se to nelíbí

Výkonný ředitel společnosti Tesla Elon Musk, jeden z prvních investorů do AI, opakovaně varuje, že umělá inteligence je pro lidstvo daleko nebezpečnější než jaderné zbraně.

Vzhledem k neustále rostoucím schopnostem umělé inteligence přibývají obavy z toho, že lidé budou v blízké budoucnosti na některých pracovních pozicích, nebo dokonce v celých oborech zcela nahraditelní stroji.

Musk je znepokojen především tím, že společnost Microsoft, která poskytuje pro ChatGPT hosting v rámci internetového vyhledávače Bing, zrušila oddělení pro etický dohled. „Neexistuje žádný regulační dohled nad AI, což je velký problém. Po regulaci bezpečnosti AI volám už více než deset let!“ napsal Musk v prosinci 2023 na Twitter, který vlastní. Tento týden se znovu na sociální platformě rozčiloval: „A jaká práce zbyde pro nás lidi? Radši bychom měli pohnout s Neuralinkem!“

Altman později připustil, že aktuální verze funguje spíše na bázi dedukce a ne pamatování, což může vést k všelijakým bizarním reakcím. Model tak často s velkým sebevědomím předkládá věci jako fakta, ačkoliv jsou naprosto zcestná. Altman dále tvrdí, že o těchto modelech bychom měli uvažovat jako o jakémsi „uvažovacím motoru“, a ne jako o databázi faktů. „To, co po nich chceme, se blíží schopnosti uvažovat, nikoliv si něco zapamatovat,“ dodává.

Jsme teprve na začátku

Společnost OpenAI představila ChatGPT v listopadu minulého roku a od té doby značně posunula naše chápání toho, jaký dopad může mít v příštích letech umělá inteligence na fungování naší společnosti. Tento chatbot, tedy program napodobující konverzaci mezi dvěma lidmi, je totiž schopen daleko více věcí než jen poskytnutí přátelského pokecu.

Pokud jsou otázky pokládány správným způsobem, ChatGPT za vás napíše esej, vyřeší matematickou úlohu, dá dohromady právní smlouvu nebo vytvoří počítačový kód. Některé školy a univerzity již studentům používání umělé inteligence zakázaly. Existují už i programy, které mají rozpoznat, jestli daný materiál vytvořil člověk, nebo právě AI.

Vzhledem k neustále rostoucím schopnostem umělé inteligence přibývají i obavy z toho, že lidé budou v blízké budoucnosti na některých pracovních pozicích, nebo dokonce v celých oborech zcela nahraditelní stroji. Pro někoho přínos, pro někoho hrozba, trend AI je ale stále v plenkách a až příchod další verze ChatGTP nám zase trochu napoví, co můžeme od celé záležitosti dále očekávat.