fbpx

S bývalým nejvyšším důstojníkem NATO o vojenské etice, automatických zbraňových systémech a o tom, proč je tak důležité mít červený knoflík

Zveřejněno: 28. 8. 2019

Jedna z přednášek diskusního fóra Meltingpot, které probíhalo v rámci programu Colours of Ostrava, se věnovala využití technologií ve vojenství. Budou ve válkách budoucnosti bojovat roboti? Budou autonomní systémy rozhodovat, kdo je nepřítel a koho zabít? „V současné době nemáme plně autonomní systémy, vždycky je v té rozhodovací smyčce někde člověk,“ říká Petr Pavel, generál armády České republiky a bývalý předseda vojenského výboru NATO.

Co si vlastně můžeme pod pojmem autonomní systém představit? Je to třeba Skynet z Terminátora, tedy síť, která si uvědomuje sebe sama?

Autonomní systémy se budou schopny samy učit a samy si vytvářet algoritmy, podle kterých budou pracovat, a to dnes zatím není. Dnes je to stále ještě technika, které dává instrukce člověk – ten vytváří algoritmy, soubory dat, se kterými potom ty systémy pracují. Jakmile se ale dostaneme do stavu, kdy tu budou systémy, které si budou schopny samy vyhledávat data, samy si je vyhodnotí, samy je interpretují, pak už taky může nastat situace, že ty systémy začnou jednat jinak, než jsme očekávali.

Jakým způsobem jsou tedy sofistikované autonomní systémy ochráněny proti špatnému vyhodnocení situace nebo třeba proti zásahu hackerů?

A ještě bych doplnil třeba elektromagnetický impuls – ten může v systémech nadělat velkou paseku. Paradoxně je to ale výhoda, protože ty systémy naprosto vyřadí z činnosti a nenasměruje je někam jinam. Hacknutí může mít daleko horší důsledky, protože může dojít k přenastavení cílů, což by mělo katastrofální následky.

Člověk by si měl ponechat možnost uplatnit etická a morální kritéria, která těžko můžeme očekávat od techniky.

Vždycky bychom si tedy měli zachovat možnost červeného knoflíku a teď nemyslím jen na spuštění akce. I v posledním okamžiku bychom měli mít možnost celý proces zastavit. Technika nám může mimořádně pomoci ve zkrácení času při sběru a analýze dat, což je pro člověka nemožný úkol. Ale člověk by si měl ponechat možnost uplatnit etická a morální kritéria, která těžko můžeme očekávat od techniky.

Takže by to měl být člověk, kdo řekne, tolik mrtvých už je moc a takové škody už jsou moc velké?

Ono třeba z hlediska výběru a způsobu zasažení cíle může všechno vypadat korektně, ale nakonec se ukáže, že škoda, kterou by útok způsobil, opravdu převáží možné benefity. A člověk je tou poslední instancí, která by do toho měla vložit humánní aspekt. Což technika nikdy mít nemůže. Těžko očekávat, že bude schopna emocí.

Celá diskuze tady na Meltingpotu se věnovala válečné etice. Není to tak trochu oxymoron? Ať už se státy shodnou na jakýchkoliv pravidlech, pak se vždycky může najít někdo, kdo je poruší jen proto, že mu to dá určitou výhodu… Jaký význam má etika, definovaná například v Haagské úmluvě, pokud je zřejmé, že se vždy najde entita, která ji dodržovat nebude?

Etika má naprosto zásadní význam. Jsem přesvědčen, že by tu naopak měla být snaha prohlubovat regulaci pomocí etických a morálních norem. Protože pak se jakákoliv odchylka od ní stane z hlediska obecného veřejného mínění neakceptovatelná. Máte pravdu v tom, že se vždycky najde někdo, kdo se etikou nebude řídit. Pokud by nás ale tento fakt měl vést k rezignaci na etiku, pak se vrátíme do doby kamenné.

Vojenská etika se v průběhu věků dost zásadně měnila. A technologie v tom hrály vždycky dost zásadní roli…

Ozbrojené násilí je bohužel součástí historie lidstva, a jakkoliv se nám to může příčit, tak je to realita. Ale i ta by měla mít určitá pravidla. Takže i proto je potřeba nejenom chránit, ale i prohlubovat veškeré zásady mezinárodního práva, které se týkají vedení ozbrojených konfliktů, které se týkají ochrany civilistů, které se týkají ochrany žen a dětí ve válkách.

Které zbraně se vy sám nejvíc obáváte?

Logické by bylo jmenovat zbraně, které mají nejničivější účinky... Což jsou jaderné zbraně. Jsem ale přesvědčen o tom, že jaderné zbraně jsou natolik mocným a viditelným nástrojem, že slouží především jako ultimátní prostředek pro zastrašení, ne pro reálné použití.

Petr Pavel (1961)

Generál Armády České republiky. Od roku 2012 do roku 2015 náčelník Generálního štábu Armády České republiky. V letech 2015–2018 působil jako předseda vojenského výboru NATO. Po studiu na vojenském gymnáziu a několika vojenských vysokých školách absolvoval studijní pobyty na štábních akademiích v Camberley nebo na King's College London. V 90. letech pracoval ve Vojenském zpravodajství, v letech 2002–2007 byl postupně velitelem specializovaných sil, zástupcem velitele společných sil a zástupcem ředitele sekce ministerstva obrany.

Já se nejvíce obávám zbraní, které nejsou vidět – mluvím o biologických a chemických zbraních. Biologické zbraně jsou přitom zákeřnější, mají mnohem horší dopad. To jsou zbraně, které mohou být použity, aniž by bylo zřejmé, kdo je použil, v jakém rozsahu je použil, které mohou mít někdy i latentní účinek, což znamená de facto zpožděný efekt. Proti takovým zbraním se skutečně brání velice, velice těžce. Když chcete vyrobit nebo přepravit jadernou bombu, není to tak jednoduché a jsou prostředky, jak to detekovat a sledovat. Sledovat výrobu biologických zbraní je daleko, daleko obtížnější.

To ano, ovšem jejich výroba je technologicky velmi náročná… Navíc jsou nestabilní, viz například krátká skladová doba nervových plynů, jako je tabun nebo VX

Mám na mysli spíš biologické látky, například kultivaci viru eboly, nebo jiných zákeřných nemocí, které se mohou rozšířit velice rychle. Přitom stačí skutečně mikroskopické množství, které přepravíte kdekoliv v plnicím peru, a pokud ho umístíte na vhodné místo, tak můžete způsobit podobné důsledky, jako dokáže menší jaderná zbraň. Z toho pohledu jsou pro mě nejhrůznější a nejvíce rizikové právě ony.

Horší než autonomní zbraňové systémy?

Mnohonásobně. Už jen proto, jak jednoduché je biologické zbraně vyrobit.

Možná právě proto je jejich použití zakázáno všemi možnými konvencemi…

Ano, a je to také jeden z důvodů, proč je vojenská etika natolik důležitá. Etické normy nemůžeme nijak změkčovat, nebo dokonce ignorovat. Například Islámský stát se neštítí vraždy dětí, žen, neštítí se vzít si je jako živé cíle, neštítí se brutálních, demonstrativních vražd – a to nemůžeme akceptovat jako přijatelné, nebo dokonce oplácet stejnou mincí. Musíme zcela jasně říct, že takové chování je naprosto za hranou, že je mimo civilizovanou společnost a vyčlenit je tam, kam patří.

Související…

Proč už dnes nejsou k invazi potřeba tankySlabá a silná umělá inteligence: Které z nich se máme bát?Meltingpot: Hvězdy konference na stránkách Flowee

foto: Profimedia, zdroj: Meltingpot

Tipy redakce

Jde ještě o klimatickou nouzi, nebo už paniku? 10 otázek a odpovědí o přehřívání Země

Jde ještě o klimatickou nouzi, nebo už paniku? 10 otázek a odpovědí o přehřívání...

Praha 7 vyhlásila v květnu stav klimatické nouze , jak ji (a nejen ji, ale celou...

Twitter uživatelům ukazuje, co mají rádi za reklamu. A někdy je dost mimo

Twitter uživatelům ukazuje, co mají rádi za reklamu. A někdy je dost mimo

Inferred interests neboli „odvozené zájmy“ je název funkce sociální sítě Twitter,...

Proč se krade i písek z pláže? Je to cenná komodita, která mizí stejně jako voda

Proč se krade i písek z pláže? Je to cenná komodita, která mizí stejně jako voda

Loni v létě zaplatil jeden britský turista na Sardinii pokutu 1 032 eur, když byl...

Pokračováním v prohlížení těchto stránek souhlasíte s Podmínkami užití a Pravidly využití Cookies.