18. 4. 2022

Sci-fi v přímém přenosu? Selhání debaty o mezinárodním zákazu autonomních „zabijáckých robotů“

V loňském roce se objevila zpráva jako ze sci-fi filmu. Dle expertů OSN použily libyjské vládní síly v březnu 2020 proti povstaleckým skupinám Kargu-2, sebevražedný dron turecké výroby se schopností rozpoznat lidský obličej a následně odpálit nesenou munici. Ze zprávy vyplývá, že se jednalo o autonomní zbraňový systém, který byl naprogramován k útočení na cíle bez přímého lidského dohledu. Řada komentátorů tak neváhala označit tento incident za faktický počátek věku autonomních „zabijáckých robotů“.

Článek vyšel v tištěném čísle Mezinárodní politiky 1/2022.

Odborníci na autonomní technologie od počátku upozorňují na to, že útok dronu v Libyi není nutně ničím unikátní a že navzdory novinovým titulkům neexistuje žádný důkaz o tom, že stroj v daný čas skutečně operoval zcela autonomně. To ovšem nic nemění na skutečnosti, že vývoj autonomních zbraňových systémů, schopných samostatně zaměřovat a útočit na cíle bez lidského dohledu, patří mezi nejvýraznější současné globální trendy v oblasti vojenské inovace. Ačkoliv nasazení plně autonomních zbraní do ozbrojených konfliktů je i po technologické stránce stále ještě otázkou budoucnosti, systémy jako izraelský sebevražedný dron Harpy, jihokorejská robotická hlídková zbraň Super aEgis II či systémy americké protivzdušné obrany Phalanx již dnes demonstrují praktickou využitelnost strojů s vysokou mírou autonomie. 

Úskalí autonomních zbraní

Technologicky vyspělé státy jako USA, Rusko, Čína, Izrael či Jižní Korea tak do dalšího vývoje autonomních zbraní každoročně investují nemalé finanční prostředky a slibují si od nich mj. vyšší rychlost a efektivitu, menší závislost na komunikačním spojení a v neposlední řadě eliminaci lidského pochybení v důsledku emocí, chybného úsudku a dalších „typicky lidských“ faktorů. 

Řada států, nevládních organizací a expertů však dlouhodobě upozorňuje na to, že tyto výhody směřující k vylepšení vojenských schopností doprovázejí i neméně zásadní rizika. Ve strategické rovině je to především právě zmiňovaná rychlost zpracování a vyhodnocování informací, která může mít za následek ztrátu kontroly nad použitím síly a nezamýšlenou eskalaci konfliktu. Je zde ovšem i širší právní problém: zatím žádná existující technologie není schopna nahradit lidský úsudek nezbytný k vyhodnocení toho, zda je útok v souladu s ustanoveními mezinárodního humanitárního práva, tedy zdali je přiměřený dané situaci a zaměřuje se na legitimní vojenské cíle. V tomto směru se často objevuje i etický argument, že stroje by v prvé řadě neměly mít pravomoc rozhodovat o životě a smrti, dokonce ani kdyby byly technicky schopné jednat v souladu s mezinárodním právem, protože lidský život je v kontextu použití autonomních zbraní redukován na pouhá data a dochází tak k degradaci jeho hodnoty. 

Z našeho nedávného experimentálního průzkumu o etičnosti autonomních zbraní jasně vyplývá, že veřejnost vnímá jejich použití ve vojenských operacích jako méně etické než v případě konvenčních zbraňových systémů nebo i dálkově řízených ozbrojených dronů. Výsledky ukazují, že pro velkou část veřejnosti je představa, že by měly o životě a smrti ve válce rozhodovat stroje a algoritmy, instinktivně odpudivá.

Snahy o zákaz „zabijáckých robotů“

Zejména zmiňovaná právní a etická rizika spojená s autonomními zbraněmi stála za vznikem „Kampaně na zastavení zabijáckých robotů“ a zahájením snah o mezinárodní zákaz plně autonomních zbraní. Diskuze se brzy přesunula na úroveň orgánů Organizace spojených národů, kde byla v rámci Úmluvy o zákazu či omezení některých konvenčních zbraních (CCW) zřízena Skupina vládních expertů pověřená zformulovat doporučení ohledně možného omezení či zákazu „smrtících autonomních zbraňových systémů“. 

Přestože jednání na půdě OSN v Ženevě probíhala několik let, nepodařilo se doposud dosáhnout žádného substantivního výsledku. Posledním zklamáním byla prosincová konference, od které si řada států a nevládních organizací slibovala posun v otázce přijetí konkrétních doporučení směřující k výraznému omezení vývoje autonomních zbraní. Sám generální tajemník OSN se dříve nechal slyšet, že by bylo po morální stránce zavrženíhodné, pokud by svět autonomní zbraně nezakázal. Na třicet zemí již vyjádřilo podporu přijetí právně závazného nástroje k regulaci těchto systémů, ale proveditelnost takového opatření se v tuto chvíli zdá být krajně nejistá. Proč tomu tak je?

Od počátku se v rámci jednání formují dvě názorové skupiny s neslučitelnými preferencemi. Na jedné straně stojí nevládní organizace, státy globálního Jihu a několik neutrálních zemí jako Rakousko či Irsko, které zdůrazňují rizika autonomních zbraní a usilují o přijetí právně závazného zákazu. Na druhé straně stojí velmoci a technologicky vyspělé státy jako USA, Rusko, Izrael a Jižní Korea, které zdůrazňují výhody těchto systémů a jsou co se regulace týká podstatně zdrženlivější. Určitou středovou pozici pak zaujímá většina států EU včetně Německa a Francie snažící se nalézt kompromisní řešení, např. prostřednictvím přijetí politické deklarace nebo sborníku o mezinárodním právu platném pro autonomní zbraně. 

Jednání pak komplikuje i řada dalších faktorů, včetně samotné definice toho, co lze vůbec považovat za autonomní zbraň. Státy si uvědomují, že příliš široká definice by mohla mít negativní dopad na již používané, částečně autonomní vojenské nástroje, jako jsou systémy protivzdušné obrany či sebevražedné drony. Příliš specifická definice by zase umožnila státům regulaci obcházet, a řada nebezpečných systémů „v šedé zóně“ by tak kontrole unikla. 

Názorová rozmanitost současné diskuse v uplynulých letech jasně ukázala, že dosažení konsenzu se jeví jako nerealistické. To je pro přijetí závazných opatření v rámci dané Úmluvy o některých konvenčních zbraních OSN zásadní problém, protože zde platí pravidlo jednomyslnosti a každý stát tak má fakticky možnost daná opatření vetovat. Pokud by se tak podařilo v blízké budoucnosti dosáhnout přijetí zákazu autonomních zbraní, velmi pravděpodobně by to bylo mimo rámec této Úmluvy a bez participace klíčových hráčů, jako jsou Spojené státy, Rusko, Izrael, či Jižní Korea – podobně jako je tomu např. v nedávno přijaté Smlouvě o zákazu jaderných zbraní, kterou nepodepsal žádný jaderný stát a doposud tak nevedla k likvidaci ani jediné jaderné hlavice.

Jaké stanovisko by k autonomním zbraním mělo zaujmout ČR? 

Pozice České republiky v těchto jednáních byla doposud spíše pasivní a z větší části se překrývá s většinovým postojem evropských států. Plošný zákaz autonomních zbraní bez specifikace podmínek legitimního využití technologie je tak považován za nepřiměřený, avšak absence jakýchkoliv pravidel je také vnímána spíše negativně. Kompromisní opatření, jako je dříve zmiňovaný návrh Francie a Německa na přijetí politické deklarace o autonomních zbraních, tak představují jednu z možností, které může Praha aktivně prosazovat. Byť se postoje zemí EU a některých států NATO (včetně USA) v otázce regulace liší, nestaví nás to nutně do situace, kdy bychom si museli vybírat mezi evropským a transatlantickým přístupem. Posun v diskusi o autonomních zbraních zprostředkovaný EU v dlouhodobém horizontu usnadní diskusi v rámci NATO, kde díky překrývajícímu se členství dojde k alespoň částečnému sjednocení jinak velmi rozdílných preferencí.

Je nicméně třeba zmínit, že strategické dokumenty České republiky identifikují autonomní systémy a související technologie jako jednu z oblastí s největším potenciálem pro rozvoj armády a obranného průmyslu. Deklarovaná ambice o posílení schopností v této oblasti však spíše než cokoliv jiného sleduje globální trend ve vojenské inovaci. Česká republika v současnosti nedisponuje žádnými zbraňovými systémy se schopností operace v autonomním režimu a nevlastní ani dálkově řízené ozbrojené drony. Jedním z důvodů je bezesporu fakt, že Česká republika ve vojenské inovaci do značné míry zaspala dobu, ale souvisí s tím i absence reálné potřeby rozvoje schopností v této oblasti. Pokud ale k mezinárodnímu zákazu či významnému omezení autonomních zbraní nedojde – což se v tuto chvíli bohužel jeví jako nejpravděpodobnější varianta –, česká armáda se adaptaci na tento globální trend v oblasti vojenských inovací nevyhne. Jakkoliv představy o zabijáckých „Terminátorech“ zatím ještě stále patří do žánru sci-fi, posilování autonomie strojů i v tak kritických funkcích, jako je zaměřování a likvidace lidských cílů, se stává realitou, se všemi riziky, které do způsobu vedení války přináší.

 

O autorech:

Ondřej Rosendorf je doktorand na Fakultě sociálních věd Univerzity Karlovy a výzkumný pracovník v rámci Peace Research Center Prague a výzkumného týmu Experimental Lab for International Security Studies (ELISS). 

Michal Smetana je koordinátor Peace Research Center Prague, hlavní výzkumník ELISS a pedagog na Fakultě sociálních věd Univerzity Karlovy