Robotičtí vojáci by zabíjeli bez soucitu. Vědci před nimi varují

Nebudou brát ohledy a budou efektivnějšími zabijáky než lidé. Autonomní robotické zbraňové systémy, které by samy rozhodovaly, kdy a koho budou vraždit, s sebou nesou spoustu otazníků. Žádná velmoc však v jejich vývoji nechce zaostat.
Hlásím se do služby. Tento robot patroluje v Dubaji a je prvním robotickým...

Hlásím se do služby. Tento robot patroluje v Dubaji a je prvním robotickým policistou na světě. | foto: Profimedia.cz

Dosavadní historie válek je vlastně soustředěný rozvoj dehumanizace boje. Zvyšuje se odstup a minimalizuje kontakt. Když vražedný sek bronzového meče vedla lidská ruka, byl vztah mezi útočníkem a obětí přímý. Vynález střelných zbraní umírající od těch, kdo zabíjí, odcizil. A mezikontinentální balistické střely dokážou zahubit statisíce, aniž by jim musel voják u odpalovacího zařízení pohlédnout do očí.

Dosud to ale byly vždy lidské ruce, které musely zmáčknout spoušť. Jenže to se teď s nástupem plně automatizovaných zbraňových systémů mění.

Vědci proti robotickým zabijákům

V roce 2015 obdržela Organizace spojených národů trochu neobvyklý otevřený dopis. Nesl podpisy více než tisícovky výzkumníků, vědců a vývojářů z oblasti robotiky, kybernetiky a umělé inteligence. Technologové, programátoři, ale také biochemikové nebo průkopníci na poli obnovitelných zdrojů energie, mezi nimiž nechyběl například Stephen Hawking, Steve Wozniak nebo Elon Musk, požadovali jediné. Okamžitý zákaz vývoje a používání prvků ozbrojené technologie s umělou inteligencí.

2. prosince 2017

„Povaha těchto zbraní ruší dosavadní meze konfliktů,“ píší v listu odborníci. „Umělá inteligence nahrazuje rizika, vyplývající z možné ztráty života vojáka v poli. Její nasazení nepůsobí formální potíže v mezinárodním společenství. Nástroje, jako plně automatizované drony, budou schopny vyhledávat své cíle a ničit je nezávisle na lidských příkazech, nebude přitom příliš nákladné je vyrábět.“

A kromě toho má angažmá robotů v ozbrojených konfliktech ještě jeden rys. Zatímco pro výrobu jaderných zbraní je zapotřebí sofistikované techniky, znalostí, materiálů, produkovat umělé nástroje vraždění je o poznání snazší.

Zakažte autonomní roboty zabijáky, apeluje Musk a další experti u OSN

Příliš dostupní zabijáci

Země, které sice zatím nevlastní technologii k výrobě jaderných zbraní, ale dokážou sestavit „o trochu komplikovanější“ dron, by totiž mohly snadno dorovnat své skóre na poli mezinárodních konfliktů. Nepotřebují trávit dlouhou a nákladnou cestu na vytvoření vlastního odstrašujícího jaderné arzenálu, raději investují do výroby tisíců nebo milionů automatizovaných, autonomních mini a maxi-válečníků.

Otázek spojených s využitím autonomních zbrojních systémů je v dopise dlouhá řada: „Můžeme vůbec věřit stroji, jehož obdaříme inteligencí a smrtící silou? Kdo ponese odpovědnost, když se samostatně rozhodující robot rozhodne zaútočit na školu nebo nemocnici? Je lidská důstojnost pokořena více, když člověka zabije jiná lidská bytost, nebo když jej usmrtí stroj?“

Organizace spojených národů si dala s odpovědí načas, zareagovala teprve v prosinci roku 2016. Sestavila prý expertní skupinu složenou z odborníků různých národností, kteří prošetří legislativní kroky, které by bylo pro požadovaný zákaz zbraní řízených umělou inteligencí zapotřebí učinit.

Autoři dopisu však namítají, že by to mohlo trvat celá léta. A svět zatím zbrojí.

Direktiva 3000.09

Například ruská společnost Kalashnikov Group už na veletrhu Army 2017 slíbila předvedení „prvních produktů založených na systému neurálních sítí“. Jednat by se mělo o bojové moduly, schopné činit jistá samostatná rozhodnutí, například vybírat si podle nastavené priority cíle. Testy již provádí i armáda Spojených států amerických, Číny nebo Izraele. Je to totiž velmi slibný směr vývoje zbraní, kterou si z mocenských nebo bezpečnostních důvodů nemohou dovolit opomenout, jak zdůrazňují.

Americký generální štáb se zatím navenek staví k možnosti využití pokročilé technologie váhavě. Oficiální stanovisko (takzvaná Direktiva 3000.09) zní, že autonomní systémy mohou být pouze použity ve formě buď neletální, tedy nesmrtící, nebo nepohyblivé síly. A součástí rozhodovacího řetězce vždy musí být prvek lidského myšlení. Potenciální útočník tedy může být s pomocí moderních nástrojů odhalen a zaměřen, ale „spoušť“, byť na vzdálenost stovek kilometrů, musí zmáčknout živý lidský voják. Že má však tato logika praktické mezery, upozorňují sami američtí vojenští experti.

Mezery v dokonalém systému

Plukovník americké armády Joseph Brecher se navíc staví za plnou automatizaci zbraňových systémů. Uvádí dva zásadní argumenty. „Pokud proti sobě bude stát plně automatizovaný autonomní zbraňový systém a člověkem spoluřízený poloautomatický, ten zbavený lidského faktoru bude jednoznačně efektivnější a rychlejší,“ tvrdí.

Robot LS-3, známý spíše jako Big Dog (Velký pes), nezabíjí. Na bojišti kluše s vojáky a nosí zbraně a vybavení.

Robotický oblek umožní vojákům lehčí chůzi, zdolávání delších vzdáleností a snazší přenášení těžké výbavy. Napodobuje pohyb svalů a podporuje ho tak.

Druhou, na první pohled ne tolik zjevnou slabinou zbraňových prvků spoluřízených člověkem, je poté podle něj jejich zranitelnost vůči vnějšímu narušení systému. Poloautomatické zbraně, které jsou závislé na lidských rozhodnutích, musí s člověkem nějakým způsobem komunikovat. „A tato komunikační spojnice může systém prozradit nepříteli nebo být třeba napadena nepřátelským hackerem. A obrátit se proti svým tvůrcům,“ dodává výhružně Brecher.

Ne sice vždy, ale dost často ve válkách vítězí ten, kdo si počíná bezskrupulózně. A národ nebo země, která jako první vsadí na plně automatizované robotické zbraňové systémy, bude před ostatními ve zřetelné výhodě. Současný směr vývoje umělé inteligence ve službách armády udávají podle výzkumnice Heather Roffové hlavně dva přístupy. „Tím prvním je ´vyčkávací´ aplikace. Něco jako stacionární robotická jednotka, která na své pozici monitoruje a vyhodnocuje situaci. V případě narušení bezpečnostního protokolu je pak připravena jednat,“ líčí.

Druhým modelem je „vzdálená platforma“, vycházející z principu nepilotovaných létajících prostředků, jako je například Predator UAV. „Nemají specifický cíl v zóně zásahu a jejich arzenál se aktivuje teprve při identifikaci pozemního terče,“ říká Roffová a dodává: „V realitě jsou obě tyto technologie zatím deponovány v malých počtech, ale ve složce výrobních součástek a vývoje je jejich objem už dnes masivní.“

Nejde je nevyvíjet

„Tyto novodobé zbraňové systémy mají Spojeným státům zajistit vytrvalou převahu na budoucích bojištích,“ tvrdí tajemník amerického ministerstva obrany Robert O. Work. „Nejde je nevyvíjet. Naši tradiční rivalové Rusko a Čína i naši tradiční spojenci Británie a Izrael na nich už pracují. V případě Číny a Ruska víme tolik, že jejich počítačové sítě jsou už tak dobré, jako naše. Vidí tak daleko, jako my, jsou schopni poslat naváděnou střelu tak daleko, jako my. A my si potřebujeme být jisti, že pořád budeme moci vítězit tak snadno, jako v minulosti,“ nezastírá americké odhodlání.

Americké ministerstvo obrany připouští, že vyvíjí autonomní stíhače, které by byly schopny bojovat po boku lidmi řízených letadel. Ve hře je i „vytrvalá“ raketa, která by dokázala až jedenáct dní kroužit a vyčkávat v určeném prostoru, než by zaútočila. Určena má být proti hladinovým plavidlům protivníka a „rozhodovat o volbě vhodného cíle“ se už má sama.

V roce 2016 ve svém rozpočtu Pentagon vyčlenil relativně malou sumu 18 miliard dolarů, která má v horizontu tří následujících let jít na výzkum autonomních vojenských systémů. Jak ale říká s jistou nadsázkou Work: „Trendem současnosti není zatím rozhodně vyrábět něco jako terminátora, ale spíše podpůrné prostředky boje a průzkumu, doprovázející lidské vojáky. Podstatné pro nás je, aby byl součástí rozhodovacího procesu vždy člověk.“

Mít je znamená použít je, tvrdí kritici

Kritici vývoje autonomních zbraňových systémů ale varují, že každý krok směrem k aplikaci pootevírá Pandořinu skříňku. Peter Singer, technický poradce Washingtonu pro „války budoucnosti“, uvádí zajímavý příklad. „Když během první světové války začaly německé ponorky napadat civilní lodě, odsoudily to Spojené státy jako do krajnosti nehumánní krok. Byla to i jedna z příčin, proč jsme se do války jako národ zapojili. A po válce jsme se zasadili o to, aby byla podobná praxe postavena mimo zákon. A dál? Když 7. prosince roku 1941 bez předchozího vyhlášení války zaútočili Japonci na naši flotilu v Pearl Harboru, trvalo nám šest hodin, než jsme proti nim sami schválili neomezenou ponorkovou válku. Všechno je relativní.“

Zdůrazňuje, že nevěří, že by Spojené státy nebo kterákoliv jiná země, která by v případné příští válce prohrávala, nepoužila všechny dostupné prostředky, které dnes možná považuje za neetické či nemorální. „Problém s autonomními zbraňovými systémy je ten, že když je už jednou máte, budete je prostě chtít použít. A pokud by nás plně autonomní stroje na zabíjení měly přiblížit vítězství, využijeme jich a morální výčitky ztratíme podobně jako u Pearl Harboru za méně než šest hodin,“ soudí.

Autoři:
  • Nejčtenější

S vyléčeným sadistou chodil na ryby. Markovič nebyl jen postrachem vrahů

26. března 2024

Chytil spartakiádního vraha Jiřího Straku, díky minisérii Metoda Markovič: Hojer se nám do povědomí...

Uzlování je sice stará škola, objasňuje ale současné krimi případy

23. března 2024

Zločinci zastírají svou totožnost, pracují v kuklách a s rukavicemi. Dopadeni však bývají kvůli...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Říkali, že je to stydlivý kluk. Dívkám přitom ubližoval chladně a bez lítosti

23. března 2024

Premium Půlnoc už odbila. S posledním úderem zvonu přikryl měsíc, který ještě před chvílí ozařoval pustou...

Přesvědčí vaše svaly, že cvičí. Pilulka má simulovat účinky tělesné aktivity

22. března 2024

Má umět namluvit vašim svalům, že cvičíte. I když přitom budete sedět v křesle, ležet na gauči,...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Legenda trapnosti. Mistr Ashida Kim prostě věří, že je nindžou

27. března 2024

Na instruktážních videích komicky nadskakuje, třepe rukama, kope nožkama, hopsá kolem svých...

Umělá inteligence ladila piva. Podle degustátorů úspěšně

29. března 2024

Premium Vyškolili ji v ingrediencích, nechali ji studovat posudky z pivních testování profesionálů i...

Návykový obal. Dějiny bublinkové fólie začaly nepovedeným vynálezem

28. března 2024

Premium Její praskání nabízí neodolatelně svůdné uspokojení, především však způsobila obalovou revoluci....

Policie dopadla zloděje kočárku. Byl jsem opilý a nic si nepamatuji, tvrdí muž

18. března 2024  12:56,  aktualizováno  27.3 13:51

Pražští policisté ve středu 27. března zadrželi cizince, který v polovině ledna ukradl z chodby...

Legenda trapnosti. Mistr Ashida Kim prostě věří, že je nindžou

27. března 2024

Na instruktážních videích komicky nadskakuje, třepe rukama, kope nožkama, hopsá kolem svých...

Smoljak nechtěl Sobotu v Jáchymovi. Zničil jsi nám film, řekl mu

Příběh naivního vesnického mladíka Františka, který získá v Praze díky kondiciogramu nejen pracovní místo, ale i...

Rejžo, jdu do naha! Balzerová vzpomínala na nahou scénu v Zlatých úhořích

Eliška Balzerová (74) v 7 pádech Honzy Dědka přiznala, že dodnes neví, ve který den se narodila. Kromě toho, že...

Pliveme vám do piva. Centrum Málagy zaplavily nenávistné vzkazy turistům

Mezi turisticky oblíbené destinace se dlouhá léta řadí i španělská Málaga. Přístavní město na jihu země láká na...

Velikonoce 2024: Na Velký pátek bude otevřeno, v pondělí obchody zavřou

Otevírací doba v obchodech se řídí zákonem, který nařizuje, že obchody s plochou nad 200 čtverečních metrů musí mít...

Kam pro filmy bez Ulož.to? Přinášíme další várku streamovacích služeb do TV

S vhodnou aplikací na vás mohou v televizoru na stisk tlačítka čekat tisíce filmů, seriálů nebo divadelních...