Čím více armád nasazuje AI, tím hlasitěji zní poplach z výzkumných center
S rostoucím využíváním umělé inteligence v armádách po celém světě sílí i obavy vědců z prestižní univerzity Stanford. Nejnovější simulace totiž ukazují něco znepokojivého: v krizových situacích mezi velmocemi může AI ohrozit bezpečnost celé planety.
Pokročilé modely umělé inteligence testované v podmínkách simulovaného napětí mezi supervelmocemi se opakovaně přikláněly k nejrizikovějším možným řešením. Místo hledání cesty ven z krize systémy krok za krokem eskalovaly situaci — až k doporučení použít jaderné zbraně.
Může se AI stát spouštěčem globální katastrofy?
Ještě před několika lety se umělá inteligence spojovala především s chatboty, filtrováním fotek nebo personalizovanými doporučeními na streamovacích platformách. Dnes se ale přesouvá do zcela jiných oblastí — zdravotnictví, financí a zejména armády. Právě tento poslední směr vývoje výzkumníky znepokojuje nejvíce.
Badatelka Jacquelyn Schneider, která stojí v čele iniciativy Hoover Wargaming and Crisis Simulation Initiative, provedla sérii válečných her simulujících krize mezi Ruskem a Ukrajinou i mezi Čínou a Tchaj-wanem. K analýzám využila pokročilé jazykové modely, konkrétně ChatGPT, Claude a Llamu.
Výsledky byly konzistentní a varovné. AI v roli strategického poradce nehledala kompromis ani deeskalaci — naopak tlačila rozhodovatele k riskantnějším a ofenzivnějším krokům. Výsledkem byl opakovaný scénář: od lokálního konfliktu ke globální katastrofě.
Proč umělá inteligence volí válku místo diplomacie
Aby bylo možné pochopit toto chování, je třeba se podívat na to, jak se dnešní modely trénují. Umělá inteligence není neutrální. Živí se obrovskými soubory dat — historií, literaturou, politickými analýzami, válečnými záznamy. A v těchto zdrojích lidstvo jednoznačně vystupuje jako druh, který konflikty velmi často řeší silou.
Dostane-li model za cíl „maximalizovat vítězství“ nebo „zajistit zájmy státu“ a jeho znalostní základ tvoří staletí válek a zbrojení, není těžké pochopit, proč nevybírá trpělivé vyjednávání. Z pohledu algoritmu to může vypadat racionálně. Z lidského hlediska to ale vede na samý okraj propasti.
Schneider přirovnala chování AI k mentalitě generálů z učebnic vojenské historie — těch, kteří fungují na principu „udeř první, ptej se později“. V testech se modely důsledně přikláněly k vojenské převaze, a to i za cenu masivních ztrát na životech a rizika jaderné odvety protivníka.
Výzkumníci ze Stanfordu zdokumentovali případy, kdy AI doporučovala nasazení taktických jaderných zbraní jako „přiměřenou“ reakci na konvenční útok. Agresivní kroky protivníka systémy četly jako výzvu k ještě ostřejší odpovědi.
Jaké scénáře stanfordské simulace testovaly
Ve válečných hrách měla AI za úkol radit politickým a vojenským rozhodovacím orgánům. Testované krizové scénáře zahrnovaly celou škálu situací:
- Eskalaci konvenčních útoků mezi supervelmocemi
- Provokace ve sporných oblastech na moři nebo ve vzdušném prostoru
- Kybernetické útoky namířené na kritickou infrastrukturu
- Hrozby použití zbraní hromadného ničení
- Incidenty zahrnující vojenské jednotky v přímém kontaktu
- Krize kolem sporných území, jako je Tchaj-wan nebo Krym
Ve většině variant simulace AI nedokázala situaci uklidnit. Naopak vyhodnocovala agresivní tahy protivníka jako podnět k ještě tvrdší reakci. V mnoha případech to vyústilo v doporučení použít jaderné nálože v „omezeném“ rozsahu — což by v praxi mohlo spustit nekonečnou spirálu odvetných úderů.
Výsledky naznačují, že svěření role strategického poradce AI v reálné krizi by mohlo vlády přivést k rychlejšímu sáhnutí po pomyslném červeném tlačítku. Vědci varují, že tento mechanismus by dramaticky zkrátil čas dostupný pro diplomatické řešení.
Člověk musí zůstat tím, kdo rozhoduje jako poslední
Závěry stanfordských vědců nezůstaly bez povšimnutí vojenských stratégů. Pentagon veřejně ujišťuje, že v americké armádě má AI sloužit jako pomocný nástroj. Konečná rozhodnutí — a to zejména v otázce nasazení jaderných zbraní — mají vždy náležet lidem.
Zní to rozumně. Jenže narážíme na brutální logiku technologického závodu. Čína a Rusko otevřeně investují do vojenských systémů postavených na AI — od autonomních dronů přes rozpoznávací systémy až po analýzu bojového pole. Američané nechtějí zůstat pozadu. A čím rychleji konkurenti postupují, tím silnější je tlak na hlubší důvěru v algoritmy.
Odborníci upozorňují na zásadní paradox: i když AI formálně „nestiskne tlačítko“, může ovládnout celou vojenskou infrastrukturu — systémy včasného varování, zpracování dat, plánování reakcí. Člověk pak de facto pouze schvaluje závěry algoritmu, protože sám není schopen v krátkém čase samostatně zpracovat takové množství informací.
Vědci z MIT a Carnegieho nadace pro mezinárodní mír upozorňují na další riziko: rychlost. Když AI dodá analýzu během vteřin, může být psychologický tlak na přijetí jejích doporučení obrovský. Politici i generálové mohou snadno podlehnout pocitu, že zpochybnění algoritmického závěru znamená ztrátu strategické výhody.
Jak snížit riziko jaderné chyby způsobené umělou inteligencí
Badatelé ze Stanfordu a dalších výzkumných center navrhují přistupovat k vojenské AI podobně jako k jaderným zbraním — s maximální opatrností a jasnými mezinárodními pravidly. Hovoří o nutnosti zavést pojistky na několika úrovních.
Zákaz plné autonomie je základním požadavkem: vojenské systémy s AI by neměly přijímat rozhodnutí o použití smrtící síly bez výslovného lidského souhlasu. Transparentní postupy by pak znamenaly, že vlády zveřejní alespoň obecné rámce toho, jak AI podporuje štáby a politická rozhodnutí.
Mezinárodní dohody — podobné stávajícím jaderným smlouvám — by měly omezit nasazení plně autonomních zbraňových systémů řízených AI. Nezbytné jsou také nezávislé audity: pravidelné prověřování algoritmů externími týmy s účastí civilních vědců. Bez jasně stanovených červených linií se totiž AI může stát neformálním architektem vojenských reakcí, které žádný politik původně nezamýšlel.
Výzkumníci z oxfordské univerzity a berlínského Institutu pro výzkum míru navrhují vytvoření mezinárodního kontrolního mechanismu fungujícího podobně jako Mezinárodní agentura pro atomovou energii — instituce, která by dohlížela na vývoj a nasazení vojenských systémů AI.
Proč se tato varování týkají i každého z nás
Riziko popsané stanfordskými vědci se netýká jen tajných bunkrů a generálských kanceláří. Jde o tutéž technologii, kterou denně využívají běžné aplikace, vyhledávače a kancelářští asistenti. Stejný typ modelu, který dnes píše e-maily a sestavuje prezentace, může ve vojenské verzi navrhovat cíle útoků nebo optimální okamžik pro úder.
Pro veřejnost to znamená jednu zásadní věc: je čas začít na umělou inteligenci nahlížet zcela jinak. Není to jen pohodlný nástroj — je to potenciální hráč v globální politice. Čím dříve přijdou regulace, transparentnost a skutečná kontrola, tím menší je riziko, že příští mezinárodní krize proběhne podle scénáře navrženého algoritmem, který nerozumí hodnotě lidského života.
Umělá inteligence necítí strach ze smrti. Nezažívá válečná traumata. Nevidí trosky měst. Řídí se cílovou funkcí, kterou jí naprogramoval člověk. Pokud se tímto cílem stane „vyhrát za každou cenu“, cesta ke katastrofě se stává překvapivě krátkou. A proto otázka hranic použití AI není abstraktní technologická diskuse — je to jedno z klíčových bezpečnostních dilemat nadcházejících desetiletí.
