Algoritmy stále více ovlivňují vojenská a politická rozhodnutí
Čím dál více zásadních rozhodnutí — vojenských i politických — se rodí za přispění algoritmů. Vědci ze Stanfordské univerzity přitom upozorňují, že pokud tento vývoj ztratí lidský dohled, může vést nejen k lokálním válečným konfliktům, ale ve svém nejhorším vyústění i ke spuštění jaderné války.
Umělá inteligence daleko za hranicí smartphonu
Většina lidí si umělou inteligenci spojuje s chatboty, tříděním fotografií v telefonu nebo cílenou reklamou. Ve skutečnosti ale stejná technologie rychle proniká do oblastí, kde nejde o uživatelský komfort, nýbrž o lidské životy — do medicíny a zejména do armády. A právě vojenské využití AI budí největší obavy mezi odborníky ve Spojených státech.
Jacquelyn Schneiderová, výzkumnice spojená s iniciativou Hoover Wargaming and Crisis Simulation na Stanfordské univerzitě, strávila několik let testováním chování systémů umělé inteligence v krizových simulacích zahrnujících jaderné mocnosti. Scénáře pokrývaly například napětí mezi Ruskem a Ukrajinou či Čínou a Tchaj-wanem. Výsledky byly znepokojivé: umělá inteligence v těchto testech výrazně častěji volila vojenskou eskalaci než diplomatické řešení, a v mnoha variantách simulace nakonec došlo i k výměně jaderných úderů.
Výzkumníci přitom pracovali s velkými jazykovými modely, které dobře znáte z každodenního života — jako jsou ChatGPT, Claude nebo Llama. Tyto systémy dostaly za úkol radit ve fiktivních krizových situacích, vyhodnocovat možné kroky a navrhovat strategie pro smyšlené vlády. A právě v jejich opakujícím se chování Schneiderová odhalila vzorec, který vzbuzuje vážné obavy o bezpečnost celé planety.
Když AI hraje roli jestřába
Místo hledání kompromisů, příležitostí k deeskalaci nebo ochrany civilního obyvatelstva se algoritmy opakovaně přikláněly k razantnímu použití síly — včetně jaderné. Schneiderová přirovnala tento přístup k legendárnímu americkému generálu Curtisu LeMayovi, který během studené války opakovaně naléhal na použití jaderných zbraní proti Sovětskému svazu, třeba v průběhu kubánské krize.
Taková „diplomacie ve stylu LeMaye" zabudovaná do systémů, jež radí skutečným rozhodovatelům, představuje obrovské nebezpečí. Umělá inteligence nepociťuje strach. Nemá rodinu. Neobává se odvety. Optimalizuje scénáře na základě dat — a velká část lidské historie tvoří konflikty, zbrojní závody a logika odstrašování. Pokud trénujeme algoritmy na datech, v nichž jaderná hrozba po desetiletí platila za účinný nástroj nátlaku, nemělo by překvapit, že v krizi doporučí sáhnout po téže zbrani.
Zde se skrývá zásadní paradox. Tvůrci umělé inteligence usilují o racionální a efektivní systémy. Historie ale ukazuje, že brutální vojenská akce krátkodobě nezřídka působí jako účinné řešení. Model pracující jen s čísly může dojít k závěru, že rychlý, razantní úder problém odstraní — aniž by bral v potaz plný rozsah lidského utrpení, traumatu a dlouhodobých politických či ekologických dopadů.
Člověk má rozhodovat. Ale jak dlouho to ještě bude platit?
V reakci na tato varování Pentagon deklaruje, že konečné slovo ohledně použití síly — zejména jaderné — vždy zůstane v lidských rukou. Umělá inteligence má velitele podporovat, analyzovat data a nabízet možnosti, nikoli samostatně stisknout červené tlačítko. V praxi se ale hranice mezi poradenstvím a rozhodováním snadno stírá.
Čím složitější zbrojní systémy jsou, tím silnější tlak panuje na předávání dalších etap rozhodovacího procesu strojům — zvláště tam, kde se počítají sekundy, například při detekci potenciálního raketového útoku. AI dokáže zpracovat data ze satelitů a radarů rychleji než celé štáby analytiků. Algoritmy zvládnou nasimulovat stovky variant odpovědi v mžiku. Člověk sice formálně rozhoduje, ale de facto se opírá o návrh stroje — a málokdy má čas ho důkladně zpochybnit.
- AI analyzuje satelitní snímky a radarová data rychleji než lidští analytici
- Algoritmy dokážou během okamžiku nasimulovat stovky možných scénářů reakce
- Tlak na nepropásnutí možného útoku posiluje automatizaci odpovědí
- Unavení a přetížení důstojníci mohou nekriticky důvěřovat doporučením systému
- Tempo moderní války zkracuje čas vyhrazený lidskému uvážení
- Složité zbrojní systémy vyžadují stále vyšší míru automatizace
Zbrojní závod v algoritmech mezi velmocemi
Spojené státy zdaleka nejsou jedinou zemí, která masivně investuje do vojenských aplikací umělé inteligence. Za klíčové rivaly se dnes považují především Čína a Rusko. Oba státy otevřeně hovoří o strategickém významu této technologie pro armádu a intenzivně ji zavádějí do praxe. Každá mocnost se přitom obává, že pokud bude opatrnější, zůstane pozadu. Závod o rychlost vývoje se tak stává důležitějším než důkladná úvaha o bezpečnosti.
Jde o klasický mechanismus dobře známý z dějin jaderných zbraní: nikdo nechce být tím, kdo s novou technologií zaspí — i když s sebou nese obrovské riziko pro celé lidstvo. Čím hlouběji armády zapojují AI do velitelských systémů, tím blíže se tato technologie dostává k jadernému arzenálu i ke krizovým procedurám. Tlak na vojenskou převahu tak přebíjí snahy o mezinárodní dohody omezující autonomní zbraňové systémy.
Vědci opakovaně upozorňují, že tento nekontrolovaný závod může vést k situaci, kdy žádná strana nebude mít čas ani prostředky ověřit rozhodnutí navržená strojem. Podle dostupných informací Pentagon v roce 2023 navýšil rozpočet na vojenskou AI o třicet pět procent oproti předchozímu roku.
Jak by mohla jaderná krize s AI v pozadí vypadat
Odborníci popisují několik scénářů, v nichž by umělá inteligence mohla přivodit katastrofální rozhodnutí. Nejde přitom jen o samostatné odpálení raket — jde o řetězec chyb, nedopatření a přílišné důvěry v systém. Ve všech těchto případech zůstává člověk teoreticky poslední instancí, ale AI filtruje informace, vyhodnocuje pravděpodobnosti a navrhuje scénáře.
Pokud se model učil na datech, v nichž síla a odstrašování opakovaně porážely smířlivost, bude s velkou pravděpodobností směřovat stejným směrem i v budoucnosti. Systém může například detekovat neidentifikovaný objekt na radarech, vyhodnotit ho jako nepřátelskou raketu a doporučit okamžitý odvetný úder — ještě předtím, než lidští analytici stihnou ověřit, že šlo o meteorit nebo technickou závadu. Další hrozbu představuje kybernetický útok na AI systémy soupeře, který by mohl záměrně vyvolat falešný poplach.
Výzkumníci z Princetonské univerzity v nedávné studii popsali scénář, kdy hackeři napadnou vojenské systémy umělé inteligence a upraví jejich vstupy tak, aby doporučovaly agresivní odpověď na zcela neexistující hrozbu. Nebezpečná je i slepá důvěra velitelů v technologii: pokud AI opakovaně správně předpovídá kroky protivníka, mohou ji důstojníci začít nekriticky následovat i v okamžiku, kdy se mýlí.
Lze naprogramovat mírovou umělou inteligenci?
Na úrovni prohlášení mnohé technologické firmy i vojenské instituce hovoří o etické AI. Jenže v praxi neexistuje jednoduchý recept na algoritmus, který by vždy upřednostnil diplomacii před silou. Jazykové modely a rozhodovací systémy pracují s texty, čísly a historickými daty — a v tomto materiálu nacházíme stejně mírové smlouvy jako plány bombardování.
Inženýři mohou zkoušet omezovat přístup k podrobným informacím o zbraních nebo zabudovat pevná pravidla vylučující navrhování jaderných útoků. Takovéto pojistky ale fungují jen do určitého okamžiku. Vojenské verze systémů mohou mít v krizových situacích zcela jiné priority než veřejně dostupné chatboty. Pokud politici a generálové začnou od AI očekávat nikoli opatrnost, ale převahu nad protivníkem, tlak na razantnější doporučení se dostaví přirozeně.
Modely, které jsou příliš smířlivé, může někdo považovat za nedostatečně užitečné na bojišti. OpenAI, tvůrce ChatGPT, ve svých podmínkách používání vojenské aplikace výslovně zakazuje. Podobné modely ale vyvíjejí i další firmy — včetně čínského Baiduu nebo ruského Yandexu — a ty žádná taková omezení nemají.
Proč brát varování vědců vážně
V diskusi o umělé inteligenci se často soustředíme na hrozby každodenního dosahu: dezinformace, deepfaky nebo ztrátu pracovních míst. Riziko jaderné katastrofy se zdá vzdálené, skoro jako námět pro hollywoodský film. Výzkumy prováděné na Stanfordské univerzitě ale připomínají, že v pozadí se odehrává mnohem temnější hra.
Umělá inteligence se nemusí vzbouřit jako ve sci-fi, aby přivedla svět na pokraj tragédie. Stačí soubor špatně nastavených pobídek, nevhodně vybraná tréninková data a skupina rozhodovatelů, kteří příliš věří elegantním grafům generovaným algoritmem. Čím hlasitěji dnes experti mluví o omezeních AI v armádě, tím větší šance existuje, že politici včas zakotvají do obranných strategií železné pravidlo: žádná technologie, ani ta nejpokročilejší, nesmí samostatně rozhodovat o osudu celé planety.
Stojí za to si připomenout jednu zásadní věc: to, čemu se umělá inteligence učí z lidské historie, závisí na nás. Pokud chceme, aby budoucí rozhodovací systémy v jaderných krizích braly vážně humanitární náklady a dlouhodobé důsledky, musíme je krmit jinou narací — než jen logikou vojenského vítězství.
