Vojenská AI rozběsnila uživatele během jediného víkendu
Málokdy se stane, že jedno rozhodnutí technologické firmy způsobí tak rychlý a měřitelný exodus uživatelů. OpenAI podepsal smlouvu s americkým ministerstvem obrany a než stačil kdokoli zareagovat, statistiky odinstalací ChatGPT vyletěly téměř o tři sta procent.
Zprávy o spolupráci velkých AI společností s Pentagonem se začaly šířit začátkem března. Během jediného víkendu přestal být ChatGPT v očích mnoha lidí důvěryhodným pomocníkem a stal se nástrojem spojeným s vojenskou mašinérií. Analytická firma Sensor Tower zaznamenala nárůst denních odinstalací o dvě stě devadesát pět procent oproti běžné úrovni. Vedení OpenAI bylo nuceno jednat rychle a veřejně se omluvit.
Odborníci upozorňují, že celý spor odhaluje zásadní slabinu současného vývoje umělé inteligence. Soukromé firmy de facto určují etické hranice samy, bez jasného legislativního rámce. Mariarosaria Taddeo z Oxfordské univerzity varuje, že když z jednacího stolu odejde nejobezřetnější hráč, bezpečnost celého ekosystému tím trpí. Rozhodnutí přijímaná dnes ve Washingtonu a Silicon Valley se přímo promítnou do funkcí aplikací v telefonech běžných uživatelů.
Kde celý příběh začal: tvrdé odmítnutí ze strany Anthropic
Iniciátorem celé situace nebyl přímo OpenAI, ale jeho konkurent Anthropic, tvůrce jazykového modelu Claude. Pentagon přišel s nabídkou spolupráce — chtěl využít jejich AI k analýze obrovských objemů dat v reálném čase. Satelitní snímky, zpravodajské zprávy, senzorová data z bojových oblastí — to vše mělo sloužit k urychlení rozhodování velitelů přímo na frontě.
Anthropic ale narazil na dvě nepřekročitelné etické hranice. Za prvé: model Claude nesmí podporovat vývoj plně autonomních zbraňových systémů, kde o nasazení síly rozhoduje stroj bez lidského dohledu. Za druhé: Claude se nesmí podílet na masovém sledování běžných občanů na americkém území. Ochrana lidských práv dostala přednost před strategickými zájmy armády.
Pro vojenské plánovače byly obě podmínky nepřijatelné. Správa Donalda Trumpa údajně zařadila Anthropic na černou listinu subjektů bez přístupu ke státním zakázkám. Firma si vybudovala pověst zarytě etické společnosti, ale za cenu ztráty potenciálně lukrativního trhu. Generální ředitel Dario Amodei tento postoj veřejně obhajuje jako strategii dlouhodobé zodpovědnosti.
Situaci navíc komplikují mediální informace naznačující, že Claude byl přesto využíván při operacích spojených s napětím mezi USA, Izraelem a Íránem, a to i přes formální vyřazení firmy z výběrových řízení. Pentagon se k těmto tvrzením nevyjadřuje, což zanechává řadu otázek bez odpovědi. Taddeo podotýká, že právě taková mlha jen potvrzuje nutnost transparentní regulace na úrovni Kongresu.
Jak OpenAI podepsal to, co Anthropic odmítl
Ve chvíli, kdy bylo jasné, že Anthropic ze hry vypadává, vstoupil OpenAI a podepsal dohodu, která mezeru po konkurentovi prakticky zaplnila. ChatGPT měl zamířit do obranných aplikací, přičemž podrobnosti smlouvy zůstaly částečně utajeny. Sam Altman následující den zveřejnil prohlášení, v němž tvrdil, že sjednaná ochranná opatření jsou dokonce přísnější, než na jaká byl ochoten přistoupit Anthropic.
Tento komunikát měl firmu ochránit před kritikou, u mnoha lidí ale působil přesně opačně — jako cynický pokus vytěžit ze zásadovosti rivala. Na sociálních sítích se okamžitě objevily výtky ze zrady deklarovaných hodnot. Hashtag CancelChatGPT rychle nabíral na síle a aktivistické skupiny začaly organizovat bojkot produktů OpenAI.
Data od Sensor Tower potvrdila, že reakce uživatelů byla bleskurychlá. Průměrná denní míra odinstalací aplikace ChatGPT vyskočila o 295 procent oproti standardní hodnotě. Analytici technologických médií shodně konstatovali, že tak silnou negativní vlnu OpenAI nezažil ani při předchozích kontroverzi kolem licenčních sporů.
V pondělí Altman vystoupil s veřejnou omluvou a přiznal, že komunikace byla uspěchaná a nepromyšlená. Slíbil revizi podmínek smlouvy s ministerstvem obrany. Podle expertů na krizovou komunikaci šlo o typický krok poté, co se situace vymkla kontrole — Altman musel uznat, že finanční atraktivita kontraktu v rozhodující chvíli převážila nad pečlivou veřejnou diskusí.
Jaké konkrétní změny OpenAI ve smlouvě slíbil
Pod tlakem veřejného bojkotu OpenAI do smlouvy doplnil několik velmi specifických ustanovení. Nejdůležitější se týkají dohledu nad americkými občany a přístupu zpravodajských služeb k modelům. Vedení firmy sice tvrdí, že ani původní verze takové věci neumožňovala, explicitní záruky v textu ale mají kritiky uklidnit.
Mezi hlavní úpravy patří:
- výslovný zákaz vědomého využívání systémů OpenAI k monitorování obyvatel Spojených států
- blokace automatického přístupu pro zpravodajské agentury jako NSA bez samostatné veřejně schválené změny smlouvy
- deklarace, že AI má podporovat analytiky, ale nesmí nahrazovat člověka při rozhodování o použití síly
- pravidelné audity implementace modelů pod dohledem nezávislých odborníků
- transparentní reporting o typech úkolů, na nichž ChatGPT v obranném sektoru pracuje
- právo OpenAI jednostranně smlouvu vypovědět při porušení etických zásad
Jde o částečné přiblížení k přístupu Anthropic, ovšem zásadní rozdíl zůstává. Anthropic raději přišel o zakázky, než aby ustoupil požadavkům Pentagonu. OpenAI zvolil cestu kompromisu. Taddeo z Oxfordské univerzity upozorňuje, že taková strategie funguje jedině tehdy, existuje-li nezávislý kontrolní orgán schopný skutečně ověřit, zda jsou sliby dodržovány.
Podobné debaty probíhají i v Evropě, kde Evropský parlament finalizuje nařízení o umělé inteligenci známé jako AI Act. Legislativci navrhují kategorizaci rizik aplikací a zákaz určitých využití v oblasti masového sledování. Představitelé NATO zároveň zdůrazňují, že v současných systémech člověk formálně vždy zůstává v rozhodovací smyčce — jenže psychologický tlak přijmout doporučení AI roste úměrně s její sofistikovaností.
Proč armáda o umělou inteligenci tolik stojí
Za celým sporem stojí širší vize moderních ozbrojených sil. Platformy jako ty od firmy Palantir už dnes integrují data ze senzorů, dronů, satelitů a zpravodajských zpráv a předkládají velitelům hotová doporučení. Takové systémy umožňují rychlejší reakce na hrozby a koordinaci jednotek v reálném čase.
Generativní AI přidává další dimenzi. ChatGPT dokáže rychle agregovat textové zprávy v různých jazycích, identifikovat klíčové informace a navrhnout scénáře dalšího vývoje situace. Armáda si od těchto nástrojů slibuje zrychlení rozhodovacích procesů a snížení kognitivní přetíženosti velitelů zaplavených informacemi z desítek zdrojů najednou.
Právě tady ale vyvstává klíčové napětí mezi přínosem a rizikem. Generativní modely trpí takzvanými halucinacemi — dokážou produkovat nepravdivé informace s plným přesvědčením o jejich správnosti. V civilních aplikacích to skončí trapnou odpovědí v chatu. Na bojišti by stejná chyba mohla znamenat smrt nevinných lidí nebo eskalaci konfliktu na základě fiktivních dat.
Vědci z Massachusetts Institute of Technology publikovali studii o spolehlivosti velkých jazykových modelů v kritických situacích. Zjistili, že míra chybovosti výrazně roste při práci s neúplnými nebo protichůdnými informacemi — tedy přesně v podmínkách typických pro vojenské operace. Autoři doporučují vícestupňovou kontrolu výstupů a investice do vysvětlitelnosti systémů ještě před jejich nasazením v bojových podmínkách.
Jak krize ChatGPT vynesla Claude na vrchol žebříčků
Mediální bouře přinesla okamžitý efekt na trhu aplikací. Uživatelé, kteří odinstalovali ChatGPT, přirozeně hledali alternativu. A tou se stal právě Claude — model od firmy, která šla do otevřeného střetu s Pentagonem a neustoupila. Krizový management OpenAI v praxi vybudoval pro Anthropic bezplatnou marketingovou kampaň postavenou na jediném heslu: my jsme neustoupili.
Data z App Store ukázala, že aplikace Claude ve sobotu vyskočila na první místo žebříčků stahování a udržela se tam minimálně do čtvrtka. Americká média informovala o tom, že Claude překonal ChatGPT v počtu nových instalací — scénář, který by ještě před pár týdny vypadal jako zcela nereálný. Dario Amodei sice veřejně nechce těžit z problémů konkurence, ale čísla mluví za vše.
Na sociálních sítích mezitím pokračovala organizovaná kampaň. Hashtagy CancelChatGPT a QuitGPT vyzývaly k trvalému opuštění produktů OpenAI po dobu spolupráce s armádou. Pro část aktivistických hnutí jde o přímý test toho, zda je tlak uživatelů schopen skutečně změnit chování technologických gigantů.
Experti na korporátní reputaci upozorňují, že takový posun preferencí má pro OpenAI dlouhodobé důsledky. Průzkumy opakovaně ukazují, že důvěra uživatelů k technologickým firmám roste s transparentností a padá, jakmile lidé zaregistrují rozpor mezi deklarovanými hodnotami a skutečnými kroky. Sam Altman přitom dlouhá léta opakoval, že OpenAI vzniklo jako nezisková organizace zaměřená na bezpečný vývoj AI — a právě tento obraz se nyní začal drolit.
Co by dnes měli běžní uživatelé AI vzít v úvahu
Pro většinu lidí může tahle vojenská skládačka znít jako záležitost vzdálená jejich každodennímu životu. Opak je pravdou. Rozhodnutí přijímaná teď ve Washingtonu a Silicon Valley se přímo promítnou do toho, jak budou fungovat aplikace v jejich telefonech za pár let.
Pokud budou jazykové modely trénovány na datech z vojenských operací, mohou sice lépe rozumět strategickým analýzám, ale zároveň si přinesou předsudky typické pro obranný sektor. Pro uživatele v Česku je to dobrá příležitost prověřit, jaké podmínky si do svých dokumentů vkládají AI firmy působící i na tuzemském trhu. Jasně definují, s kým spolupracují? Deklarují hranice ohledně sledování a vojenských aplikací?
Tlak trhu sice legislativu nenahradí, ale ukazuje korporacím, že reputace se stala skutečnou měnou. Stále výrazněji vidíme napětí mezi rychlostí inovace na jedné straně a stabilitou a bezpečností na straně druhé. Generativní modely se vyvíjejí závratným tempem, jejich náchylnost k halucinacím ale může mít dramatické důsledky ve vojenských, zdravotnických nebo finančních aplikacích. Hranice mezi AI jako asistentem a AI jako spolurozhodujícím se začíná stírat — a právě teď probíhá klíčový spor o to, kde přesně by se měla zastavit.
