Moc v éře AI nezíská ten, kdo má nejlepší model

Kdo bude určovat pravidla světa, v němž stále větší roli hraje umělá inteligence? Spojené státy, Čína, nebo se mezi technologické velmoci dokáže prosadit také Evropa? Podle Jana Martina Rolence, odborníka na mezinárodní vztahy a bezpečnost z Fakulty mezinárodních vztahů Vysoké školy ekonomické v Praze, nemusí být rozhodující, kdo jako první vyvine nejvýkonnější model umělé inteligence. Mnohem důležitější může být schopnost rozšířit jeho využití v průmyslu, ve veřejné správě nebo výzkumu.

Umělá inteligence podle specialistů mění pravidla kybernetické bezpečnosti. Kdo má dnes navrch? Jsou to útočníci, nebo obránci?

Umělá inteligence snižuje laťku pro útočníky v kyberprostoru. Umožňuje i méně zkušeným aktérům s omezenými prostředky podnikat více útoků a používat při nich složitější postupy. Zatím ale není jasné, nakolik AI mění celkovou rovnováhu mezi nejvyspělejšími státními útočníky a jejich protivníky.

V krátkodobém horizontu budou mít navrch útočníci. Vyspělé státy a velké firmy se ale nové hrozbě přizpůsobí, mimo jiné proto, že AI jim pomůže i s obranou. Ohrožení zůstanou ti, kdo na to nemají prostředky, například menší firmy, nemocnice nebo obce. AI tak spíš prohloubí propast mezi těmi, kdo se dokážou bránit, a ostatními.

Proč může jediná zranitelnost v široce používané technologii ohrozit tolik různých organizací a co rozhoduje o tom, zda se jí útočníkům podaří zneužít?

Kyberprostor tvoří komplexní, provázané sítě, ve kterých se problémy šíří rychle a kaskádovitě. Mnohé z těchto sítí navíc využívají stejné technologie a spoléhají na stejné dodavatele. Jedna chyba proto může zasáhnout tisíce organizací najednou. Příkladem mohou být nedávné kritické zranitelnosti PHP, které se staly předmětem celosvětových pokusů o útoky a zasáhly také ČVUT v Praze. O tom, zda útočníci uspějí, rozhoduje hlavně rychlost záplatování. Od zveřejnění chyby do jejího zneužití dnes uplynou třeba jen dny a AI tuto dobu dál zkracuje.

Podobnou krizi ale nemusí způsobit útočník. Chybná aktualizace firmy CrowdStrike v červenci 2024 vyřadila asi 8,5 milionu počítačů po celém světě, od letišť po nemocnice. Navzdory katastrofickým scénářům zatím nenastal „kybernetický Pearl Harbor“, tedy útok, který by způsobil rozsáhlé fyzické zničení infrastruktury a masové ztráty na životech. Malí útočníci nemají takové schopnosti a ti velcí se zpravidla snaží nevyvolat závažnější eskalaci konfliktu.

Přípravy na takovou situaci nicméně probíhají na všech úrovních vyspělého světa. Často se mluví o společenské odolnosti, respektive resilienci. Ale jak ukázala nedávná pandemie onemocnění covid-19, učíme se spíš z vlastních chyb a zkušeností.

Kybernetické útoky jsou stále častěji spojovány se státy a geopolitickým soupeřením. Jakou roli dnes hrají v mezinárodních konfliktech?

Kybernetické útoky jsou sice součástí dnešních mezinárodních ozbrojených konfliktů, ale mají omezené účinky. Většina z nich probíhá pod prahem ozbrojeného útoku, tedy tak, aby nevyvolaly válečnou odpověď. Fungují jako doplněk vojenských hrozeb, sankcí a diplomacie. Příklad ruské války proti Ukrajině ukazuje, že kybernetický „šok a úžas“ se nedostavil. Ani nejúčinnější ruské útoky, například útok na operátora Kyivstar v roce 2023, který na několik dní narušil služby zhruba 24 milionům zákazníků, válku nerozhodly. Útočníci se tam přitom dostali přes kompromitovaný účet zaměstnance.

Čína je známá svou špionáží, ale u kampaně Volt Typhoon, kterou odhalily západní zpravodajské služby, šlo podle nich o to, uhnízdit se v sítích americké kritické infrastruktury, aby je Čína mohla v případě konfliktu vyřadit. Peking to odmítl jako „politickou frašku“ americké vlády. Tady se ukazuje klasické bezpečnostní dilema. I průnik, kterým si jedna strana pouze připravuje možnosti pro případ krize, může druhá strana vnímat jako přípravu útoku.

Může se kybernetický útok stát nástrojem politického nátlaku, aniž by bylo možné jednoznačně určit jeho původce?

Nátlak bez jasného původce možný je a nejasnost je pro útočníka výhodou, protože snižuje riziko odvety. Klasické vydírání ale potřebuje, aby oběť věděla, kdo a co po ní chce. Anonymní útoky proto slouží spíš k zastrašování a testování protivníka. Původce útoku lze jen málokdy určit s technickou jistotou. Jeho veřejné označení je proto především politickým aktem. Stát rozhoduje, zda a kdy původce označí a se kterými spojenci přitom vystoupí. Česko loni označilo čínskou skupinu APT31 za původce dlouholeté špionáže proti ministerstvu zahraničí a předvolalo velvyslance. Čínské velvyslanectví obvinění odmítlo.

Evropská unie zavádí pravidla pro umělou inteligenci prostřednictvím AI Actu a zpřísňuje požadavky na kybernetickou bezpečnost například směrnicí NIS2. Dokážou tyto předpisy držet krok s technologickým vývojem, nebo budou vždy reagovat se zpožděním?

AI Act dělí systémy umělé inteligence podle rizika. Některá použití zakazuje, třeba plošné sociální hodnocení lidí. Pro riziková použití, například v personalistice nebo ve zdravotnictví, stanovuje přísná pravidla. A od letošního srpna zavádí povinnosti transparentnosti, například označování deepfaků a některých textů vytvořených AI. NIS2 rozšiřuje povinnosti kybernetické bezpečnosti na tisíce firem a institucí, od energetiky po nemocnice. Musejí řídit rizika, hlásit incidenty a za bezpečnost odpovídá i jejich vedení. V Česku ji od loňského listopadu provádí nový zákon o kybernetické bezpečnosti, který se týká zhruba šesti tisíc subjektů.

Od doby průmyslové a vědecko-technologické revoluce platí, že naše instituce a normy jsou vždy minimálně o krok pozadu za technologickým vývojem. To však nemusí být důvodem, abychom na regulaci rezignovali. AI Act ostatně s tímto zpožděním počítá. Zaměřuje se především na to, jak se technologie používá a jaká rizika přitom vznikají. Proto nemusí s každou novinkou zastarat. Na druhou stranu EU letos sama odložila část povinností AI Actu o rok až o 16 měsíců. Tlak na konkurenceschopnost je tedy reálný a EU na něj už reaguje.

Nehrozí ale, že evropská regulace oslabí konkurenceschopnost zdejších firem vůči společnostem z USA a Číny?

Obava, že regulace oslabí konkurenceschopnost a inovace, je pochopitelná. Na příkladech USA, EU a Číny vidíme tři různé přístupy k tomuto problému. USA spoléhají na trh a samoregulaci firem, zatímco Evropa klade důraz na ochranu práv a čínský stát intenzivně reguluje technologický sektor a společnost. Je legitimní hledat rovnováhu mezi konkurenceschopností na jedné straně a bezpečností a soukromím na straně druhé. Za evropským zaostáváním podle Draghiho zprávy (strategická analýza, kterou pro Evropskou komisi vypracoval bývalý italský premiér a šéf Evropské centrální banky Mario Draghi – pozn. red.) nestojí jen regulace, ale také roztříštěný trh, nedostatečně rozvinuté financování inovativních firem a drahé energie. Konkurenční výhodou navíc může být i důvěra. V průzkumu think-tanku Pew z roku 2025 ve 25 zemích vyšla EU jako důvěryhodnější regulátor AI než USA a Čína.

Velká část digitální infrastruktury, cloudových služeb i nástrojů umělé inteligence pochází od několika globálních technologických společností. Nakolik je závislost evropských firem a států na těchto dodavatelích bezpečnostním rizikem?

Závislost sama o sobě není problém. Už Robert O. Keohane a Joseph S. Nye (američtí teoretici mezinárodních vztahů, kteří v 70. letech vytvořili teorii komplexní vzájemné závislosti – pozn. red.) ukázali, že zdrojem moci je až její asymetrie. Riziko vzniká, když jsme závislí na několika málo dodavatelích nebo když nám druhá strana může z politických důvodů odepřít přístup k jejich službám. V Evropě se obě rizika spojují. Tři americké firmy drží zhruba dvě třetiny jejího cloudového trhu a loňský výpadek Amazonu zasáhl na hodiny i banky a úřady. Závislé jsou ale i velmoci. Na USA a Čínu podle MMF připadá přes tři čtvrtiny čistého dovozu hardwaru pro AI, který vyrábějí hlavně Tchaj-wan a Jižní Korea. USA mají nejlepší čipy, ale chybí jim suroviny a energie pro datová centra. Čína má energii a vzácné zeminy, ale neumí vyrábět nejpokročilejší čipy. Otázkou proto není, jak se závislosti zbavit, ale na kom záviset, do jaké míry a za jakých podmínek.

Může se kontrola nad klíčovými technologiemi stát nástrojem politického tlaku a měla by Evropa usilovat o větší technologickou soběstačnost?

Stejně jako u klíčových surovin, mohou i u technologií vyvíjet politický tlak ti, kdo ovládají obtížně nahraditelnou část dodavatelského řetězce. Politologové Henry Farrell a Abraham Newman tomu říkají vzájemná závislost využitá jako zbraň. Využívají ji všichni bez ohledu na charakter politického režimu – demokratické USA i autoritářská Čína. Letos v červnu to zažila i Evropa. Americká vláda exportním pokynem přiměla firmu Anthropic zastavit přístup zahraničních státních příslušníků k modelům Fable 5 a Mythos 5. Firma proto dočasně pozastavila přístup k oběma modelům všem uživatelům. Přístup k modelu Fable 5 obnovila uživatelům po celém světě po necelých třech týdnech. Agentura EU pro kybernetickou bezpečnost (ENISA) získala přístup k modelu Mythos 5 až v září.

Tlak ohledně technologických firem se promítá i do chování vlád. Například americký prezident Donald Trump otevřeně vyhrožuje EU, pokud bude americké tech firmy omezovat. Jak to lze vnímat? A je to standardní ochrana vlastního hospodářství, nebo je za tím něco víc?

Prezident Trump je známý svým transakčním přístupem, ve kterém se zahraniční politika chápe jako série obchodů, kde se vztahy a spojenectví poměřují okamžitým ziskem, ne sdílenými hodnotami či dlouhodobými závazky. Příkladem jsou některá jeho rozhodnutí o exportních omezeních, která měla chránit americký technologický primát a bezpečnost, ale která později zpeněžil. Jeho administrativa v srpnu 2025 povolila prodej čipů Nvidia do Číny výměnou za 15 procent tržeb.

Nejde ale jen o ochranu vlastního hospodářství. Americké technologické firmy jsou dnes nástrojem americké moci, a evropská regulace se proto ve Washingtonu vnímá jako zásah do ní. Evropa si musí zvyknout, že se v tomto novém mezinárodním prostředí nemůže spoléhat na automatickou solidaritu ani u spojenců a kromě větší technologické soběstačnosti musí především chytře diverzifikovat.

Umělá inteligence umožňuje vytvářet přesvědčivější podvodné zprávy, hlasové nahrávky i videa. Jak se tím mění možnosti sociálního inženýrství a jak mají firmy připravovat zaměstnance na hrozby, které mohou být stále obtížněji rozpoznatelné?

V roce 2024 převedl zaměstnanec nadnárodní firmy v Hongkongu asi 26 milionů dolarů poté, co se přes videohovor poradil s „kolegy“, kteří byli všichni podvržení. Firmy proto budou muset změnit to, z čeho dosud vycházely. Místo „vše je pravé, dokud se neukáže opak“ bude platit „nejdřív ověřuj, pak důvěřuj“. Zaměstnance nemá smysl učit jen rozpoznávat podvrhy, protože to bude čím dál těžší. Mnohem účinnější jsou postupy, které na rozpoznání nezávisí, například ověření jiným kanálem, dohodnutá hesla, schvalování plateb dvěma lidmi a u opravdu zásadních věcí osobní setkání.

Větší problém vidím mimo firmy, v politice a médiích. Tam nehrozí jen to, že lidé uvěří podvrhu, ale také to, že přestanou věřit i pravým záznamům. Politik pak může skutečnou nahrávku odbýt jako výtvor AI. Ve firmě je nedůvěra ochranou, ve společnosti je problémem. Obrana tam závisí na regulaci, například na povinném označování deepfaků a některých textů vytvořených AI, ale hlavně na důvěryhodných médiích a dlouhodobém vzdělávání.

Co dnes nejvíce brání účinné mezinárodní spolupráci v kybernetické bezpečnosti?

Jako v jiných bezpečnostních otázkách jsou to především rozpory mezi Západem a Ruskem s Čínou. Nejde jen o moc, ale i o to, co kybernetická bezpečnost vlastně je. Západ chce uplatňovat existující mezinárodní právo, Rusko a Čína mluví o „informační bezpečnosti“, která zahrnuje i kontrolu obsahu. OSN loni zřídila stálé fórum, na nové normě se ale neshodla a přetrvávají spory i o výklad práva a uplatňování už přijatých nezávazných norem. Neshoda navíc nepanuje jen mezi státy, ale i uvnitř nich, a to i na Západě. Diplomaté prosazují pravidla proti útokům na kritickou infrastrukturu, zatímco vlastní tajné služby a armády v cizích sítích působí.

Spojené státy, Čína a Evropská unie přistupují k rozvoji a regulaci umělé inteligence odlišně. Nakolik se schopnost AI vyvíjet a kontrolovat promítne do mezinárodní moci států?

Umělá inteligence, respektive obecně jakákoli technologie, je jedním ze zdrojů mezinárodní moci. Historie průmyslových revolucí ukazuje, že moc nezískal ten, kdo udělal průlom první, ale ten, kdo technologii nejvíc rozšířil. U AI to nejspíš platí také. Proto se USA i Čína snaží prosadit ve světě svou technologickou nabídku. USA nabízejí vše od čipů přes cloud až po modely, Čína zase volně dostupné modely. Soutěží o to, kdo bude dodavatelem pro ostatní.

V tuto chvíli má tento „závod“ jen dva hlavní soupeře, USA a Čínu. Mluvit o vývoji AI jako o „závodu“ přitom není jen popis. Zaostávání se tím prezentuje jako bezpečnostní hrozba a to ospravedlňuje mimořádná opatření od deregulace po exportní kontroly. V bezpečnostních studiích tomu říkáme sekuritizace. Ve vývoji modelů jsou obě země téměř vyrovnané, v čipech a kapitálu mají náskok Spojené státy a Čína zase v energii, surovinách a robotice. Tchajwanský průliv, už tak nejcitlivější bod jejich vztahů, tím získává další význam, protože nejpokročilejší čipy pro AI vyrábí hlavně tchajwanská firma TSMC. Bude záležet na tom, zda se těmto dvěma supervelmocím podaří udržet napětí pod prahem ozbrojeného konfliktu.

Evropa má regulační moc, ale její vlastní kapacity zatím nestačí k omezení závislosti na zahraničních dodavatelích. Umí stanovit pravidla, ale o přístupu k nejvýkonnějším nástrojům musí vyjednávat.

Hrozí rozdělení digitálního světa na soupeřící technologické bloky a jakou strategii by v takovém prostředí měla zvolit Evropa? Neujel jí vlak?

Svět se už dělí do technologických bloků. Historik Niall Ferguson, výzkumnice z Oxfordské univerzity Lisa Klaassenová a bývalý CEO společnosti Google Eric Schmidt nedávno v časopisu Foreign Affairs označili AI za „imperiální technologii“. Kdo ovládá čipy, modely a kapitál, stává se podle nich centrem, zatímco ostatní zůstávají na periferii. Země globálního Jihu jsou na těchto centrech závislé, ale nevybírají si jen jednu stranu. Kombinují americké čipy s čínskými sítěmi a cloudem. V mezinárodních vztazích se tomu říká hedging, tedy sázka na více koní, která snižuje závislost na jediném aktérovi. Čínská nabídka je pro ně často lákavější, protože je levnější a otevřenější. Americká je dražší a podmíněná zahraničněpolitickou shodou. I čínská nabídka ale dlouhodobě vytváří závislost.

EU dříve zdůrazňovala především „důvěryhodnou AI“, dnes mluví více o evropské „suverenitě“. Suverenita se ale nesmí stát jen nálepkou pro dotace, které nakonec skončí u amerických cloudových firem. Domnívám se, že Evropa nemusí usilovat o vítězství v tomto „závodu“. Podstatné je něco jiného. Pokud moc plyne z rozšíření technologie, ne z prvenství, vlak Evropě neujel. Má smysl soustředit se na využití AI v průmyslu, ve veřejné správě a výzkumu, kde má Evropa silnou základnu. Zároveň by měla posilovat oblasti, v nichž je pro ostatní obtížně nahraditelná. Příkladem je nizozemská firma ASML, jediný dodavatel EUV litografických strojů používaných při výrobě nejpokročilejších čipů. Stavět může také na důvěře, protože EU je vnímána jako důvěryhodný regulátor AI. K tomu by měla hledat partnery mezi dalšími středními mocnostmi. Moc v éře AI nezíská ten, kdo má nejlepší model, ale ten, kdo ho dokáže nejlépe využít.

Jan Martin Rolenc

Absolvent doktorského studia v oboru mezinárodní politické vztahy na Fakultě mezinárodních vztahů VŠE v Praze, kde působí jako odborný asistent na Katedře mezinárodních studií a diplomacie a akademický ředitel anglicky vyučovaného bakalářského a magisterského programu International and Diplomatic Studies. Pedagogicky a vědecky se zaměřuje především na teorie mezinárodních vztahů, bezpečnostní studia a sekuritizaci, mezinárodní sankce a vztah technologií, zejména umělé inteligence, k bezpečnosti.

CITÁTY:

Umělá inteligence snižuje laťku pro útočníky v kyberprostoru. Umožňuje i méně zkušeným aktérům s omezenými prostředky podnikat více útoků a používat při nich složitější postupy.

Od doby průmyslové a vědecko-technologické revoluce platí, že naše instituce a normy jsou vždy minimálně o krok pozadu za technologickým vývojem.

Evropa má regulační moc, ale její vlastní kapacity zatím nestačí k omezení závislosti na zahraničních dodavatelích.

Stejně jako u klíčových surovin, i u technologií mohou vyvíjet politický tlak ti, kdo ovládají obtížně nahraditelnou část dodavatelského řetězce.