Nejdůležitější systém AI může být ten, který nikdo nevidí

Model je viditelná vrstva. Skutečná evropská schopnost v oblasti AI závisí na čipech, výpočetním výkonu, sítích, záznamech, smlouvách a lidech pod ní.

Nejdůležitější systém AI může být ten, který nikdo nevidí

Stroj za odpovědí

První evropský exascale superpočítač není metafora. JUPITER je skutečný systém ve Forschungszentrum Jülich, který provozuje Jülich Supercomputing Centre. Společný podnik EuroHPC popisuje jeho architekturu BullSequana s přímým kapalinovým chlazením, 20petabajtovou ultra rychlou flashovou partici a návrh určený pro náročné simulace a výpočetně náročnou umělou inteligenci. Popis je plný detailů, které systém umožňují: architektura procesoru, úroveň úložiště, způsob chlazení, provozní instituce a přístupová cesta. Model, který na něm může případně běžet, je jen jednou částí věty.

Tento rozdíl se snadno ztrácí, protože viditelnou částí umělé inteligence je odpověď. Člověk položí otázku, model vrátí text a obrazovka vyvolá dojem, že inteligence dorazila v jednom balíku. Skrytá práce je méně efektní. Elektřina se musí dostat do budovy. Komponenty musí dorazit v pořádku. Obraz firmwaru musí být důvěryhodný. Sítě musí přenášet data mezi procesory a úložištěm. Identita musí určit, která osoba nebo služba smí používat který zdroj. Plánovač musí najít kapacitu. Registr musí operátorovi říct, který model, kontejner a verze dat se používají. Monitorování musí zjistit, že se systém změnil. Někdo musí stále vědět, jak ho opravit za deštivého úterý, když dokumentace dodavatele dostala nové číslo verze a jediný člověk, který rozuměl té staré, je na dovolené.

Důležitý systém umělé inteligence proto může být ten, který nikdo nevidí. Je to dodavatelský řetězec, smlouva o dodávce energie, síťová struktura, plán údržby, strom softwarových závislostí, rozhodnutí o nákupu a institucionální paměť, díky nimž lze model používat, aniž by se předstíralo, že model je celá služba. Když je tento skrytý systém slabý, výkonnější model službu neposílí. Dá slabému systému působivější způsob, jak selhat.

Toto není argument proti modelům nebo velkým veřejným výpočetním programům. Je to argument pro jejich poctivý popis. Evropa buduje kapacitu prostřednictvím aktu o čipech, programu EuroHPC a programu AI Factories. Politické stránky Komise hovoří o strategických závislostech, odolnosti dodavatelského řetězce, přístupu pro menší firmy a infrastruktuře potřebné pro důvěryhodnou umělou inteligenci. To jsou otázky infrastruktury, ne otázky značky. Pokud chce kontinent užitečnou kapacitu spíše než sbírku působivých ukázek, musí s tichými vrstvami zacházet jako se součástí kapacity.

Odpověď je horní vrstva. Služba závisí na každé vrstvě pod ní.

Model je součást, ne země

Ve veřejné diskusi se často používá model jako zkratka pro celou schopnost. Země má model, společnost má model, oddělení má model a s modelem se zachází, jako by sám nesl celý dodavatelský řetězec. Není tomu tak. Model má soubor, parametry, běhové prostředí a sadu předpokladů o práci, kterou má vykonávat. Služba kolem něj nese zbytek povinností.

Představte si skromný systém, který třídí příchozí dokumenty dříve, než je zkontroluje lidský tým. Potřebuje přijímací kanál, frontu, analyzátor, úložiště, řízení přístupu, běhové prostředí modelu, úložiště výsledků, cestu pro oznámení, způsob vrácení vydání zpět a záznam o tom, co se stalo. Klasifikátor může být přesný na své testovací sadě a přesto nepoužitelný, pokud analyzátor ztratí pole, pokud systém identity přidělí nesprávnou roli, pokud nelze získat kontejner modelu nebo pokud operátor nedokáže určit, která verze doporučení vytvořila. Žádné z těchto selhání nejsou halucinace modelu. Jsou to selhání služby, díky které byl model důležitý.

Opačná chyba je stejně častá. Týmy popisují celou službu jako odolnou, protože model byl vyhodnocen, zatímco závislosti ponechávají mimo hranici hodnocení. Test modelu může kontrolovat výstupy pro vybrané zatížení. Málokdy kontroluje, zda certifikát nevyprší ve stejnou dobu, kdy úložiště softwaru změní svůj podpisový klíč, zda má úložná vrstva dostatek kapacity pro delší než obvyklý dokument, nebo zda může člověk získat zdrojový záznam poté, co dodavatel změní rozhraní pro programování aplikací. Tyto obavy patří provoznímu systému. Stále jsou součástí toho, co uživatel prožívá jako umělou inteligenci.

Užitečná otázka není, zda je model dobrý izolovaně. Je to, co dalšího musí být pravdivé, než se lze na výstup modelu spolehnout, a kdo má pravomoc tyto věci opravit. Tato otázka přesouvá konverzaci z katalogu modelů na hranici systému. Vytváří také méně lichotivý, ale užitečnější soupis.

  • Jaké fyzické zdroje musí zůstat dostupné?
  • Které softwarové a firmwarové komponenty musí dorazit neporušené a zůstat podporované?
  • Které služby identity, sítě, úložiště a registru musí odpovědět?
  • Která organizace je odpovědná, když se závislost změní?
  • Jaké důkazy umožní jiné osobě později odpověď zkontrolovat?
  • Proposal for the Chips Act 2.0, Evropská komise, 3. června 2026.

Tyto otázky nejsou teoretické. Jsou rozdílem mezi schopností, kterou lze provozovat, a schopností, kterou lze jednou předvést. Předvádění je příjemné. Základní služby musí přežít příští okno údržby.

Dodavatelské řetězce jsou uvnitř hranice systému

Práce agentury ENISA na integritě dodavatelského řetězce začíná nepřikrášleným pozorováním: vlády, organizace, společnosti a spotřebitelé stále více závisí na produktech a službách IKT, a tedy na dodavatelských řetězcích, které je dodávají. Její zpráva jmenuje hrozby od manipulace během vývoje, distribuce nebo provozu až po náhradu padělanými nebo klonovanými součástmi. Jde o víc než o bezpečnostní kontrolní seznam. Dodávaná věc není jen krabice. Je to posloupnost lidí, kódu, součástí, smluv a rozhodnutí, díky kterým se krabice stane dostatečně důvěryhodnou k použití.

Služba umělé inteligence tuto posloupnost dědí. Tréninková fáze závisí na základním obrazu, kompilátoru, ovladači, jádře, plánovači a zdrojové datové sadě. Inferenční služba závisí na stejných vrstvách plus na běhovém prostředí pro obsluhu, indexu, politické bráně a rozhraní, které může fungovat, když provoz nevypadá jako testovací sada. Veřejná instituce může koupit službu spíše než některou z těchto částí, ale skrytý řetězec nezmizí jen proto, že smlouva jej nazývá platformou.

Foresight aktualizace ENISA pro rok 2024 staví narušení softwarového dodavatelského řetězce na první místo svého seznamu hrozeb pro kybernetickou bezpečnost do roku 2030. Mezi hlavní obavy rovněž řadí nedostatek dovedností, lidskou chybu v kyberneticko-fyzikálních ekosystémech, přeshraniční poskytovatele ICT služeb jako jediný bod selhání a fyzický dopad narušení životního prostředí na kritickou digitální infrastrukturu. Nejedná se o tvrzení, že každý projekt umělé inteligence narazí na všechny tyto hrozby. Jsou připomínkou toho, že plocha hrozeb se skládá ze vztahů. Záplata, dodavatel, člověk a povodeň mohou ovlivnit stejnou službu, i když se objevují v různých registrech rizik.

Jazyk stejné zprávy je užitečný, protože odolává představě, že kybernetické riziko patří pouze týmu pro bezpečnost. Závislost může být narušena v softwaru, ale její důsledky mohou přijít prostřednictvím fyzického procesu, rozhodnutí o nákupu nebo chybějící dovednosti. Služba se může stát jediným bodem selhání, protože její poskytovatel je technicky vynikající a široce používaný. Koncentrace není totéž co neschopnost. Je to vlastnost sítě kolem služby.

To vytváří praktický problém s hranicemi. Pokud organizace hodnotí pouze model a jeho bezprostřední běhové prostředí, výsledek může být přesný pro zvolenou hranici a zavádějící pro službu, kterou provozuje. Pokud hodnotí každého dodavatele se stejnou intenzitou, vytvoří tabulku, kterou nikdo nedokáže udržovat. Odpovědí je mapa závislostí, která sleduje důsledky. Identifikujte, co může změnit výstup, přerušit službu, vymazat důkazy, rozšířit oprávnění nebo zabránit obnově. Poté se zeptejte, zda je závislost dostatečně viditelná pro monitorování a zda existuje jiná cesta.

Tato mapa by měla zahrnovat běžné materiály. Server vyžaduje paměť, úložná zařízení, přeměnu energie, chladicí zařízení a náhradní díly. Síť vyžaduje optické komponenty, přepínače, směrovací software a lidi, kteří znají topologii. Softwarový dodavatelský řetězec vyžaduje správce, infrastrukturu pro sestavení, registry balíčků, podpisové klíče a postupy vydávání. Žádná z těchto věcí se nestane méně důležitou, protože produktový prospekt říká umělá inteligence.

Je lákavé reagovat rozsáhlejším dotazníkem pro dodavatele. Dotazník může být užitečný, ale není mapou závislostí. Zaznamenává, co dodavatel řekne v jednom okamžiku. Provozní otázkou je, zda kupující dokáže zaznamenat změnu, interpretovat ji a přijmout přiměřené opatření. Seznam certifikátů nenahrazuje znalost toho, která součást by zastavila službu, kdyby zítra ráno zmizela. Evropské organizace jsou obdivuhodně dobré ve shromažďování dokumentů. Těžší umění spočívá v tom, aby dokumenty ukazovaly na rozhodnutí.

Čipy činí neviditelné fyzickým

Evropský akt o čipech uvádí skutečnost, která by měla být zřejmá a přesto je třeba ji uvést: polovodiče jsou stavebními kameny elektronických produktů a jsou klíčové pro odvětví od komunikací a zpracování dat až po zdravotnictví, energetiku, dopravu a průmyslovou automatizaci. Akt vstoupil v platnost v září 2023 a stanovuje cíle, které zahrnují posílení výzkumu a technologického vedení, posílení kapacity pro návrh, výrobu a balení, řešení nedostatku dovedností a rozvoj hlubšího porozumění globálnímu dodavatelskému řetězci polovodičů.

Tento seznam je důležitý pro umělou inteligenci, protože výpočetní kapacitu nevytváří logo cloudu. Vytváří ji řetězec návrhů, destiček, zařízení, balení, testování, dodávky energie, chlazení, sítí a údržby. Nedostatek nebo zpoždění v jedné části může změnit to, co datové centrum dokáže dodat, i když jsou soubory modelu připraveny. Pokud má součást dlouhou dodací lhůtu, operátor nemůže problém vyřešit chytrou výzvou. Pokud nelze závislost firmwaru bezpečně aktualizovat, může být volba mezi kontrolovaným snížením služby a nebezpečným pokusem udržet vše v chodu.

Přehled Komise zaznamenává tři pilíře aktu o čipech. První podporuje budování kapacit a inovace, včetně pilotních linek a kompetenčních center. Druhý se zabývá bezpečností dodávek a odolností prostřednictvím výroby, pokročilého zapouzdření, testování a montáže. Třetí vytváří mechanismy monitorování a reakce na krize, včetně Evropské rady pro polovodiče, která mapuje a sleduje hodnotový řetězec a koordinuje reakce na krize v oblasti polovodičů. Institucionální uspořádání je užitečnou korekcí představy, že suverenita znamená vyrábět každou součástku doma. Odolnost je zčásti o kapacitě, zčásti o viditelnosti a zčásti o schopnosti reagovat, když se závislost přesune.

Stránka také uvádí konkrétní příklady schválených zařízení typu first-of-a-kind v Catanii, Crolles, Drážďanech, Novaře, Premstättenu, Miláně a dalších evropských lokalitách. Tyto záznamy nejsou důkazem, že Evropa vyřešila problém polovodičů. Jsou důkazem, že hodnotový řetězec má fyzická místa, technologie a investiční rozhodnutí, která lze pojmenovat. Pojmenování mění konverzaci. Umožňuje ptát se, jakou schopnost každé zařízení přidává, na jaké vstupy stále spoléhá, jaké dovednosti potřebuje a jak by bylo podpořeno během narušení.

Návrh Komise na akt o čipech 2.0, zveřejněný v červnu 2026, uvádí, že Unie zůstává závislá na třetích zemích v klíčových oblastech, jako je pokročilá výroba čipů a návrh polovodičů. Pro článek z 31. července jde o aktuální politické prohlášení, nikoli o předpověď budoucího zákona. Jeho praktický dopad je přímočarý: evropská služba může být hostována v Evropě a přesto záviset na globálním řetězci, jehož nejdůležitější rozhodnutí probíhají jinde. Fyzické umístění má hodnotu. Není totéž co kontrola.

Politika v oblasti umělé inteligence může být serióznější, pokud si vypůjčí tento fyzický slovník. Místo otázky, zda je model evropský, se ptejte, které části služby lze opravit, vyměnit, zkontrolovat a pozastavit v rámci evropských institucí. Místo otázky, zda má poskytovatel evropský region, se ptejte, jak hardware, firmware, softwarové závislosti a provozní pravomoc procházejí službou. Odpověď bude neuspořádaná. Dobře. Neuspořádané mapy jsou často prvními poctivými.

Výpočetní výkon je veřejná schopnost

EuroHPC nabízí užitečný příklad, protože zpřístupňuje výpočetní infrastrukturu, aniž by z ní dělal spotřební produkt. Její veřejný seznam uvádí, že společný podnik pořídil dvanáct špičkových superpočítačů napříč Evropou. Seznam jmenuje systémy a hostitele: JUPITER v Jülichu v Německu, LUMI v Kajaani, Leonardo v Boloni, MareNostrum 5 v Barceloně, Karolina v Ostravě a Arrhenius na univerzitě v Linköpingu, mimo jiné. Lokality nejsou důležité jako žebříček, ale jako připomínka, že výpočetní výkon je zakotven v institucích, budovách, personálu, energetických systémech, úložištích a výzkumných programech.

JUPITER je popisován jako první evropský exascale superpočítač s architekturou s přímým kapalinovým chlazením, 20petabajtovou flash pamětí a clusterovým modulem využívajícím procesor SiPearl Rhea1 spolu s akcelerátorem GPU. Stránka LUMI popisuje samostatné oddíly CPU, GPU, analýzy dat a kontejnerového cloudu s úložným systémem, který kombinuje flash paměť, paralelní souborový systém a službu správy dat. Tyto podrobnosti nejsou jen zajímavostí pro inženýry. Politickému čtenáři říkají, že superpočítač je soubor různě tvarovaných zdrojů. Pracovní zátěž, která se vejde do jednoho oddílu, se nemusí vejít do jiného. Přístup, plánování a přesun dat jsou součástí schopnosti.

MareNostrum 5, který hostí Barcelona Supercomputing Center, a Arrhenius, který se instaluje na Linköping University a provozuje ho National Academic Infrastructure for Supercomputing ve Švédsku, ukazují totéž různými způsoby. Distribuovaná evropská kapacita není jeden obří stroj. Je to soustava systémů s různými procesory, uspořádáním úložišť, provozovateli, pravidly přístupu a vědeckými komunitami. Síť mezi nimi je důležitá, ale důležité jsou i spoje.

Politika AI Factories Evropské komise popisuje program postavený na této realitě. AI Factories využívají výpočetní kapacitu EuroHPC k vývoji pokročilé generativní AI a propojují výpočetní centra, univerzity, malé a střední podniky, průmysl a finanční aktéry. Stránka uvádí, že v době aktualizace z dubna 2026 bylo v provozu devatenáct AI Factories a třináct anten, přičemž se plánuje nejméně devět nových superpočítačů optimalizovaných pro AI. Rovněž popisuje dlouhodobou investici deseti miliard eur prostřednictvím EuroHPC v letech 2021 až 2027. Jde o institucionální opatření, nikoli záruku, že každý projekt získá kapacitu, kterou chce, nebo že každý model bude důvěryhodný.

Hodnota takových opatření nespočívá jen v rychlosti. Veřejné výpočetní kapacity mohou vytvořit prostor, kde evropští výzkumníci a společnosti mohou spouštět úlohy za pravidel a podmínek přístupu, které jsou viditelné pro veřejné instituce. Mohou podpořit experimentování, které by jinak bylo cenově nedostupné, a mohou učinit některé znalosti reprodukovatelné napříč pracovišti. Mohou také zavést nové závislosti, pokud program spoléhá na malý počet dodavatelů, jediný softwarový zásobník nebo pracovní sílu, kterou nelze nahradit. Veřejné vlastnictví zařízení neodstraňuje provozní práci. Činí odpovědnost hůře skrytelnou, což je zdravější.

Když se výpočetní kapacita stane veřejnou schopností, její úspěch by se měl měřit nad rámec špičkového výkonu. Může menší výzkumná skupina získat přístup? Lze citlivou úlohu oddělit od obecné? Může provozovatel ukázat, který software a hardware byly použity? Může tým přesunout úlohu, když je oddíl plný nebo je závislost vyřazena? Může veřejný orgán vysvětlit podmínky, za kterých byl model trénován? Rychlý stroj, který na tyto otázky nedokáže odpovědět, je pro některou vědu stále užitečný, ale zatím není úplným základem pro veřejnou AI.

Sítě, úložiště a identita odvádějí tichou práci

Nejdůležitější vrstvy jsou často ty, které se v diagramu AI neobjeví. Diagram kreslí model mezi vstupem a výstupem. Provozovatel vidí řetězec síťových cest, tříd úložišť, identitních tvrzení, front, certifikátů, registrů, tajemství, potrubí pro pozorovatelnost a řízení změn. Diagram není špatně. Je neúplný přesně tím způsobem, který vede k nákladným překvapením.

Začněme sítí. Velká modelová služba může přesouvat data mezi akcelerátory, pamětí, úložišti a dalšími službami. Veřejná výzkumná úloha může přesouvat datové sady do superpočítače a výsledky zpět na univerzitu. Produkční pracovní postup může překročit hranici politiky, než dosáhne modelu, a další hranici, než vrátí rozhodnutí. Latence, ztráta paketů, změny směrování a údržba mohou změnit chování celé služby, aniž by se změnil jediný parametr v modelu. Časový limit se může stát opakováním, opakování se může stát duplicitní prací a duplicitní práce se může stát nesprávným záznamem. Model se nerozhodl opakovat. Rozhodl se okolní systém.

Úložiště má svou vlastní skrytou gramatiku. Existuje zdrojový záznam, transformovaný záznam, index, mezipaměť, log, záloha, značka smazání a důkaz, který říká, která verze byla použita. Služba může být schopna odpovědět na otázku, a přesto nedokázat prokázat, která data odpověď umožnila. Uchovávání a vyhledávání nejsou zrcadlovým obrazem. Uchovávat vše navždy může porušit omezení účelu; smazání zdroje a ponechání odvozeniny nebo mezipaměti může vytvořit jiný problém. Seriózní hranice dat pojmenovává, co se ukládá, jak dlouho, kým a jak může pozdější recenzent poznat, že byla hranice dodržena.

Identita není přihlašovací obrazovka. Je to mechanismus, který dává osobě, službě nebo agentovi oprávnění provést akci. Pokud může koncový bod pro odvozování volat nástroj, systém musí vědět, který subjekt se ptal, která politika volání povolila a čeho se nástroj směl dotknout. Pokud registr umožňuje povýšení kontejneru, musí vědět, kdo může povýšení schválit a jaké důkazy jsou vyžadovány. Pokud se certifikát obnovuje automaticky, služba musí mít stále způsob, jak zjistit, že se vztah identity změnil. Tajemství, které zůstává platné poté, co osoba, která ho vyžádala, odejde, je problém údržby s bezpečnostním důsledkem.

Registry jsou pamětí pohybujícího se systému. Registr modelů může uchovávat verze a metadata. Registr artefaktů může uchovávat kontejnery, balíčky nebo podepsané verze. Datový registr může popisovat schémata a vlastnictví. Inventář hardwaru může identifikovat desku, verzi firmwaru a stav výměny. Smyslem není vytvořit jeden registr pro všechno. Smyslem je učinit autoritativní zdroj pro každé tvrzení explicitním. Pokud žádný systém nedokáže odpovědět, který model, ovladač, verze dat a verze politiky byly aktivní, je pozdější přezkum nucen odvozovat historii z toho, co z logů přežilo.

Pozorovatelnost uzavírá smyčku. Metriky říkají operátorovi, že fronta narostla nebo že je zařízení horké. Trasování ukazuje cestu, kterou prošel požadavek. Logy nesou kontext, i když zůstávají snadno nepochopitelné. Události a atestace mohou uchovávat rozhodnutí a změny. Tyto objekty mají různé úkoly. Zacházet s nimi jako se zaměnitelnými vytváří buď šum, nebo falešný pocit důkazu. Návrhová otázka zní, co musí člověk vědět, když je služba pozdní, chybná, nedostupná nebo zpochybněná, a který záznam může na tuto otázku odpovědět bez rekonstrukčního cvičení.

Lze to popsat jako nudné inženýrství. To není urážka. Nudné inženýrství je část, která funguje dál, i když se příspěvek o spuštění posune dolů po domovské stránce. Je to také část, která rozhoduje o tom, zda lze nový model přijmout bez přepisování instituce kolem něj.

Údržba je schopnost, ne nákladová položka

Příběhy o infrastruktuře rády končí nasazením. To je okamžik, kdy se práce stává službou. Model je vydán, cluster je uveden do provozu, továrna se otevírá, smlouva je podepsána a vyprávění se posouvá k dalšímu oznámení. Systém sám pokračuje přes opravy, výměnu hardwaru, školení, přezkumy přístupů, upgrady, vyřazování, řešení incidentů a postupný odchod lidí, kteří si pamatují, proč bylo zvoleno určité nastavení.

Výhled hrozeb agentury ENISA řadí nedostatek dovedností mezi nejvyšší dlouhodobé obavy. To není jen problém trhu práce. Je to problém odolnosti. Služba, jejíž závislosti nedokáže pochopit více než jedna osoba, má skrytý jediný bod selhání. Organizace může mít náhradní stroje a přesto postrádat schopnost je bezpečně používat, protože runbook, proces sestavení nebo datová smlouva žije v paměti jednoho inženýra. Nákup podpory může riziko snížit, ale kupující stále potřebuje dostatek porozumění, aby mohl dodavatele zpochybnit a rozhodnout, kdy přestat.

Údržba také mění to, co znamená tvrzení o výkonu. Benchmark spuštěný na jedné verzi vypovídá o této verzi za stanovených podmínek. Neříká, že systém bude mít stejné chování po aktualizaci ovladače, změně kompilátoru, novém plánovači, jiné úložné cestě nebo nové zátěži. Užitečná služba si podmínky svých tvrzení hlídá. Zaznamenává verze, vstupy, hardware, pravidla a změny, aby někdo mohl test zopakovat nebo vysvětlit, proč už opakování není možné.

Existuje lidská cena za to, když se údržba považuje za méně důležitou záležitost. Provozovatelé odkládají upgrade, protože graf závislostí není jasný. Bezpečnostní týmy těžko určují, který balíček je skutečně v produkci. Nákupní oddělení obnovuje smlouvu, protože nikdo nezkoušel odchod. Výzkumníci nemohou reprodukovat výsledek, protože prostředí se posunulo. Uživatelé narážejí na občasné chyby, které se svalují na model, protože služba nemá společný jazyk pro vrstvy pod sebou. Výsledkem není jediné dramatické selhání. Je to pomalý pokles důvěry.

Plán údržby by proto měl zahrnovat víc než jen termíny oprav. Měl by zahrnovat revize vlastnictví, vypršení přístupů, rotaci certifikátů a klíčů, testy obnovy ze záloh, revizi závislostí, životní cyklus hardwaru, oznámení o změnách dodavatele, vyřazení modelu a důkazy potřebné pro každou z těchto činností. Některé z těchto úkolů lze automatizovat. Odpovědnost automatizovat nelze. Někdo musí rozhodnout, co se považuje za podstatnou změnu, kdo dostane signál a která autorita může službu pozastavit.

Evropský sklon vytvářet výbor pro každý obtížný problém je občas zesměšňován, často neprávem. Výbor, který vlastní mapu závislostí, pravidlo změn a cestu eskalace, je užitečnější než přehledová deska, která nepatří nikomu. Problém není správa. Problém je správa, která se nedostane k samotnému stroji.

Nákup je místo, kde se závislosti stávají závazky

Smlouvy mění závislost v závazek. Kupující si vybírá dodavatele, komponentu, způsob podpory, umístění dat, dobu obnovení a podmínky odchodu. Rozhodnutí může být popsáno jako nákup služby AI, ale kupující zároveň kupuje proces aktualizací dodavatele, reakci na incidenty, model identity, stabilitu rozhraní, dokumentaci a schopnost zůstat v podnikání. To nejsou vedlejší funkce. Určují, kolik autority si kupující zachovává.

Dokument poradní skupiny ENISA z roku 2025 o implementaci NIS2 je v tomto ohledu neobvykle přímý. Uvádí, že menší společnosti se mohou dostat do práce spojené s dodržováním NIS2, protože dodávají subjektům, které do rozsahu spadají. Zasazuje se o evropský rámec pro bezpečnost dodavatelského řetězce a zadávání zakázek se základním souborem opatření a společnou metodou náležité péče. Vyzývá také k základní úrovni zadávání zakázek s minimálními požadavky na smlouvy, standardními klauzulemi, přístupy k testování bezpečnosti a jednoduchým způsobem, jak může zákazník dodavatele posoudit. Dokument je poradním stanoviskem, nikoli nařízením. Jeho hodnota zde spočívá v tom, že pojmenovává provozní tření, které vzniká, když si každý kupující vymyslí jinou verzi náležité péče.

Nákupní týmy nemusí po každém dodavateli požadovat, aby zveřejnil každý interní detail. Musí klást otázky, které souvisejí s důsledky. Které komponenty jsou pro službu zásadní? Jak se změny oznamují? Jak může kupující ověřit používaný software a firmware? Co se stane, když dodavatel nebo subdodavatel nemůže dodat komponentu? Která data a důkazy lze exportovat? Jak dlouho pokračuje podpora po vyřazení verze? Kdo může pozastavit provoz a co se stane s již probíhající prací?

Tyto otázky jsou méně efektní než demonstrace. Je také obtížnější je předstírat. Poskytovatel může během deseti minut předvést plynulou odpověď. Obtížnější je předložit úplný soupis závislostí, otestované obnovení, migrační cestu a člověka, který je oprávněn ve správnou chvíli říci ne. Kupující by tuto obtížnost neměl považovat za důvod, proč se otázkám vyhnout. Je to důvod, proč je položit dříve, než bude službu obtížné nahradit.

Riziko koncentrace si zaslouží pečlivou formulaci. Hojně používaný poskytovatel není automaticky nebezpečný a malý poskytovatel není automaticky odolný. Koncentrace se stává rizikem, když jeden poskytovatel, softwarové úložiště, geografická trasa, autorita pro identitu nebo tým údržby nese větší důsledky, než je organizace schopna absorbovat. Výhledová zpráva agentury ENISA popisuje přeshraniční poskytovatele služeb ICT jako potenciální jediný bod selhání. Vhodnou reakcí není předstírat, že lze koncentraci odstranit. Je jí identifikovat, kde existuje, nastavit přijatelnou závislost a nacvičit, co se stane, pokud trasa nebude dostupná.

Výstupní klauzule jsou často psány jako právnický mobiliář. Skutečná výstupní klauzule má technickou podobu. Jmenuje formáty, rozhraní, práva na vyzvednutí dat, klíče, protokoly, důkazy, podporu během přechodu, potvrzení o smazání a minimální informace potřebné k přestavbě služby jinde. Je silnější, pokud byla otestována na malé zátěži. Test nemusí být divadelní. Řízený export, obnovení v nezávislém prostředí a porovnání výsledného chování mohou odhalit více než několik stránek ujištění.

Kritická infrastruktura je sítí závislostí

Směrnice o odolnosti kritických subjektů činí podobný krok na úrovni základních služeb. Definuje odolnost jako schopnost subjektu předcházet incidentům, chránit se před nimi, reagovat na ně, vzdorovat jim, zmírňovat je, absorbovat je, přizpůsobit se jim a zotavit se z nich. Kritickou infrastrukturu popisuje jako aktivum, zařízení, vybavení, síť nebo systém nezbytný pro základní službu. Formulace je záměrně širší než pouhá budova. Se službou zachází jako se vztahem mezi aktivy, lidmi a funkcemi.

Směrnice uvádí, že členské státy by měly zohlednit meziodvětvová a přeshraniční rizika, a poukazuje na rostoucí vzájemné závislosti mezi infrastrukturou a odvětvími. Rovněž uvádí, že dopady na dodavatelský řetězec by měly být zohledněny při posuzování významu narušujícího incidentu. To je důležité pro infrastrukturu umělé inteligence, protože příslušná služba nemusí být vůbec označena jako umělá inteligence. Datové spojení, energetický systém, služba identity, nemocniční informační systém nebo výzkumná síť mohou být vrstvou, která službu založenou na umělé inteligenci umožňuje.

Směrnice není provozní příručkou pro umělou inteligenci. Neklasifikuje každou modelovou službu jako kritickou a nenahrazuje odvětvová pravidla. Poskytuje způsob, jak přemýšlet o důsledcích. Pokud systém podporuje základní službu, otázkou není pouze to, zda model prošel hodnocením. Je jí to, zda subjekt může nadále poskytovat základní službu, když se změní součást, zařízení, dodavatel, síť nebo vnější podmínka.

Směrnice NIS2 stojí vedle tohoto fyzického a organizačního pohledu s povinnostmi v oblasti řízení kybernetické bezpečnosti a ohlašování incidentů pro příslušné subjekty. Právní souhra je specifická a závisí na subjektu a odvětví. Obecným ponaučením není, že jediná směrnice vyřeší odolnost. Je jím, že kybernetické a fyzické závislosti je třeba koordinovat. Síť může být bezpečná proti jednomu druhu útoku a přesto selhat, když není k dispozici chlazení. Zařízení může mít redundantní napájení a přesto nebýt schopno ověřit operátory. Dodavatel může nahlásit softwarový incident, zatímco kupujícímu chybí záznamy potřebné k pochopení jeho dopadu.

Odolnost proto potřebuje slovník pro degradovaný provoz, nejen pro úplný výpadek. Dokáže systém přijmout méně požadavků? Dokáže vypnout vysoce rizikovou funkci, zatímco zachová tu s nízkým rizikem? Dokáže přepnout na menší model nebo na ruční postup? Dokáže pokračovat, zatímco se vyprazdňuje fronta a ověřuje zdroj? Dokáže prokázat, která práce byla zpožděna nebo znovu zpracována? Toto jsou provozní rozhodnutí. Zároveň určují, zda občané, výzkumníci a podniky zažijí řízené omezení, nebo záhadnou odpověď, která dorazí poté, co instituce ztratí kontext potřebný k jejímu přezkoumání.

Užitečným obrazem je síť, jejíž uzly mají vlastníky a jejíž hrany mají podmínky. Hrana může být elektrické připojení, softwarová závislost, smlouva, přenos dat nebo vztah oprávnění. Odolný návrh nepředpokládá, že každá hrana zůstane dostupná. Zaznamená hranu, sleduje podmínku, která je důležitá, a definuje reakci dříve, než tlak přijde.

Ilustrativní kompozit, nikoli zpráva o incidentu

Pomáhá zkonkretizovat problém závislostí, aniž bychom si vymýšleli skutečný výpadek. Následující text je ilustrativní kompozit. Nepopisuje žádnou jmenovanou organizaci, dodavatele, zařízení, osobu, datum ani událost. Je to myšlenkový experiment sestavený z běžných vztahů infrastruktury.

Představte si veřejnou výzkumnou službu, která oprávněným týmům umožňuje odeslat dokument, spustit klasifikační pracovní postup a získat výsledek k lidskému přezkoumání. Služba je hostována na evropské infrastruktuře. Její model je uložen v registru artefaktů. Zdrojové dokumenty žijí v jedné vrstvě úložiště a index v jiné. Brána ověřuje identitu a předává práci do fronty. Pracovníci používají obraz kontejneru a ovladač hardwaru. Výsledky se zapisují do úložiště záznamů a do proudu důkazů. Dashboard ukazuje provoznímu týmu, zda je systém zdravý.

Nic zde není neobvyklé. O to právě jde. Nyní měňte vždy jednu podmínku. Registr změní svou politiku podepisování. Aktualizace ovladače vyžaduje nový běhový prostředí kontejneru. Certifikát pro službu, která zapisuje důkazy, vyprší, zatímco úložiště výsledků nadále přijímá zápisy. Kvóta úložiště je dosažena pro odvozený index, ale ne pro zdrojové dokumenty. Dodavatel změní rozhraní a spotřebitel fronty opakuje operaci, která nebyla navržena k opakování. Zkušený operátor odejde a runbook stále popisuje předchozí nasazení. Žádná z těchto změn nevyžaduje, aby model vytvořil nepravdivou větu. Každá z nich může změnit spolehlivost služby nebo její schopnost se vysvětlit.

Organizace, která sleduje pouze přesnost modelu, nemusí vidět žádné varování. Testovací sada stále prochází. Organizace, která sleduje celou službu, uvidí různé signály: selhání ověření, rostoucí počet opakování, mezeru v proudu důkazů, práh úložiště, nepřezkoumanou změnu nebo alarm vlastnictví. Signály nejsou rovnocenné a ne všechny vyžadují výpadek. Vyžadují pravidlo o tom, kdo rozhoduje, co se stane dál.

Předpokládejme, že se tým rozhodne snížit kapacitu, zatímco kontroluje závislost. To není známka toho, že služba selhala ve svém účelu. Může to být známka toho, že služba má účel větší než propustnost. Pokud systém dokáže zachovat zdrojový záznam, označit zpožděnou práci, zabránit neoprávněným opakováním a poskytnout člověku jasnou cestu k prozkoumání dotčených případů, degradoval řízeným způsobem. Pokud nadále produkuje vyleštěné odpovědi, zatímco jeho cesta důkazů je přerušena, zachoval zdání služby za cenu důvěry.

The composite is deliberately ordinary because spectacular incidents make the lesson too easy. Everyone understands that a flood can interrupt a facility. The harder work is recognising that an expired certificate, an unowned registry, a changed supplier contract or a missing recovery test can also move a service outside its safe operating boundary. Boring dependencies are not less causal because they lack a dramatic photograph.

Failure propagates through relationships

A failure-propagation map should follow relationships rather than technology labels. Start with the service promise. What does the user expect to happen, and what must remain true for that expectation to be met? Then trace backwards through the model, runtime, policy gate, identity, network, storage, hardware, energy, supplier and institution. At each step, ask what failure looks like, how it is detected, who owns the response and what evidence remains.

This sounds linear, but real systems branch. A model can be available while a policy service is unavailable. A policy can permit a call while an identity record is stale. A request can be accepted while a queue is unable to drain. A result can be returned while the record needed to contest it is missing. An infrastructure team can restore the service while a data owner still has to decide whether the affected work can be trusted. The propagation map should show these branches because a single green status light cannot.

One useful way to draw the map is to separate four kinds of consequence. Availability asks whether the work can happen. Integrity asks whether the work and its records are unchanged and complete. Authority asks whether the actor was allowed to perform the work. Recoverability asks whether the service can return to a known state and explain what occurred. A dependency may be acceptable for one dimension and unacceptable for another. A cache can improve availability while being unsuitable as the authoritative record. A third-party identity service can be convenient while making authority hard to inspect during a disruption.

The map should also show time. Some dependencies fail immediately. Others drift. A model can remain available while its supporting data grows stale. A hardware component can work while replacement stock becomes impossible to obtain. A contract can remain valid while a provider's change policy slowly removes the interface the buyer relied on. The later a signal arrives, the more expensive it is to interpret. Time is part of the dependency, not a note in the incident report.

Operations teams often call this observability. That word is useful only when it points to an action. A graph that looks healthy does not tell anyone what authority they have, which change caused the graph to move or what evidence should be preserved. The point of a failure map is to make a decision possible. If the evidence stream is incomplete, pause the affected action. If the model registry cannot verify an artefact, do not promote it. If a supplier changes a component outside the tested boundary, repeat the relevant evaluation. If a recovery test cannot restore the record, do not call the backup a recovery plan.

There is no universal threshold for these decisions. A research experiment, a public-facing service and a safety-critical workflow have different tolerances. The important thing is that the threshold belongs to the service owner, is visible to operators and can be revised when evidence changes. Otherwise the threshold will be set by the first person who notices the failure, which is a remarkably democratic way to run a system and a poor way to govern one.

Závislost nemusí zničit model, aby změnila to, co může služba bezpečně tvrdit.

Měřte schopnosti, aniž byste skrývali jmenovatele

Infrastruktura svádí k působivým číslům. Exaflopy, petabajty, počty procesorů, objemy investic a počet zařízení v programu popisují něco skutečného. Žádné z nich samo o sobě není službou. Číslo se stává užitečným, když jsou vidět jeho jmenovatel a podmínky.

Špičkový výpočetní výkon neřekne výzkumníkovi, jak rychle konkrétní úloha získá oddíl, přesune svá data, dokončí běh nebo získá výsledek. Počet továren AI neřekne malé společnosti, zda její aplikace získá přístup za podmínek, které potřebuje. Celkový objem investic do polovodičů neřekne operátorovi, která komponenta bude během nedostatku dostupná. Vysoké procento dostupnosti neřekne veřejné instituci, zda může získat důkazy pro sporné rozhodnutí.

Odpovědný popis schopností proto spojuje hlavní číslo s cestou, která za ním stojí. Pojmenujte hranici mezi hardwarem a softwarem. Uveďte, zda je údaj špičkový, trvalý, plánovaný nebo pozorovaný. Popište pracovní zátěž, model přístupu a výjimky. Řekněte, které závislosti jsou mimo měření. Připojte tvrzení k vydání, hardwaru, datové sadě a politice, za kterých bylo učiněno. Cílem není učinit každou stránku nečitelnou. Cílem je učinit důležité stránky ověřitelnými.

Tato disciplína také zlepšuje veřejnou argumentaci. Evropa si nemusí vybírat mezi ambicemi a opatrností. Může budovat velká zařízení, financovat ambiciózní výzkum a přesto říci, kde důkazy končí. Veřejný systém, který pojmenovává svá omezení, je důvěryhodnější než ten, který předkládá čisté číslo bez možnosti kontroly. Omezením může být fronta, rozhraní, dodavatel, nedostatek dovedností, limit výkonu nebo právní hranice. Pojmenování ho nezmenšuje schopnost. Říká lidem, o jaký druh schopnosti jde.

Nejistota není přiznáním porážky. Je to signál údržby. Pokud nikdo neví, jak změna dodavatele ovlivní pracovní zátěž, dalším krokem je test nebo explicitní předpoklad, ne větší přídavné jméno. Pokud registr nedokáže rozlišit vydání modelu od konfigurace nasazení, dalším krokem je lepší záznam. Pokud instituce nedokáže určit, která osoba může zastavit operaci, dalším krokem je mapa autority. Přesnost je způsob, jak rozhodnout, co opravit.

Tiché vrstvy jsou místem, kde se suverenita stává praktickou

Evropská suverenita se někdy probírá, jako by šlo o vlajku vztyčenou na střeše datového centra. Služba může sídlit uvnitř Unie, a přesto záviset na externích komponentách, dosahu cizího práva, proprietárních rozhraních, nedostatku dovedností nebo dodavateli, jehož rozhodnutí o změnách nelze zpochybnit. Umístění je jedním ze vstupů do hodnocení suverenity. Praktická kontrola závisí na celém řetězci.

Důraz aktu o čipech na porozumění globálnímu polovodičovému dodavatelskému řetězci, pozornost směrnice CER vůči meziodvětvovým závislostem i varování ENISA ohledně softwarových závislostí a míst selhání ukazují stejným směrem. Suverenita není jediný přepínač. Je to schopnost porozumět tomu, na čem služba závisí, rozhodnout, která závislost je přijatelná, v případě potřeby ji nahradit nebo omezit a uchovat dostatek důkazů k obhájení tohoto rozhodnutí.

Tuto schopnost lze budovat drobnými kroky. Veřejná výzkumná skupina si může vést inventář běhového prostředí, ovladače a vydání dat použitých pro výsledek. Nákupní tým může vyžadovat otestovanou cestu exportu namísto slibu přenositelnosti. Provozní tým může definovat nouzový režim a nacvičit ho. Regulátor se může ptát, které záznamy budou k dispozici po změně dodavatele. Dodavatel může zveřejnit hranice své podpory a podmínky, za nichž aktualizace mění chování. Žádná z těchto akcí neučiní systém autonomním. Učiní ho méně záhadným.

Ve společnosti Dweve je to úzký důvod, proč nám záleží na otevřených základech a tichých prvcích kolem nich. Projekty jako Core a Mesh jsou užitečné pouze tehdy, když stojí uvnitř poctivé provozní hranice, s jasnými záznamy, pravomocí a omezeními. Nejsou náhradou za evropskou infrastrukturu, veřejné instituce ani politiku dodavatelského řetězce a tento článek netvrdí, že tyto problémy řeší. Stanovisko je skromnější: otevřenou komponentu lze snáze prozkoumat, nahradit a vyučovat, když jsou její smlouvy explicitní. To je jedna cihla, ne celá budova.

Na budově záleží, protože lidé se setkávají s nejvyšším patrem a žijí se základy. Odpověď na obrazovce může být plynulá, ale skutečný charakter služby určují vrstvy, které rozhodují o tom, odkud odpověď přišla, kdo ji mohl změnit, co se stane, když se závislost pohne, a zda někdo dokáže výsledek později vysvětlit.

Budujte systém, který lidé stále vidí

Nejdůležitější systém umělé inteligence může být ten, který nikdo nevidí, protože je rozprostřen napříč místy, která nikdy nebyla nazvána umělou inteligencí. Je to výrobna čipů a chladicí okruh. Je to superpočítač a plánovač. Je to registr balíčků, poskytovatel identity, politika ukládání, síťová trasa a rozpis údržby. Je to smlouva, která říká, co se stane, když dodavatel změní komponentu. Je to instituce, která dokáže pozastavit pracovní postup dříve, než se slabý signál stane veřejným selháním.

Nic z toho nesnižuje důležitost kvality modelu. Dává kvalitě modelu místo, kde může záležet. Model může sloužit člověku pouze prostřednictvím systému, který dokáže přijmout vstup, provést práci, uchovat příslušný záznam a vrátit výsledek s dostatečným kontextem, aby mu někdo mohl důvěřovat nebo ho zpochybnit. Model je důležitou součástí tohoto systému. Není zemí, dodavatelským řetězcem, plánem obnovy ani osobou s pravomocí opravit části, které nevidí.

Evropské infrastrukturní programy jsou příležitostí, jak tyto závislosti zviditelnit, zatímco se kapacita buduje. Příležitost je praktická. Zveřejňujte rozhraní a provozní hranice. Financujte údržbu a dovednosti vedle vybavení. Považujte zadávání zakázek za konstrukční rozhodnutí. Propojte kybernetickou bezpečnost s fyzickou odolností. Dejte menším organizacím cestu k využívání veřejné infrastruktury, aniž byste je nutili stát se specialisty na každou vrstvu. Měřte přístup, obnovu a důkazy stejně pečlivě jako špičkový výkon.

Existuje jisté evropské potěšení v objevu, že odpovědí na velkou technologickou otázku je inventář, provozní příručka a člověk, který smí zastavit stroj. Není to okázalé, ale má to výhodu, že to přežije střet s úterkem. Když je skrytý systém dostatečně viditelný k prozkoumání, model může dělat svou práci, aniž by nesl mýtus, k jehož nesení nebyl nikdy stvořen.

Zdroje