Euroopa ei saa reguleerida seda, mida ta ei suuda kontrollida
Kuulamine, kus näidati kaunist diagrammi
Kõige elegantsem arhitektuuridiagramm, mida ma kunagi avalikul kuulamisel näinud olen, ei omanud tegevuse seisukohast mingit väärtust. See projitseeriti seinale ruumis, kus olid suurepärased mikrofonid ja pettumust valmistav kohv. Süsteem, mida arutati, mõjutas tuhandete inimeste abikõlblikkuse otsuseid. Tarnija näitas puhast virna: andmed, mudel, reeglid, töövoog, inimese poolt tehtav ülevaatus, aruandlus. Nooled olid sirged. Värvid olid vaoshoitud. Slaidil oli selline rahulikkus, mis ilmneb ainult siis, kui ühtegi järjekorda, erandit, eksporti, paikamist ega vihast kasutajat pole kutsutud.
Üks komisjoni liige esitas lihtsa küsimuse. Kas regulaator saaks kontrollida reaalset otsust sisendist tulemuseni. Mitte kokkuvõtet. Mitte tarnija valitud valimit. Mitte armatuurlaua ekraanipilti. Päris juhtumit, kus on näha tolleaegsed andmed, reegli versioon, mudeli versioon, juurdepääsuõigused, inimese tehtud ümberotsustamine, logid ja parandamise tee. Ruum muutus ettevaatlikuks. Inimesed kasutasid sõnu nagu ärisaladus, proportsionaalsus, liideste teekaart ja kindlustuspakett. Need ei ole alati kõrvalehoidmised. Vahel on need ausad kirjeldused süsteemidest, mis on ehitatud ilma, et kontrollitavus oleks esimese järgu nõue.
See hetk tabab Euroopa probleemi. Euroopa tunneb end mugavalt kohustuste kirjutamisel. Vähem mugav on tal ehitada tehnilisi tingimusi, mis muudavad need kohustused kontrollitavaks. Seadus võib nõuda õiglust, läbipaistvust, vastutust, riskijuhtimist, kustutamist, selgitatavust ja inimlikku järelevalvet. Aga kui süsteem ei suuda tõendeid esitada, kui andmete päritolu on ähmane, kui mudeliversioonid pole kinnitatud, kui logisid kontrollib kontrollitav pool, kui otsuseid ei saa taasesitada ja kui hanked aktsepteerivad teatrit tõendina, muutub reguleerimine hästi riietatud pealtvaatajaks. Euroopa ei saa reguleerida seda, mida ta ei suuda kontrollida.
Kontrollimine ei ole uudishimu
Kontrollimist koheldakse vahel bürokraatliku isuna, nagu tahaksid regulaatorid lihtsalt rohkem dokumente, sest kaustad mõjuvad ametlikult. See on arusaamatus. Kontrollimine on praktiline tee reeglist õiguskaitsevahendini. Kodanik vaidlustab otsuse. Haigla kontrollib, kas triaažimudel muutis käitumist pärast uuendust. Omavalitsus tahab teada, kas pettuse signaal kasutas keelatud asendustunnust. Kool küsib, miks laps märgiti täiendavale jälgimisele. Hankemeeskond peab veenduma, et kustutamine jõudis ka tuletatud andmeladudesse. Ilma kontrollimiseta muutub igaüks neist juhtumitest läbirääkimiseks uskumuste üle.
Tõsine kontrollimine on kitsam kui piiramatu juurdepääs ja tugevam kui pressiteade. See küsib õiget tõendit õigel kihil. Millised andmed olid saadaval. Milliseid teisendusi rakendati. Milline mudel, reeglistik, viip, läviväärtus ja poliitikavärav käivitus. Milline inimene või automatiseeritud osapool kinnitas tulemuse. Millised logid näitavad juurdepääsu. Milline alternatiivne tee oli võimalik. Milline parandusmehhanism on olemas. Asi ei ole selles, et muuta iga süsteem läbipaistvaks mingis müstilises mõttes. Asi on selles, et muuta oluline käitumine piisavalt uuritavaks, et seda saaks vaidlustada, parandada ja jõustada.
Digisüsteemid on eriti osavad selles, et näida vastutavana, jäädes samas raskesti kontrollitavaks. Nad toodavad armatuurlaudu. Nad toodavad eksporte. Nad toodavad aastaaruandeid. Nad toodavad usaldusväärsuse skoore, millel on horoskoobi emotsionaalne stabiilsus. Mitte ükski neist pole kontrollimine, kui see pole ühendatud aluseks oleva sündmuste jäljega. Vastavuskinnitus võib olla vaimus tõene ja vaidluses kasutu. Koondmõõdik võib varjata seda ainsat rühma, mis loeb. Mudelikaart võib kirjeldada treenimist, samal ajal kui tootmistorustik on vaikselt muutnud otsingut, läviväärtusi ja varureegleid. Kontrollimine algab seal, kus dekoratiivne kiht lõpeb.
Euroopa tugevus on ühtlasi tema lõks
Euroopal on tõsine avaliku õiguse, tarbijakaitse, andmekaitse, tooteohutuse, tööõiguse, konkurentsipoliitika ja institutsionaalse menetluse traditsioon. See traditsioon on oluline. See annab keele kahjudele, mida puhas turuloogika kohtleb sageli ilmastikuna. See tunnistab, et võim võib peituda infrastruktuuri sees. See nõuab, et süsteemide mõjutatud inimesed väärivad enamat kui õlakehitus ja tingimuste lehekülg. See on tugevus, mitte paberimajandus iseenda pärast.
Lõks on uskumus, et head õiguslikud mõisted muutuvad automaatselt headeks tehnilisteks kontrollideks. Eesmärgi piirang ei rakenda ennast ise. Mittediskrimineerimine ei ilmu seetõttu, et armatuurlaual on õigluse vahekaart. Inimlik järelevalve ei ole kohal pelgalt seetõttu, et väsinud töötaja saab klõpsata kinnitusele pärast seda, kui süsteem on juhtumi juba raamistanud. Läbipaistvus ei ole PDF-i omadus. Kustutamine ei ole lõppenud seetõttu, et põhitabel eemaldas rea, samal ajal kui vahemälud, varukoopiad, indeksid, ekspordid ja treeningkomplektid jätkavad oma vaikset edasielu. Õigused vajavad masinavärki.
See masinavärk ei ole glamuurne. See on versioonitud andmed, stabiilsed identifikaatorid, lähteandmed, mudeliregistrid, auditilogid, juurdepääsukontrollid, poliitikaväravad, hindamiskomplektid, taasesitusvahendid, ekspordivormingud, intsidentide protseduurid ja sõltumatud tõendusalad. See on võime küsida süsteemilt, mis juhtus ühel teisipäeval märtsis, ja saada rohkem kui meeleolud JSON-is. Euroopa paistab sageli silma kohustuse nimetamisel. Nüüd peab ta muutuma sama tõsiseks torustiku osas, mis laseb kohustusel hammustada.
Must kast on sageli must tarneahel
Kui inimesed räägivad tehisintellekti mustadest kastidest, kujutavad nad tavaliselt ette mudelit kui läbipaistmatut objekti. See võib tõsi olla. Mõnda mudelit on sisemiselt raske tõlgendada. Kuid paljud valitsemistõrked on vähem salapärased. Kast on must, sest mudeli ümber olev ahel on kontrollimata. Keegi ei oska öelda, millised lähtedokumendid olid indeksis. Keegi ei suuda näidata, milline viipaversioon käivitati. Keegi ei suuda eraldada mudeliviga otsinguveast. Keegi ei tea, kas varuteenus kasutas teistsugust poliitikat. Keegi ei suuda tõestada, et kustutatud kirje ei olnud endiselt olemas hindamisvalimis. Mõistatus ei ole intelligentsus. See on raamatupidamine parema turundusega.
Kontrollitaval tehisintellektisüsteemil on otsuste kohta materjalide nimekiri. See nimetab allikakogumid, litsentsid, nõusoleku olekud, andmekvaliteedi kontrollid, teisendusetapid, manustusmudelid, järjestusreeglid, mudeli kaalud, adapterid, päringud, ohutuskihid, tööriistaõigused, inimese ülevaatusreeglid ja logimispoliitika. See kõlab raskelt, kuni midagi valesti läheb. Siis kõlab see nagu miinimumtase ruumis viibivatele täiskasvanutele. Ilma selleta muutub iga uurimine viisakaks jahiks müüjaportaalides, Slacki mälestustes ja lõplik-lõplik-päris nimega tabelites.
Tarneahela mõtlemine hoiab ära ka laisa viisi müüjat süüdistada. Tarnija võib vastutada mõnede kihtide eest. Avalik asutus, haigla, pank, kool või platvormi operaator võib vastutada teiste eest. Hangetes võidi vastu võtta nõrgad ekspordiõigused. Tehnika võis jätta andmelepingud sõlmimata. Õigusosakond võis käsitleda auditilogisid lepingu lisana, mitte operatiivse tõendusmaterjalina. Juhtkond võis premeerida käivitamise kiirust ülevaadatavuse arvelt. Regulatsioon toimib ainult siis, kui vastutus saab määrata sellele kihile, kus kontroll tegelikult asub.
Enese sertifitseerimisel on lagi
Enesehindamine on kasulik. Meeskonnad peaksid dokumenteerima riske, viima läbi hindamisi, testima kontrollimeetmeid ja selgitama disainivalikuid. Küpsed tarnijad tunnevad oma süsteeme sageli paremini kui keegi teine. Teisiti väita oleks lapsik. Kuid enese sertifitseerimisel on lagi, sest stiimulid ei ole neutraalsed. Meeskond, kes hindab omaenda tööd, võib siiski olla aus, kuid ausus ei ole arhitektuur. Regulaatorid ja kliendid vajavad viise, kuidas olulisi väiteid kontrollida, ilma et nad sõltuksid täielikult kontrollitavast osapoolest.
See ei tähenda, et igal regulaatoril peaks olema piiramatu juurdepääs lähtekoodile, isikuandmetele, ärisaladustele ja tootmissüsteemidele. See ei oleks proportsionaalne ega tark. See tähendab, et ülevaatusliidesed tuleb kavandada. Regulaator võib vajada allkirjastatud logisid, korratavaid testikäitusi, andmejärjejälje eksporte, mudeliversiooni kinnitusi, kustutamiskviitungeid, valimipõhiseid otsusearvestusi, hindamistõendeid ja juurdepääsu sõltumatutele auditiartefaktidele. Piir võib olla kitsas. See ei saa olla kujuteldav.
Parimad ülevaatusrežiimid austavad õigustatud konfidentsiaalsust, keeldudes samas tõenduslikust tühjusest. Tarnija ei peaks avaldama iga saladust, et tõestada, et süsteem järgis reeglit. Kuid ta peaks avaldama piisavalt sõltumatult kontrollitavaid tõendeid, et reeglit saaks jõustada. Euroopal on siin kogemusi. Tooteohutus, finantsjärelevalve, toidu jälgitavus, lennundus, meditsiin ja energia tegelevad kõik tundliku teabega. Ükski neist ei aktsepteeri brošüüri tõendina, et masin on korras.
Võrdlusuuringud ei ole ülevaatus
Benchmarkid võivad olla kasulikud. Need näitavad jõudlust kindlaksmääratud tingimustes, võrdlevad süsteeme ja toovad esile tagasilangusi. Neid on aga ohtlikult lihtne üle tõlgendada. Mudel, mis saavutab benchmarkil häid tulemusi, võib kohalikus töövoos ebaõnnestuda, sest andmed on erinevad, läviväärtus on vale, viip on muutunud, otsingukiht on aegunud, kasutajaskond erineb testikomplektist või tagajärg nõuab sellist usaldusväärsust, mida benchmark kunagi ei mõõtnud. Benchmarki tulemused on ilmateated ühelt konkreetselt mäelt. Need ei ole hoone ülevaatus.
Euroopa peaks olema ettevaatlik, et mitte asendada tegelikke tõendeid benchmarki-teatriga. Süsteem võib läbida avaliku testi ja olla siiski kontrollimatu, kui inimene otsuse vaidlustab. See võib saavutada õigluse mõõdiku ja peita siiski kaudse muutuja allavoolu reeglis. See võib näidata madalat hallutsinatsioonide määra ja viidata siiski dokumentidele, mida kasutajal polnud lubatud näha. See võib laboris hästi skoorida ja ebaõnnestuda, kui tarnija vaikselt manustamismudelit muudab. Avalik number võib olla tõeline. See lihtsalt ei ole kogu jälg.
Kontrollimine nõuab kontekstipõhiseid teste, mis on seotud tegeliku kasutusega. Millised on ülesanded. Milliseid rühmi see mõjutab. Millised andmed on autoriteetsed. Millised keeled, äärejuhud ja tõrkemoodid on olulised. Millised väljundid põhjustavad õiguslikke või materiaalseid tagajärgi. Milline inimülevaate samm saab tulemust tõeliselt muuta. Millised tõendid peavad vastu edasikaebamisele. Üldised benchmarkid võivad anda teavet lähtetaseme kohta, kuid need ei saa asendada kohalikku küsimust. Kas see süsteem, selles kohas, selle poliitika alusel, nende andmetega, käitub viisil, mida saab uurida ja parandada.
Logid on poliitiline infrastruktuur
Logid kõlavad tehnilisena, kuni algab vaidlus. Siis muutuvad need poliitiliseks infrastruktuuriks. Kes kontrollib logi, see kontrollib seda, mida saab meeles pidada. Kui kontrollitav pool saab tõendeid tahtlikult ümber kirjutada, filtreerida, edasi lükata või kokku võtta, on järelevalve nõrk. Kui logid jätavad olulised kihid välja, on järelevalve teatraalne. Kui logid sisaldavad liiga palju isikuandmeid, muutub järelevalve uueks privaatsusprobleemiks. Vastus ei ole maksimaalne logimine. Vastus on kavandatud tõendusmaterjal: kitsas, püsiv, võltsimiskindel, juurdepääsukontrolliga ja ühendatud reaalsete sündmustega.
AI ja automatiseeritud otsuste puhul peaksid kasulikud logid ühendama sisendviited, andmekvaliteedi kontrollid, otsitud tõendid, mudeli- või reegliversioonid, poliitikaväravad, tööriistakutsed, inimtegevused, väljundid, teavitused ja parandussündmused. Need peaksid võimaluse korral saladusi välja jätma, kasutades räsisid, viiteid, redigeerimist ja eraldamist. Need peaksid toetama valimipõhist uurimist ja kontrolli ilma, et audiitorid peaksid sirvima erakirjeid nagu turistid administraatoriõigustega. Need peaksid üle elama tarnija armatuurlaua muudatused ja hanketsüklid. Logi, mis kaob lepingu lõppedes, ei olnud institutsionaalne mälu. See oli rendipäevik.
Sõltumatud tõendid on olulised, sest avalik võim ei saa tugineda eraviisilistele ekraanipiltidele. Regulaator ei pea omama igat süsteemi. Ta peab olema kindel, et oluliste süsteemide kohta käivad tõendid peavad vastu reguleeritavate osapoolte huvidele. See võib tähendada kliendi hoitavaid logisid, kolmanda osapoole auditihoidlaid, allkirjastatud sündmustevooge, reprodutseeritavaid eksporte või õiguslikke kohustusi säilitamise osas. Üksikasjad varieeruvad. Põhimõte mitte. Järelevalve ilma usaldusväärsete dokumentideta on juhendamine lugude jutustamise teel.
Hanked kirjutavad üles inspekteerimisõigused
Selleks ajaks, kui regulaator kohale jõuab, on paljud inspekteerimisalased otsused juba hankes tehtud. Leping otsustas, kas logid on eksporditavad. Turvalisuse lisa otsustas, kas võtmed on kliendi hallata. Teenuse kirjeldus otsustas, kas mudeliversioone saab kinnitada. Andmetöötluse tingimused otsustasid, kas tuletatud andmeid saab uuesti kasutada. Väljumisklausel otsustas, kas tõendid saavad lahkuda kasutatavas vormingus. Tugileping otsustas, kes võib tootmiskeskkonda puutuda ja milline jälg alles jääb. Hangete ei ole paberimajandus pärast arhitektuuri. See on arhitektuur koos hankeosakonnaga.
See on ebamugav, sest avalikud ja eraostjad hindavad digisüsteeme sageli funktsioonide, hinna ja juurutamise ajakava järgi. Kontrollitavust käsitletakse kui toredat kindlustusteemat, mõnikord alles pärast seda, kui eelistatud tarnija on juba emotsionaalselt välja valitud. See on hilja. Kui süsteem mõjutab õigusi, teenuseid, ohutust, raha, tööd, haridust, tervist või avalikku usaldust, ei ole inspekteerimisõigused valikuline kaunistus. Need on osa tootest. Odav süsteem, mida ei saa kontrollida, võib muutuda kalliks esimesel korral, kui kohus, audiitor, ajakirjanik, ametiühing, patsient, kodanik või juhatus esitab täpse küsimuse.
Hea hange küsib tõendusliideste järele juba enne käivitamist. See küsib, kuidas otsuseid jälgitakse, kuidas versioone kinnitatakse, kuidas muudatustest teatatakse, kuidas teste uuesti käivitatakse, kuidas kustutamist tõendatakse, kuidas mudeliuuendusi kontrollitakse, kuidas kohalikke andmeid eraldatakse, kuidas tugipääsu logitakse, kuidas vaidlusi valimitakse ja kuidas väljumine säilitab institutsionaalse mälu. Need küsimused ei tapa innovatsiooni. Nad tapavad teatud liiki optimismi, mis armastab kõigepealt arve esitada ja hiljem selgitada. Euroopa ei vaja vähem ambitsiooni. Ta vajab ambitsiooni, mis peab vastu inspekteerimisele.
Ka inimjärelevalve peab olema kontrollitav
Inimjärelevalve on üks kõige rohkem kuritarvitatud väljendeid digivalitsemises. Inimene süsteemi läheduses ei ole automaatselt järelevalve. Inimene, kes klõpsab eeltäidetud soovitusele heakskiidu ilma aja, tõendite, volituste või tagasisideta, ei ole tähenduslik kontroll. Inimene, kes vaatab läbi äärejuhtumeid, samal ajal kui süsteem vaikselt suunab enamiku juhtumitest, ei piisa, välja arvatud juhul, kui suunamist ennast saab kontrollida. Inimjärelevalve tuleb kujundada otsustuskihina, millel on volitused, piirangud, töökoormuse piirid ja andmed.
Inimjärelevalve kontrollimine tähendab praktiliste küsimuste esitamist. Mida hindaja nägi. Milline tõendusmaterjal oli peidetud või kättesaamatu. Kas hindaja sai tulemust muuta. Kas lahkarvamusi registreeriti. Kas surve, järjekorra pikkus või vaikeseaded lükkasid heakskiitu. Kas ülekirjutused suunati tagasi hindamisse. Kas süsteem õppis inimeste parandustest või lihtsalt neelas need juhtpaneeli. Kas hindajaid koolitati poliitika või ainult liidese jaoks. Inimene süsteemis võib inimesi kaitsta. Inimene süsteemis võib saada ka vastutuse käsnaks koos parooliga.
Euroopa peaks vastu panema sümboolsete inimeste mugavusele. Järelevalve eesmärk ei ole lisada automatiseerimisele nägu. Selle eesmärk on luua tegelik kontrollipunkt, kus otsustusvõime saab muuta tagajärgedega rada. See kontrollipunkt peab jätma tõendusmaterjali, sest muidu ei saa keegi öelda, kas see töötas. Kui seadus nõuab inimjärelevalvet, kuid süsteem salvestab ainult „operaatori poolt heaks kiidetud“, on seadus saanud nupu, mitte kaitsemehhanismi.
Inspekteerimissuutlikkus on avalik võimekus
Regulatsioonist räägitakse sageli tekstina: artiklid, põhjendused, standardid, juhendid, lepingud, tegevusjuhised. Tekst on oluline, kuid inspekteerimissuutlikkus on ka inimesed, tööriistad, eelarved, katsestendid, andmejuurdepääsu reeglid, turvalubade süsteem, tehniline koolitus ja institutsionaalne kannatlikkus. Regulaator, kes saab miljoneid logiridu ilma tööriistadeta, ei ole võimestatud. Regulaator, kellel on tööriistad, kuid puudub volitus tõendusmaterjali nõuda, ei ole võimestatud. Regulaator, kes sõltub täielikult tarnija selgitustest, ei ole võimestatud. Suutlikkus on suveräänsuse ebaglamuurne pool.
Euroopa vajab inspektoreid, kes oskavad lugeda süsteeme süsteemidena. Mitte iga jurist ei pea saama inseneriks ja mitte iga insener ei pea saama juristiks. Kuid inspekteerimismeeskonnad vajavad kombineeritud oskust kaardistada töövooge, lugeda logisid, mõista andmete päritolu, seada kahtluse alla mudeli hindamist, tuvastada asendusmuutujaid, kontrollida kustutamisradu, testida juurdepääsukontrolle ja tõlkida järeldused jõustatavasse keelde. See on professionaalne töö. Seda ei lahenda üks AI-eetika koolitus ja uus portaal sinise nupuga.
Institutsioonid vajavad ka ühiseid mustreid. Ühised tõendusskeemid, reprodutseeritavad auditi paketid, intsidentide teatamise vormingud, versioonikinnitused, kustutamiskviitungid, mudelimuudatuste teatised ja testiraamistikud võivad hõõrdumist vähendada. Standardiseerimine ei tohiks iga valdkonda lamedaks teha. Tervishoiul, rahandusel, haridusel, tööl ja avalikul haldusel on erinevad kahjud. Kuid ühised inspekteerimise algosad takistaksid igal uurimisel oma labida leiutamast. Euroopa armastab raamistikke. Siin peab raamistik sisaldama ka tegelikke käepidemeid.
Ahel, mis annab reeglitele hambad
Inspekteerimine ei ole ühekordne tseremoonia. Süsteemid muutuvad. Andmed triivivad. Tarnijad uuendavad teenuseid. Poliitikad liiguvad. Ilmuvad uued kasutajarühmad. Kulud survestavad marsruutimist. Ajutised lahendused muutuvad harjumusteks. Süsteem, mis oli jaanuaris vastuvõetav, võib septembris olla riskantne, sest maailm selle ümber muutus või süsteem õppis uue viisi enesekindlalt eksimiseks. Regulatsioon, mis inspekteerib ainult sisenemisel, on nagu restorani köögi kontrollimine, kui värv on veel märg, ja mitte kunagi tagasi pöördumine pärast lõunatippu.
Kasulik muster on ahel. Määratlege kohustus operatiivselt. Võtke valim reaalsetest sündmustest. Jälgige tõendusmaterjali. Testige süsteemi teadaolevates ja vastandlikes tingimustes. Tellige parandus seal, kus vaja. Kontrollige, et parandus muutis käitumist. Suunake järeldus tagasi hankesse, standarditesse ja juhenditesse. See ahel ei ole glamuurne, kuid ei ole ka tuletõrjeõppused. Asi ei ole draamas. Asi on institutsionaalses lihasmälus.
Reguleeritavate organisatsioonide jaoks on see ringlus tervislik. See eraldab tegeliku riski kuulujuttudest. See võimaldab meeskondadel näidata head tööd tõenditega, mitte kerjata usaldust. See tabab nõrgad kontrollid enne, kui neist saavad avalikud ebaõnnestumised. See annab hankijatele paremad küsimused ja inseneridele selgemad nõuded. See hoiab ära valitsemise muutumise lubaduste muuseumiks. Inspekteerimist ei tohiks karta, sest see on vaenulik. Seda peaks ootama, sest tõsised süsteemid mõjutavad tõsiseid elusid.
Mida Euroopa peab üles ehitama
Järeldus ei ole see, et Euroopa peaks reguleerima vähem. See on see, et Euroopa peaks reguleerima paremate vahenditega. Tugevad õigused ja kohustused on vajalikud, kuid need tuleb siduda tehniliste tõendusnõuetega, hankedistsipliiniga, sõltumatute logidega, versioonihaldusega süsteemidega, praktiliste auditi liidestega, oskuslike inspekteerimismeeskondadega ja kontrollitavate parandusradadega. Muidu muutub õiguskeel ilusaks diagrammiks: sidus, rahulik ja võimetu vastama, mis tegelikul juhul juhtus.
Siin on suveräänsuse õppetund. Suveräänsus ei ole lipp pilvepiirkonnas ega kõne väärtustest. See on võime inspekteerida, peatada, parandada, asendada ja selgitada süsteeme, mis kujundavad avalikku ja eraellu. Kui tõendid asuvad mujal, kui otsustavad versioonid on teadmata, kui logid on muudetavad, kui väljumine hävitab mälu või kui regulaatoritel puuduvad vahendid väidete testimiseks, on Euroopa sõltuv isegi siis, kui poliitikatekst on suurepärane. Sõltuvus ei näe alati välja nagu väliskontroll. Mõnikord näeb see välja nagu puuduv ekspordinupp.
Euroopa ei saa reguleerida seda, mida ta ei saa inspekteerida. Seda lauset ei tohiks lugeda pessimismina. See on disaininõue. Ehitage süsteeme, mis jätavad proportsionaalseid tõendeid. Ostke süsteeme inspekteerimisõigustega. Koolitage regulaatoreid lugema tehnilisi jälgi. Nõudke parandusi, mida saab kontrollida. Käsitlege inimjärelevalvet tegeliku kontrollipunktina. Lõpetage armatuurlaudade aktsepteerimine tõendina. Seadus võib öelda, mis peab olema tõsi. Inspekteerimine on see, kuidas Euroopa teada saab, kas see on.