Eurooppalainen vastaus mustan laatikon riippuvuuksiin
Palvelutiski ilman ovea
Tapaus alkoi kohteliaassa huoneessa, jossa oli kärsivällinen kahvinkeitin ja näyttö, joka näytti lipun numeron. Julkinen organisaatio oli menettänyt pääsyn työnkulkuun, jota useat alueelliset tiimit käyttivät. Tietojen piti olla paikallisia. Sopimuksessa käytettiin oikeita sanoja. Hallintanäkymän nurkassa oli jopa pieni lippu, jonka oli tarkoitus rauhoittaa ihmisiä samalla tavalla kuin turvavyötarra rauhoittaa ihmisiä bussissa, jossa ei ole jarruja.
Ensimmäinen tunti oli tavallinen. Joku tarkisti tunnistetiedot. Joku tarkisti verkon. Joku kirjoitti viestin häiriökanavaan käyttäen ilmaisua onko päivitystä, joka ei ole koskaan korjannut mitään mutta levittää huolta tehokkaasti. Toiseen tuntiin mennessä huoneessa oli opittu jotakin epämiellyttävää. Organisaatio näki sovelluksen, mutta ei hallintatasoa. Se pystyi viemään raportteja, mutta ei niiden taustalla olevaa näyttöä. Se pystyi pyytämään tukea, mutta ei tutkimaan riippuvuutta, joka oli pettänyt.
Mitään roistoa ei tarvittu. Toimittaja ei ollut pahantahtoinen. Insinöörit eivät olleet huolimattomia. Hankintatiimi ei ollut käynyt ostoksilla pitkässä takissa. Järjestelmä oli yksinkertaisesti ostettu mustana laatikkona, koska laatikko lupasi nopeutta, ja nopeus on hyvin vakuuttavaa ennen ensimmäistä auditointia, häiriötä, politiikkamuutosta, hinnanmuutosta tai kansalaisen haastetta. Organisaatio oli ulkoistanut tehtävän ja vahingossa ulkoistanut osan kyvystään tietää, mitä oli tapahtumassa.
Tämä on Euroopan ongelma pienoiskoossa. Eurooppa ei ole pelkästään riippuvainen ulkomaisista tai kaupallisista järjestelmistä. Se on usein riippuvainen järjestelmistä, joita se ei voi tarkastaa, testata, siirtää, korjata tai selittää sillä tasolla, jolla käytännön valta sijaitsee. Mustan laatikon riippuvuus ei ole vain teknistä epämukavuutta. Se on hallintaongelma, johon on liitetty palvelimia.
Musta laatikko on suhde, ei muoto
Insinöörit käyttävät usein ilmaisua musta laatikko kuvaamaan komponenttia, jonka sisäosat ovat piilossa. Se on hyödyllistä, mutta epätäydellistä. Julkisessa infrastruktuurissa, terveydenhuollossa, rahoituksessa, energiassa, koulutuksessa, logistiikassa ja teollisuudessa relevantti musta laatikko on suhde. Se ilmestyy, kun toinen osapuoli kantaa vastuun ja toinen osapuoli hallitsee tosiasioita, hallintalaitteita tai korjauspolkua. Laatikolla voi olla API, oikeudellinen liite ja ystävällinen asiakkuuspäällikkö. Se on silti musta, jos instituutio ei voi vastata peruskysymyksiin pyytämättä lupaa kysymyksen kohteelta.
Voimmeko nähdä, mitä tietoja käytettiin. Voimmeko toistaa päätöksen. Voimmeko tarkastaa malliversion. Voimmeko vaihtaa avaimet. Voimmeko siirtää työkuorman. Voimmeko pitää palvelun toiminnassa toimittajan häiriön aikana. Voimmeko haastaa muutoksen toiminnassa. Voimmeko todistaa tilintarkastajalle, että järjestelmä teki sen, mitä väitämme sen tehneen. Nämä kysymykset eivät ole teknologiaa vastaan. Ne ovat vakavan riippuvuuden vähimmäistavat.
On olemassa vaarattomia mustia laatikoita. Kenenkään ei tarvitse tarkastaa toimistokahvinkeittimen laiteohjelmistoa, vaikka kahvinkeitin löytää silti tiensä hankintaprosessiin. Huoli kasvaa, kun laatikko koskettaa oikeuksia, kriittisiä toimintoja, arkaluonteisia tietoja, markkinavoimaa, turvallisuutta, yleistä luottamusta tai institutionaalista jatkuvuutta. Siinä vaiheessa läpinäkymättömyys lakkaa olemasta mukavuus ja muuttuu vallan siirroksi.
Eurooppa on oppinut tämän pala palalta. Tietosuoja paljasti eron tallennuspaikan ja todellisen hallinnan välillä. Pilvikeskittyminen paljasti eron sopimuksen ja irtautumisen välillä. Tekoäly paljasti eron tuotoksen ja selityksen välillä. Kyberhäiriöt paljastivat eron kojelautojen ja korjaamisen välillä. Jokainen oppitunti osoittaa samaan vastaukseen: Eurooppa tarvitsee järjestelmiä, joita voidaan lukea paineen alla, ei vain ostaa optimismin vallitessa.
Ensimmäinen vastaus on tarkastettavuus
Eurooppalaisin vastaus mustaan laatikkoon ei välttämättä ole rakentaa kilpaileva laatikko, jossa on paikallinen tarra. Se voi olla hyödyllistä joillakin strategisilla tasoilla, mutta se ei riitä. Kansallinen musta laatikko on edelleen musta laatikko, vain lyhyemmillä lennoilla ohjauskomiteaan. Ensimmäinen vastaus on tarkastettavuus. Kriittisten järjestelmien tulisi paljastaa riittävästi käyttäytymistään, todisteitaan, kokoonpanoaan, riippuvuusketjuaan ja muutoshistoriaansa, jotta vastuulliset organisaatiot voivat ymmärtää, mihin ne luottavat.
Tarkastettavuus alkaa tiedon alkuperäketjusta. Mitkä lähteet tulivat työnkulkuun. Mikä lähde voitti ristiriitatilanteessa. Mitkä tietueet muunnettiin ominaisuuksiksi, upotuksiksi, yhteenvedoiksi, pistemääriksi tai suosituksiksi. Mitkä johdetut objektit tallennettiin. Mitkä poistettiin. Tämä ei ole paperityöharrastus. Erityisesti tekoälyjärjestelmissä johdettu data voi kantaa enemmän toiminnallista vaikutusta kuin alkuperäinen tietue. Jos kukaan ei voi tarkastaa sitä, kukaan ei voi hallita sitä.
Tarkastettavuus jatkuu toiminnallisilla todisteilla. Lokit ovat hyödyllisiä, mutta lokit eivät automaattisesti ole todisteita. Loki, jota sama toimija hallitsee, jota arvioidaan, voi olla vihje, ei todiste. Todisteet tarvitsevat kestävyyttä, kontekstia, riippumattomuutta ja toistettavuutta. Niiden tulisi yhdistää versiot, käytännöt, kehotteet, hakulähteet, kynnysarvot, ihmisten toimet ja tuotokset. Niiden tulisi selviytyä pidempään kuin seuraava kojelaudan uudistus, jalo tapahtuma, joka on haudannut monia totuuksia.
Tarkastettavuus tarkoittaa myös muutosten näkyvyyttä. Järjestelmä, joka oli hyväksyttävä maaliskuussa, voi muuttua hyväksymättömäksi toukokuussa, koska malli muuttui, ominaisuuslippu siirtyi, toimittaja päivitti riippuvuuden tai tukipolku järjestettiin uudelleen. Eurooppa ei tarvitse jäädytettyjä järjestelmiä. Se tarvitsee muutosta, joka voidaan nähdä, arvioida, hyväksyä ja peruuttaa, kun velvollisuus sitä vaatii.
Toinen vastaus on siirrettävyys, joka todella liikkuu
Siirrettävyys on sana, joka on kärsinyt liiallisesta optimismista. Monet sopimukset lupaavat viennin. Harvemmat järjestelmät pystyvät siirtämään käyttöoikeudet, alkuperähistorian, metatiedot, auditointilokit, upotukset, malliasetukset, kehotteet, arviointijoukot ja toiminnallisen kontekstin ehjinä. CSV-tiedostokansio ei ole poispääsy, jos järjestelmän toiminnallinen merkitys jää loukkuun alustaan. Se on enemmän kuin huonekalujen vastaanottamista sen jälkeen, kun rakennus on pitänyt ovet itsellään.
Oikea siirrettävyys edellyttää formaatteja ja rajapintoja, jotka säilyttävät semantiikan, eivät vain syntaksin. Asiaan liittyvän tilan on tarkoittava samaa asiaa viennin jälkeen. Käyttöoikeusmallin on kestettävä matka. Käytäntöversion on pysyttävä sidoksissa päätöksiin, joita se ohjasi. Haetun lähteen on pysyttävä yhteydessä vastaukseen, jota se tuki. Malliarvioinnin on pysyttävä riittävän toistettavana, jotta korvaavaa mallia voidaan arvioida. Tämä on epäkiitollista insinöörityötä, minkä vuoksi se puuttuu yleensä näyttävistä hankinnoista.
Siirrettävyys vaatii myös harjoittelua. Ensimmäinen siirtotesti ei saisi tapahtua oikeusriidan, budjettishokin tai toimittajakatkoksen aikana. Organisaatioiden tulisi järjestää poistumisharjoituksia kriittisille järjestelmille samassa hengessä kuin palautusharjoituksia. Pystyykö tiimi viemään tiedot. Pystyykö toinen ympäristö lukemaan viennin. Pystyvätkö käyttäjät jatkamaan työtä. Pystytäänkö vanhat päätökset edelleen selittämään. Pystyykö lähdeorganisaatio osoittamaan, että kopio on täydellinen. Jos tämä kuulostaa vaativalta, sitä se on. Niin on myös riippuvuus.
Eurooppa voi tehdä tästä arkipäivää hankintojen ja standardien avulla. Kysy paitsi sitä, tukeeko toimittaja vientiä, myös sitä, milloin viimeinen vienti testattiin, mitä todisteita siihen sisältyi ja kuinka kauan riippumattomalta tiimiltä kului merkityksellisen palvelun palauttamiseen. Vastaus on joskus kiusallinen. Kiusallisuus on halvempaa ennen allekirjoitusta.
Kolmas vastaus on luettavat hallintatasot
Datataso kuljettaa työn. Hallintataso päättää, kuka saa koskea työhön, missä se suoritetaan, mikä versio on aktiivinen, mitkä avaimet avaavat sen, mitkä käytännöt soveltuvat, mitkä lokit säilytetään, mikä tukitoimija voi astua sisään ja minkä reitin liikenne ottaa vian aikana. Jos datataso on paikallinen ja hallintataso on läpinäkymätön, organisaatiolla on hyvin paikallinen riippuvuus jonkun muun ohjauspyörästä.
Tämä on merkityksellistä tekoälyn kannalta, koska hallintataso sisältää nyt mallireitityksen, hakukonfiguraation, kehotteiden hallinnan, käytäntösuodattimet, arviointipaketit, telemetriasäännöt, ihmistarkistusjonot, palautteen keräämisen ja turvallisuuskynnykset. Dokumentti voi pysyä Euroopassa, kun päätös siitä, mitä malli näkee, tallentaa, luokittelee tai vaimentaa, tapahtuu muualla. Sijainti auttaa. Komento päättää.
Luettavat hallintatasot eivät edellytä, että jokaisesta hallituksen jäsenestä tulee alustainsinööri. Ne edellyttävät, että instituutiot tietävät, millä toimijoilla on mitkä valtuudet, mitkä valtuudet ovat teknisiä eivätkä sopimusperusteisia, mitä valtuuksia voidaan käyttää häiriötilanteissa ja mitkä valtuudet kirjataan riippumattomasti. Hallituksen ei tarvitse määrittää salausavainten hallintaa. Sen on kuitenkin tiedettävä, voiko organisaatio peruuttaa käyttöoikeudet ilman, että sen täytyy kirjoittaa huolestunut sähköposti.
Eurooppalaisen vastauksen tulisi siksi erottaa hosting-merkinnät hallintaoikeuksista. Suvereeni palvelu ei ole sellainen, jolla on vaikuttava alueen nimi. Se on sellainen, jossa vastuunkantaja voi tarkastaa määritykset, hallinnoida avaimia, hyväksyä muutoksia, rajoittaa tukea, säilyttää todisteita ja siirtää toimintaa määritellyin ehdoin. Kieli on vähemmän markkinakelpoista. Se myös nolaa itsensä epätodennäköisemmin häiriön aikana.
Neljäs vastaus on paikallinen osaaminen
Eurooppa ei voi tarkastaa sellaista, jota se ei enää ymmärrä. Tämä on vähiten muodikas osa suvereniteettia, koska se edellyttää koulutusta, henkilöstöä, dokumentaatiota, ylläpitoa ja sisäisen harkintakyvyn hidasta uudelleenrakentamista. Alustan ostaminen on helpompaa kuin sen varmistaminen, että riittävästi ihmisiä osaa kysyä, kestävätkö alustan väitteet kosketuksen todellisuuteen. Helpompaa, mutta ei halvempaa, kun riippuvuus kypsyy.
Paikallinen osaaminen ei tarkoita, että jokaisen kunnan, sairaalan, valmistajan, koulun tai viraston on työllistettävä kääntäjätiimi ja piirisuunnittelija. Se tarkoittaa, että kriittiset päätökset eivät voi olla täysin ulkopuolisen tulkinnan varassa. Jonkun vastuun lähellä olevan on ymmärrettävä tietomalli, hallintataso, todistusketju, palautuspolku, tietoturva-asento, kustannusvipu ja järjestelmän rajoitukset. Tavoitteena ei ole omavaraisuus teatterina. Tavoitteena on tietoinen riippuvuus.
Osaaminen muuttaa hankintaa. Osaava ostaja esittää terävämpiä kysymyksiä. Se pyytää testituloksia lupauksien sijaan. Se erottaa mallin suorituskyvyn institutionaalisesta luottamuksesta. Se huomaa, kun vienti säilyttää tallenteet mutta menettää merkityksen. Se kysyy, kuka voi korjata torstaina kello 16.40. Se voi ottaa apua vastaan luopumatta harkintakyvystään. Toimittajat, joita kannattaa pitää, arvostavat tätä yleensä, koska epämääräiset asiakkaat tuottavat dramaattisia yllätyksiä ja kutsuvat niitä sitten kumppanuusongelmiksi.
On myös demokraattinen perustelu. Kun keskeiset järjestelmät vaikuttavat kansalaisiin, potilaisiin, opiskelijoihin, työntekijöihin ja yrityksiin, julkisia instituutioita ei pitäisi alentaa viestinvälittäjiksi asianomaisten ja läpinäkymättömien toimittajien välillä. Niillä on oltava riittävä tekninen lukutaito selittää, haastaa ja korjata. Muuten julkinen vastuuvelvollisuus muuttuu odotushuoneeksi, jossa on paremmat kirjoitusvälineet.
Viides vastaus on kieltäytymisen kulttuuri
Mustat laatikot kukoistavat, kun organisaatioita hävettää sanoa ei. Ei puuttuville todisteille. Ei dokumentoimattomille mallimuutoksille. Ei viennille, joka pudottaa kontekstin. Ei tuen käytölle ilman rajoja. Ei kojelaudoille, joita ei voi toistaa. Ei pilottituloksille, joita esitellään operatiivisena todisteena. Ei viehättävälle lauseelle, jonka mukaan ominaisuus on tiekartalla. Tiekartat ovat ihania. Ne ovat myös paikka, jonne ratkaisemattomat velvollisuudet lähtevät pienelle lomalle.
Kieltäytymisen tulee olla täsmällistä, ei teatraalista. Hankintatiimi voi sanoa, että järjestelmä sopii matalan riskin luonnosteluun mutta ei lopullisiin päätöksiin. Sairaala voi sallia mallin tukevan triaasia ja vaatia samalla erillistä näyttöpolkua kliinisille suosituksille. Kunta voi käyttää isännöityä työnkulkua, jos avaintenhallinta, lokitus ja poistuminen ovat määritellyn paikallisen hallinnan alla. Tarkoitus ei ole hylätä kaikkea läpinäkymätöntä. Tarkoitus on rajoittaa sitä, mitä läpinäkymättömyys saa tehdä.
Tässä riskiluokittelu auttaa. Kaikki järjestelmät eivät tarvitse yhtä syvällistä tarkastusta. Lounasmenubotti ei tarvitse hyvinvointipäätöskoneen hallintakeinoja, vaikka se saattaakin ymmärtää keiton väärin. Eurooppalaisen vastauksen tulee skaalautua. Suuri seuraus, heikko palautuvuus, arkaluonteiset tiedot, monopoli riippuvuus tai julkiset oikeudet edellyttävät vahvempaa tarkastusta, siirrettävyyttä, näyttöä ja osaamista. Matalan riskin työkaluilla voi edetä nopeammin, kunhan ne eivät huomaamatta muutu korkean riskin työkaluiksi työnkulun laajenemisen myötä.
Kieltäytyminen suojelee innovaatiota sen sijaan että estäisi sen. Tiimit voivat kokeilla turvallisemmin, kun rajat ovat selkeät. Pilotti voi oppia joutumatta vahingossa tuotantoriippuvuudeksi. Toimittaja voi parantaa toimintaansa konkreettisia hyväksymiskriteerejä vasten. Käyttäjät voivat luottaa siihen, ettei jokaista vaikuttavaa tulosta ylennetä auktoriteetiksi pelkän innostuksen voimin.
Avoimuus ei automaattisesti tarkoita suvereniteettia
On houkutus vastata jokaiseen mustaan laatikkoon avoimella lähdekoodilla. Avoimuus auttaa, ja strategisilla kerroksilla se voi olla ratkaisevaa. Mutta avoin koodi yksinään ei ole suvereniteettia. Arkisto, jota kukaan ei voi rakentaa, malli, jota kukaan ei voi arvioida, riippuvuus, jota kukaan ei ylläpidä, ja standardi, jota kukaan ei testaa, voivat silti muuttua käytännössä mustaksi laatikoksi. Avoimuus antaa tarkastusoikeuden. Se ei automaattisesti tarjoa tarkastuskykyä.
Sama varovaisuus koskee eurooppalaista brändäystä. Paikallinen toimittaja voi olla läpinäkymätön. Ulkomainen komponentti voi olla hyväksyttävä, jos sen rooli on rajattu, todisteet ovat riippumattomia ja irtautuminen on todellista. Julkinen alusta voi muuttua monopoliksi erinomaisista lehdistötiedotteista huolimatta. Kaupallista palvelua voidaan hallinnoida hyvin oikeanlaisia töitä varten. Kysymys ei ole moraalisesta maantieteestä. Kysymys on siitä, missä valta sijaitsee, miten sitä valvotaan ja mitä tapahtuu, kun olosuhteet muuttuvat.
Siksi eurooppalaisen vastauksen on oltava arkkitehtoninen eikä heimopohjainen. Yhdistä paikallinen hallinta avoimiin standardeihin. Käytä toimittajia, mutta määrittele riippuvuus. Käytä pilveä, mutta pidä avaimet, todisteet ja irtautuminen läpinäkyvinä. Käytä tekoälyä, mutta erota mallin varmuus institutionaalisesta auktoriteetista. Käytä avointa lähdekoodia, mutta rahoita ylläpito. Käytä sääntelyä, mutta vaadi teknisiä todisteita toiminnasta, ei vain vaatimustenmukaisuuden retoriikkaa.
Hyvä arkkitehtuuri antaa instituutioille mahdollisuuden tehdä yhteistyötä luopumatta velvollisuuksistaan. Se luo paikkoja, joissa toimittajat voivat kilpailla palvelulla, kun taas tietueet, rajapinnat, todisteet ja oikeudet pysyvät siirrettävinä. Se tukee markkinoita, mutta estää markkinoita nielemästä kykyä hallinnoida. Tämä ei ole yritysvastaisuutta. Näin vakavat asiakkaat pysyvät asiakkaina eivätkä panttivankeina, joilla on hankintanumeroita.
Tekoälykerros nostaa panoksia
Tekoäly tekee mustan laatikon riippuvuudesta terävämmän, koska tulokset voivat näyttää täydellisiltä, vaikka perusteet ovat heikot. Sujuva vastaus voi piilottaa puuttuvat lähteet. Luottamusväli voi piilottaa huonon kalibroinnin. Hakutulos voi piilottaa vanhentuneen indeksin. Turvasuodatin voi piilottaa poliittisia valintoja. Mallipäivitys voi muuttaa monien työnkulkujen toimintaa kerralla. Laatikko ei vain käsittele työtä. Se osallistuu harkintaan.
Tämä ei tarkoita, että tekoälyä tulisi välttää. Se tarkoittaa, että tekoäly tulisi sijoittaa toimintamalliin, joka voi tarkastaa laajuuden, todisteet, epävarmuuden ja seuraukset. Mitä mallin annetaan tehdä. Mitä lähteitä se saa käyttää. Mitkä lähteet on suljettu pois. Milloin se kieltäytyy. Milloin ihminen päättää. Miten ohitukset kirjataan. Miten valituksia käsitellään. Mitkä päätöstietueet voidaan toistaa. Mitkä mallimuutokset vaativat tarkistuksen. Nämä ovat tavallisia insinöörikysymyksiä, joilla on julkisia seurauksia.
Pahin tekoälyriippuvuus on sellainen, joka alkaa avustajana ja muuttuu auktoriteetiksi tottumuksen kautta. Aluksi järjestelmä luonnostelee. Sitten se suosittelee. Sitten suosituksesta tulee oletus. Sitten tiimejä mitataan oletusta vastaan. Sitten erimielisyys näyttää tehottomuudelta. Kukaan ei virallisesti päättänyt siirtää auktoriteettia. Työnkulku vain oppi kumartamaan. Hyvin tehokasta, samalla tavalla kuin luukku on tehokas.
Euroopan tulisi siksi vaatia paitsi selitettäviä malleja myös vastuullisia päätösjärjestelmiä. Selitys on osa sitä. Todisteet ovat osa sitä. Ihmisen auktoriteetti on osa sitä. Korjaus on osa sitä. Kieltäytyminen on osa sitä. Siirrettävyys on osa sitä. Vastaus ei ole yksi taikakomponentti. Se on kieltäytyminen päästämästä tärkeää harkintaa katoamaan laatikkoon, jonka toimintaa ei voi kiistää.
Politiikan tulisi ostaa toimintaokeuksia
Eurooppalainen politiikka puhuu usein periaatteista, ja periaatteilla on merkitystä. Yksityisyys, oikeudenmukaisuus, vastuullisuus, kilpailu, häiriönsietokyky ja demokraattinen valvonta eivät ole koristeita. Mutta politiikasta tulee todellista, kun se ostaa toimintaokeuksia. Oikeus tarkastaa. Oikeus viedä merkityksellistä dataa. Oikeus riippumattomiin lokitietoihin. Oikeus paikalliseen avaintenhallintaan. Oikeus tietää mallimuutoksista. Oikeus testata irtautumista. Oikeus kieltäytyä tukipolusta. Oikeus säilyttää päätöstodisteet.
Näiden oikeuksien tulisi näkyä hankinnoissa, sertifioinneissa, rahoituksessa ja valvonnassa. Kriittinen järjestelmä ei saisi ansaita luottamusta siksi, että se käyttää oikeita adjektiiveja. Sen tulisi osoittaa palautusharjoitukset, irtautumisharjoitukset, todistepolut, pääsyrajat, riippuvuusrekisterit ja rooliosaaminen. Harjoitus voi näyttää tylsältä. Tylsyys on luotettavan infrastruktuurin luontainen elinympäristö.
Politiikka voi myös vähentää päällekkäisyyttä. Kaikkien instituutioiden ei tarvitse keksiä omaa todistusaineiston formaattiaan, vientitestiään tai mallimuutosten tarkistuslistaa. Eurooppa on hyvä standardeissa silloin, kun standardit sidotaan todelliseen käyttöön. Yhteiset mallit auditointitietueille, tekoälypäätösten kuiteille, riippuvuusrekistereille, avaintenhallinnalle ja poistumisharjoituksille tekisivät vakavasta ostamisesta helpompaa ja teatraalisesta ostamisesta vaikeampaa. Se on kannattava vaihtokauppa.
Tärkein toimintatapa on yhdistää oikeudellinen väite tekniseen käyttäytymiseen. Jos sääntö edellyttää, että organisaation on selitettävä päätös, järjestelmän on säilytettävä selittämiseen tarvittava aineisto. Jos laki sanoo, että tieto-oikeuksilla on merkitystä, viennin on sisällettävä se konteksti, joka tekee näistä oikeuksista käyttökelpoisia. Jos politiikka edellyttää ihmisen suorittamaa valvontaa, käyttöliittymän on annettava ihmisille todellista toimivaltaa. Muuten Eurooppa sääntelee varjoa ja ostaa laatikon.
Vastaus vastauksen alla
Eurooppalainen vastaus mustan laatikon riippuvuuteen ei ole yksi tuotekategoria, yksi kansallinen pilvi, yksi komitea, yksi asetus tai yksi lippu. Se on joukko toimintatapoja. Tarkasta järjestelmä. Säilytä todisteet. Säilytä merkitys poistumisen aikana. Lue hallintataso. Ylläpidä paikallista osaamista. Luokittele riskit. Rahoita standardeja. Harjoittele kieltäytymistä. Kohtele tekoälyn tuotoksia päätöksinä vain silloin, kun ympäröivä järjestelmä pystyy kantamaan vastuun.
Tämä vastaus on hitaampi kuin kiiltävän laatikon ostaminen ja voiton julistaminen. Se edellyttää testejä ennen iskulauseita, arkkitehtuuria ennen asennetta ja tietueita ennen rauhoittelua. Se myös tekee Euroopasta vähemmän hauraan. Instituutiot, jotka pystyvät tarkastamaan, siirtämään, korjaamaan ja selittämään, ovat parempia asiakkaita, parempia sääntelijöitä, parempia toimijoita ja parempia julkisen luottamuksen vaalijoita.
Alkutarinan palvelutiski löysi lopulta kiertotien. Näin käy useimmille häiriöille. Kiertotiet ovat hyödyllisiä, mutta ne eivät ole strategiaa. Opiksi ei jäänyt se, että kaikki ulkoiset palvelut ovat huonoja. Opiksi jäi se, että vastuunkantaja ei saa koskaan huomata häiriön aikana, että sen ainoa todellinen työkalu on lipukkeen numero.
Euroopan ei tarvitse sulkeutua saadakseen hallinnan takaisin. Sen on tehtävä kriittisestä riippuvuudesta luettavaa. Laatikko saa jäädä. Sokeus ei.