Julkinen sektori tarvitsee hankintoja, jotka osaavat sanoa ei

Julkinen viranomainen ei tule vastuulliseksi allekirjoittaessaan tekoälyjärjestelmän. Se tulee vastuulliseksi, kun sen vaatimukset, todisteet, inhimillinen...

Julkinen sektori tarvitsee hankintoja, jotka osaavat sanoa ei

Asiakirja, joka voi päättää hankinnan

Julkisen hankinnan asiakirjat alkavat usein pyynnöstä, joka kuulostaa vaarattomalta: etsi järjestelmä, joka voi auttaa tehtävässä. Pyyntö etenee ongelman kuvauksen, markkinakartoituksen, vaatimusmäärittelyn, arvioinnin, sopimuksen ja, jos prosessi on terve, päätöksen kautta, joka voi vielä pysäyttää työn. Tämä viimeinen mahdollisuus on helppo unohtaa. Kun raha, kalenterit ja poliittinen huomio ovat kerääntyneet hankinnan ympärille, sana ei alkaa kuulostaa toimituksen epäonnistumiselta. Julkisessa työssä se voi olla asiakirjan hyödyllisin päätös.

Eurooppalainen hankintalainsäädäntö kohtelee jo tarjouskilpailua muuna kuin houkuttelevien lupausten kilpailuna. Direktiivi 2014/24/EU edellyttää, että vertailuperusteiden on mahdollistettava tehokas ja tasapuolinen kilpailu, ja niihin on liitettävä järjestelyt, joiden avulla hankintaviranomainen voi varmistaa tarjoajien toimittamat tiedot. Direktiivi edellyttää myös, että perusteet eivät saa antaa viranomaiselle rajoittamatonta valinnanvapautta. Julkisen ostajan on kuvattava, mikä on merkityksellistä, selitettävä, miten sitä painotetaan, ja tarkistettava, täyttääkö tarjous sen todella. Tämä ei ole hallinnollinen alaviite. Se on päätöksen oikeudellinen muoto, jota muiden on voitava ymmärtää ja haastaa.

Tekoäly tekee vanhasta kurinalaisuudesta vaikeampaa, koska toimittaja voi tarjota järjestelmän, jonka käyttäytyminen riippuu datasta, mallipäivityksistä, kehotteista, kynnysarvoista, integraatioista, ihmisistä ja palvelusta, joka voi muuttua sopimuksen ollessa vielä tuore. Esite voi pysyä samana, kun sen takana oleva asia liikkuu. Hankintatiimin on siis ostettava muutakin kuin käyttöliittymä. Sen on ostettava rajattu toimintakyky, näyttö siitä, että toimintakyky on sopiva, valtuudet sen valvontaan ja uskottava tapa pysäyttää tai korvata se.

Julkinen sektori tarvitsee hankintoja, jotka osaavat sanoa ei, koska julkinen sektori ei voi ulkoistaa harkintaansa. Toimittaja voi tarjota mallin, työnkulun, pilvipalvelun tai työkalupakin. Se ei voi tarjota niiden avulla tehdyn päätöksen legitimiteettiä. Viranomaisen on edelleen tiedettävä, mitä ongelmaa se ratkaisee, kenen etuihin se voi vaikuttaa, mikä näyttö tukee järjestelmää, kuka voi puuttua asiaan ja miten palvelu jatkuu, jos toimittaja muuttaa suuntaa. Allekirjoitus ei ole vastuun siirto. Se on merkintä siitä, että vastuu on järjestetty.

Tämä artikkeli seuraa tätä järjestelyä vaatimuksen ensimmäisestä virkkeestä poistumisasiakirjan viimeiselle riville. Se käyttää eurooppalaisia julkisia ohjeita ja hankintamateriaalia näyttönä. Käytännön mallit ovat suosituksia, eivät väitteitä siitä, että jokaisen viranomaisen on käytettävä yhtä muotoa. Kaikki keksityt tilanteet on merkitty hypoteettisiksi. Uskottava toimisto, siisti tarjouskilpailu ja dramaattinen epäonnistuminen eivät ole näyttöä pelkästään siksi, että ne sopivat tuttuun kertomukseen.

Julkinen ostaja ostaa lupauksen kahdesti

Jokaiseen julkiseen hankintaan liittyy kaksi lupausta. Ensimmäinen on toimittajan lupaus tuotteesta tai palvelusta. Toinen on viranomaisen lupaus ihmisille, jotka ovat riippuvaisia työstä: että rahat käytettiin määriteltyyn julkiseen tarkoitukseen, että päätös voidaan selittää, että asiaankuuluvat oikeudet otettiin huomioon ja että joku on edelleen vastuussa, kun järjestelmä on väärässä. Toinen lupaus on se, joka säilyy julkaisutapahtuman jälkeen.

Tekoälyhankinnat tekevät usein ensimmäisestä lupauksesta elävän ja toisesta epämääräisen. Esittely voi näyttää sujuvan yhteenvedon, järjestetyn listan tai nopean vastauksen. Se näyttää harvoin, kuka voi hylätä tuotoksen, mitä tapahtuu, kun lähde puuttuu, miten muutos hyväksytään, voidaanko tietueet viedä tai kuka voi keskeyttää palvelun neuvottelematta omista valtuuksistaan kesken häiriötilanteen. Nämä kysymykset eivät ole yhtä elokuvallisia. Ne ovat myös kysymyksiä, jotka ratkaisevat, voiko julkinen elin pysyä johdossa.

Euroopan komission julkisten hankintojen yhteisö kuvaa päivitettyjä EU:n mallipohjaisia tekoälylausekkeita kolmessa osassa: täysimittainen versio korkean riskin tekoälylle AI-säädöksen mukaisesti, kevyt versio, jota voidaan mukauttaa muulle kuin korkean riskin tekoälylle, sekä kommentaari lausekkeiden käytöstä ja mukauttamisesta. Erolla on merkitystä. Mallilauseke ei ole taikaleima, joka tekee hankinnasta soveltuvan. Se on lähtökohta velvoitteiden jakamiselle julkisen organisaation ja toimittajan välillä sopimuksessa, jonka laajuudesta, tarkoituksesta ja näytöstä ostajan on silti päätettävä itse.

Ostajan kannattaa siis kysyä, mitä se todella lupaa yleisölle, ennen kuin se kysyy, mitä toimittaja voi osoittaa. Lupautuuko viranomainen nopeampaan käsittelyyn ruuhkassa, yhdenmukaisempaan ensimmäiseen tarkastukseen, turvallisempaan valvontaan, niukan asiantuntemuksen parempaan käyttöön vai yksinkertaisesti kokeiluun, jonka rajat ovat näkyvissä? Jokainen tarkoitus luo erilaisen näytön ja erilaiset syyt lopettaa. Järjestelmä, joka luonnostelee sisäisiä muistioita, saattaa tarvita erilaisen toimivallan rajan kuin järjestelmä, joka asettaa hakemukset järjestykseen palvelussa, jota ihmiset eivät voi välttää.

Tarkastellaan hypoteettista arviointiryhmää, joka arvioi työkalua, joka tiivistää toimittajien tarjoukset. Ryhmä voi päättää, että tehtävä sopii avustettavaksi, mutta vain jos tiivistelmä säilyttää poissulkemiset, ehdot ja päivämäärät sekä ohjaa arvioijat takaisin lähdekohtiin. Jos toimittaja ei pysty osoittamaan, miten näitä vaatimuksia testataan, ryhmän pitäisi voida hylätä työkalu tai kaventaa sopimusta. Se ei ole syytös toimittajaa kohtaan. Se on johtopäätös määriteltyä tarkoitusta varten käytettävissä olevasta näytöstä.

Sama päättely pätee, kun ongelma on houkutteleva mutta huonosti rajattu. Julkinen elin voi haluta ennustaa kysyntää, priorisoida tarkastuksia tai reitittää kirjeenvaihtoa. Nämä verbit kätkevät alleen päätökset. Mitä kysyntä tarkoittaa. Mitä priorisointi muuttaa. Mikä kirjeenvaihto voidaan reitittää turvallisesti ilman, että ihminen lukee sen. Ensimmäinen ei voi kohdistua ongelman laajuuteen, ei ohjelmiston käyttöön. Epäselvän hankinnan kieltäytyminen on usein tapa, jolla viranomainen suojelee työn hyödyllistä osaa testaamattomalta osalta.

Kirjoita ongelma ennen ratkaisua

Hankinnasta tulee hauras, kun tuotekategoria saapuu ennen kuin julkinen ongelma on nimetty. Tekoäly on erityisen hyvä luomaan tämän järjestyksen, koska sama malli voidaan esittää kirjoitusavustajana, luokittelijana, hakukerroksena tai agenttina diasta riippuen. Viranomaisen on kuvattava työ termeillä, jotka pysyvät merkityksellisinä, kun toimittaja, malliperhe ja käyttöliittymä poistetaan.

Alankomaiden Algoritmekader, jota ylläpidetään julkisille organisaatioille, sisällyttää tämän työn suositeltuihin toimenpiteisiinsä. Se pyytää organisaatioita kuvaamaan aiottu tarkoitus ja käytetyt tiedot, määrittämään sovellettavan riskiryhmän, selvittämään vaikutuksen, jos algoritmi ei toimi niin kuin on tarkoitettu, ja päättämään, kehitetäänkö vai ostetaanko ratkaisu. Se viittaa myös projektin aloitusarkkitehtuuriin algoritmien kehittämistä tai hankintaa varten. Nämä eivät ole hankinnan koristeita. Ne ovat tapoja tehdä ongelmasta luettava ennen kuin vastaus tarjotaan.

Hyvä vaatimus alkaa päätöksestä tai palvelusta, jonka on parannuttava, ihmisistä, jotka sen suorittavat tai vastaanottavat, tiedoista, joita järjestelmä saa käyttää, tiedoista, joita se ei saa käyttää, ja jäljellä olevasta inhimillisestä toimivallasta. Se ilmaisee olosuhteet, joissa järjestelmä on hyödyllinen, ja olosuhteet, joissa sitä ei saa käyttää. Se nimeää tallenteet, joiden on oltava olemassa, kun tulos hyväksytään, hylätään, korjataan tai nostetaan ylemmälle tasolle. Sen ei tarvitse ennustaa toimittajan sisäistä suunnittelua. Sen on määriteltävä julkinen kyvykkyys, jota voidaan tarkastella.

Tässä toiminnalliset ja suorituskykyvaatimukset ovat olennaisia. Direktiivi 2014/24/EU edellyttää, että tekniset eritelmät ovat riittävän tarkkoja, jotta tarjoajat ymmärtävät hankinnan kohteen ja hankintaviranomaiset voivat arvioida, miten tarjoukset täyttävät kriteerit. Vaatimus, kuten tarjoa älykäs ratkaisu, ei ole käyttökelpoinen testi. Vaatimus, kuten säilytä luonnoksessa käytetyt lähdekohdat, näytä hakupäivämäärä, anna tarkastajan hylätä luonnos ja vie tuloksena syntyvä asiakirja, on lähempänä testattavaa julkista tarvetta. Se kuvaa toimintaa ja todistuspolkua muodin sijaan.

Vaatimusten tulisi myös tuoda esiin tehtävän rajat. Julkinen viranomainen voi sanoa, että järjestelmä saa ehdottaa reittiä, mutta se ei saa tehdä lopullista päätöstä. Se voi edellyttää, että suositusta ei saa käyttää, kun määritelty lähde puuttuu tai on ristiriitainen. Se voi vaatia inhimillistä käsittelyä henkilölle, jota asia koskee ja joka haluaa riitauttaa lopputuloksen. Nämä eivät ole vihamielisiä rajoitteita. Ne ovat edellytyksiä sille, että hankinta pysyy julkisena palveluna eikä yksityisenä työnkulkuna, jossa on hallituksen logo.

Suppea ongelman määrittely ei ole kunnianhimon puutetta. Se on tapa tehdä kunnianhimosta vastuullista. Jos viranomainen ei pysty selittämään, mitä vaihetta järjestelmä muuttaa, ketä se hyödyttää, mikä voi mennä pieleen ja mitä henkilö voi tehdä seuraavaksi, se ei ole valmis vertailemaan toimittajia. Oikea toimenpide voi olla lisäkartoitus, ei-AI-ratkaisu, pieni valvottu pilotti tai ei lainkaan hankintaa. Hankinta-asiakirjoissa tulisi olla tilaa jokaiselle näistä vastauksista.

Muuta vaatimukset todisteiksi

Sanaa todiste käytetään löyhästi teknologiahankinnoissa. Toimittajan esitys, tuote-esittely ja lausuma siitä, että järjestelmä on luotettava, voivat kaikki olla hyödyllisiä lähtökohtia. Mikään niistä ei ole automaattisesti todiste siitä, että vaatimus täyttyy. Todisteen on liityttävä väitteeseen, testiin, laajuuteen ja henkilöön, joka voi tarkastaa sen. Ilman tätä yhteyttä arvioinnista tulee kilpailu, jossa viimeistellyin lause voittaa.

Hankintadirektiivi on selkeä perussuhteesta: tarjousperusteisiin on liitettävä järjestelyt, joiden avulla tarjoajien toimittamat tiedot voidaan tehokkaasti todentaa. Tämä periaate on erityisen tärkeä tekoälyn kohdalla, koska tulos voi näyttää vakuuttavalta, vaikka sen tuottaneet olosuhteet pysyisivät piilossa. Ostajan tulisi kysyä, mitä näytetään, millä data- ja tehtäväehdoilla, millä lähtötasolla ja miten tarkastaja voi toistaa tai riitauttaa tuloksen.

Alankomaiden Algoritmekader esittää saman vaatimuksen käytännön kielellä. Sen julkisia hankintoja koskeviin toimenpiteisiin kuuluvat algoritmivaatimusten sisällyttäminen hankinta-asiakirjoihin ja sopimukseen, vaatimus siitä, että toimittajat toimittavat todisteet vaatimusten täyttymisestä osana arviointia, toimittajan vastuuehtojen arviointi, auditointivalmiuden vaatiminen sopimuksessa, sopiminen siitä, mitä datalle ja artefakteille tapahtuu, sekä suunnitelman pyytäminen algoritmin käytön lopettamiseksi. Luettelo on ohje, ei yleinen oikeudellinen tarkistuslista. Sen arvo on siinä, että se kohtelee todistetta hankinnan kohteena.

Ostaja voi jakaa todisteet kolmeen hyödylliseen luokkaan. Osoitetut todisteet ovat sitä, mitä toimittaja näyttää valvotussa arvioinnissa: syöte, tulos, virheiden käsittely, lähteiden käyttö ja inhimillinen käsittely voidaan havaita. Tarkastettavat todisteet ovat sitä, mitä viranomainen voi tutkia ilman esittelyä: dokumentaatio, testitulokset, lokit, rajapinnat, muutosloki, datakuvaukset ja kyky suorittaa sovittu tarkistus. Sopimukselliset todisteet ovat sitä, mitä toimittajan on jatkossakin toimitettava: ilmoitukset olennaisista muutoksista, tapahtumatiedot, pääsy auditointiin, palvelulokit, vientitoiminnot ja tuki valvotulle poistumiselle. Luokat ovat osittain päällekkäisiä, mutta ne estävät yhden vaikuttavan esityksen kantamasta koko sopimusta.

Näytöllä on myös oltava rajaus. Toimittaja voi osoittaa, että järjestelmä toimii hyvin tietyllä esimerkkijoukolla. Ostajan on silti tiedettävä, edustavatko esimerkit tarkoitettua kieltä, asiakirjojen laatua, tapausten kirjoa, saavutettavuustarpeita ja toiminnallisia rajoitteita. Väite mallista laboratoriossa ei automaattisesti ole väite julkisesta palvelusta. Se on väite suoritetusta kokeesta. Hankintatiimin tulisi säilyttää tehtävä, tietoaineiston ehdot, versio ja tulos, jotta myöhempi päätös ei irtaudu testistä.

Kuvitellaan hypoteettisesti, että tarjoaja toimittaa näytejoukon tuotettuja tiivistelmiä ja yleisen tarkkuuslausuman. Viranomainen voi pyytää lähdeasiakirjat, valintasäännön, käytetyn version, puuttuvan aineiston käsittelyn, arviointimenettelyn ja artefaktin, joka jää hyväksynnän jälkeen jäljelle. Jos vastaus on, että yksityiskohdat ovat liikesalaisuuksia eikä niitä voi tarkastaa, tiimi on oppinut jotakin tärkeää. Se ei ole oppinut, että järjestelmä on huono. Se on oppinut, että ehdotettu näytön rajaus voi olla liian heikko julkiseen tarkoitukseen.

Näytön on oltava oikeasuhtaista. Pieni sisäinen avustava kirjoitustyökalu ei tarvitse samanlaista tarkastuspakettia kuin järjestelmä, joka vaikuttaa pääsyyn julkiseen palveluun. Oikeasuhtaisuus ei tarkoita iskulauseen hyväksymistä pienellä riskillä. Se tarkoittaa näytön syvyyden sovittamista seurauksiin, peruutettavuuteen, asianomaisiin henkilöihin ja kykyyn havaita ja korjata virhe. Toimittajan tulisi tietää vaadittava näyttö ennen tarjouksen jättämistä. Muuten viranomainen muuttaa kilpailua maaliviivan jälkeen, mikä on tuttu tapa tuottaa kallis yllätys.

Vaatimuksen tulisi johtaa näyttöön, ja näytön tulisi voida muuttaa hankintapäätöstä.

Ostajan on voitava olla eri mieltä

Julkinen vastuuvelvollisuus ei ole sama asia kuin toimittajan läpinäkyvyys. Toimittaja voi selittää palvelunsa, mutta viranomaiselta voi silti puuttua reitti, jonka kautta asukas, työntekijä, yritys tai ammatinharjoittaja voi riitauttaa palvelun käyttötavan. Hankinta-asiakirjoissa tulisi siis kysyä, miten erimielisyys toimii, ei vain sitä, miten järjestelmä tuottaa vastauksen.

Algoritmekader asettaa inhimillisen valvonnan, perusoikeudet, läpinäkyvyyden ja valitusreitit julkisen sektorin aiheisiinsa. Sen suosittelemiin toimenpiteisiin kuuluvat merkityksellinen inhimillinen puuttuminen päätöksentekoon, prosessi, jonka kautta kansalaiset tai muut sidosryhmät voivat tehdä valituksen, vastalauseen tai muutoksenhaun, julkinen päätös algoritmin käytöstä sekä tapa julkaista vaikutuksiltaan merkittävät algoritmit Alankomaiden algoritmirekisterissä. Nämä toimenpiteet eivät tee jokaisesta algoritmista julkista spektaakkelia. Ne tekevät viranomaisen vastuusta riittävän näkyvää, jotta sitä voidaan kyseenalaistaa.

Hankintavaatimuksen inhimillisestä valvonnasta tulisi nimetä se inhimillinen toimi. Näkeekö tarkastaja tiedot, jotka vaikuttivat suositukseen. Voiko hän korjata tietoja. Voiko hän hylätä tuloksen ilman, että hänen tarvitsee ensin pyytää lupaa järjestelmältä. Voiko hän pyytää toista reittiä, kun jokin lähde puuttuu. Voiko hän pysäyttää erän, eristää version tai nostaa huolen sellaisen henkilön käsiteltäväksi, jolla on siihen valtuudet. Jos vastaus on vain se, että jossakin prosessin kohdassa on ihminen läsnä, vaatimus kuvaa kalustusta, ei valvontaa.

Erimielisyys tarvitsee myös aikaa. Tarkastaja, jonka odotetaan tarkistavan jokaisen tuotoksen samalla kun hän hoitaa entisen työkuormansa, voi olla teknisesti mukana prosessissa mutta käytännössä sen ulkopuolella. Hankinta voi edellyttää koulutusta, tukea, käyttökelpoista näyttöä ja työkuormaoletusta tarkastukselle. Siinä voidaan määritellä, mitkä tapaukset vaativat hyväksynnän ennen toimea ja mitkä palautuvat, vähävaikutteiset toimet voivat edetä lokituksella ja myöhemmällä otannalla. Siinä voidaan pyytää toimittajaa tukemaan reittiä sen sijaan, että se piilotettaisiin sovellusrajapinnan taakse.

Viranomaisen on kyettävä olemaan eri mieltä myös oman innostuksensa kanssa. Onnistunut pilotti voi luoda painetta laajentaa työkalua sellaiseen väestöryhmään tai päätökseen, joka ei koskaan kuulunut testiin. Sopimuksen tulisi säilyttää alkuperäinen tarkoitus ja edellyttää uutta päätöstä, kun tarkoitus, tiedot, vaikutuksen kohteena olevat henkilöt tai seuraus muuttuvat. Päivitys ei ole automaattisesti vaaraton vain siksi, että se toimitetaan palveluna. Uusi käyttötarkoitus ei ole automaattisesti katettu vain siksi, että sama logo näkyy näytön yläreunassa.

Kun toimittaja sanoo, että malli on vain neuvoa-antava, viranomaisen tulisi katsoa, mitä työ käytännössä tekee. Jos henkilökuntaa on ohjeistettu hyväksymään järjestys, jos sen tarkistamiseen ei ole aikaa tai jos järjestelmä päättää, mitkä tapaukset päätyvät ihmiselle, neuvosta on voinut tulla päätös käytännössä. Hankintatiimin ei tarvitse väitellä täydellisestä nimikkeestä. Sen on dokumentoitava reitti tuotoksesta seuraukseen ja säilytettävä valta muuttaa tämä reitti.

Toimittajan rajat ovat osa sopimusta

Tekoälyn hankinnasta puhutaan usein valintana rakentamisen ja ostamisen välillä. Vaikeampi valinta on se, miten toimittajan ja julkisen organisaation välinen raja jaetaan. Toimittaja voi hallita mallia, palvelua, päivityspolkua, infrastruktuuria, tukitiimiä ja osaa tietojenkäsittelystä. Viranomainen hallitsee julkista tarkoitusta, päätöstä, vaikutuksen kohteena olevaa väestöä ja velvollisuutta tarjota lainmukainen ja käyttökelpoinen palvelu. Sopimuksen on yhdistettävä nämä vastuut sen sijaan, että ne jäisivät kahdeksi kohteliaaksi kaavioksi.

Päivitetyt EU:n mallisopimuslausekkeet tekoälystä ovat hyödyllisiä, koska ne tunnustavat, että julkiset ostajat tarvitsevat erilaisia lähestymistapoja suuren riskin ja muun kuin suuren riskin tekoälylle ja tarvitsevat ohjeita lausekkeiden mukauttamiseen käytännössä. Ne eivät korvaa hankintastrategiaa tai oikeudellista tarkastelua. Ne ovat yhteinen sanasto vastuiden tekemiseen näkyviksi. Ostajan on edelleen päätettävä, mitkä näyttöä, dataoikeuksia, auditointipääsyä, muutosilmoitusta, tukea, vastuuta ja irtautumisehtoja koskevat vaatimukset ovat oikeassa suhteessa hankittavaan järjestelmään.

Tietoihin ja tuotoksiin on syytä kiinnittää erityistä huomiota. Järjestelmä voi koskettaa lähdeasiakirjoja, tunnisteita, kehotteita, upotuksia, luonnoksia, ihmisen tekemiä korjauksia, arviointijoukkoja, lokitietoja ja lopullisia tallenteita. Sopimuksessa on erotettava toisistaan, mitä viranomainen toimittaa, mitä toimittaja luo, mitä kumpikin osapuoli saa käyttää, mitä on palautettava, mitä on poistettava ja mitä todistetta poistosta tai säilytyksestä vaaditaan. Sen sanominen, että viranomainen omistaa tietonsa, ei vastaa siihen, missä johdetut tuotokset sijaitsevat tai miten viranomainen voi hakea tallenteet, jotka selittävät tuloksen.

Auditointioikeudet tarvitsevat käytännöllisen muodon. Ostajan tulisi tietää, mitä asiakirjoja voidaan tarkastaa, miten pääsyä pyydetään, mikä ilmoitusaika on kohtuullinen, mitkä luottamuksellisuussuojat ovat voimassa ja mitä tapahtuu, kun auditoinnissa löytyy puute. Auditointilauseke ilman toimivaa reittiä on riitaa odottava lause. Sama pätee poikkeamalausekkeeseen, joka sanoo toimittajan tekevän yhteistyötä nimeämättä tietoja, aikataulua ja vastuuhenkilöä, joita yhteistyö edellyttää.

Muutostenhallintaa ei tulisi jättää julkaisutietojen varaan. Hankintayksikkö voi edellyttää ilmoitusta olennaisesta muutoksesta malliin, tietolähteisiin, käsittelyn sijaintiin, alihankkijoihin, rajapintoihin, kynnyksiin, arviointimenetelmään tai ihmiskäsittelyn reittiin. Se voi määritellä, mitä näyttöä tarvitaan ennen kuin muutettua versiota käytetään julkiseen tehtävään. Se voi edellyttää oikeutta keskeyttää, hylätä tai palauttaa aiempaan versioon, jos muutettu palvelu ei enää täytä olennaista vaatimusta. Nämä ovat suosituksia, joilla sopimuksesta tehdään toimiva. Ne eivät ole väitteitä siitä, että yksi lauseke ratkaisisi kaikki toimittajasuhteet.

Vastuu kattaa myös sen, mitä toimittaja ei voi tarjota. Palvelu voi riippua kolmannen osapuolen mallista tai infrastruktuurista, jonka muutokset ovat välittömän toimittajan hallinnan ulkopuolella. Ostajalle tulisi kertoa tästä riippuvuudesta ja sen tulisi tietää, mitkä velvoitteet siirtyvät sen kannettaviksi. Julkinen organisaatio ei voi arvioida ketjua tarkastelemalla vain etuovea. Sopimuksen tulisi säilyttää reitti olennaiseen näyttöön, tai ostajan tulisi tunnustaa, että epävarmuus on syy kaventaa tai jättää tekemättä hankinta.

Hyvät rajat suojaavat myös toimittajia. Julkinen ostaja, joka pyytää jokaista mahdollista asiakirjaa, kaikki lähdekoodin yksityiskohdat ja rajoittamatonta tukea ilman määriteltyä tarkoitusta, voi vähentää kilpailua ja tehdä sopimuksesta epämiellyttävän pienemmille eurooppalaisille toimittajille. Oikeasuhteisuus, selkeys ja uskottava näytön laajuus antavat toimittajan kertoa, mitä se voi tehdä, ja ostajan kertoa, mitä se tarvitsee. Julkisessa hankinnassa tulee olla vaativaa olematta teatraalista. Mahdottomista vaatimuksista rakennettu muuri pitää poissa sekä huonot että hyvät järjestelmät yhtä tehokkaasti.

Muutos hankinnan jälkeen on edelleen hankintaa

Hankintapäätös ei ole päätöksen loppu. Se on kohta, jossa palvelu siirtyy erilaiseen tarkasteluun. Käytön aikana data muuttuu, politiikat vaihtuvat, rajapinnat korvataan, henkilöstö oppii oikoteitä, toimittajat päivittävät malleja ja järjestelmää voidaan käyttää tilanteissa, joita alkuperäinen tiimi ei kuvitellut. Hankintayksikkö tarvitsee keinon havaita nämä muutokset ennen kuin niistä tulee vahingossa uusi julkinen tarkoitus.

Algoritmekader suosittelee säännöllisiä tarkistuksia siitä, että algoritmi toimii tarkoitetulla tavalla, datan muutosten seurantaa sekä suorituskyvyn ja tuotoksen arviointia datan muuttuessa, ja jatkuvan seurannan suunnitelman ylläpitoa. Se sisältää myös toimenpiteen hätäsuunnitelmasta algoritmin pysäyttämiseksi. Nämä suositukset tuovat ajan hallintamalliin. Hankinta, joka tavoittaa vain alkuperäisen määrittelyn, on ostanut valokuvan liikkuvasta palvelusta.

Kaikki päivitykset eivät vaadi samaa seremoniaa. Tietoturvakorjaus, joka ei muuta mallia, datarajaa tai päätöksenteon roolia, voi kulkea eri reittiä kuin uusi malliperhe, muuttunut hakulähde tai uusi kynnys. Sopimus voi määritellä olennaisuuden toiminnallisesti: muutos on olennainen, kun se muuttaa tehtävää, asianomaisia henkilöitä, näytön reittiä, päätöksen seurausta, käyttöönoton lainkäyttöaluetta, alihankkijaa, datan käyttöä tai mahdollisuutta puuttua asiaan. Tarkka määritelmä vaatii juridista ja teknistä harkintaa. Periaate on yksinkertainen: muutos on osa hankittua kyvykkyyttä.

Seurannassa on säilytettävä tiedot, joita päätöksenteko edellyttää. Hallintanäkymä voi osoittaa, että palvelu on kuormittunut; se ei välttämättä osoita, että lähde on vanhentunut tai että arvioijat ohittavat saman suosituksen. Viranomaisen on säilytettävä asiaankuuluva versio, tehtävän laajuus, näytön edellytykset, ihmisen toimet ja muutoksen syy. Sen on tiedettävä, mitkä muutokset hyväksyttiin, mitkä peruutettiin, mitkä rajattiin ja mitkä synnyttivät uuden hankintakysymyksen.

Toimittaja ei välttämättä pysty ilmoittamaan etukäteen kaikista sisäisistä muutoksistaan. Sopimuksessa voidaan silti edellyttää käyttökelpoista ilmoitusta ja näyttöpakettia ennen kuin muuttuneeseen toimintatapaan voidaan luottaa. Viranomainen voi valita vaiheistetun käyttöönoton, valvotun arvioinnin tai väliaikaisen keskeytyksen. Keskeytysmahdollisuus ei ole rangaistus. Se mahdollistaa sen, että julkinen palvelu pysyy vastuullisena, kun tosiasioita selvitetään.

Muutosloki suojaa myös väärältä varmuudelta. Jos viranomainen ei pysty erottamaan, johtuuko ero uudesta mallista, tietomuutoksesta, kehotteesta, ihmisen tekemästä kiertotiestä vai ulkoisesta riippuvuudesta, sen ei pitäisi väittää, että järjestelmä on toiminut johdonmukaisesti. Oikea vastaus voi olla käytön rajaaminen, paremman näytön kerääminen tai kyseisen reitin käytöstä luopuminen. Julkiset varat eivät tule turvallisemmiksi siksi, että selitys on siisti.

Yhteentoimivuus on kohtelias sana lähdölle

Yhteentoimivuudesta puhutaan usein kuin se olisi tekninen kohteliaisuus järjestelmien välillä. Julkisissa hankinnoissa se on myös jatkuvuuden valvontakeino. Jos julkinen palvelu ei pysty siirtämään tietojaan, asetuksiaan, näyttöään, rajapintojaan ja toimintaosaamistaan toiselle reitille, viranomainen voi olla laillisesti vapaa lähtemään mutta käytännössä kykenemätön siihen. Sopimus on luonut riippuvuuden, jota hankinta-asiakirjat eivät nimenneet.

Komission YTP:n raportti tekoälyn käytön edistämisestä EU:n julkishallinnoissa pitää hankintoja keskeisenä mahdollistajana ja toteaa, että yhteentoimivuus olisi sisällytettävä alusta alkaen. Raportti esittää strategiset hankinnat myös keinona vähentää riippuvuutta EU:n ulkopuolisista toimittajista ja tukea eurooppalaisia tekoälystartupeja sekä avoimen lähdekoodin ja GovTech-ratkaisuja. Tämä ei ole peruste ostaa eurooppalaista iskulauseen voimalla tai kohdella avointa lähdekoodia automaattisena takeena. Se on peruste tehdä teknisestä ja institutionaalisesta kyvystä muuttaa suuntaa osa ostettavaa arvoa.

Lähtö alkaa luettelosta siitä, minkä on säilyttävä. Siihen voi kuulua lähdetietueet, tunnisteet, selitteet, kehotteet, malli- ja asetusversiot, arviointijoukot, auditointilokit, käyttäjä- ja roolimääritykset, integraatiosopimukset, säilytysstatus, turvallisuusmateriaali ja kenttien merkitykset. Luettelo riippuu palvelusta. Siirrettävä tiedosto ilman asiayhteyttä voi olla vähemmän hyödyllinen kuin pienempi tietue, jonka semantiikka ja käyttöoikeudet ovat ennallaan. Vienti on kyvykkyys, joka on testattava, ei ruutu, joka on rastitettava.

Yhteentoimivuus tarkoittaa myös sitä, että viranomainen voi tehdä merkityksellisen vertailun. Voiko kohdejärjestelmä käsitellä tietueet muuttamatta hiljaa niiden merkitystä. Voivatko arvioijat vertailla vanhaa ja uutta tuotosta samoissa tehtäväolosuhteissa. Voiko julkinen palvelu jatkaa rajoitetussa tilassa, jos jokin riippuvuus ei ole käytettävissä. Voiko näyttö pysyä luettavissa rajapinnan poistumisen jälkeen. Näiden kysymysten on kuuluttava vaatimuksiin, arviointiin ja sopimukseen, koska hätätilanteessa tehty lähtö on yleensä arkeologinen kaivaus.

Siirrettävyys ei välttämättä tarkoita, että toimittajan on luovutettava kaikki sisäiset toteutustiedot. Se tarkoittaa, että hankintayksikkö voi säilyttää julkisen toiminnon ja sen vastuulla olevat asiakirjat, laillisten oikeuksien ja tietoturvarajoitusten puitteissa. Rajat on ilmoitettava ennen allekirjoitusta. Jos toimittajan malli ei ole saavutettavissa, hankintayksikkö voi silti vaatia siirrettäviä syötteitä, tulosteita, päätösasiakirjoja, arviointeja, konfiguraatiota ja reittiä palvelun julkisten velvoitteiden rekonstruointiin. Jos tällaista reittiä ei ole saatavilla, riippuvuuden hinta on hinnoiteltava rehellisesti tai siitä on kieltäydyttävä.

Poistumisharjoitus on arvokas, koska se muuttaa sopimuslupauksen havaituksi kyvyksi. Julkinen ostaja voi testata viennin, tarkastaa kentät, ajaa edustavan työmäärän hallitussa kohdeympäristössä ja vertailla tuloksena saatavia asiakirjoja. Se voi kirjata, mikä ei siirtynyt, ja päättää, onko aukko hyväksyttävä. Harjoituksen ei tarvitse olla dramaattinen. Pieni harjoitus ennen uusimista on parempi kuin sankarillinen migraatio sen jälkeen, kun toimittajasta on tullut ainoa, joka muistaa järjestelmän.

Poistuminen on sarja: toimivalta, vienti, merkitys, varmennus, jatkuvuus ja päättäminen. Vienti-painike ei ole sama asia kuin tämä sarja.

Kustannukset ovat enemmän kuin tarjouspyynnön rivi

Hintaa on helppo vertailla, kun ostettava asia on vakaa. Tekoälyhankinnoissa kustannushorisontti on pidempi. Mukana voi olla integrointityötä, lähdeaineiston valmistelua, tarkastusaikaa, tietoturvakontrolleja, tallennusta, arviointia, mallipäivityksiä, saavutettavuustyötä, häiriötilanteisiin vastaamista, tukea, vientiä ja korvaamista. Osa kustannuksista jää hankintayksikön kannettavaksi. Toiset siirtyvät työntekijöille tai yleisölle, kun palvelua on vaikeampi haastaa. Hankinta, joka vertailee vain alkuperäistä maksua, ei välttämättä ole taloudellinen. Se vain laskee yhden näkyvän osan.

Direktiivissä 2014/24/EU säädetään elinkaarikustannuslaskennasta silloin, kun hankintayksikkö valitsee tämän lähestymistavan. Direktiivissä kuvataan kustannuksia, kuten hankinta, käyttö, ylläpito, käytöstä poisto ja tarvittaessa ja todennettavissa olevat ympäristövaikutukset. Se edellyttää myös, että hankinta-asiakirjoissa ilmoitetaan, mitä tietoja tarjoajien on toimitettava ja millä menetelmällä elinkaarikustannus arvioidaan. Tämä on hyödyllinen käytäntö tekoälylle, koska se edellyttää, että ostaja kertoo, mitä lasketaan, sen sijaan että jokainen toimittaja toisi mukanaan erilaisen määritelmän halvuudesta.

Sama periaate pätee ihmisen huomioon. Jos järjestelmä tuottaa suosituksia, jotka vaativat tarkistusta, tarkistustyö kuuluu toimintamalliin. Jos julkisella palvelulla on oltava reitti oikaisua varten, reitillä on oltava omistaja ja aikaa. Jos toimittajan päivitys edellyttää uutta arviointia, viranomaisella on oltava kyky tehdä se. Nämä eivät ole argumentteja automaatiota vastaan. Ne ovat muistutuksia siitä, että automaatio muuttaa sitä, missä työ tapahtuu. Laskussa näkyvä säästö voi olla jonossa näkyvä kulu, jos hankinta ei nimeä uutta työtä.

Kustannuksiin on luettava myös se, mitä maksaa, ettei järjestelmästä voi luopua. Riippuvuus voi näyttää halvalta ollessaan uusi ja tulla kalliiksi, kun sen ympärille on kertynyt tietueita, asiantuntemusta, integraatioita ja yleisön odotuksia. Ostaja voi pyytää siirtymäarvion, data- ja artefaktiluettelon, tukivelvoitteen ja harjoitusaikataulun. Se voi verrata näitä ehtoja osana tarjouksen arvoa. Valinta ei ole optimismin ja pessimismin välillä. Se on valinta näkyvän riippuvuuden ja tulevaisuuden aikamuotoon piilotetun riippuvuuden välillä.

Elinkaariajattelu auttaa hankintatiimiä sanomaan ei ilman, että se teeskentelee halvimman näkyvän tarjouksen olevan neutraali vaihtoehto. Tiimi voi hylätä ehdotuksen, jos sen näyttö, tarkistustaakka, muutospolku tai poistumiskustannus ei sovi yhteen julkisen tarkoituksen kanssa. Se voi perustella päätöksen julkaistuilla kriteereillä. Se ei ole markkinavastainen ele. Se on sitä, mitä markkinoiden, joilla on todennettavat vaatimukset, pitääkin sallia.

Julkisten ostajien on saatava valta sanoa ei

Hankintatiimi ei voi käyttää valtaa, jota organisaatio ei ole sille antanut. Monilla viranomaisilla on henkilöitä, jotka osaavat arvioida oikeudellisia, teknisiä, taloudellisia ja palvelukysymyksiä, mutta valta yhdistää nämä arviot keskeytykseksi tai kieltäytymiseksi on epäselvä. Tulos on tuttu: huolet kirjataan yhteen asiakirjaan, innostus toiseen, ja hankinta etenee, koska kukaan ei tiedä, mikä rooli saa sulkea portin.

Viranomaisen on nimettävä roolit, jotka voivat hyväksyä, hylätä, rajata tai keskeyttää hankinnan kussakin vaiheessa. Roolien on saatava pääsy olennaiseen näyttöön ja reitti syyn kirjaamiseen. Hankinta-asiantuntija voi omistaa prosessin, palvelun omistaja julkisen tarkoituksen, tietosuojavastaava tietosuojaehdon, tietoturvavastaava valvonnan, tekninen arvioija testin ja ylempi vastuuhenkilö lopullisen päätöksen. Tarkka järjestely vaihtelee. Järjestelyn puuttuminen on vaarallinen osa.

Toimiva pysäytysperuste ei ole punainen merkki, jossa lukee korkea riski. Se on tosiasia, joka estää seuraavan päätöksen. Tarkoitusta ei ole määritelty riittävästi. Toimittaja ei pysty esittämään näyttöä olennaisesta vaatimuksesta. Henkilöllä, jota asia koskee, ei ole käyttökelpoista oikaisureittiä. Viranomainen ei voi tarkastaa olennaista muutosta. Data- tai artefaktioikeudet ovat epäselvät. Järjestelmää ei voi viedä tai korvata jatkuvuussuunnitelman puitteissa. Ihmisarvioijalla on vastuu mutta ei valtaa. Jokaiselle ehdolle voi olla eri korjauskeino. Jotkin vaativat tarkennusta, jotkin sopimusmuutosta, jotkin suppeampaa soveltamisalaa ja jotkin eitä.

Pysäytysperusteiden on oltava tiedossa ennen tarjousten arviointia. Ne on liitettävä valintaperusteisiin ja sopimukseen, jotta ostaja ei keksi uutta standardia nähtyään toimittajan vastauksen. Ne on myös käytävä läpi uudelleen hankinnan jälkeen. Vaatimus, joka täyttyi käyttöönotossa, voi lakata täyttymästä olennaisen muutoksen tai uuden käyttötarkoituksen jälkeen. Kyky sanoa ei ei ole yksittäinen portti lopussa. Se on ylläpidettävä valta koko palvelun elinkaaren ajan.

Ajatellaanpa julkista tiimiä, joka hankkii asiakirjojen reitityspalvelua. Sen julkaistuihin vaatimuksiin kuuluvat lähdejäljitettävyys, ihmisen tekemä tarkistuspolku, ilmoitus merkittävistä mallimuutoksista, tietueiden vienti ja määritelty lopetusmenettely. Yksi tarjoaja esittää vakuuttavan demonstraation, mutta ei voi sallia viranomaisen tutkia lähdevalintaa tai säilyttää versioituja reititystodisteita. Toinen tarjoaja tarjoaa vähemmän ominaisuuksia mutta täyttää todiste- ja poistumisvaatimukset. Tiimin ei tarvitse suosia näyttävämpää demonstraatiota. Se voi soveltaa ilmoitettuja kriteerejä, esittää oikeasuhtaisia kysymyksiä ja hylätä ensimmäisen tarjouksen, jos jokin olennainen vaatimus jää osoittamatta.

Tämä päätös ei saisi olla kirjoitettu moraalisena arviona toimittajasta tai teknologiasta. Siinä tulisi todeta julkinen tarkoitus, vaatimus, saadut todisteet, ratkaisematon ehto ja hankinta-asiakirjojen sallima päätös. Selkeä ei on kunnioittavampi kuin epämääräinen ehkä, josta myöhemmin tulee pakollinen uusiminen. Se antaa myös markkinoille hyödyllisen signaalin: julkiset ostajat maksavat todisteista ja hallinnasta, eivät pelkästä kyvykkyysteatterista.

Ihmisen valta pysäyttää on oltava käytettävissä poikkeustilanteessa. Käyttäjän tulisi tietää, kenelle soittaa, mikä järjestelmän tila säilytetään, mikä palvelureitti voi jatkua ja mitä viestintää vaaditaan. Päätöstietueen tulisi erottaa välitön rajaaminen pidemmästä hankintapäätöksestä. Julkisen toimijan ei tarvitse odottaa täydellistä tutkintaa ennen kuin se estää lisävahingot, mutta sen tulisi välttää väittämästä enempää varmuutta kuin sillä on. Pysäytys on hallintakeino. Selitys voi kehittyä.

Hankinnat muovaavat markkinoita

Julkiset hankinnat ovat yksi tapa, jolla Eurooppa päättää, mitä kyvykkyyksiä kannattaa rakentaa. JRC:n raportti tekoälyn käyttöönoton edistämisestä EU:n julkishallinnoissa kuvaa julkisen sektorin merkittävänä markkinoita muovaavana voimana. Se yhdistää onnistuneen käyttöönoton hallintoon, työvoiman valmiuteen, vastuullisiin hankintoihin, yhteentoimivuuteen ja julkiseen luottamukseen. Se myös toteaa, että strategiset hankinnat voivat vähentää riippuvuutta EU:n ulkopuolisista toimittajista ja tukea eurooppalaisia startup-yrityksiä, avoimen lähdekoodin ratkaisuja ja GovTech-ratkaisuja. Asia ei ole se, että julkisesta viranomaisesta tulisi pääomasijoittaja. Asia on se, että sen vaatimukset voivat joko palkita vastuullista kyvykkyyttä tai palkita vakuuttavan kääreen riippuvuuden ympärillä.

Euroopan tilintarkastustuomioistuimen erityiskertomus nro 28/2023 on otsikoitu Julkiset hankinnat EU:ssa: vähemmän kilpailua rakennusurakoiden, tavaroiden ja palveluiden hankintasopimuksista kymmenenä vuonna vuoteen 2021 asti. Sen julkinen tiivistelmä kuvaa julkisten tarjouskilpailujen kilpailun Euroopassa supistuvan. Markkinat, joilla on vähemmän todellisia kilpailijoita, ovat huono paikka piilottaa epämääräisiä vaatimuksia. Jos viranomainen ei voi verrata todisteita, se saattaa valita markkinointityylien välillä palveluiden sijaan. Epätestattavan tarjouksen hylkääminen voi säilyttää edellytykset paremmalle kilpailulle myöhemmin.

Samaan aikaan ostaja voi vahingossa sulkea pois hyödyllisiä toimittajia vaatimalla todisteita sellaisessa muodossa, jonka vain suurin toimittaja pystyy tuottamaan. Oikeasuhtaiset vaatimukset, selkeät rajapinnat, avoimet formaatit ja vaiheistetut arvioinnit voivat antaa pienemmille organisaatioille mahdollisuuden osoittaa rajattu kyvykkyys teeskentelemättä, että niillä on monikansallisen yrityksen resurssit. Ostajan tulee olla tiukka julkisesta tarkoituksesta ja joustava toteutuksen suhteen silloin, kun toteutus ei vaikuta tähän tarkoitukseen. Näin ei:stä tulee parempi kysymys suljetun oven sijaan.

Markkinoiden muovaaminen tarkoittaa myös sitä, että kieltäydytään tekemästä yhden toimittajan yksityisestä arkkitehtuurista julkisen tarpeen määritelmää. Jos vaatimus nimeää tietyn mallin, pilven tai omistetun työnkulun ilman perusteltua yhteyttä tehtävään, kilpailu voi kaventua ennen kuin todisteita edes nähdään. Toiminnalliset vaatimukset ja todennettavat tulokset antavat julkisille ostajille enemmän tilaa vertailla lähestymistapoja. Ne myös tekevät sopimuksesta vähemmän hauraan, kun valittu komponentti muuttuu.

Julkinen toimija voi olla vaativa asiakas joutumatta hankalaksi asiakkaaksi. Se voi julkaista odottamansa näytön, kertoa syyn pysäytysehdon asettamiselle, tarjota reitin tarkennuksille ja maksaa työstä, joka luo pysyvää julkista osaamista. Markkinoilla on silloin jotain, mihin vastata. Niiden ei tarvitse arvailla, oliko ratkaiseva tekijä piilotettu mieltymys, hieno demo vai tulevan ongelman hinta.

Toimintamalli hankinnalle, joka voi kieltäytyä

Seuraava toimintamalli on käytännön suositus, ei uusi oikeudellinen menettely. Se on tapa pitää julkinen päätös näkyvänä, kun järjestelmä etenee ideasta toimintaan. Toimijan tulee sovittaa se omaan lainsäädäntöönsä, toimialaansa, riskiinsä ja hankintamenetelmäänsä. Tärkeintä on, että jokaisella portilla on omistaja, näyttö ja sallittu lopputulos, joka sisältää pysäyttämisen tai kieltäytymisen.

Ensimmäiseksi kirjoita julkinen tarkoitus. Nimeä palvelu, sen suorittajat, sen vastaanottajat, päätös tai toimi, joka voi muuttua, ja syy, jonka vuoksi järjestelmää harkitaan. Kerro, mikä jää soveltamisalan ulkopuolelle. Jos tarkoitusta ei voi kuvata ilman toimittajan tuotesanastoa, toimija on edelleen markkinoiden kartoitusvaiheessa. Tämän portin tuotos on ongelmakuvaus ja päätös siitä, onko hankinta oikea seuraava askel.

Toiseksi kirjoita näytön rajat. Kerro jokaisen olennaisen väitteen kohdalla, mikä osoittaisi sen todeksi aiottuun tehtävään liittyen. Nimeä aineiston ehdot, kieli, saavutettavuustarpeet, lähdeasiakirjat, versio, lähtötaso ja tarkistusreitti, jotka tekevät testistä merkityksellisen. Määritä, minkä on oltava tarkastettavissa, mikä voidaan pitää luottamuksellisena ja mikä on toimitettava sopimusasiakirjana. Tämän portin tuotos on joukko vaatimuksia, jotka tarjoajat voivat ymmärtää, ja arviointisuunnitelma, joka voi muuttaa hankintapäätöstä.

Kolmanneksi kirjoita toimivallan rajat. Nimeä toimet, joita järjestelmä voi ehdottaa, toimet, joita se voi suorittaa, toimet, jotka vaativat hyväksynnän, ja toimet, jotka ovat kiellettyjä. Nimeä, kuka voi korjata lähteen, hylätä tuotoksen, muuttaa sääntöä, pysäyttää palvelun ja puhua asianosaiselle. Määritä, mitä tapahtuu, kun järjestelmä on epävarma tai näyttö on ristiriitaista. Tämän portin tuotos on inhimillinen reitti, joka on täsmällisempi kuin valintaruutu.

Neljänneksi kirjoita muutosten rajat. Tunnista muutokset, jotka vaativat ilmoituksen, arvioinnin, hyväksynnän tai uuden hankintapäätöksen. Sisällytä malli, aineisto, toimittaja, alihankkija, infrastruktuuri, käsittelypaikka, rajapinta, kynnysarvo, kohderyhmä, tarkoitus ja inhimillinen reitti. Päätä, mikä näyttö säilyy muutosasiakirjassa ja mikä voidaan poistaa lainmukaisista syistä. Tämän portin tuotos on ylläpidetty asiakirja, ei lupaus siitä, että järjestelmä pysyy muuttumattomana.

Viidenneksi kirjoita poistumisen rajat. Luettele asiakirjat, aineisto, määritykset, näyttö, käyttöoikeudet, integraatiot ja operatiivinen osaaminen, joiden on säilyttävä. Määritä muodot, aikataulu, tuki, varmennus, supistettu palvelu, siirtymä, käytön lopettaminen ja poisto. Harjoittele pientä vientiä ennen uusimista tai merkittävää laajennusta. Tämän portin tuotos on reitti, jota voidaan testata, kun toimittaja on vielä kumppani, ei vasta sitten, kun suhteesta on tullut riita.

Kuudenneksi kirjoita julkinen asiakirja. Päätä, mitä tarkoituksesta, järjestelmän roolista, näytöstä, inhimillisestä reitistä, muutoksista, poikkeamista ja oikaisun yhteyshenkilöstä voidaan julkaista. Suojaa luottamukselliset ja henkilötiedot muuttamatta koko päätöstä yksityiseksi keskusteluksi. Julkinen asiakirja voi kertoa, mitä tiedetään, mitä ei tiedetä ja milloin seuraava tarkistus tehdään. Sen tehtävä ei ole saada järjestelmää näyttämään täydelliseltä. Sen tehtävä on tehdä toimijan harkinnasta tarkastettavaa.

Lopuksi kirjoitetaan kieltäytyminen. Kieltäytyminen ei ole dramaattinen lehdistötiedote. Se on päätösasiakirjan normaali lopputulos: vaatimus oli olennainen, näyttö ei täyttänyt sitä, korjaavaa toimenpidettä harkittiin ja viranomainen päätti kieltäytyä, rajoittaa, keskeyttää tai etsiä toisen reitin. Hankinta, joka ei pysty tuottamaan tätä asiakirjaa, on saanut ostopäätöksen näyttämään väistämättömältä ennen kuin se on ansainnut sen johtopäätöksen.

Nämä portit voidaan esittää tarjouspyyntövastauksessa, projektin aloitusarkkitehtuurissa, sopimusaikataulussa, arviointikokouksessa ja häiriötilanteen toimintaohjeessa. Niistä ei pidä tehdä suurempaa lomaketta lomakkeen itsensä vuoksi. Jos portti ei muuta sitä, mitä tiimi voi päättää, se on todennäköisesti dokumentaatioteatteria. Jos se antaa henkilölle näyttöä ja toimivallan toimia, se on osa palvelua.

Kysymyksiä, joita kannattaa esittää tarjouspyynnössä

Parhaat kysymykset eivät ole niitä, jotka saavat toimittajan toistamaan markkinointikieltään. Ne ovat niitä, jotka tekevät julkisen tarkoituksen ja näytön rajan näkyviksi. Ostaja voi mukauttaa seuraavia kysymyksiä järjestelmään ja menettelyyn:

  • Mitä tarkkaa julkista tehtävää ehdotettu toiminto tukee, ja mitkä tehtävät ovat sen käyttötarkoituksen ulkopuolella?
  • Mitkä henkilöt, asiakirjat ja tietolähteet kuuluvat soveltamisalaan, ja mitkä on suljettava pois?
  • Mitä tuotos järjestelmä tuottaa, ja mikä päätös tai toimenpide voi seurata siitä?
  • Mikä vaatimus voidaan osoittaa, mikä voidaan tarkastaa ja mikä ylläpidetään sopimusperusteisesti?
  • Miten viranomainen toistaa tuloksen asiaankuuluvalla versiolla, lähteillä, kokoonpanolla ja tehtävän ehdoilla?
  • Mitä ihminen voi tarkastella, muuttaa, hylätä, nostaa käsittelyyn tai pysäyttää ennen kuin merkittävä toimenpide tapahtuu?
  • Mitkä malliin, tietoihin, infrastruktuuriin, alihankkijaan tai käytäntöön liittyvät muutokset edellyttävät ilmoitusta ja uudelleenarviointia?
  • Mitkä asiakirjat ja tuotokset viranomainen voi viedä, missä muodoissa, millä merkityksellä, oikeuksilla ja säilytysstatuksella?
  • Mitä tapahtuu, kun palvelu ei ole käytettävissä, näyttö on puutteellista tai henkilö haastaa tuloksen?
  • Mitkä tuki-, auditointi-, häiriö-, koulutus- ja poistumisvelvoitteet jatkuvat ensimmäisen julkaisun jälkeen?

Nämä kysymykset eivät korvaa hankintadirektiiviä, tekoälyasetusta, tietosuojalainsäädäntöä tai alakohtaisia sääntöjä. Ne ovat kehotuksia viranomaiselle saattaa omat velvoitteensa toiminnallisiksi. Toimittaja, joka pystyy vastaamaan niihin selkeästi, ei välttämättä ole oikea toimittaja. Toimittaja, joka ei pysty vastaamaan niihin, voi silti tarjota hyödyllisen osan, mutta viranomaisen ei pidä sekoittaa hyödyllistä osaa täydelliseen julkiseen toimintakykyyn.

Pieni huomiomme

Dwevessä AI Compas sisältää toimittajariippumattoman hankinta- ja hallintoreitin säännellyille eurooppalaisille organisaatioille. RFI- ja RFP-aineisto pyytää tiimejä luokittelemaan käyttötapauksen, soveltamaan poissulkukriteerejä, vertailemaan toimittajia, toteuttamaan konseptitodistuksen ja säilyttämään näytön seurannan avulla. Tämä on meidän toteutuskontekstimme, ei riippumatonta näyttöä julkisesta hankinnasta eikä väite siitä, että yksi viitekehys sopii jokaiselle viranomaiselle. Mainitsemme sen, koska tässä kuvattu kurinalaisuus on myös kurinalaisuutta, jota pyrimme noudattamaan omassa työssämme: määritä raja, vaadi näyttöä, pidä päätös ihmisellä ja tee poistuminen näkyväksi.

Trust Centre tekee saman erottelun eri rekisterissä. Julkinen asiakirja voi kuvata, mikä on dokumentoitua, mikä on valmisteltua ja mikä on vielä tuleva tapahtuma, ilman että tarkoituksenilmaisusta tulee näyttöä. Hankintatiimi ansaitsee saman rehellisyyden toimittajiltaan. Ostajan pitäisi pystyä näkemään väitteen tila, sen taustalla oleva näyttö ja reitti sen haastamiseen.

Opetus

Julkinen viranomainen ei tule vastuulliseksi siitä, että se allekirjoittaa sopimuksen tekoälyjärjestelmästä. Se tulee vastuulliseksi, kun hankinnassa voidaan selittää, miksi järjestelmä kuuluu työhön, mikä näyttö tukee tätä päätelmää, kuka voi puuttua asiaan, mitä tapahtuu, kun järjestelmä muuttuu, ja miten julkinen tehtävä voi jatkua, jos toimittaja ei pysty siihen.

Eurooppalaiset hankintasäännöt tarjoavat jo tärkeitä käytäntöjä: perusteiden tulisi liittyä hankinnan kohteeseen, tietojen tulisi olla todennettavissa, painotusten tulisi olla ilmoitettuja ja sopimusehtojen selkeitä. Euroopan komission tekoälyn hankintalausekkeet antavat julkisille ostajille keinon käsitellä suuren ja ei-suuren riskin järjestelmiä sekä jakaa vastuita. Alankomaiden Algoritmekader muuttaa vastuullisen hankinnan käytännön toimenpiteiksi, jotka koskevat tarkoitusta, dataa, näyttöä, auditointia, ihmisen valvontaa, pysäyttämistä ja poistumista. JRC:n raportti asettaa hankinnan osaksi Euroopan kyvykkyys- ja suvereniteettikeskustelua. ECA:n varoitus kilpailun supistumisesta muistuttaa siitä, että heikkoa kilpailua ei korjata varmalla valinnalla.

Vaikea sana on edelleen ei. Ei, tarkoitusta ei ole määritelty. Ei, näyttöä ei voida tarkastaa. Ei, ihmisen rooli on koristeellinen. Ei, muutospolku on näkymätön. Ei, julkista asiakirja-aineistoa ei voida ylläpitää. Ei, palvelu ei voi poistua menettämättä työtä, jota sen oli tarkoitus suojella. Jokainen ei voi olla kieltäytyminen, rajaaminen, tauko tai pyyntö paremmasta vastauksesta. Viranomaisen tulisi päättää, mikä näistä se on, kirjata syy ja pitää päätös avoimena haastamiselle.

Hankinta, joka osaa sanoa ei, ei ole hankintaa, joka pelkää teknologiaa. Se on hankintaa, joka tuntee eron kyvykkyyden ja lupauksen välillä. Se maksaa järjestelmästä, jota voidaan testata, valvoa, muuttaa ja jättää. Se antaa toimittajille reilumman kilpailun, koska kysymys on näkyvä. Se antaa julkishallinnon työntekijöille keinon puuttua asiaan ennen kuin ongelmasta tulee politiikkaa. Se antaa palvelun vaikutuspiirissä oleville ihmisille jotakin hyödyllisempää kuin ilmoituksen siitä, että toimittaja on hyväksytty.

Julkisen hankinnan tulisi päättyä palveluun, jota viranomainen voi edelleen hallita. Jos näyttö on vahva, kyllä-sanan sanominen on merkityksellistä. Jos näyttö on heikko, ei-sanan sanominen on julkista työtä. Hankinta-asiakirjojen tulisi voida sisältää molemmat lauseet.

Lähteet