Avalik sektor vajab hankeid, mis oskavad öelda ei

Avalik asutus ei muutu vastutavaks siis, kui ta AI-süsteemi kasutusele võtab. Ta muutub vastutavaks siis, kui tema nõuded, tõendid, inimotsustusõigus,...

Avalik sektor vajab hankeid, mis oskavad öelda ei

Dokument, mis võib lõpetada ostu

Avaliku hankimise toimik algab sageli päringuga, mis kõlab kahjutult: leida süsteem, mis aitab ülesannet täita. Päring liigub läbi probleemipüstituse, turukonsultatsiooni, nõuete loetelu, hindamise, lepingu ja, kui protsess on terve, otsuseni, mis võib töö veel peatada. See viimane võimalus kaob kergesti. Kui raha, kalendrid ja poliitiline tähelepanu on ostu ümber kogunenud, hakkab sõna ei kõlama nagu tarne ebaõnnestumine. Avalikus töös võib see olla toimiku kõige kasulikum otsus.

Euroopa hankeseadus kohtleb juba praegu pakkumust enama kui atraktiivsete lubaduste võistlusena. Direktiiv 2014/24/EL ütleb, et hankekriteeriumid peavad võimaldama tõhusat ja õiglast konkurentsi ning nendega peavad kaasnema korraldused, mis võimaldavad hankijal kontrollida pakkujate esitatud teavet. Direktiiv ütleb ka, et kriteeriumid ei tohiks anda hankijale piiramatut valikuvabadust. Avalik ostja peab kirjeldama, mis on oluline, selgitama, kuidas seda kaalutakse, ja kontrollima, kas pakkumus sellele tegelikult vastab. See ei ole halduslik joonealune märkus. See on otsuse õiguslik kuju, mida teised inimesed peavad suutma mõista ja vaidlustada.

AI muudab vana distsipliini raskemaks, sest tarnija võib pakkuda süsteemi, mille käitumine sõltub andmetest, mudeliuuendustest, päringutest, lävenditest, integratsioonidest, inimestest ja teenusest, mis võib muutuda veel siis, kui leping on soe. Brošüür võib jääda samaks, samal ajal kui selle taga olev asi liigub. Hankemeeskond peab seetõttu ostma rohkem kui liidese. Ta peab ostma piiritletud võimekuse, tõendid selle võimekuse sobivuse kohta, volituse seda järelevalve all hoida ja usaldusväärse viisi selle peatamiseks või asendamiseks.

Avalik sektor vajab hankeid, mis oskavad öelda ei, sest avalik sektor ei saa oma otsustusõigust välja tellida. Tarnija võib pakkuda mudelit, töövoogu, majutatud teenust või tööriistade kogumit. Ta ei saa pakkuda nendega tehtud otsuse legitiimsust. Hankija peab ikkagi teadma, millist probleemi ta lahendab, kelle huve see võib mõjutada, millised tõendid süsteemi toetavad, milline inimene saab sekkuda ja kuidas teenus jätkub, kui tarnija kurssi muudab. Allkiri ei ole vastutuse üleandmine. See on tõend, et vastutus on korraldatud.

See artikkel jälgib seda korraldust nõude esimesest lausest kuni väljumisprotokolli viimase reani. See kasutab tõendusmaterjalina Euroopa avalikke juhendeid ja hankematerjale. Praktilised mustrid on soovitused, mitte väited, et iga hankija peab kasutama ühte vormi. Iga väljamõeldud olukord on märgistatud hüpoteetilisena. Usutav kontor, korralik pakkumus ja dramaatiline ebaõnnestumine ei ole tõendid ainult seetõttu, et need sobivad tuttavasse lugu.

Avalik ostja ostab lubaduse kaks korda

Iga avalik ost kannab endas kahte lubadust. Esimene on tarnija lubadus toote või teenuse kohta. Teine on hankija lubadus inimestele, kes tööst sõltuvad: et raha kulutati kindlaks määratud avalikul eesmärgil, et otsust saab selgitada, et asjakohaseid õigusi kaaluti ja et keegi jääb vastutavaks, kui süsteem eksib. Teine lubadus on see, mis jääb ellu pärast käivitussündmust.

AI-hanked muudavad sageli esimese lubaduse erksaks ja teise häguseks. Demonstratsioon võib näidata sujuvat kokkuvõtet, järjestatud loendit või kiiret vastust. See näitab harva, kes võib väljundi tagasi lükata, mis juhtub, kui allikas puudub, kuidas muudatust heaks kiidetakse, kas andmeid saab eksportida või milline inimene saab teenuse peatada ilma, et peaks oma volituste üle vaidlema juhtumi keskel. Need küsimused on vähem kinematograafilised. Need on ka küsimused, mis otsustavad, kas avalik institutsioon suudab jääda juhtrolli.

Euroopa Komisjoni avaliku sektori ostjate kogukond kirjeldab oma uuendatud ELi mudelpõhiseid tehisintellekti käsitlevaid lepingutingimusi kolmes osas: täisversioon kõrge riskiga tehisintellekti jaoks, mis on kooskõlas tehisintellekti käsitleva õigusaktiga, kerge versioon, mida saab kohandada mitte-kõrge riskiga tehisintellekti jaoks, ning kommentaarid selle kohta, kuidas tingimusi kasutada ja kohandada. See eristus on oluline. Mudelpõhine tingimus ei ole maagiline tempel, mis muudab hanke sobivaks. See on lähtepunkt kohustuste jaotamiseks avaliku organisatsiooni ja tarnija vahel lepingus, mille ulatus, eesmärk ja tõendid peab ostja siiski ise kindlaks määrama.

Ostja peaks seetõttu küsima, mida ta tegelikult avalikkusele lubab, enne kui ta küsib, mida müüja suudab tõendada. Kas asutus lubab kiiremat teed haldusmenetluste järjekorrast läbi, järjepidevamat esmast läbivaatamist, ohutumat kontrolli, nappide teadmiste paremat kasutust või lihtsalt katset, mille piirid on nähtavad? Iga eesmärk loob erinevad tõendid ja erinevad põhjused peatamiseks. Süsteem, mis koostab sisemisi märkmeid, võib vajada teistsugust volituste piiri kui süsteem, mis järjestab taotlusi teenusele, mida inimesed ei saa vältida.

Vaatleme hüpoteetilist hindamismeeskonda, kes vaatab üle tööriista, mis teeb kokkuvõtteid tarnijate esitatud materjalidest. Meeskond võib otsustada, et ülesanne sobib abistamiseks, kuid ainult siis, kui kokkuvõte säilitab välistused, tingimused ja kuupäevad ning suunab hindajad tagasi algallika lõikude juurde. Kui tarnija ei suuda näidata, kuidas neid nõudeid testitakse, peaks meeskonnal olema võimalik tööriist tagasi lükata või lepingut kitsendada. See ei ole süüdistus tarnija aadressil. See on järeldus kindlaksmääratud eesmärgi jaoks kättesaadavate tõendite kohta.

Sama loogika kehtib ka siis, kui probleem on ahvatlev, kuid halvasti piiritletud. Avalik asutus võib soovida prognoosida nõudlust, seada prioriteete kontrollidele või suunata kirjavahetust. Need tegusõnad varjavad nende taga olevaid otsuseid. Mida loetakse nõudluseks. Mida prioriteet muudab. Millist kirjavahetust saab ohutult suunata ilma, et inimene seda loeks. Esimene ei võib puudutada probleemi ulatust, mitte tarkvara kasutamist. Keeldumine ebaselgest ostust on sageli see, kuidas asutus kaitseb töö kasulikku osa mittetestitava osa eest.

Kirjeldage probleem enne lahendust

Hange muutub hapraks, kui tootekategooria jõuab kohale enne, kui avalik probleem on nimetatud. Tehisintellekt on eriti osav sellise järjekorra loomisel, sest sama mudelit saab esitleda kirjutamisabilisena, klassifikaatorina, otsingukihina või agendina, olenevalt slaidist. Asutus peab kirjeldama tööd viisil, mis jääb tähendusrikkaks ka siis, kui tarnija, mudeliperekond ja liides eemaldada.

Hollandi algoritmiraamistik, mida peetakse avalike organisatsioonide jaoks, seab selle töö oma soovitatud meetmete hulka. See palub organisatsioonidel kirjeldada kavandatud eesmärki ja kasutatavaid andmeid, määrata kindlaks kohaldatav riskirühm, hinnata mõju, kui algoritm ei tööta ettenähtud viisil, ja otsustada, kas lahendus tuleks välja töötada või osta. See osutab ka projekti alustamise arhitektuurile algoritmide väljatöötamiseks või hankimiseks. Need ei ole hanke kaunistused. Need on viisid, kuidas muuta probleem loetavaks enne, kui pakutakse vastust.

Hea nõue algab otsusest või teenusest, mis peab paranema, inimestest, kes seda teostavad või saavad, teabest, mida süsteem võib kasutada, teabest, mida ta ei tohi kasutada, ja inimvolitusest, mis jääb alles. See sätestab tingimused, mille korral süsteem on kasulik, ja tingimused, mille korral seda ei tohi kasutada. See nimetab dokumendid, mis peavad olemas olema, kui väljund võetakse vastu, lükatakse tagasi, parandatakse või suunatakse edasi. See ei pea ennustama tarnija sisemist kujundust. See peab määratlema avaliku võimekuse, mida saab kontrollida.

Siin on olulised funktsionaalsed ja toimivusnõuded. Direktiiv 2014/24/EL nõuab, et tehnilised kirjeldused oleksid piisavalt täpsed, et pakkujad mõistaksid hanke eset ja et hankijad saaksid hinnata, kuidas pakkumused kriteeriumidele vastavad. Nõue nagu pakkuda intelligentset lahendust ei ole kasulik katse. Nõue nagu säilitada mustandis kasutatud lähtelõigud, näidata otsingu kuupäeva, võimaldada hindajal mustand tagasi lükata ja eksportida saadud kanne on lähemal testitavale avalikule vajadusele. See kirjeldab käitumist ja tõendusrada, mitte moesõna.

Nõuded peaksid ka avama ülesande piirid. Avalik hankija võib öelda, et süsteem võib soovitada marsruuti, kuid ei tohi teha lõplikku otsust. Ta võib sätestada, et soovitust ei tohi kasutada, kui määratud allikas puudub või on vastuoluline. Ta võib nõuda inimkanalit isikule, keda otsus mõjutab ja kes soovib tulemuse vaidlustada. Need ei ole vaenulikud piirangud. Need on tingimused, mille korral ost jääb avalikuks teenuseks, mitte eratöövooks valitsuse logoga.

Kitsas probleemipüstitus ei ole ambitsioonikuse puudumine. See on viis muuta ambitsioonikus aruandekohustuslikuks. Kui hankija ei suuda selgitada, millist sammu süsteem muudab, kes sellest kasu saab, mis võib valesti minna ja mida inimene saab edasi teha, ei ole ta valmis pakkujaid võrdlema. Õige tegevus võib olla rohkem eeltööd, mitte-AI lahendus, väike kontrollitud piloot või üldse mitte ost. Hankedokumentides peaks olema ruumi igale vastusele.

Muuda nõuded tõenditeks

Sõna tõend kasutatakse tehnoloogiahangetes lõdvalt. Pakkuja esitlus, toote tutvustus ja kinnitus, et süsteem on usaldusväärne, võivad kõik olla kasulikud sisendid. Ükski neist ei ole automaatselt tõend nõude täitmise kohta. Tõend peab olema seotud väite, testi, ulatuse ja isikuga, kes saab seda kontrollida. Ilma selle seoseta muutub hindamine võistluseks, kus võidab kõige viimistletum lause.

Hankedirektiiv on põhisuhte osas selge: hindamiskriteeriumidega peavad kaasnema korraldused, mis võimaldavad pakkujate esitatud teavet tõhusalt kontrollida. See põhimõte on eriti oluline tehisintellekti puhul, sest tulemus võib näida veenev, samal ajal kui selle tingimused jäävad varjatuks. Ostja peaks küsima, mida näidatakse, millistel andme- ja ülesandetingimustel, millise lähtetasemega ja kuidas saab hindaja tulemust korrata või vaidlustada.

Hollandi Algoritmekader esitab sama nõudmise praktilises keeles. Selle avaliku hanke meetmed hõlmavad algoritminõuete lisamist hankedokumentidesse ja lepingusse, nõuet, et pakkujad esitaksid tõendid nõuete täitmise kohta hindamise osana, pakkuja vastutustingimuste hindamist, auditeerimisvõimekuse nõudmist lepingus, kokkulepet andmete ja artefaktide saatuse kohta ning plaani küsitlemist algoritmi peatamiseks. Loetelu on suunis, mitte universaalne õiguslik kontrollnimekiri. Selle väärtus seisneb selles, et see käsitleb tõendamist hanke objektina.

Ostja saab tõendid jagada kolmeks kasulikuks kategooriaks. Demonstreeritud tõend on see, mida pakkuja näitab kontrollitud hindamisel: sisend, väljund, veakäsitlus, allikate kasutamine ja inimkanal on vaadeldavad. Kontrollitav tõend on see, mida hankija saab uurida ilma demonstratsioonile tuginemata: dokumentatsioon, testitulemused, logid, liidesed, muudatuste kirjed, andmekirjeldused ja võimalus kokkulepitud kontrolli läbi viia. Lepinguline tõend on see, mida pakkuja peab jätkuvalt esitama: teated oluliste muudatuste kohta, intsidentide teave, juurdepääs auditile, teenusekirjed, ekspordivõimalused ja kontrollitud väljumise tugi. Kategooriad kattuvad, kuid need hoiavad ära olukorra, kus üks muljetavaldav seanss kannab kogu lepingut.

Ka tõendusmaterjal vajab piiritlust. Tarnija võib näidata, et süsteem töötab hästi teatud näidete hulgal. Ostja peab siiski teadma, kas näited esindavad sihtkeelt, dokumendi kvaliteeti, juhtumite jaotust, juurdepääsetavuse vajadusi ja töötingimusi. Väide mudeli kohta laboris ei ole automaatselt väide avaliku teenuse kohta. See on väide tehtud katse kohta. Hangemeeskond peaks säilitama ülesande, andmetingimused, versiooni ja tulemuse, et hilisem otsus ei hõljuks testist lahus.

Kujutagem hüpoteetiliselt ette, et pakkuja esitab valimi loodud kokkuvõtetest ja üldise täpsusavalduse. Asutus võib küsida lähtedokumente, valikureeglit, kasutatud versiooni, puuduvate materjalide käsitlust, ülevaatusprotseduuri ja artefakti, mis jääb pärast vastuvõtmist alles. Kui vastus on, et üksikasjad on konfidentsiaalsed ja neid ei saa kontrollida, on meeskond õppinud midagi olulist. Ta ei ole õppinud, et süsteem on halb. Ta on õppinud, et pakutud tõendusmaterjali piir võib olla avaliku eesmärgi jaoks liiga nõrk.

Tõendusmaterjal peaks olema proportsionaalne. Väike sisemine abivahend koostamiseks ei vaja sama kontrollipaketti kui süsteem, mis mõjutab juurdepääsu avalikule teenusele. Proportsionaalsus ei tähenda loosungi aktsepteerimist väikese riski korral. See tähendab tõendamise sügavuse vastavusse viimist tagajärje, pöörduvuse, mõjutatud inimeste ning vea tuvastamise ja parandamise võimega. Tarnija peaks teadma nõutavat tõendusmaterjali enne pakkumuse esitamist. Vastasel juhul muudab asutus võistlust pärast võistluse lõppu, mis on tuttav viis kalli üllatuse tekitamiseks.

Nõue peaks viima tõendini ja tõendil peaks olema lubatud muuta hankeotsust.

Ostja peab saama eriarvamusele jääda

Avalik vastutus ei ole sama mis tarnija läbipaistvus. Tarnija võib oma teenust selgitada, samas kui asutusel puudub endiselt tee, kuidas elanik, töötaja, ettevõtja või spetsialist saab vaidlustada teenuse kasutamise viisi. Hangefail peaks seetõttu küsima, kuidas eriarvamus toimib, mitte ainult seda, kuidas süsteem vastuse toodab.

Algoritmekader paigutab inimliku kontrolli, põhiõigused, läbipaistvuse ja kaebusteede oma avaliku sektori teemade hulka. Selle soovitatud meetmed hõlmavad tähenduslikku inimese sekkumist otsustamisse, protsessi, mille kaudu kodanikud või teised sidusrühmad saavad esitada kaebuse, vastuväite või edasikaebuse, avalikku otsust algoritmi kasutamise kohta ja viisi mõjuga seotud algoritmide avaldamiseks Hollandi algoritmiregistris. Need meetmed ei muuda iga algoritmi avalikuks vaatemänguks. Need muudavad asutuse vastutuse piisavalt nähtavaks, et seda saaks kahtluse alla seada.

Hankete nõue, mis käsitleb inimese järelevalvet, peaks nimetama konkreetse inimese tegevuse. Kas hindaja näeb teavet, mis kujundas soovitust. Kas ta saab kannet parandada. Kas ta saab tulemuse tagasi lükata ilma, et ta peaks kõigepealt süsteemilt luba küsima. Kas ta saab küsida teist teed, kui mõni allikas puudub. Kas ta saab partii peatada, versiooni isoleerida või mure edastada kellelegi, kellel on volitus. Kui vastus on ainult see, et inimene on kusagil protsessis kohal, kirjeldab nõue mööblit, mitte järelevalvet.

Ka eriarvamus vajab aega. Hindaja, kellelt oodatakse iga väljundi kontrollimist, kandes samal ajal endist töökoormust, võib olla tehniliselt protsessis sees, kuid praktiliselt sellest väljas. Hankega saab nõuda koolitust, tuge, kasutatavat tõendusmaterjali ja töökoormuse eeldust läbivaatamiseks. Selles saab määratleda, millised juhtumid vajavad enne tegevust heakskiitu ja millised pöörduvad, väikeste tagajärgedega tegevused võivad jätkuda logimise ja hilisema valimipõhise kontrolliga. Selles saab tarnijalt nõuda, et see toetaks teed, mitte ei peidaks seda rakendusliidese taha.

Ametiasutus peab eriarvamusel olema ka omaenda entusiasmiga. Edukas pilootprojekt võib tekitada survet laiendada tööriista populatsioonile või otsusele, mis polnud kunagi katse osa. Leping peaks säilitama algse eesmärgi ja nõudma uut otsust, kui eesmärk, andmed, mõjutatud inimesed või tagajärjed muutuvad. Uuendus pole automaatselt kahjutu ainult sellepärast, et see tarnitakse teenusena. Uus kasutusviis pole automaatselt kaetud ainult sellepärast, et ekraani ülaosas on sama logo.

Kui tarnija ütleb, et mudel on ainult nõuandev, peaks ametiasutus vaatama, mida töö tegelikult teeb. Kui töötajatel on juhendatud järjestust vastu võtta, kui selle läbivaatamiseks pole aega või kui süsteem kontrollib, millised juhtumid jõuavad inimeseni, võib nõuanne olla praktikas muutunud otsuseks. Hankemeeskond ei pea vaidlema täiusliku sildi üle. See peab dokumenteerima tee väljundist tagajärjeni ja säilitama volituse seda teed muuta.

Tarnija piirid on lepingu osa

AI-hanget kirjeldatakse sageli kui valikut ehitamise ja ostmise vahel. Raskem valik on see, kuidas jagada piiri tarnija ja avaliku sektori organisatsiooni vahel. Tarnija võib kontrollida mudelit, teenust, uuenduste teed, taristut, tugimeeskonda ja osa andmetöötlusest. Ametiasutus kontrollib avalikku eesmärki, otsust, mõjutatud populatsiooni ja kohustust pakkuda seaduslikku ja kasutatavat teenust. Leping peab need vastutused ühendama, mitte jätma neid kahe viisaka diagrammina.

Uuendatud ELi mudellepingute AI-klaaslid on kasulikud, sest need tunnistavad, et avalikud ostjad vajavad erinevaid lähenemisviise kõrge riskiga ja mitte-kõrge riskiga AI-le ning vajavad juhiseid klaaslite kohandamiseks praktikas. Need ei asenda hankestrateegiat ega õiguslikku läbivaatamist. Need on ühine sõnavara vastutuste selgesõnaliseks muutmiseks. Ostja peab ikkagi otsustama, millised tõendid, andmeõigused, auditi juurdepääs, muudatuste teavitamine, tugi, vastutus ja väljumistingimused on proportsionaalsed ostetava süsteemiga.

Andmed ja artefaktid väärivad erilist tähelepanu. Süsteem võib puudutada lähtedokumente, silte, viipasid, manuseid, loodud mustandeid, inimese parandusi, hindamiskomplekte, logisid ja lõplikke andmeid. Leping peaks eristama, mida ametiasutus tarnib, mida tarnija loob, mida kumbki pool tohib kasutada, mida tuleb tagastada, mida tuleb kustutada ja millist kustutamise või säilitamise tõendit nõutakse. Ütlemine, et ametiasutus oma andmeid omab, ei vasta küsimusele, kus tuletatud artefaktid asuvad või kuidas ametiasutus saab alla laadida andmed, mis selgitavad tulemust.

Auditeerimisõigused vajavad praktilist vormi. Ostja peaks teadma, milliseid andmeid võib kontrollida, kuidas juurdepääsu taotletakse, milline etteteatamistähtaeg on mõistlik, millised konfidentsiaalsuskaitsed kehtivad ja mis juhtub, kui audit avastab puuduse. Auditiklausel ilma kasutatava teeta on ootel vaidlus. Sama kehtib intsidentide klausli kohta, mis ütleb, et tarnija teeb koostööd, ilma et oleks nimetatud koostööks vajalikku teavet, ajastust ja vastutajat.

Muudatuste haldamist ei tohiks jätta väljalaske märkuste hooleks. Asutus võib nõuda teatamist olulisest muudatusest mudelis, andmeallikates, töötlemiskohas, alltöövõtjates, liidestes, lävendites, hindamismeetodis või inimese kaasamise teel. See võib määratleda, milliseid tõendeid on vaja enne muudetud versiooni kasutuselevõttu avaliku ülesande täitmiseks. See võib nõuda õigust peatada, tagasi lükata või taastada, kui muudetud teenus ei vasta enam olulisele nõudele. Need on soovitused, et muuta leping toimivaks. Need ei ole väited, et üks klausel suudab lahendada iga tarnijasuhte.

Vastutus hõlmab ka seda, mida tarnija ei suuda pakkuda. Teenus võib sõltuda kolmanda osapoole mudelist või taristust, mille muudatused on väljaspool vahetu tarnija kontrolli. Ostjat tuleks sellest sõltuvusest teavitada ja ta peaks teadma, millised kohustused kanduvad talle üle. Avalik organisatsioon ei saa hinnata ahelat, kontrollides ainult esiust. Leping peaks säilitama tee asjakohaste tõenditeni või peaks ostja tunnistama, et ebakindlus on põhjus ostu kitsendada või sellest loobuda.

Head piirid kaitsevad ka tarnijaid. Avalik ostja, kes küsib kõiki võimalikke dokumente, kogu lähtekoodi üksikasju ja piiramatut tuge ilma määratletud eesmärgita, võib vähendada konkurentsi ja muuta lepingu väikeste Euroopa pakkujate jaoks ebaatraktiivseks. Proportsionaalsus, selgus ja usutav tõendite ulatus võimaldavad tarnijal öelda, mida ta suudab teha, ja ostjal öelda, mida ta vajab. Avalik hankimine peaks olema nõudlik, ilma et see oleks teatraalne. Võimatuist nõuetest ehitatud müür hoiab halbu süsteeme ja häid süsteeme välja ühesuguse tõhususega.

Muudatus pärast hankelepingu sõlmimist on endiselt hankimine

Hankelepingu sõlmimine ei ole otsuse lõpp. See on punkt, kus teenus satub teistsuguse järelevalve alla. Töö käigus andmed muutuvad, poliitikad vahetuvad, liidesed asendatakse, töötajad õpivad otseteid, tarnijad vaatavad mudeleid üle ja süsteemi võidakse kasutada olukordades, mida algne meeskond ette ei kujutanud. Asutus vajab võimalust neid muudatusi märgata enne, kui neist saab kogemata uus avalik eesmärk.

Algoritmikataloog soovitab korrapäraseid kontrolle, et algoritm töötab nii, nagu ette nähtud, andmete muutuste jälgimist ning tulemuslikkuse ja väljundi hindamist andmete muutumisel, samuti pideva jälgimise kava säilitamist. See sisaldab ka meedet hädaolukorra plaani kohta algoritmi peatamiseks. Need soovitused toovad aja valitsemismudelisse. Hankimine, mis hõlmab ainult esialgset spetsifikatsiooni, on ostnud foto liikuvast teenusest.

Iga uuendus ei peaks käivitama sama tseremooniat. Turvapaik, mis jätab mudeli, andmepiiri ja otsustusrolli muutmata, võib järgida teistsugust teed kui uus mudeliperekond, muudetud otsinguallikas või uus lävend. Leping võib määratleda olulisuse tegevuslikes mõistetes: muudatus on oluline, kui see muudab ülesannet, mõjutatud inimesi, tõendite teed, otsuse tagajärge, kasutusvaldkonda, alltöövõtjat, andmekasutust või sekkumisvõimet. Täpne määratlus vajab õiguslikku ja tehnilist hinnangut. Põhimõte on lihtne: muudatus on osa ostetud võimekusest.

Jälgimine peaks säilitama otsuse tegemiseks vajaliku teabe. Töölaual võib olla näha, et teenus on hõivatud, kuid see ei pruugi näidata, et allikas on aegunud või et hindajad tühistavad sama soovitust. Asutus peaks säilitama asjakohase versiooni, ülesande ulatuse, tõendite tingimused, inimese tegevuse ja muudatuse põhjuse. Ta peaks teadma, millised muudatused võeti vastu, millised tühistati, millised piirati ja millised tekitasid uue hankeküsimuse.

Tarnija ei pruugi suuta iga sisemist muudatust ette teatada. Leping võib siiski nõuda kasutatavat teatist ja tõendite paketti enne, kui muudetud käitumisele toetutakse. Asutus võib valida etapiviisilise kasutuselevõtu, kontrollitud hindamise või ajutise peatamise. Peatamise võimalus ei ole karistus. See on see, mis võimaldab avalikul teenusel vastutavaks jääda, kuni fakte selgitatakse.

Muudatuste register kaitseb ka vale kindlustunde eest. Kui asutus ei suuda öelda, kas erinevus tulenes uuest mudelist, andmemuudatusest, viibast, inimese töölahendusest või välisest sõltuvusest, ei tohiks ta väita, et süsteem käitus järjepidevalt. Õige vastus võib olla kasutuse kitsendamine, paremate tõendite kogumine või mõjutatud marsruudi peatamine. Avalik raha ei muutu turvalisemaks sellepärast, et selgitus on korralik.

Koostalitlusvõime on viisakas sõna lahkumiseks

Inimesed arutavad koostalitlusvõimet sageli nii, nagu oleks see süsteemidevaheline tehniline viisakus. Avalikus hankes on see ka järjepidevuse kontroll. Kui avalik teenus ei suuda oma andmeid, seadeid, tõendeid, liideseid ja tegevusteadmisi teisele marsruudile üle viia, võib asutus olla seaduslikult vaba lahkuma, kuid praktiliselt võimetu seda tegema. Leping on loonud sõltuvuse, mida hankedokument ei nimetanud.

Komisjoni ÜTKS-i aruanne tehisintellekti kasutuselevõtu edendamise kohta ELi avalikes haldustes nimetab hankimist otsustava võimaldava rollina ja ütleb, et koostalitlusvõime tuleks sisse ehitada algusest peale. See esitab ka strateegilise hankimise viisina vähendada sõltuvust ELi välistest pakkujatest ning toetada Euroopa tehisintellekti idufirmasid, avatud lähtekoodi ja GovTechi lahendusi. See ei ole argument osta Euroopat loosungi järgi ega käsitleda avatud lähtekoodi automaatse garantiina. See on argument muuta tehniline ja institutsionaalne võime kurssi muuta ostetava väärtuse osaks.

Lahkumine algab nimekirjaga sellest, mis peab säilima. See võib hõlmata lähteandmeid, identifikaatoreid, silte, viipasid, mudeli ja seadistuse versioone, hindamiskomplekte, auditandmeid, kasutaja ja rolli vastendusi, integratsioonilepinguid, säilitusolekut, turvamaterjali ja väljade tähendust. Nimekiri sõltub teenusest. Kaasaskantav fail ilma kontekstita võib olla vähem kasulik kui väiksem kirje, mille semantika ja õigused on puutumata. Eksport on võimekus, mida tuleb testida, mitte ruut, mida tuleb märkida.

Koostalitlusvõime tähendab ka seda, et asutus suudab läbi viia tähendusliku võrdluse. Kas sihtkoht suudab andmeid töödelda ilma nende tähendust vaikimisi muutmata. Kas hindajad saavad võrrelda vana ja uut väljundit samadel ülesande tingimustel. Kas avalik teenus saab jätkata vähendatud režiimis, kui üks sõltuvus pole saadaval. Kas tõendid jäävad loetavaks pärast liidese kadumist. Need küsimused kuuluvad nõuetesse, hindamisse ja lepingusse, sest hädaolukorras avastatud lahkumine on tavaliselt arheoloogiline väljakaevamine.

Teisaldatavus ei tähenda tingimata, et tarnija peab loovutama kõik sisemised teostusüksikasjad. See tähendab, et asutus saab säilitada avaliku funktsiooni ja talle usaldatud dokumendid, arvestades õiguspäraste õiguste ja turvapiirangutega. Piir tuleb kindlaks määrata enne allkirjastamist. Kui tarnija mudel on kättesaamatu, saab asutus siiski nõuda teisaldatavaid sisendeid, väljundeid, otsuste protokolle, hinnanguid, konfiguratsiooni ja teed teenuse avalike kohustuste taastamiseks. Kui seda teed ei ole võimalik saada, tuleks sõltuvuse hind ausalt hinnata või sellest loobuda.

Väljumise proovikäik on väärtuslik, sest see muudab lepingulise lubaduse vaadeldavaks võimekuseks. Avalik ostja saab testida eksporti, kontrollida välju, käivitada esindusliku töökoormuse kontrollitud sihtkohas ja võrrelda saadud andmeid. Ta saab kirja panna, mis ei liikunud, ja otsustada, kas lünk on vastuvõetav. Harjutus ei pea olema dramaatiline. Väike proovikäik enne pikendamist on parem kui kangelaslik migratsioon pärast seda, kui tarnija on ainus, kes süsteemi mäletab.

Väljumine on jada: asutus, eksport, tähendus, kontroll, järjepidevus ja lõpetamine. Nupp, millel on kiri eksport, ei ole see jada.

Kulud on rohkem kui rida hanketeates

Hinda on lihtne võrrelda, kui ostetav asi on stabiilne. AI-hangetel on pikem kulude ajahorisont. Võib esineda integreerimistööd, andmeallikate ettevalmistust, läbivaatamise aega, turvakontrolle, salvestust, hindamist, mudeliuuendusi, ligipääsetavuse tööd, intsidentidele reageerimist, tuge, eksporti ja asendamist. Osa kuludest kannab asutus. Teised kanduvad töötajatele või avalikkusele, kui teenust on raskem vaidlustada. Hanget, mis võrdleb ainult esialgset tasu, ei saa tingimata pidada ökonoomsemaks. See lihtsalt loeb ühte nähtavat osa.

Direktiiv 2014/24/EL näeb ette olelusringi kulude arvestamise, kui asutus selle lähenemisviisi valib. Direktiiv kirjeldab kulusid nagu soetamine, kasutamine, hooldus, eluea lõpp ning asjakohasel ja tõendataval juhul keskkonnamõjud. Samuti nõuab see, et hankedokumentides oleks märgitud, millised andmed pakkujad peavad esitama ja millist meetodit olelusringi kulude hindamiseks kasutatakse. See on AI puhul kasulik distsipliin, sest see kohustab ostjat ütlema, mida arvesse võetakse, selle asemel et iga tarnija tooks kaasa oma odavuse määratluse.

Sama põhimõte kehtib ka inimeste tähelepanu kohta. Kui süsteem koostab soovitusi, mis vajavad ülevaatamist, kuulub nende ülevaatamise töö tegevusmudelisse. Kui avalik teenus vajab paranduste tegemiseks kanalit, vajab see kanal omanikku ja aega. Kui tarnija uuendus nõuab uut hindamist, peab asutusel olema suutlikkus see läbi viia. Need ei ole argumendid automatiseerimise vastu. Need on meeldetuletused, et automatiseerimine muudab seda, kus töö toimub. Kokkuhoid arvel võib olla kulu järjekorras, kui hankes ei nimetata uut tööd.

Kulud peaksid hõlmama ka lahkumisvõimetuse kulusid. Sõltuvus võib tunduda odav, kui see on uus, ja muutuda kalliks, kui selle ümber on kogunenud andmed, teadmised, integratsioonid ja avalikkuse ootused. Ostja võib küsida migratsioonihinnangut, andmete ja artefaktide inventuuri, tugikohustust ja prooviplaani. Ta saab neid tingimusi võrrelda pakkumuse väärtuse osana. Valik ei ole optimismi ja pessimismi vahel. See on valik nähtava sõltuvuse ja tulevikuvormi peidetud sõltuvuse vahel.

Elutsükli mõtlemine aitab hankemeeskonnal öelda ei, teeslemata, et kõige odavam nähtav pakkumus on neutraalne valik. Meeskond võib pakkumuse tagasi lükata, kuna selle tõendid, ülevaatuskoormus, muudatuste tee või lahkumiskulu ei sobi kokku avaliku eesmärgiga. Ta saab otsust selgitada avaldatud kriteeriumide alusel. See ei ole turuvastane žest. See on see, mida kontrollitavate nõuetega turg peaks võimaldama.

Avalikud ostjad vajavad volitust öelda ei

Hankemeeskond ei saa kasutada volitust, mida organisatsioon talle ei ole andnud. Paljudel asutustel on inimesi, kes oskavad hinnata õiguslikke, tehnilisi, finants- ja teenuseküsimusi, kuid volitus ühendada need hinnangud peatuseks või keeldumiseks on ebaselge. Tulemus on tuttav: mured kirjutatakse ühte dokumenti, entusiasm teise ja hankeleping sõlmitakse, sest keegi ei tea, millisel rollil on õigus värav sulgeda.

Volitus peaks nimetama rollid, kes võivad igas etapis ostu vastu võtta, tagasi lükata, kitsendada või peatada. Rollid vajavad juurdepääsu asjakohastele tõenditele ja kanalit põhjuse registreerimiseks. Hankeametnik võib omada protsessi, teenuse omanik avalikku eesmärki, andmekaitseametnik privaatsustingimust, turvajuht kontrolli, tehniline hindaja testi ja kõrgem vastutav roll lõplikku otsust. Täpne korraldus varieerub. Korralduse puudumine on ohtlik osa.

Kasulik peatustingimus ei ole punane märk, mis ütleb kõrge risk. See on fakt, mis blokeerib järgmise otsuse. Kavandatud eesmärk ei ole piisavalt määratletud. Tarnija ei suuda esitada tõendeid olulise nõude kohta. Mõjutatud isikul ei ole kasutatavat ülevaatuskanalit. Asutus ei saa asjakohast muudatust kontrollida. Andmete või artefaktide õigused on ebaselged. Süsteemi ei saa eksportida ega asendada järjepidevusplaani raames. Inimhindajal on vastutus, kuid mitte volitust. Igal tingimusel võib olla erinev lahendus. Mõni nõuab selgitust, mõni lepingumuudatust, mõni kitsamat ulatust ja mõni ei.

Peatustingimused peaksid olema teada enne pakkumuste hindamist. Need peaksid olema seotud hinnangukriteeriumide ja lepinguga, et ostja ei leiutaks uut standardit pärast tarnija vastuse nägemist. Neid tuleks ka pärast hankelepingu sõlmimist uuesti läbi vaadata. Nõue, mis oli käivitamisel täidetud, võib muutuda täitmata pärast olulist muudatust või uut kasutusviisi. Oskus öelda ei ei ole üks värav lõpus. See on hooldatud volitus kogu teenuse eluea jooksul.

Mõelge hüpoteetilisele avalikule meeskonnale, kes hangib dokumendiedastusteenust. Selle avaldatud nõuded hõlmavad allika jälgitavust, inimülevaate rada, teadet oluliste mudelimuudatuste kohta, andmete eksporti ja määratletud lõpetamisprotseduuri. Üks pakkuja pakub tugevat demonstratsiooni, kuid ei võimalda asutusel kontrollida allikavalikut ega säilitada versioonitud edastustõendeid. Teine pakkuja pakub vähem funktsioone, kuid vastab tõendite ja väljumisnõuetele. Meeskond ei ole kohustatud eelistama valjemat demonstratsiooni. See võib kohaldada sätestatud kriteeriume, esitada proportsionaalseid küsimusi ja lükata esimese pakkumise tagasi, kui oluline nõue jääb tõendamata.

Seda otsust ei tohiks kirjutada moraalse hinnanguna tarnija või tehnoloogia kohta. Selles tuleks välja tuua avalik eesmärk, nõue, saadud tõendid, lahendamata tingimus ja otsus, mida hankedokumendid võimaldavad. Selge ei on lugupidavam kui ähmane võib-olla, millest saab hiljem kohustuslik pikendamine. See annab ka turule kasuliku signaali: avalikud ostjad maksavad tõendite ja kontrolli eest, mitte ainult võimekuse teatri eest.

Inimlik õigus peatada peab olema kasutatav intsidendi korral. Operaator peaks teadma, keda helistada, millist süsteemi olekut säilitada, milline teenusetee võib jätkuda ja millist suhtlust nõutakse. Otsuse protokoll peaks eristama viivitamatut ohjeldamist pikemast hankeotsusest. Avalik asutus ei pea ootama täiuslikku uurimist enne edasise kahju ärahoidmist, kuid peaks vältima suurema kindluse väitmist, kui tal on. Peatamine on kontroll. Selgitus võib areneda.

Hanked kujundavad turgu

Avalik hange on üks viis, kuidas Euroopa otsustab, milliseid võimeid tasub arendada. JRC aruanne AI kasutuselevõtu edendamise kohta ELi avalikes haldusasutustes kirjeldab avalikku sektorit kui olulist turu kujundavat jõudu. See seob eduka kasutuselevõtu valitsemise, tööjõu valmisoleku, vastutustundliku hanke, koostalitlusvõime ja avaliku usaldusega. Samuti öeldakse, et strateegiline hange võib vähendada sõltuvust mitte-ELi pakkujatest ning toetada Euroopa idufirmasid, avatud lähtekoodi ja GovTechi lahendusi. Asi ei ole selles, et avalik asutus peaks muutuma riskikapitalifondiks. Asi on selles, et selle nõuded võivad kas premeerida vastutustundlikku võimekust või premeerida veenvat ümbrist sõltuvuse ümber.

Euroopa Kontrollikoja eriaruanne nr 28/2023 kannab pealkirja Public procurement in the EU: less competition for contracts awarded for works, goods and services in the ten years up to 2021. Selle avalik kokkuvõte kirjeldab konkurentsi Euroopa riigihangetes kahanevana. Turg, kus on vähem tõhusaid konkurente, on halb koht ähmastete nõuete peitmiseks. Kui asutus ei saa tõendeid võrrelda, võib ta valida turundusstiilide, mitte teenuste vahel. Öeldes ei kontrollimatule pakkumisele, saab säilitada tingimused paremaks konkurentsiks hiljem.

Samas võib ostja kogemata välistada kasulikke tarnijaid, nõudes tõendeid vormis, mida suudab toota ainult suurim müüja. Proportsionaalsed nõuded, selged liidesed, avatud vormingud ja etapiviisilised hindamised võimaldavad väiksematel organisatsioonidel demonstreerida piiritletud võimekust ilma teeskluseta, et neil on rahvusvahelise ettevõtte ressursid. Ostja peaks olema range avaliku eesmärgi suhtes ja paindlik rakendamise suhtes seal, kus rakendamine seda eesmärki ei mõjuta. Nii muutub ei paremaks küsimuseks, mitte suletud ukseks.

Turu kujundamine tähendab ka keeldumist teha ühe tarnija eraarhitektuurist avaliku vajaduse määratlus. Kui nõue nimetab konkreetse mudeli, pilve või patenteeritud töövoo ilma põhjendatud seoseta ülesandega, võib konkurents kitseneda enne tõendite nägemist. Funktsionaalsed nõuded ja kontrollitavad tulemused annavad avalikele ostjatele rohkem ruumi lähenemisviiside võrdlemiseks. Need muudavad ka lepingu vähem hapraks, kui valitud komponent muutub.

Avaliku sektori asutus võib olla nõudlik tellija, ilma et temast saaks keeruline klient. Ta võib avaldada ootused, millele tõendid peavad vastama, selgitada peatustingimuse põhjust, pakkuda võimalust selgituste küsimiseks ja maksta töö eest, mis loob püsivat avalikku võimekust. Siis on turul millelegi kasulikule reageerida. Turul ei pea arvama, kas võidutegur oli varjatud eelistus, ilus demo või tulevase probleemi hind.

Töömudel hankele, mis võib keelduda

Järgnev mudel on praktiline soovitus, mitte uus õiguslik menetlus. See on viis hoida avalik otsus nähtavana, kui süsteem liigub ideest toimimiseni. Asutus peaks kohandama seda oma õiguse, valdkonna, riski ja hankemeetodiga. Oluline on, et igal väraval on omanik, tõendid ja lubatud tulemus, mis hõlmab peatamist või keeldumist.

Esiteks kirjutage avalik eesmärk. Nimetage teenus, inimesed, kes seda osutavad, inimesed, kes seda saavad, otsus või toiming, mis võib muutuda, ja põhjus, miks süsteemi kaalutakse. Määrake, mis jääb reguleerimisalast välja. Kui eesmärki ei saa kirjeldada ilma tarnija tootesõnavarata, on asutus alles turuavastuse faasis. Selle värava väljund on probleemipüstitus ja otsus, kas hange on õige järgmine samm.

Teiseks kirjutage tõendite piir. Iga olulise väite kohta määrake, mis näitaks, et see on kavandatud ülesandes tõene. Nimetage andmetingimused, keel, juurdepääsuvajadused, lähteandmed, versioon, lähtetase ja läbivaatamise kord, mis muudavad testi tähenduslikuks. Määrake, mis peab olema kontrollitav, mida võib hoida konfidentsiaalsena ja mis tuleb esitada lepinguandmetena. Selle värava väljund on nõuete kogum, millest pakkujad saavad aru, ja hindamiskava, mis võib muuta hanke tulemust.

Kolmandaks kirjutage volituste piir. Nimetage toimingud, mida süsteem võib soovitada, toimingud, mida ta võib teha, toimingud, mis vajavad kinnitust, ja toimingud, mis on keelatud. Nimetage, kes võib parandada allikat, lükata tagasi väljundi, muuta reeglit, peatada teenuse ja rääkida mõjutatud isikuga. Määrake, mis juhtub, kui süsteem on ebakindel või tõendid on vastuolus. Selle värava väljund on inimlik kord, mis on täpsem kui märkeruut.

Neljandaks kirjutage muudatuste piir. Määrake muudatused, mis nõuavad teatamist, hindamist, kinnitust või uut hankeotsust. Hõlmake mudelit, andmeid, tarnijat, alltöövõtjat, taristut, töötlemise asukohta, liidest, künnist, sihtrühma, eesmärki ja inimlikku korda. Otsustage, millised tõendid jäävad muudatuse andmete juurde ja mida võib seaduslikel põhjustel redigeerida. Selle värava väljund on hooldatav andmekogu, mitte lubadus, et süsteem jääb muutumatuks.

Viiendaks kirjutage väljumise piir. Loetlege andmed, seadistused, tõendid, õigused, integratsioonid ja operatiivteadmised, mis peavad säilima. Määrake vormingud, ajastus, tugi, kontrollimine, vähendatud teenus, üleminek, juurdepääsu sulgemine ja kustutamine. Harjutage väikest eksporti enne pikendamist või olulist laiendamist. Selle värava väljund on kord, mida saab testida, kui tarnija on veel partner, mitte alles siis, kui suhtest on saanud vaidlus.

Kuueks kirjutage avalik andmekogu. Otsustage, mida saab avaldada eesmärgi, süsteemi rolli, tõendite, inimliku korra, muudatuste, juhtumite ja vaidlustamise kontakti kohta. Kaitske konfidentsiaalset ja isikuandmeid, muutmata kogu otsust eravestluseks. Avalik andmekogu võib öelda, mis on teada, mis ei ole teada ja millal toimub järgmine läbivaatamine. Selle ülesanne ei ole lasta süsteemil tunduda täiuslik. See on muuta asutuse otsustus kontrollitavaks.

Lõpuks kirjutage keeldumine. Keeldumine ei ole dramaatiline pressiteade. See on tavapärane tulemus otsustusprotokollis: nõue oli oluline, tõendid ei vastanud sellele, kaaluti parandusmeedet ja asutus otsustas keelduda, kitsendada, peatada või otsida teistsugust lahendust. Riigihange, mis ei suuda sellist protokolli koostada, on muutnud ostu vältimatuks enne, kui see järeldus on välja teenitud.

Neid väravaid saab esitada pakkumuse vastuses, projekti alustamise arhitektuuris, lepingu ajakavas, läbivaatuskoosolekul ja intsidentide tegevuskavas. Need ei tohiks muutuda suuremaks vormiks iseenda pärast. Kui värav ei muuda seda, mida meeskond otsustada saab, on see tõenäoliselt dokumentatsiooniteater. Kui see annab inimesele tõendid ja volituse tegutseda, on see osa teenusest.

Küsimused, mida tasub pakkumusse lisada

Parimad küsimused ei ole need, mis panevad tarnija oma turunduskeelt kordama. Need on küsimused, mis muudavad avaliku eesmärgi ja tõendite piiri nähtavaks. Ostja saab järgmisi küsimusi kohandada süsteemile ja menetlusele:

  • Millist täpset avalikku ülesannet kavandatav võimekus toetab ja millised ülesanded jäävad selle sihtotstarbelisest kasutusest välja?
  • Millised inimesed, dokumendid ja andmeallikad on reguleerimisalas ning millised tuleb välistada?
  • Millist väljundit süsteem toodab ja milline otsus või tegevus võib sellele järgneda?
  • Millist nõuet saab demonstreerida, millist kontrollida ja millist hooldatakse lepinguliselt?
  • Kuidas taastoodab asutus tulemuse asjakohase versiooni, allikate, konfiguratsiooni ja ülesande tingimustega?
  • Mida saab inimene, kes teeb läbivaatuse, näha, muuta, tagasi lükata, edasi kaevata või peatada enne olulise tegevuse toimumist?
  • Millised mudeli, andmete, taristu, alltöövõtja või poliitika muudatused nõuavad teatamist ja uuesti hindamist?
  • Milliseid dokumente ja artefakte saab asutus eksportida, millistes vormingutes, millise tähenduse, õiguste ja säilitusstaatusega?
  • Mis juhtub, kui teenus pole kättesaadav, tõendid on puudulikud või inimene vaidlustab tulemuse?
  • Millised tugi-, auditi-, intsidentide-, koolitus- ja lahkumiskohustused jätkuvad pärast esimest väljalaset?

Need küsimused ei asenda hankedirektiivi, AI-määrust, andmekaitseseadust ega valdkonna eeskirju. Need on ajendid, et asutus muudaks oma kohustused toimivaks. Tarnija, kes suudab neile selgelt vastata, ei pruugi siiski olla õige tarnija. Tarnija, kes ei suuda neile vastata, võib siiski omada kasulikku komponenti, kuid asutus ei tohiks segi ajada kasulikku komponenti täieliku avaliku võimekusega.

Meie väike märkus

Dweve'is hõlmab meie AI Compas reguleeritud Euroopa organisatsioonidele mõeldud tarnijaneutraalset hanke- ja haldusrada. RFI- ja RFP-materjal palub meeskondadel kasutusjuhtum klassifitseerida, rakendada väljalangemiskriteeriume, võrrelda tarnijaid, viia läbi kontseptsiooni tõestus ja säilitada tõendid järelevalve kaudu. See on meie rakenduskontekst, mitte sõltumatu tõend avaliku hanke kohta ega väide, et üks raamistik sobib igale asutusele. Mainime seda seepärast, et siin kirjeldatud distsipliin on ka distsipliin, mida püüame oma töös kasutada: määratleda piir, nõuda tõestust, hoida otsus inimese käes ja muuta väljumine nähtavaks.

Meie Trust Centre teeb sama eristuse teises registris. Avalik dokument võib kirjeldada, mis on dokumenteeritud, mis on ette valmistatud ja mis jääb tulevaseks sündmuseks, ilma et kavatsuse avaldus muutuks tõendiks. Hankemeeskond väärib sama ausust oma tarnijatelt. Ostja peaks suutma näha väite staatust, selle taga olevaid tõendeid ja selle vaidlustamise teed.

Õppetund

Avaliku võimu asutus ei muutu aruandekohustuslikuks siis, kui ta AI-süsteemile alla kirjutab. Ta muutub aruandekohustuslikuks siis, kui hankemenetlus suudab selgitada, miks süsteem sellesse töösse kuulub, millised tõendid seda järeldust toetavad, kes võib sekkuda, mis juhtub siis, kui süsteem muutub, ja kuidas avalik funktsioon saab jätkuda, kui tarnija seda ei suuda.

Euroopa hankereeglid annavad juba olulised harjumused: kriteeriumid peaksid olema seotud hanke esemega, teave peaks olema kontrollitav, kaalud peaksid olema välja toodud ja lepingutingimused peaksid olema selged. Euroopa Komisjoni AI-hankeklauslid annavad avalikele ostjatele võimaluse arutada kõrge ja madala riskiga süsteeme ning vastutuse jagamist. Hollandi Algoritmikader muudab vastutustundliku hanke praktilisteks meetmeteks eesmärgi, andmete, tõendite, auditi, inimkontrolli, peatamise ja väljumise kohta. JRC aruanne paigutab hanke Euroopa võimekuse ja suveräänsuse arutelu keskmesse. ECA hoiatus kahaneva konkurentsi kohta tuletab meelde, et nõrka konkurssi ei paranda enesekindel otsus.

Raske sõna on ikka veel ei. Ei, eesmärk ei ole määratletud. Ei, tõendeid ei saa kontrollida. Ei, inimlik tee on dekoratiivne. Ei, muudatuste rada on nähtamatu. Ei, avalikku arvestust ei saa pidada. Ei, teenus ei saa lahkuda ilma kaotamata tööd, mida see pidi kaitsma. Iga ei võib olla keeldumine, kitsendus, paus või taotlus parema vastuse saamiseks. Asutus peaks otsustama, milline neist, kirja panema, miks, ja hoidma otsuse vaidlustamiseks avatuna.

Hange, mis oskab öelda ei, ei ole hange, mis kardab tehnoloogiat. See on hange, mis teab vahet võimekuse ja lubaduse vahel. See maksab süsteemi eest, mida saab testida, jälgida, muuta ja maha jätta. See annab tarnijatele õiglasema konkursi, sest küsimus on nähtav. See annab avalikele teenistujatele võimaluse sekkuda enne, kui probleemist saab poliitika. See annab teenusest mõjutatud inimestele midagi kasulikumat kui kinnitus, et müüja on heaks kiidetud.

Avalik ost peaks lõppema teenusega, mida asutus saab endiselt juhtida. Kui tõendid on tugevad, on jah-ütlemine tähenduslik. Kui tõendid on nõrgad, on ei-ütlemine avalik töö. Hankefail peaks suutma sisaldada mõlemat lauset.

Allikad