Viešoji tarnyba negali perduoti savo sprendimo

Tiekėjas gali pateikti programinę įrangą, įrodymus ir nuomonę. Jis negali tapti viešąja įstaiga, kuriai priklauso tikslas, įgaliojimai, motyvai, sprendimo...

Viešoji tarnyba negali perduoti savo sprendimo

Sutartis nėra sprendimas

Viešasis subjektas gali įsigyti programinę įrangą. Jis gali įsigyti prieglobą, analizę, rekomendaciją, darbo eigą, vertimą, reitingavimą ar ataskaitą. Ko jis negali įsigyti, tai pabėgti nuo to, kad jis yra viešasis subjektas, kuris veikia. Sutartis gali priskirti darbą tiekėjui, tačiau ji neperduoda institucijos viešojo tikslo, teisinės galios, pareigos motyvuoti ar prievolės suteikti teisių gynimo priemonę. Šie dalykai seka sprendimą, o ne sąskaitą faktūrą.

Tai skamba akivaizdžiai, kol viešųjų pirkimų kalba paverčia sprendimą rezultatu. Konkurso sąlygose prašoma rizikos balo. Tiekėjas pateikia rizikos balą. Sutartyje rezultatas vadinamas rekomendaciniu. Paslauga tyliai pakeičia savo eilę, dėmesį ar ribą, nes balas yra patogus. Kai tik tai paliečia žmogų, kiekvienas gali parodyti į skirtingą dokumentą. Tiekėjas rodo į techninę specifikaciją. Pirkimų komanda rodo į sprendimą dėl sutarties sudarymo. Operatorius rodo į ekraną. Institucija rodo į sutartį. Žmogus, kuriam reikia atsakymo, lieka apsuptas rodomųjų pirštų rato ir be niekieno atsakomybės.

Viešasis darbas visada apėmė įgaliojimų perdavimą. Savivaldybė gali užsakyti patikrinimą, ministerija gali įsigyti bylų valdymo sistemą, o ligoninė gali pirkti grafiko sudarymo paslaugą. Delegavimas nėra problema. Problema prasideda tada, kai deleguotam komponentui leidžiama nešti sprendimą be įgaliojimų, įrodymų ir peržiūros, kurie daro sprendimą teisėtą. Įrankis gali būti puikus vienoje užduotyje ir vis tiek būti netinkama vieta viešajam sprendimui. Pirkimai turi išsaugoti tą skirtumą, kol tiekėjo žodynas tampa organizacijos veiklos modeliu.

Europos viešųjų pirkimų tradicija jau turi teisingą nuojautą. Perkančiosios organizacijos turi veikti skaidriai, proporcingai, be diskriminacijos ir be dirbtinio konkurencijos susiaurinimo. Tai ne tik sąžiningas būdas vykdyti konkursą. Tai priminimas, kad institucija lieka matoma pačiame pirkime. Viešasis subjektas pasirenka tikslą, apibrėžia poreikį, nustato sąlygas ir prisiima pasekmes. Protinga sistema nepriverčia tų pasirinkimų išnykti. Ji tik suteikia jiems brangesnę sąsają.

Sprendimas nėra tas pats, kas rezultatas

Techninės sistemos sukuria rezultatus. Viešosios institucijos priima sprendimus. Šie du dalykai gali egzistuoti greta, tačiau jie nėra keičiami. Klasifikatorius gali priskirti kategoriją. Paieškos sistema gali rasti dokumentus. Kalbos modelis gali parengti laiško juodraštį. Optimizavimo įrankis gali rasti kelią per apribojimus. Nė vienas iš šių veiksmų savaime neapima teisinio ar pilietinio klausimo, kas turėtų nutikti žmogui.

Sprendimas atsiranda tada, kai institucija nusprendžia, kad rezultatas yra aktualus, pakankamas ir įgaliotas konkrečiam veiksmui. Jis atsiranda, kai subalansuojami konkuruojantys interesai, kai apsvarstoma išimtis, kai taisyklė aiškinama atsižvelgiant į kontekstą, kai išklausomas žmogus, kai priimamas vėlavimas, kai ištaisoma klaida ir kai pateikiama motyvacija. Modelis gali prisidėti informacija prie tų akimirkų. Jis neįgyja viešosios galios vien todėl, kad yra tikslus, greitas ar užtikrintai pateiktas.

Šis skirtumas svarbus, nes pirkimuose sistemos dažnai aprašomos gebėjimų kalba. Tiekėjas aptiks, įvertins, nustatys prioritetus, rekomenduos ar automatizuos. Gebėjimų kalba naudinga ieškant rinkos. Jos nepakanka atsakomybei priskirti. Konkurso sąlygose turi būti nurodyta, kuris žmogus ar institucija paverčia gebėjimą veiksmu, kokius įrodymus tas vaidmuo turi patikrinti, kokie veiksmai draudžiami ir kaip paveiktas asmuo gali apskųsti rezultatą.

Šis perėjimas nuo galimybės prie įgaliojimo yra pirmasis rimtas viešojo pirkimo veiksmas. Be jo pirkėjas neperka apibrėžtos paslaugos. Jis perka spragą savo pačios atsakomybės aprašyme. Į spragas lengva nekreipti dėmesio, kol projektas švenčiamas. Jos tampa stebėtinai apčiuopiamos, kai kas nors paklausia, kodėl buvo priimtas sprendimas.

Pradėkite nuo viešojo tikslo

Atsakingas viešasis pirkimas prasideda nuo viešojo tikslo, o ne nuo modelio kategorijos. Klausimas nėra tai, ar institucija gali nusipirkti dirbtinio intelekto sistemą. Klausimas yra tai, kokiai viešajai užduočiai reikia paramos, kokio rezultato ta užduotis turi pasiekti, kam ji daro poveikį ir kas būtų laikoma nesėkme. Siauras tikslas įgalina vėlesnius pasirinkimus. Šūkis, pavyzdžiui, didinti efektyvumą, palieka kiekvieną esminį sprendimą vėlesniam laikui, paprastai tiekėjo demonstracijos metu.

Tikslas turėtų būti surašytas paslaugos kalba. Komandai gali reikėti rasti trūkstamą informaciją faile, nukreipti užklausas tinkamam specialistui, išversti viešąjį pranešimą, parengti vidinę santrauką arba nustatyti atvejus, kuriems reikia dėmesio. Tai skirtingos užduotys su skirtingomis pasekmėmis. Juodraštis gali būti atmestas. Nukreipimas gali atidėti žmogaus laiką. Vertimas gali pakeisti prieigą. Prioritetų nustatymas gali pakeisti tai, kas gauna ribotą laiką. Vienas žodis, automatizavimas, slepia visą viešosios galios geografiją.

Tikslo aprašyme taip pat turėtų būti nurodyta, ko sistemai neleidžiama daryti. Ji gali padėti atvejo vadybininkui, bet negali nustatyti tinkamumo. Ji gali pasiūlyti eilės tvarką, bet negali pašalinti žmogaus iš paslaugos. Ji gali pateikti dokumentus, bet negali nuspręsti, kurie įrodymai yra teisiškai svarbūs. Ji gali parengti komunikaciją, bet negali jos išsiųsti be nurodyto patvirtinimo. Neigiama erdvė nėra dokumentų rengimo prabanga. Tai būdas, kaip riba išlieka įprastą darbo dieną.

Yra praktinė priežastis būti čia griežtiems. Sistemos naudojimas plečiasi per patogumą. Kai įrankis tampa prieinamas, kita komanda klausia, ar jis gali atlikti gretutinę užduotį. Pradinis tikslas skamba pakankamai panašiai. Pridedamas naujas laukas, prijungiamas naujas duomenų šaltinis ir paveikiama nauja žmonių grupė. Jei pradinis tikslas buvo neaiškus, niekas negali pasakyti, ar tai nedidelis pakeitimas, ar naujas viešasis veiksmas. Viešasis pirkimas turėtų sukurti pakeitimo klausimą, į kurį organizacija galėtų atsakyti, kol naujas naudojimas netampa įprastas.

Europos taisyklės apsunkina atsakomybės slėpimą

Direktyva 2014/24/ES nustato įprastą viešųjų pirkimų pagrindą: vienodą požiūrį, nediskriminavimą, skaidrumą ir proporcingumą. Šie principai nenustato konkrečios technologijos. Jie reikalauja, kad perkančioji organizacija sukurtų procesą, kurį būtų galima paaiškinti ir apginti. Reikalavimas, kurį gali įvykdyti tik vienas tiekėjas be tikros veiklos priežasties, yra valdymo problema, o ne tik rinkos problema. Reikalavimas, kurio negalima patikrinti, yra pažadas, vilkintis pirkimo numerį.

Tie patys principai taikomi, kai perkamas dalykas yra modelis, agentas ar sprendimų paramos paslauga. Institucija turi apibūdinti savo poreikį taip, kad būtų užtikrinta sąžininga konkurencija ir prasmingas vertinimas. Ji turi palyginti pasiūlymus pagal kriterijus, kurie svarbūs paslaugai, o ne tik pagal tiekėjo pageidaujamą etaloną. Ji turi išsaugoti įrodymus, pagrindžiančius sprendimą, ir valdyti sutartį, kai realybė skiriasi nuo konkurso sąlygų. Skaidrumas nesibaigia, kai paskelbiamas laimėjęs pasiūlymas. Jis tęsiasi per vykdymą, pakeitimus ir pasitraukimą.

ESMA reglamentas dėl dirbtinio intelekto prideda antrą lygmenį tam tikroms didelės rizikos sistemoms. 14 straipsnis reikalauja žmogaus priežiūros, kuri būtų veiksminga, proporcinga rizikai, autonomijos lygiui ir kontekstui, ir galėtų aptikti anomalijas, interpretuoti rezultatus, jų nepaisyti arba juos pakeisti bei saugiai sustabdyti sistemą. 27 straipsnis reikalauja, kad atitinkamos viešosios įstaigos ir viešųjų paslaugų teikėjai įvertintų poveikį pagrindinėms teisėms prieš diegdami nurodytas didelės rizikos sistemas ir atnaujintų vertinimą pasikeitus kontekstui. Tai veiklos įpareigojimai, o ne dekoratyvi kalba politikos puslapiui.

DI reglamentas nepaverčia kiekvieno viešojo programinės įrangos pirkimo ta pačia teisine kategorija. Jis daro ką nors naudingesnio: jis apsunkina galimybę susiliejti teikėjo, diegėjo, sistemos ir paveikto asmens santykiams. Teikėjas privalo apibūdinti galimybes ir apribojimus. Diegėjas privalo tinkamai naudoti sistemą ir prisiimti atsakomybę už jos naudojimą. Viešosios institucijos turi registracijos ir informavimo pareigas dėl nurodytų didelės rizikos sistemų. Tikslus teisinis taikymas priklauso nuo naudojimo ir atitinkamų nuostatų. Valdymo pamoka yra stabili: šalis, perkanti galimybę, vis tiek atsako už kontekstą, kuriame ta galimybė veikia.

Teikėjo rezultatams reikia namų

Kiekvienas rezultatas, naudojamas viešajame darbo procese, turėtų turėti pavadintus namus. Tie namai nėra vien duomenų bazės lentelė. Tai vaidmuo, turintis įgaliojimus nuspręsti, ar rezultatas tinkamas paskirčiai, kokie įrodymai jį pagrindžia, kas atsitinka, kai jis klaidingas, ir kuri versija jį sukūrė. Jei rezultatas neturi savininko, jis bus laikomas visų rūpesčiu iki pirmojo ginčo, kai jis tampa niekieno darbu.

Nuosavybė turėtų būti padalinta nesuardant jos į dalis. Paslaugos savininkas žino viešąją paskirtį ir priimtiną riziką. Duomenų savininkas žino šaltinį, kokybę, prieigą ir taisymo kelią. Techninis savininkas žino diegimą, saugumą, pajėgumą ir integraciją. Modelio arba teikėjo savininkas žino vertinimą, apribojimus ir pakeitimus. Veiklos peržiūros specialistas žino darbą ir gali sustabdyti bylą nuo tolesnio keliavimo. Šie vaidmenys gali priklausyti vienai mažai komandai. Jų negali pakeisti frazė „žmogus sistemoje“.

Asmeniui, kuris peržiūri rezultatą, reikia laiko, informacijos ir įgaliojimų. Jei sąsaja rodo tik balą, peržiūrintysis negali patikrinti jo pagrindo. Jei eilė neleidžia atlikti peržiūros, peržiūrintysis negali vykdyti prasmingos priežiūros. Jei politika teigia, kad rezultatas yra patariamasis, o darbo procesas jį traktuoja kaip numatytąjį atsakymą, peržiūrinčiojo prašoma suteikti parašą, o ne sprendimą. Mygtukas, pažymėtas „patvirtinti“, nėra kontrolės taškas, kai už jo stovintis asmuo negali saugiai pasirinkti nieko kito.

Viešieji pirkimai todėl turėtų prašyti teikėjų apibūdinti perdavimą. Kas tiksliai patenka į sistemą. Kas išeina. Koks neapibrėžtumas ar apribojimas keliauja kartu su rezultatu. Ką operatorius gali matyti. Ką operatorius gali keisti. Ką sistema daro, kai įvestis yra už deklaruotos apimties ribų. Kaip sustabdymo veiksmas yra pateikiamas. Kurie įrašai įrodo, kad peržiūra įvyko. Teikėjas, galintis atsakyti į šiuos klausimus, apibūdina veikiančią paslaugą. Teikėjas, atsakantis tik veiklos balu, apibūdina komponentą.

Pirmasis vaizdas: atsakomybė seka grandinę

Atsakomybė neišnyksta ties tiekėjo riba. Ji keliauja per tikslą, įrodymus, peržiūrą, veiksmą ir teisių gynimo priemonę.

Balas nėra priežastis

Balai patrauklūs viešuosiuose pirkimuose, nes palyginimas atrodo švarus. Tiekėjas gali pateikti tikslumą, delsą, aprėptį ar rankinio darbo sumažėjimą. Pirkėjas gali sudėti reikšmes į lentelę ir pajusti, kad sprendimas tampa objektyvus. Matavimas vertingas. Tačiau balas atsako tik į tą klausimą, kuriam buvo sukurtas. Jis netampa viešojo veiksmo priežastimi vien todėl, kad įgijo dešimtainę dalį.

Tarkime, sistema rikiuoja atvejus pagal dėmesio poreikį. Rikiavimas gali būti naudingas, bet viešoji priežastis nėra vien tai, kad skaičius buvo didelis. Institucijai reikia žinoti, kuris teisėtas tikslas leidžia rikiuoti, kokie duomenys buvo vertinti, kurie atvejai neįtraukti, ko rikiavimas nepastebi, kaip peržiūrintysis gali jį pataisyti ir kaip asmuo gali apskųsti rezultatą. Balas yra vienas signalas sprendimo viduje. Jei tai vienintelis sakinys, kurį institucija gali pateikti, tai nėra sprendimo įrodymas. Tai įrodymas, kad institucija perdavė paaiškinimą kam nors kitam.

Etaloninių testų teiginiams taip pat reikia sutarties. Kokia populiacija buvo testuota. Kokios etiketės naudotos. Kokios kalbos ir kraštiniai atvejai įtraukti. Su kuo lyginta bazinė linija. Kaip vertintos klaidos. Kas atsitiko trūkstamiems ar dviprasmiškiems įvesties duomenims. Ar žmogus testo metu pataisė rezultatą. Ar vertinimas atliktas su ta pačia versija, kuri veiks paslaugoje. Be šių detalių etaloninis testas gali būti įdomus, bet negali prisiimti viso viešojo pirkimo sprendimo svorio.

Viešieji pirkėjai turėtų prašyti įrodymų tokia forma, kokios paslaugai prireiks vėliau. Techninis testas gali parodyti, ar modelis atlieka užduotį. Darbo eigos testas gali parodyti, ar žmonės gali pastebėti ir ištaisyti klaidas. Valdysenos testas gali parodyti, ar sprendimą galima atkurti ir apskųsti. Tęstinumo testas gali parodyti, ar institucija gali veikti, kai tiekėjas neprieinamas. Šie testai atsako į skirtingus klausimus. Sujungti juos į vieną tiekėjo balą patogu ir paprastai klaidinga.

Žmogaus priežiūra turi turėti dantis

Žmogaus priežiūra dažnai pateikiama kaip raminantis paskutinis daiktavardis sistemos schemoje. Laukelis, pažymėtas žmogus, atsiranda po modelio ir prieš sprendimą. Schema atrodo atsakinga. Tikrasis klausimas yra tas, ar žmogus gali suprasti, užginčyti ir pakeisti rezultatą tokiomis sąlygomis, kokiomis paslauga veikia.

AI akto 14 straipsnis šiuo klausimu neįprastai konkretus. Žmonėms, kuriems pavesta priežiūra, turėtų būti suprantamos atitinkamos galimybės ir apribojimai, jie turėtų stebėti veikimą, atpažinti automatizavimo šališkumą, interpretuoti rezultatus, nuspręsti jo nenaudoti arba jį panaikinti, o taip pat įsikišti arba nutraukti veiksmus saugia procedūra. Tai yra galios. Jos reikalauja sąsajos, mokymo, darbo krūvio, įrodymų, įgaliojimų ir laiko. Jos taip pat reikalauja organizacijos, kuri palaikytų vertintoją, teigiantį, kad sistema veikia už savo taikymo srities ribų.

Vertintojas negali vykdyti priežiūros, kai rezultatas atimtas iš konteksto. Rezultate turi būti atitinkamos šaltinio nuorodos, įvesties kokybės įspėjimai, versija ir paskirtis. Vertintojui reikia galimybės paprašyti daugiau įrodymų arba pažymėti atvejį kaip neišspręstą. Jei sistema pateikia vieną atsakymą taip, kad alternatyvos tampa brangios, ji įdiegia automatizavimo šališkumą į darbo aplinką. Jei vienintelis būdas sustabdyti darbo eigą yra skambinti tiekėjui, institucija įsigijo sistemą, kurios negali saugiai valdyti.

Proporcingumas svarbus. Mažos pasekmių rizikos dokumentų rengimo pagalbinė priemonė neturi turėti tokių pačių kontrolės priemonių kaip sistema, palaikanti teisės suteikimą, patikrinimą ar prieigą prie priežiūros. Tačiau proporcinga nereiškia simboliška. Kuo labiau sistema gali paveikti teises, saugumą ar esmines paslaugas, tuo labiau institucija turėtų gebėti parodyti, kad priežiūra buvo įmanoma, naudojama ir galėjo pakeisti rezultatą. Žmogus, kuris yra šalia, bet neturi galios, nėra priežiūra. Jis yra dekoratyvus atsakomybės atsisakymas.

Ginčijamumas yra paslaugos dalis

Viešas sprendimas nėra baigtas, kai vidinė darbo eiga sako, kad atlikta. Jis yra pakankamai baigtas, kai paveiktas asmuo supranta, kas įvyko, gali ištaisyti atitinkamus faktus ir pasinaudoti turima peržiūros arba apskundimo galimybe. Ginčijamumas nėra pasirenkama klientų patirties funkcija. Tai yra institucijos santykių su visuomene dalis.

Komisijos paaiškinimas dėl BDAR automatizuotų sprendimų apsaugos priemonių aiškiai išdėsto pagrindinį dalyką. Asmuo neturėtų būti pavaldus vien automatizuotam sprendimui, kuris sukelia teisines arba panašiai reikšmingas pasekmes, išskyrus apibrėžtas sąlygas ir apsaugos priemones. Ten, kur taikomos apsaugos priemonės, asmenims reikia informacijos, galimybės žmogiškai įsikišti ir būdo išreikšti savo nuomonę bei ginčyti sprendimą. Tikslus teisinis kelias priklauso nuo duomenų tvarkymo ir taikytinos teisės. Veiklos principas yra platesnis: paveiktam asmeniui reikia realios įtakos sprendimui, o ne bendro pažado, kad kažkas kažkur gali jį peržiūrėti.

Ta įtaka turi būti susieta su įrodymais. Jei asmuo ginčija prioritetų nustatymą, institucija turi gebėti atkurti atitinkamą sprendimo kontekstą, o ne tik dabartinę modelio versiją. Jei šaltinio įrašas vėliau buvo pataisytas, organizacija turi atskirti pradinę būseną nuo pataisytos ir nurodyti, kas pasikeitė. Jei žmogiškasis vertintojas atmetė rezultatą, įraše turėtų būti matyti, kad sistema nepriėmė galutinio sprendimo. Ginčijamumas be įrašo yra mandagus prašymas pakartoti klausimą.

Tiekėjai gali padėti užtikrinti ginčijamumą. Jie gali atskleisti versijuotas įvestis, priežastis, šaltinio nuorodas, peržiūros būsenas, pataisymų įvykius ir eksporto formatus. Jie gali priversti paslaugą pristabdyti, o ne tyliai tęsti, kai trūksta įrodymų. Jie negali nuspręsti, koks paaiškinimas yra privalomas pagal viešąją teisę arba kokią teisių gynimo priemonę privalo suteikti viešoji įstaiga. Tai yra instituciniai pasirinkimai. Tiekėjas gali sukurti valdymo mechanizmus. Institucija turi nuspręsti, kur tie mechanizmai veda.

Duomenų ribos yra viešosios ribos

Viešųjų pirkimų diskusijose duomenys dažnai traktuojami kaip įvestis, kurią reikia prijungti pasirinkus tiekėją. Viešojoje paslaugoje duomenų ribos taip pat yra institucijos ribos. Šaltinis nustato, ką sistema gali žinoti, ką gali numanyti, ką gali saugoti ir kuriuos žmones gali paveikti klaida. Tiekėjas neturėtų apibrėžti tų ribų, tiesiog palengvindamas prijungimą.

Reikalavimuose turėtų būti įvardyti įgaliotieji šaltiniai, paskirtis, duomenų naujumas, saugojimo trukmė, prieiga, taisymas ir ištrynimas. Juose turėtų būti atskirti pirminiai įrašai nuo išvestinių duomenų, tokių kaip įterpiniai, santraukos, žymės, talpyklos ir balai. Juose turėtų būti nurodyta, kokie duomenys palieka įstaigą, kokie subrangovai gali juos tvarkyti ir kaip registruojama pagalbos prieiga. Juose turėtų būti apibrėžta, kas atsitinka, kai šaltinis yra neišsamus, pasenęs, ginčijamas arba neatitinka iš pradžių deklaruotos paskirties.

Tai ne tik privatumo klausimas. Šaltinių drausmė daro įtaką sprendimo kokybei ir teisėtumui. Viešoji įstaiga gali turėti daug įrašų ir vis tiek neturėti teisėto ar patikimo pagrindo juos naudoti konkrečiame darbo procese. Modelis gali rasti koreliaciją, kuri yra techniškai naudinga, bet instituciniu požiūriu nepriimtina. Rastas dokumentas gali būti naujas, bet ne autoritetingas. Viešųjų pirkimų reikalavimas turi leisti operatoriui atskirti turimą informaciją nuo pagrįstos informacijos.

Ta pati drausmė padeda ir tiekėjui. Aiškios šaltinių ribos sumažina pagundą žadėti, kad bendrosios paskirties modelis gali atsakyti į bet kurį klausimą. Jos daro vertinimus atkuriamus. Jos apibrėžia, ką paslauga turėtų daryti, kai įvestis nepatenka į sutarties apimtį. Sistema, galinti pasakyti „nepakanka įrodymų“, dažnai yra naudingesnė už sistemą, kuri visada gali pateikti atsakymą. Viešieji pirkėjai turėtų vertinti tokį elgesį, o ne laikyti atsisakymą demonstracijos trūkumu.

Reikalavimuose reikia aprašyti nesėkmes

Dauguma konkursų aprašo norimą kelią: gauti duomenis, juos apdoroti, pateikti rezultatą, įvertinti veikimą. Viešosioms paslaugoms reikia ir nepageidaujamų kelių. Įrašo nėra. Kalba nepalaikoma. Modelis pasikeičia. Šaltinis prieštarauja taisyklei. Tiekėjas nepasiekiamas. Vertintojas nesutinka. Asmuo apskundžia sprendimą. Rezultatas naudojamas ne pagal paskirtį. Duomenų subjektas prašo ištaisyti duomenis. Incidentas nustatomas praėjus mėnesiams po sprendimo.

Nesėkmių reikalavimai turėtų būti patikrinami. Sistema turi sustoti, kai trūksta privalomo lauko. Ji turi nurodyti rekomendacijos versiją ir šaltinių apimtį. Ji turi užtikrinti saugų sustabdymo procesą. Ji turi eksportuoti įrašus dokumentuotu formatu. Ji turi pranešti įstaigai apie esminius pakeitimus. Ji turi užtikrinti išvestinių artefaktų taisymo kelią. Ji turi išsaugoti pakankamai konteksto įgaliotam tyrimui. Ji neturi tyliai pakeisti deklaruoto modelio ar šaltinių klasės kitu, kai deklaruotasis nepasiekiamas.

Šie reikalavimai nėra bandymas nuspėti kiekvieną blogą dieną. Jie yra būdas padaryti paslaugos saugumo poziciją matomą. Tiekėjas gali pasiūlyti kitokį įgyvendinimą, bet įstaiga gali palyginti pasiūlymus pagal stebimą elgesį. Konkursas tampa mažiau funkcijų sąrašu, o labiau klausimu, ar paslauga gali prisiimti atsakomybę spaudimo sąlygomis.

Nesėkmių kalba taip pat pagerina komercinį dialogą. Tiekėjas, kuris negali pasiūlyti saugaus sustabdymo, patikimo eksporto ar pranešimo apie versiją, vis tiek gali tikti mažos rizikos užduočiai. Įstaiga gali tai nuspręsti atvirai. Jai nereikia sužinoti apie apribojimą po sutarties pasirašymo. Niekam nereikia konkurso, kuris yra techniškai įdomus, bet veiklos požiūriu problemiškas.

Sutartis yra veiklos projektas

Dirbtinio intelekto viešosios paslaugos sutartis turėtų aprašyti ne tik veikimo laiką ir palaikymo valandas. Ji turėtų aprašyti įrodymus, pakeitimus, prieigą, peržiūrą, reagavimą į incidentus ir pasitraukimą. Šios sąlygos formuoja tai, ką įstaiga gali žinoti ir daryti prasidėjus paslaugai. Jos yra architektūros dalis net tada, kai pateikiamos teisiniuose prieduose.

Pokyčių kontrolė yra esminė. Kas laikoma reikšmingu modelio, raginimo, duomenų, paieškos ar politikos pakeitimu. Kiek iš anksto reikia pranešti. Kurie vertinimai turi būti pakartoti. Kas gali priimti pakeitimą. Kas atsitinka, jei rezultatai pablogėja tam tikrai pogrupiui ar kalbai. Ar institucija gali atidėti atnaujinimą. Ar gali jį atšaukti. Tiekėjui gali reikėti lankstumo, kad galėtų teikti paslaugą, tačiau lankstumas be įrašų yra rizikos perkėlimas, užmaskuotas kaip judrumas.

Prieigos sąlygos turėtų apimti daugiau nei valdymo skydelius. Institucijai gali reikėti žurnalų, konfigūracijos, testavimo artefaktų, šaltinio identifikatorių, palaikymo įrašų ir pakeitimų istorijos. Prieiga turi būti proporcinga ir saugi, užtikrinant asmens duomenų apsaugą ir paslapčių atskyrimą. Esmė ne reikalauti kiekvienos vidinės įgyvendinimo detalės. Esmė užtikrinti, kad institucija galėtų patikrinti, ką paslauga padarė kontekste, kuriame ji naudojo paslaugą.

Incidentų sąlygose reikia įvardytų kelių ir laiko ribų, atitinkančių sistemos pasekmes. Jose turėtų būti nurodyta, kas gali paskelbti incidentą, kas gali pristabdyti darbo eigą, kokie įrodymai išsaugomi, kaip atsižvelgiama į nukentėjusius asmenis ir kaip patikrinamas atitaisymas. Paslauga, kuri praneša tik apie infrastruktūros sutrikimus, nepraneša apie incidentus, kuriuos viešajai įstaigai greičiausiai reikės padėti paaiškinti.

Tiekėjo atskaitomybė yra reali, bet kitokia

Teigti, kad tiekėjas neturi jokios atsakomybės, yra neteisinga. Teikėjai kuria sistemas, teikia teiginius, nustato ribas, valdo atnaujinimus, pasirenka subrangovus ir kontroliuoja dalį įrodymų. Viešoji institucija turėtų reikalauti, kad jie laikytųsi šių įsipareigojimų. Techninė ir sutartinė tiekėjo atskaitomybė yra svarbi, ypač kai institucija negali savarankiškai atkurti kiekvieno komponento.

Vienodai neteisinga tiekėjo atskaitomybę paversti institucinės atsakomybės pakaitalu. Tiekėjas nepasirinko viešojo tikslo, neapibrėžė paveiktos grupės, nenusprendė, kad rezultatas yra pakankamas paslaugai, nenustatė apskundimo kelio ir nenusprendė, kokią riziką visuomenė turėtų priimti. Šie sprendimai priklauso institucijai ir ją supančiai teisinei sistemai. Viešoji įstaiga, teigianti, kad modelis nusprendė, apibūdina savo paties nesėkmę išlaikyti sprendimą viešose rankose.

Naudingas santykis yra aiški tarpusavio priklausomybė. Teikėjas tiekia komponentą ar paslaugą pagal dokumentuotas sąlygas. Diegėjas integruoja ją į tikslo, proceso ir vaidmenų struktūrą. Abi šalys išsaugo įrodymus už jų kontroliuojamą dalį. Institucija išlaiko galimybę ginčyti teikėją, pristabdyti naudojimą ir paaiškinti viešąjį veiksmą. Jei tiekėjo dizainas šias galimybes padaro neįmanomas, pats viešųjų pirkimų pasirinkimas tampa rizikos dalimi.

Gerose sutartyse nereikalaujama, kad tiekėjas prisiimtų kiekvieną nežinomą įsipareigojimą. Jose paskirstomos pareigos, kad kiekviena šalis galėtų jas įvykdyti. Institucija turi užtikrinti teisėtą, tinkamą kontekstą. Tiekėjas turi atskleisti apribojimus ir pakeitimus. Operatorius turi naudoti sistemą neperžengdamas apimties. Recenzentas turi turėti realią galią. Įrašai turi išlikti po ginčo. Tikslus vaidmenų apibrėžimas yra malonesnis nei sąlyga, teigianti, kad šalys bendradarbiaus, ir tikintis, kad visi turi tą patį žodyną.

Perkeliamumas yra sprendimų reikalavimas

Išėjimas dažnai traktuojamas kaip komercinis klausimas. Viešosioms paslaugoms tai taip pat sprendimų klausimas. Jei institucija negali atgauti įrodymų, konfigūracijos, įrašų ir sprendimų, reikalingų tęsti paslaugą ar ištirti jos praeitį, ji negali visiškai prisiimti sprendimų, priimtų per paslaugą. Sistema, kuri negali išeiti, pasiima dalį institucijos atminties su savimi.

Perkeliamumas turėtų apimti veiklos būseną, o ne tik duomenų bazės eilutes. Institucijai gali prireikti įvesties ir išvesties įrašų, šaltinių nuorodų, modelio ir raginimo versijų, politikos nustatymų, sprendimų peržiūros, audito įvykių, pataisymų istorijos, saugojimo metaduomenų ir schemų, kurios juos paaiškina. Tikslus rinkinys priklauso nuo paslaugos. Principas toks: būsimas operatorius turėtų galėti suprasti, kas įvyko, be poreikio atvirkštinės inžinerijos būdu iššifruoti tiekėjo privatų valdymo skydelį.

Išėjimas turėtų būti išbandytas, kol jis dar nėra skubus. Trumpa repeticija gali atskleisti, ar eksportas yra išsamus, ar identifikatoriai išlieka stabilūs, ar įrašus galima skaityti be licencijos, ar išvestinius duomenis galima suderinti ir ar paslauga gali veikti pereinamuoju laikotarpiu. Testavimas taip pat parodo, kurios darbo eigos dalys iš tikrųjų niekada nepriklausė institucijai. Sėkmingas išėjimo testas nėra nepasitikėjimo tiekėju pareiškimas. Tai įrodymas, kad viešoji paslauga turi išjungimo jungiklį.

Tęstinumas svarbus net tada, kai sutartis vykdoma sklandžiai. Tiekėjai gali keisti nuosavybę, kainodarą, sąlygas, infrastruktūrą ar strateginę kryptį. Viešoji įstaiga neturėtų sulaukti krizės, kad suprastų, jog vieninteliai žmonės, išmanantys jos sprendimų kelią, dirba kažkam kitam. Viešųjų pirkimų momentas yra tas, kai tęstinumą reikia paversti įprastu dalyku, o ne didvyrišku žygdarbiu.

Antrasis vaizdinys: sprendimo vartai, o ne formalus antspaudas

Peržiūrintysis asmuo yra kontrolės taškas tik tada, kai atvejis dar gali keistis, įrodymai yra matomi ir teisių gynimo priemonė lieka įmanoma.

Įsigykite gebėjimą pasakyti „ne“

Stipriausias viešųjų pirkimų reikalavimas kartais yra atsisakymas. Institucija turėtų galėti pasakyti „ne“ naudojimui, kurio negalima pagrįsti įrodymais, „ne“ pakeitimui, kuris nebuvo įvertintas, „ne“ rezultatui, kuris nepatenka į taikymo sritį, ir „ne“ tiekėjui, kuris negali užtikrinti veikiančio išėjimo. Tai nėra priešiškumas technologijoms. Tai yra minimali nepriklausomybė, reikalinga pasirinkti technologiją viešajam tikslui, o ne pasirinkti tikslą, atitinkantį jau įsigytą technologiją.

Pasakyti „ne“ reikia vidinio kelio. Peržiūrintysis asmuo turi žinoti, kas gali nuspręsti, kad atvejis yra nesaugus automatizuoti. Paslaugos savininkas turi turėti galimybę pristabdyti darbą nelaukdamas, kol po mėnesio susirinks valdymo komitetas. Viešieji pirkimai turi pripažinti, kad pasiūlymas su mažiau funkcijų gali būti saugesnis, nes jo ribos yra aiškesnės. Teisės, technikos ir veiklos komandos turi turėti galimybę užginčyti pageidaujamą tiekėją, kol sprendimas dar netapo socialiai nepatogus.

Vendors benefit from this discipline too. A clear no gives them a defined scope in which to improve. It prevents a promising prototype from being sold as a universal answer. It makes acceptance criteria meaningful. It also stops the supplier's most enthusiastic interpretation from becoming the de facto policy. Enthusiasm is a useful fuel for exploration. It is not a substitute for a brake.

The ability to refuse is part of sovereignty at the service level. It says the authority can keep a task human, narrow the data, require more evidence, choose a different supplier or stop a deployment without losing the public purpose. That is a better definition of technological independence than the number of products in a catalogue.

Procurement should include the people who will carry the work

Buying teams need more than a technical evaluation and a legal review. The people who will operate the service should help define the task, the failure modes and the evidence they can realistically inspect. Caseworkers, inspectors, administrators, translators, clinicians, teachers or planners know where a neat output becomes a difficult case. They also know which workarounds will appear when a system does not fit.

Involvement should be specific. Ask operators to walk through representative and difficult cases. Ask them what they need to see before accepting a recommendation. Ask where an appeal begins, where a source is corrected and which deadlines make a pause dangerous. Ask what a safe refusal looks like. These are not user-research gestures. They are requirements discovery for a service that will be operated by humans rather than by the slide deck.

Affected people should be considered as well. Their perspective may reveal that a technical distinction does not make an intelligible explanation, that a correction route is too slow or that a translated notice changes the practical meaning. Public procurement cannot turn every service into a consultation, but it can test whether the proposed boundary is visible from outside the institution. A person should not have to understand the architecture to understand how to challenge an outcome.

The result is usually less elegant than a demo and more durable than one. Real work contains interruptions, exceptions, language differences, old records, accessibility needs and people who do not behave like test data. That is not a failure of public service. It is the public service. Procurement should buy for that world.

Monitoring is how ownership continues

Ownership does not end at launch. Models, source systems, policies, staff behaviour and public needs change. A system can keep returning outputs while its meaning drifts. Monitoring should therefore connect technical signals to the public action they support. Uptime and latency matter, but so do overrides, corrections, appeals, queue effects, missing evidence, subgroup outcomes, language coverage and the severity of errors.

The monitoring plan should state what happens when a signal crosses a threshold. Who investigates. Who can pause. What records are preserved. Which people may have been affected. Whether the supplier is contacted. When the authority communicates. How a remedy is verified. A dashboard that has no response rule is not governance. It is a very colourful suggestion.

Evaluation should be repeated after material changes and at intervals appropriate to the use. A model update may alter output even when the supplier says the interface is unchanged. A policy change may alter what a correct output means. A new data source may introduce a proxy or a different error pattern. A public body needs enough version history to compare states and enough authority to decide that an apparently small change requires a wider review.

Stebėsena taip pat apsaugo vertintoją. Jei tikimasi, kad žmogus pakeis sistemos sprendimą, organizacija turėtų stebėti, ar darbo krūvis, sąsaja ar paskatos tai praktiškai įgalina. Didelis pakeitimų rodiklis gali reikšti silpną modelį, neaiškią politiką arba vertintoją, kuris iš tikrųjų atlieka darbą aplink prastai suprojektuotą įrankį. Kiekvieną pakeitimą laikyti žmogišku triukšmu yra lengvas būdas nepastebėti tikrosios sistemos specifikacijos.

Hipotetinė paslauga atskleidžia ribą

Apsvarstykite hipotetinę viešąją paslaugą, kuri priima prašymus ir naudoja tiekėjo sistemą trūkstamai informacijai nustatyti bei peržiūros keliui pasiūlyti. Sistema negali nuspręsti dėl tinkamumo. Institucija yra dokumentavusi tikslą, duomenų šaltinius ir atvejus, kuriems reikia specialistų dėmesio. Vertintojas mato šaltinių nuorodas, trūkstamo lauko paaiškinimą, sistemos versiją ir aiškią galimybę ignoruoti pasiūlymą. Įraše išsaugomas vertintojo veiksmas ir pareiškėjui išsiųstas pranešimas.

Šiame pavyzdyje tiekėjas atlieka prasmingą darbą. Jis gali pagerinti duomenų išgavimą, atskleisti neapibrėžtumą, užtikrinti saugius atnaujinimus ir vykdyti incidentų bei eksporto įsipareigojimus. Institucija vis tiek atsako už paslaugos tikslą, teisinį standartą, peržiūros vaidmenį ir teisių gynimo priemonę. Jei laukas neteisingas, pareiškėjas gali jį pataisyti. Jei pasiūlymas nepatenka į taikymo sritį, vertintojas gali jį atmesti. Jei sistema sugenda, institucija gali sustabdyti kelią ir tęsti darbą pagal dokumentuotą alternatyvą. Nauda kyla iš ribos, o ne iš apsimetimo, kad tiekėjas tapo institucija.

Dabar pakeiskite vieną sąlygą. Sistemos pasiūlytas kelias laikomas numatytuoju, vertintojai mato tik spalvą ir pasitikėjimo ženklelį, o tiekėjas gali atnaujinti modelį be pranešimo, kuris pasiektų paslaugos savininką. Sutartis vis tiek vadina išvestį patariamąja. Darbo eiga pavertė ją institucija. Štai kodėl teisinės etiketės negali išgelbėti veikimo dizaino, kuris suteikia išvesčiai galią nuspręsti.

Hipotetinis pavyzdys sąmoningai paprastas. Jame nėra išgalvotos savivaldybės, incidento ar kliento. Jo tikslas parodyti, kokius pasirinkimus viešieji pirkimai turi padaryti matomus. Realios paslaugos pridės sudėtingumo. Klausimai lieka tie patys: kas apibrėžia naudojimą, kas mato įrodymus, kas gali pakeisti rezultatą, kas užfiksuoja priežastį ir kas gali atitaisyti žalą.

Ko viešasis pirkėjas turėtų klausti

Praktinis pirkimų dokumentų rinkinys gali paversti šiuos principus klausimais, į kuriuos turi atsakyti tiekėjai ir vidinės komandos. Sąrašas nėra universalus šablonas, ir kiekvienas sektorius turės savo teisinę bei veiklos detalę. Tai būdas priversti ribą iškelti į paviršių anksti.

  • Kokia viešoji užduotis palaikoma ir kurie veiksmai aiškiai nepatenka į taikymo sritį?
  • Kam tai daro poveikį, ką neteisingas rezultatas galėtų pakeisti ir kiek tas pakeitimas yra grįžtamas?
  • Kokie duomenys, šaltiniai, versijos ir prielaidos naudojami ir kas gali juos pataisyti?
  • Kokie įrodymai keliauja kartu su rezultatu ir ar įgaliotas vertintojas gali juos patikrinti bei užginčyti?
  • Kas atsitinka, kai įvestis trūksta, prieštarauja, nepalaikoma arba nepatenka į deklaruotą pasiskirstymą?
  • Kuris vaidmuo gali atmesti, pakeisti, sustabdyti, nutraukti ar perduoti aukščiau ir ar tas vaidmuo turi personalą bei įgaliojimus?
  • Kaip modelio, raginimo, paieškos, politikos ir duomenų pakeitimai nustatomi, išbandomi, tvirtinami ir atšaukiami?
  • Kaip paveiktas asmuo gauna pranešimą, pataisymą, paaiškinimą ir veikiantį peržiūros kelią?
  • Kokie žurnalai, įrašai ir eksportai lieka prieinami institucijai sutarties metu ir po jos pabaigos?
  • Ką tiekėjas praneša kaip incidentą ir kaip įrodomas atitaisymas?

Šie klausimai nepakeičia konkurso, poveikio vertinimo ar teisinės konsultacijos. Jie padeda užtikrinti, kad kiekvienas dokumentas nepriimtų, jog sunkiausią dalį padengia kitas dokumentas. Jie taip pat leidžia pirkėjui palyginti tiekėjus pagal tai, kas daro paslaugą valdomą, o ne tik pagal tai, kas daro demonstraciją įspūdingą.

Mūsų trumpa pastaba, pavėluota ir sąmoningai

Dweve dirbame su valdomomis sistemomis, todėl mums gerai pažįstama pagunda produktą padaryti pagrindiniu veikėju. Naudingesnė disciplina yra kuklesnė: aiškiai nurodyti tikslą, apibrėžti įgaliojimus, užtikrinti įrodymų fiksavimą, padaryti perdavimus patikrinamus ir palikti kelią klaidoms ištaisyti. Mūsų pačių viešųjų pirkimų ir valdysenos medžiaga remiasi būtent šiomis ribomis, nes atskaitinga darbo eiga yra svarbesnė nei įtikinamas įrankio aprašymas. Tai yra dizaino pozicijos pavyzdys, o ne įrodymas, kad produktas gali pakeisti viešąją instituciją.

Esmė ne ta, kad kiekvienas viešasis pirkėjas turėtų naudoti mūsų programinę įrangą arba kad viena architektūra išsprendžia visus pirkimus. Esmė ta, kad tas pats išbandymas taikomas ir mums, kaip ir visiems kitiems. Ar pirkėjas gali suprasti, kas perkama, ką tai gali daryti, kokius įrodymus palieka, kaip keičiasi ir kaip pirkėjas iš jos išeina. Jei atsakymas ne, pirkėjas turi pagrindo ir toliau klausti, kad ir kaip europietiškai, atvirai ar mandagiai skambėtų tiekėjas.

Sprendimas lieka viešajai įstaigai

Viešieji pirkimai dažnai apibūdinami kaip kelias į ekonomiškai efektyvų pirkimą. Tai tiesa, tačiau vertė nėra tik mažesnė kaina ar greitesnis procesas. Viešoji paslauga taip pat turi gebėti pagrįsti sprendimus, taisyti klaidas, atlaikyti patikrinimus, apsaugoti teises ir toliau veikti, kai pasikeičia vienas komponentas. Sistema, kuri taupo laiką, bet kartu daro šias pareigas neįmanomas, nėra ekonomiškai efektyvi. Tai būsimas ginčas, įsigytas su nuolaida.

Tiekėjas gali suteikti galimybes, įrodymus, priežiūrą ir tobulinimo kelią. Įstaiga turi užtikrinti tikslą, įgaliojimus, sprendimą, teisių gynimo būdą ir nuosavybę. Sutartis turėtų aiškiai nustatyti šiuos santykius. Darbo eiga turėtų juos padaryti matomus. Įrašai turėtų juos padaryti atkuriamus. Paveiktam asmeniui turėtų būti įmanoma rasti duris, pro kurias gali įeiti klaidos ištaisymas.

Būtent todėl viešoji paslauga negali perduoti savo sprendimo teisės. Institucija gali deleguoti užduotį, bet negali deleguoti viešosios rezultato reikšmės. Ji gali naudoti modelį, bet negali modelio pasitikėjimo naudoti kaip priežasties nustoti mąstyti. Ji gali įsigyti asistentą, bet negali įsigyti asistento ir paskui vadinti asistentą atskaitingu subjektu. Viešasis įgaliojimas neperkeliamas vien todėl, kad programinės įrangos diagramoje yra rodyklė.

Taigi sąžiningas viešųjų pirkimų klausimas yra ne ar tiekėjas gali tai automatizuoti, o ar viešoji įstaiga, tiekėjui padedant, gali išlikti pajėgi suprasti, kvestionuoti, sustabdyti, taisyti, paaiškinti ir išeiti. Jei atsakymas taip, technologija turi vietą valdomoje paslaugoje. Jei atsakymas ne, teisingas sprendimas gali būti susiaurinti naudojimą, pakeisti sutartį arba atsisakyti pirkimo. Viešoji įstaiga, kuri gali pasakyti ne, vis dar atlieka savo darbą.

Šaltiniai