Viešajam sektoriui reikia tokių pirkimų, kurie gali pasakyti „ne“.

Viešoji įstaiga netampa atskaitinga pasirašydama dėl dirbtinio intelekto sistemos. Ji tampa atskaitinga tada, kai jos reikalavimai, įrodymai, žmogiškoji...

Viešajam sektoriui reikia tokių pirkimų, kurie gali pasakyti „ne“.

The document that can end a purchase

A public procurement file often begins with a request that sounds harmless: find a system that can help with a task. The request moves through a problem statement, a market consultation, a set of requirements, an evaluation, a contract and, if the process is healthy, a decision that can still stop the work. That last possibility is easy to lose. Once money, calendars and political attention have gathered around a purchase, the word no starts to sound like a failure of delivery. In public work, it can be the most useful decision in the file.

European procurement law already treats a tender as more than a contest of attractive promises. Directive 2014/24/EU says that award criteria must allow effective and fair competition and must be accompanied by arrangements that let the contracting authority verify the information supplied by tenderers. The directive also says that criteria should not give the authority unrestricted freedom of choice. A public buyer has to describe what matters, explain how it will be weighed and check whether the offer actually meets it. This is not an administrative footnote. It is the legal shape of a decision that other people must be able to understand and challenge.

AI makes the old discipline harder because a supplier can offer a system whose behaviour depends on data, model updates, prompts, thresholds, integrations, people and a service that may change while the contract is still warm. The brochure can remain the same while the thing behind it moves. A procurement team therefore has to buy more than an interface. It has to buy a bounded capability, the evidence that the capability is suitable, the authority to supervise it and a credible way to stop or replace it.

The public sector needs procurement that can say no because the public sector cannot outsource its judgement. A supplier may provide a model, a workflow, a hosted service or a set of tools. It cannot provide the legitimacy of the decision made with them. The authority still has to know what problem it is solving, whose interests may be affected, what evidence supports the system, which person can intervene and how the service will continue if the supplier changes course. A signature is not a transfer of responsibility. It is a record that responsibility has been arranged.

This article follows that arrangement from the first sentence of a requirement to the last line of an exit record. It uses European public guidance and procurement material as evidence. The practical patterns are recommendations, not claims that every authority must use one form. Any invented situation is labelled as hypothetical. A plausible office, a neat tender and a dramatic failure are not evidence merely because they fit a familiar story.

A public buyer buys a promise twice

Every public purchase carries two promises. The first is the supplier’s promise about a product or service. The second is the authority’s promise to the people who depend on the work: that the money was spent for a defined public purpose, that the decision can be explained, that relevant rights were considered and that someone remains answerable when the system is wrong. The second promise is the one that survives the launch event.

AI procurement often makes the first promise vivid and the second one vague. A demonstration can show a fluent summary, a ranked list or a fast answer. It rarely shows who may reject the output, what happens when a source is missing, how a change is approved, whether the records can be exported, or which person can pause the service without negotiating their own authority in the middle of an incident. Those questions are less cinematic. They are also the questions that decide whether a public body can remain in charge.

Europos Komisijos viešųjų pirkėjų bendruomenė atnaujintus ES pavyzdinius dirbtinio intelekto sutarčių punktus apibūdina trimis dalimis: išsamia versija didelės rizikos DI, suderinta su DI aktu, lengva versija, kurią galima pritaikyti ne didelės rizikos DI, ir komentarais, kaip naudoti ir pritaikyti punktus. Šis skirtumas svarbus. Pavyzdinis punktas nėra stebuklingas antspaudas, paverčiantis pirkimą tinkamu. Tai atspirties taškas paskirstant pareigas tarp viešosios organizacijos ir tiekėjo, sutartyje, kurios apimtį, tikslą ir įrodymus vis tiek turi nustatyti pirkėjas.

Todėl pirkėjas pirmiausia turėtų paklausti, ką iš tikrųjų žada visuomenei, o tik tada klausti, ką tiekėjas gali įrodyti. Ar institucija žada greitesnį eilės sutrumpinimą, nuoseklesnę pirmąją peržiūrą, saugesnį patikrinimą, geresnį ribotos kompetencijos panaudojimą ar tiesiog eksperimentą, kurio ribos matomos? Kiekvienas tikslas sukuria skirtingus įrodymus ir skirtingas sustojimo priežastis. Sistema, rengianti vidinius užrašus, gali reikalauti kitokios sprendimų ribos nei ta, kuri rūšiuoja prašymus dėl paslaugos, kurios žmonės negali išvengti.

Tarkime, hipotetinė vertinimo komanda nagrinėja įrankį, kuris apibendrina tiekėjų pateiktą medžiagą. Komanda gali nuspręsti, kad užduotis tinka pagalbai, tačiau tik jei santrauka išsaugo išimtis, sąlygas ir datas bei nukreipia vertintojus atgal į šaltinio ištraukas. Jei tiekėjas negali parodyti, kaip šie reikalavimai bus tikrinami, komanda turėtų galėti atmesti įrankį arba susiaurinti sutartį. Tai nėra kaltinimas tiekėjui. Tai išvada apie turimus įrodymus apibrėžtam tikslui.

Tas pats samprotavimas taikomas, kai problema patraukli, bet prastai apibrėžta. Viešoji įstaiga gali norėti prognozuoti paklausą, nustatyti patikrinimų prioritetus arba nukreipti korespondenciją. Šie veiksmažodžiai slepia po jais esančius sprendimus. Kas laikoma paklausa. Ką keičia prioritetas. Kurią korespondenciją galima saugiai nukreipti, jos žmogui neperskaičius. Pirmasis „ne“ gali būti problemos apimčiai, o ne programinės įrangos naudojimui. Atsisakymas įsigyti neaiškų pirkinį dažnai yra būdas institucijai apsaugoti naudingąją darbo dalį nuo netikrinamos dalies.

Pirmiausia apibūdinkite problemą, paskui sprendimą

Pirkimai tampa trapūs, kai produkto kategorija atsiranda anksčiau, nei įvardijama viešoji problema. Dirbtinis intelektas ypač gerai sukuria tokią tvarką, nes tas pats modelis gali būti pristatomas kaip rašymo asistentas, klasifikatorius, paieškos sluoksnis ar agentas, priklausomai nuo skaidrės. Institucija turi apibūdinti darbą tokiais terminais, kurie išlieka prasmingi, kai pašalinami tiekėjas, modelių šeima ir sąsaja.

Nyderlandų Algoritmikadras, skirtas viešosioms organizacijoms, šį darbą priskiria prie rekomenduojamų priemonių. Jis prašo organizacijų apibūdinti numatomą paskirtį ir naudojamus duomenis, nustatyti taikomą rizikos grupę, įvertinti poveikį, jei algoritmas neveiktų taip, kaip numatyta, ir nuspręsti, ar sprendimas turėtų būti kuriamas, ar perkamas. Jis taip pat nurodo projekto pradžios architektūrą algoritmams kurti ar įsigyti. Tai ne pirkimų puošmena. Tai būdai, kaip problemą padaryti aiškią, kol dar nepasiūlytas atsakymas.

Geras reikalavimas prasideda nuo sprendimo ar paslaugos, kuri turi pagerėti, žmonių, kurie ją atlieka ar gauna, informacijos, kurią sistema gali naudoti, informacijos, kurios ji negali naudoti, ir išliekančios žmogiškosios sprendimų galios. Jis nurodo sąlygas, kuriomis sistema naudinga, ir sąlygas, kuriomis jos naudoti negalima. Jis įvardija įrašus, kurie turi egzistuoti, kai rezultatas priimamas, atmetamas, taisomas ar perduodamas aukštesnei instancijai. Nereikia nuspėti tiekėjo vidinio dizaino. Reikia apibrėžti viešąjį pajėgumą, kurį galima patikrinti.

Čia svarbūs funkciniai ir veiklos reikalavimai. Direktyva 2014/24/ES reikalauja, kad techninės specifikacijos būtų pakankamai tikslios, kad kandidatai suprastų dalyką, o institucijos galėtų įvertinti, kaip pasiūlymai atitinka kriterijus. Toks reikalavimas kaip „pateikite išmanų sprendimą“ nėra naudingas testas. Toks reikalavimas kaip „išsaugokite šaltinio ištraukas, naudotas projekte, parodykite paieškos datą, leiskite vertintojui atmesti projektą ir eksportuoti gautą įrašą“ yra arčiau patikrinamo viešojo poreikio. Jis apibūdina elgesį ir įrodymų kelią, o ne madą.

Reikalavimai taip pat turėtų atskleisti užduoties ribas. Viešoji institucija gali pasakyti, kad sistema gali pasiūlyti maršrutą, bet negali priimti galutinio sprendimo. Ji gali nurodyti, kad rekomendacija neturi būti naudojama, kai nurodyto šaltinio nėra arba jis prieštaringas. Ji gali reikalauti žmogiškojo kelio asmeniui, kuriam tai daro poveikį ir kuris nori užginčyti rezultatą. Tai ne priešiški apribojimai. Tai sąlygos, kuriomis pirkimas lieka viešąja paslauga, o ne privačiu darbo procesu su vyriausybės logotipu.

Nedidelis problemos apibrėžimas nėra ambicijų stoka. Tai būdas padaryti ambicijas atskaitingomis. Jei institucija negali paaiškinti, kurį žingsnį sistema keičia, kam tai naudinga, kas gali suklysti ir ką asmuo gali daryti toliau, ji nėra pasirengusi lyginti tiekėjų. Teisingas veiksmas gali būti daugiau tyrimų, ne dirbtinio intelekto sprendimas, nedidelis kontroliuojamas bandomasis projektas arba visai joks pirkimas. Viešųjų pirkimų byloje turėtų būti vietos kiekvienam atsakymui.

Paverskite reikalavimus įrodymais

Žodis „įrodymai“ technologijų pirkimuose vartojamas laisvai. Tiekėjo pristatymas, produkto demonstracija ir teiginys, kad sistema yra patikima, gali būti naudingi įvesties duomenys. Nė vienas iš jų automatiškai neįrodo, kad reikalavimas įvykdytas. Įrodymai turi būti susieti su teiginiu, testu, apimtimi ir asmeniu, kuris gali juos patikrinti. Be šio ryšio vertinimas tampa varžybomis, kuriose laimi labiausiai nugludintas sakinys.

Pirkimų direktyva aiškiai apibrėžia pagrindinį ryšį: vertinimo kriterijus turi lydėti priemonės, leidžiančios veiksmingai patikrinti kandidatų pateiktą informaciją. Šis principas ypač svarbus dirbtiniam intelektui, nes rezultatas gali atrodyti įtikinamas, o sąlygos, kuriomis jis buvo sukurtas, lieka paslėptos. Pirkėjas turėtų klausti, kas bus parodyta, kokiomis duomenų ir užduočių sąlygomis, su kokia pradine linija ir kaip vertintojas gali pakartoti ar užginčyti rezultatą.

Nyderlandų „Algoritmekader“ tą patį reikalavimą išdėsto praktine kalba. Jo viešųjų pirkimų priemonės apima algoritmų reikalavimų įtraukimą į pirkimo dokumentus ir sutartį, reikalavimą, kad tiekėjai vertinimo metu pateiktų įrodymus, kad reikalavimai įvykdyti, tiekėjų atsakomybės sąlygų vertinimą, audito galimybės reikalavimą sutartyje, susitarimą dėl duomenų ir artefaktų ateities bei prašymą pateikti algoritmo sustabdymo planą. Sąrašas yra gairės, o ne universalus teisinis kontrolinis sąrašas. Jo vertė ta, kad įrodymus jis traktuoja kaip pirkimo objektą.

Pirkėjas įrodymus gali suskirstyti į tris naudingas kategorijas. Demonstruojami įrodymai yra tai, ką tiekėjas parodo kontroliuojamo vertinimo metu: galima stebėti įvestį, išvestį, klaidų tvarkymą, šaltinio naudojimą ir žmogiškąjį kelią. Tikrinami įrodymai yra tai, ką institucija gali išnagrinėti nesiremdama demonstracija: dokumentacija, testų rezultatai, žurnalai, sąsajos, pakeitimų įrašai, duomenų aprašymai ir galimybė atlikti sutartą patikrą. Sutartiniai įrodymai yra tai, ką tiekėjas privalo teikti toliau: pranešimai apie esminius pakeitimus, informacija apie incidentus, prieiga prie audito, paslaugų įrašai, eksporto galimybės ir kontroliuojamo išėjimo palaikymas. Kategorijos persidengia, tačiau jos neleidžia vienam įspūdingam užsiėmimui perimti visos sutarties.

Įrodymams taip pat reikia apibrėžtos apimties. Tiekėjas gali parodyti, kad sistema gerai veikia su tam tikru pavyzdžių rinkiniu. Pirkėjui vis tiek reikia žinoti, ar pavyzdžiai atspindi numatytą kalbą, dokumentų kokybę, atvejų įvairovę, prieinamumo poreikius ir veiklos apribojimus. Teiginys apie modelį laboratorijoje nėra automatiškai teiginys apie viešąją paslaugą. Tai teiginys apie atliktą eksperimentą. Perkančiosios organizacijos komanda turėtų išsaugoti užduotį, duomenų sąlygas, versiją ir rezultatą, kad vėlesnis sprendimas nebūtų atsietas nuo testo.

Įsivaizduokime hipotetinę situaciją, kai kandidatas pateikia sugeneruotų santraukų pavyzdžių rinkinį ir bendrą tikslumo pareiškimą. Perkančioji organizacija gali paprašyti šaltinio dokumentų, atrankos taisyklės, naudotos versijos, trūkstamos medžiagos tvarkymo, peržiūros procedūros ir artefakto, kuris liks po priėmimo. Jei atsakymas yra toks, kad išsami informacija yra konfidenciali ir negali būti tikrinama, komanda sužinojo kažką svarbaus. Ji nesužinojo, kad sistema yra bloga. Ji sužinojo, kad siūloma įrodymų apimtis gali būti per silpna viešajam tikslui.

Įrodymai turėtų būti proporcingi. Maža vidinė dokumentų rengimo priemonė nereikalauja tokio paties tikrinimo paketo kaip sistema, daranti įtaką prieigai prie viešosios paslaugos. Proporcingumas nereiškia šūkio priėmimo esant mažai rizikai. Tai reiškia įrodymų gylio priderinimą prie pasekmių, grįžtamumo, paveiktų žmonių ir galimybės aptikti bei ištaisyti klaidą. Tiekėjas turėtų žinoti reikalaujamus įrodymus prieš pateikiant pasiūlymą. Priešingu atveju perkančioji organizacija keičia konkursą po lenktynių, o tai yra įprastas būdas sulaukti brangaus netikėtumo.

Reikalavimas turėtų vesti prie įrodymų, o įrodymams turėtų būti leista pakeisti sprendimą dėl sutarties skyrimo.

Pirkėjas turi turėti galimybę nesutikti

Viešoji atskaitomybė nėra tas pats, kas tiekėjo skaidrumas. Tiekėjas gali paaiškinti savo paslaugą, o perkančioji organizacija vis tiek gali neturėti kelio gyventojui, darbuotojui, verslui ar specialistui užginčyti, kaip paslauga buvo naudojama. Todėl viešųjų pirkimų dokumentuose turėtų būti klausiama, kaip veikia nesutikimo procedūra, o ne tik kaip sistema pateikia atsakymą.

Algoritmų sistema (Algoritmekader) žmogiškąją kontrolę, pagrindines teises, skaidrumą ir skundų kelius priskiria viešojo sektoriaus temoms. Tarp jos rekomenduojamų priemonių yra prasmingas žmogaus įsikišimas į sprendimų priėmimą, procesas, per kurį piliečiai ar kitos suinteresuotosios šalys gali pateikti skundą, prieštaravimą ar apeliaciją, viešas sprendimas dėl algoritmo naudojimo ir būdas skelbti su poveikiu susijusius algoritmus Nyderlandų algoritmų registre. Šios priemonės nepaverčia kiekvieno algoritmo viešu reginiu. Jos padaro organizacijos atsakomybę pakankamai matomą, kad ją būtų galima kvestionuoti.

Viešųjų pirkimų reikalavimas dėl žmogiškosios priežiūros turėtų įvardyti konkretų žmogaus veiksmą. Ar vertintojas mato informaciją, kuri lėmė rekomendaciją. Ar jis gali pataisyti įrašą. Ar jis gali atmesti rezultatą be išankstinio sistemos leidimo. Ar jis gali paprašyti alternatyvaus kelio, kai trūksta šaltinio. Ar jis gali sustabdyti paketą, izoliuoti versiją arba perduoti klausimą asmeniui, turinčiam įgaliojimus. Jei atsakymas tik toks, kad žmogus kažkur dalyvauja procese, reikalavimas apibūdina baldus, o ne priežiūrą.

Nesutarimui taip pat reikia laiko. Vertintojas, kuris turi tikrinti kiekvieną rezultatą ir kartu atlikti pirminį darbo krūvį, techniškai gali būti procese, bet praktiškai už jo ribų. Viešieji pirkimai gali reikalauti mokymų, pagalbos, tinkamos įrodymų formos ir įvertinto darbo krūvio peržiūrai. Juose galima nustatyti, kuriems atvejams reikia išankstinio patvirtinimo, o kurie grįžtami ir nesukeliantys didelių pasekmių veiksmai gali vykti su registravimu ir vėlesne atranka. Juose galima reikalauti, kad tiekėjas palaikytų šį kelią, o ne slėptų jį už programavimo sąsajos.

Institucija taip pat turi sugebėti nesutikti su savo pačios entuziazmu. Sėkmingas bandomasis projektas gali sukurti spaudimą išplėsti įrankį populiacijai ar sprendimui, kurie niekada nebuvo testo dalis. Sutartis turėtų išsaugoti pirminį tikslą ir reikalauti naujo sprendimo, kai pasikeičia tikslas, duomenys, paveikti žmonės ar pasekmės. Atnaujinimas nėra automatiškai nekenksmingas vien todėl, kad jis teikiamas kaip paslauga. Naujas naudojimas nėra automatiškai padengtas vien todėl, kad ekrano viršuje matomas tas pats logotipas.

Kai tiekėjas teigia, kad modelis yra tik patariamojo pobūdžio, institucija turėtų įvertinti, ką darbas iš tikrųjų daro. Jei darbuotojams nurodyta priimti reitingą, jei nėra laiko jo peržiūrėti arba jei sistema nustato, kurie atvejai pasiekia žmogų, patarimas praktiškai gali tapti sprendimu. Pirkimų komandai nereikia ginčytis dėl tobulo pavadinimo. Jai reikia dokumentuoti kelią nuo rezultato iki pasekmės ir išlaikyti įgaliojimus tą kelią pakeisti.

Tiekėjo atsakomybės ribos yra sutarties dalis

Dirbtinio intelekto pirkimai dažnai apibūdinami kaip pasirinkimas tarp kūrimo ir pirkimo. Sunkesnis pasirinkimas yra tai, kaip padalyti atsakomybės ribą tarp tiekėjo ir viešosios organizacijos. Tiekėjas gali kontroliuoti modelį, paslaugą, atnaujinimų kelią, infrastruktūrą, pagalbos komandą ir dalį duomenų apdorojimo. Institucija kontroliuoja viešąjį tikslą, sprendimą, paveiktą populiaciją ir pareigą teikti teisėtą bei naudingą paslaugą. Sutartis turi sujungti šias atsakomybes, o ne palikti jas kaip dvi mandagias diagramas.

Atnaujintos ES modelinės sutartinės dirbtinio intelekto sąlygos yra naudingos, nes pripažįsta, kad viešiesiems pirkėjams reikia skirtingų metodų didelės rizikos ir ne didelės rizikos dirbtiniam intelektui ir reikia praktinių gairių, kaip pritaikyti sąlygas. Jos nepakeičia pirkimų strategijos ar teisinės peržiūros. Jos yra bendra kalba, padedanti aiškiai apibrėžti atsakomybes. Pirkėjas vis tiek turi nuspręsti, kurie įrodymai, duomenų teisės, audito prieiga, pranešimai apie pakeitimus, pagalba, atsakomybė ir išėjimo sąlygos yra proporcingi perkamai sistemai.

Duomenims ir rezultatams reikia ypatingo dėmesio. Sistema gali liesti šaltinio dokumentus, žymes, raginimus, įterptis, sugeneruotus juodraščius, žmogiškąsias korekcijas, vertinimo rinkinius, žurnalus ir galutinius įrašus. Sutartis turėtų atskirti, ką teikia institucija, ką kuria tiekėjas, ką kiekviena šalis gali naudoti, ką reikia grąžinti, ką reikia ištrinti ir kokių ištrynimo ar saugojimo įrodymų reikalaujama. Teiginys, kad institucijai priklauso jos duomenys, neatsako į klausimą, kur saugomi išvestiniai rezultatai arba kaip institucija gali gauti įrašus, paaiškinančius rezultatą.

Audit rights need a practical shape. The buyer should know which records can be inspected, how access is requested, what notice is reasonable, which confidentiality protections apply and what happens when an audit finds a gap. An audit clause without a usable route is a sentence waiting for a dispute. The same is true of an incident clause that says the supplier will cooperate without naming the information, timing and owner needed for cooperation.

Change control should not be left to release notes. The authority can require notice of a material change to the model, data sources, processing location, subcontractors, interfaces, thresholds, evaluation method or human route. It can define what evidence is needed before a changed version is used for the public task. It can require a right to pause, reject or revert where the changed service no longer meets a material requirement. These are recommendations to make the contract operable. They are not claims that one clause can resolve every supplier relationship.

Responsibility also includes what the supplier cannot provide. A service may depend on a third-party model or infrastructure whose changes are outside the immediate supplier’s control. The buyer should be told that dependency and should know which obligations flow through to it. A public organisation cannot assess a chain by inspecting only the front door. The contract should preserve a route to the relevant evidence, or the buyer should recognise that the uncertainty is a reason to narrow or decline the purchase.

Good boundaries protect suppliers too. A public buyer that asks for every possible document, every source code detail and unlimited support without a defined purpose may reduce competition and make the contract unattractive to smaller European providers. Proportionality, clarity and a credible evidence scope let a supplier say what it can do and let a buyer say what it needs. Public procurement should be demanding without being theatrical. A wall made of impossible requirements keeps out bad systems and good ones with equal efficiency.

Change after award is still procurement

The award is not the end of the decision. It is the point at which the service enters a different kind of scrutiny. During operation, data shifts, policies change, interfaces are replaced, staff learn shortcuts, suppliers revise models and a system may be used in situations the original team did not imagine. The authority needs a way to notice these changes before they become a new public purpose by accident.

The Algoritmekader recommends regular checks that an algorithm works as intended, monitoring changes in data and evaluating performance and output when data changes, and maintaining a plan for continuous monitoring. It also includes a measure for an emergency plan to stop the algorithm. These recommendations put time inside the governance model. A procurement that captures only the initial specification has bought a photograph of a moving service.

Not every update should trigger the same ceremony. A security patch that leaves the model, data boundary and decision role unchanged may follow a different path from a new model family, a changed retrieval source or a new threshold. The contract can define materiality in operational terms: a change is material when it alters the task, affected people, evidence path, decision consequence, deployment jurisdiction, subcontractor, data use or ability to intervene. The exact definition needs legal and technical judgement. The principle is simple: change is part of the purchased capability.

Monitoring should preserve the information needed to make a decision. A dashboard can show that a service is busy; it may not show that a source has become stale or that reviewers are overriding the same recommendation. The authority should retain the relevant version, task scope, evidence conditions, human action and reason for a change. It should know which changes were accepted, which were rolled back, which were restricted and which created a new procurement question.

A supplier may be unable to give advance notice of every internal change. The contract can still require a usable notification and an evidence package before the changed behaviour is relied on. The authority may choose a staged deployment, a controlled evaluation or a temporary hold. The ability to pause is not a punishment. It is what lets a public service remain answerable while facts are being established.

A change record also protects against false certainty. If the authority cannot tell whether a difference came from a new model, a data change, a prompt, a human workaround or an external dependency, it should not claim that the system behaved consistently. The correct response may be to narrow use, collect better evidence or stop the affected route. Public money does not become safer because the explanation is tidy.

Interoperability is the polite word for leaving

People often discuss interoperability as if it were a technical courtesy between systems. In public procurement it is also a continuity control. If a public service cannot move its records, configurations, evidence, interfaces and operating knowledge to another route, the authority may be legally free to leave and practically unable to do so. The contract has created a dependency that the procurement file did not name.

The Commission’s JRC report on advancing AI adoption in EU public administrations calls procurement a crucial enabling role and says that interoperability should be embedded from the outset. It also presents strategic procurement as a way to reduce dependency on non-EU providers and support European AI startups, open-source and GovTech solutions. This is not an argument to buy European by slogan or to treat open source as an automatic guarantee. It is an argument to make the technical and institutional ability to change course part of the value being bought.

Exit begins with a list of what must survive. That may include source records, identifiers, labels, prompts, model and configuration versions, evaluation sets, audit records, user and role mappings, integration contracts, retention status, security material and the meaning of fields. The list depends on the service. A portable file with no context may be less useful than a smaller record with its semantics and permissions intact. Export is a capability to test, not a box to tick.

Interoperability also means that the authority can run a meaningful comparison. Can a destination process the records without silently changing their meaning. Can reviewers compare an old and new output under the same task conditions. Can the public service continue in a reduced mode if one dependency is unavailable. Can evidence remain readable after the interface is gone. These questions belong in the requirements, the evaluation and the contract because an exit discovered during an emergency is usually an archaeological dig.

Portabilumas nebūtinai reiškia, kad tiekėjas privalo perduoti kiekvieną vidinės įdiegties detalę. Tai reiškia, kad institucija gali išsaugoti viešąją funkciją ir įrašus, už kuriuos yra atsakinga, laikydamasi teisėtų teisių ir saugumo apribojimų. Riba turėtų būti nustatyta prieš pasirašant. Jei tiekėjo modelis neprieinamas, institucija vis tiek gali reikalauti perkeliamų įvesties duomenų, išvesties duomenų, sprendimų įrašų, vertinimų, konfigūracijos ir būdo, kaip atkurti viešąsias paslaugos prievoles. Jei tokio būdo gauti negali, ji turėtų sąžiningai įvertinti priklausomybės kainą arba jos atsisakyti.

Išėjimo repeticija yra vertinga, nes sutartinį pažadą paverčia stebimu pajėgumu. Viešasis pirkėjas gali išbandyti eksportą, patikrinti laukus, paleisti reprezentatyvų darbo krūvį kontroliuojamoje paskirties vietoje ir palyginti gautus įrašus. Jis gali užfiksuoti, kas nebuvo perkelta, ir nuspręsti, ar spraga priimtina. Pratybos neturi būti dramatiškos. Maža repeticija prieš atnaujinimą yra geriau nei herojiška migracija po to, kai tiekėjas tampa vieninteliu žmogumi, prisimenančiu sistemą.

Išėjimas yra seka: įgaliojimas, eksportas, reikšmė, patikra, tęstinumas ir užbaigimas. Mygtukas, pažymėtas „eksportas“, nėra ta seka.

Sąnaudos yra daugiau nei eilutė konkurso dokumentuose

Kainą lengva palyginti, kai perkamas dalykas yra stabilus. DI pirkimai turi ilgesnį sąnaudų horizontą. Gali būti integravimo darbų, duomenų parengimo, peržiūros laiko, saugumo kontrolės, saugyklos, vertinimo, modelio atnaujinimų, prieinamumo darbų, incidentų reagavimo, palaikymo, eksporto ir pakeitimo. Dalis sąnaudų tenka institucijai. Kitos perkeliamos darbuotojams arba visuomenei, kai paslaugą tampa sunkiau užginčyti. Pirkimas, kuris lygina tik pradinį mokestį, nebūtinai yra ekonomiškas. Jis tiesiog skaičiuoja vieną matomą dalį.

Direktyva 2014/24/ES numato gyvavimo ciklo sąnaudų vertinimą, kai institucija pasirenka tokį metodą. Direktyva apibūdina tokias sąnaudas kaip įsigijimas, naudojimas, priežiūra, eksploatacijos pabaiga ir, kai aktualu bei patikrinama, poveikio aplinkai išoriniai veiksniai. Ji taip pat reikalauja, kad pirkimo dokumentuose būtų nurodyta, kokius duomenis tiekėjai turi pateikti, ir metodas, naudojamas gyvavimo ciklo sąnaudoms įvertinti. Tai naudinga disciplina DI srityje, nes reikalauja, kad pirkėjas pasakytų, kas bus skaičiuojama, o ne kviestų kiekvieną tiekėją atsinešti skirtingą „pigu“ apibrėžimą.

The same principle applies to human attention. If a system produces recommendations that need review, the work of reviewing them belongs in the operating model. If a public service needs a route for correction, the route needs an owner and time. If a supplier’s update requires a new evaluation, the authority needs the capability to perform it. These are not arguments against automation. They are reminders that automation changes where work happens. A saving on the invoice can be an expense in the queue if the procurement does not name the new work.

Cost should also include the cost of being unable to leave. A dependency may look inexpensive while it is new and become expensive when records, expertise, integrations and public expectations have accumulated around it. The buyer can ask for a migration estimate, a data and artefact inventory, a support obligation and a rehearsal schedule. It can compare those conditions as part of the value of the offer. The choice is not between optimism and pessimism. It is between a dependency that is visible and one that is hidden in the future tense.

Life-cycle thinking helps a procurement team say no without pretending that the cheapest visible offer is the neutral option. The team can reject a proposal because its evidence, review burden, change path or exit cost is not compatible with the public purpose. It can explain the decision against published criteria. That is not an anti-market gesture. It is what a market with verifiable requirements is supposed to allow.

Public buyers need authority to say no

A procurement team cannot exercise a power that the organisation has not given it. Many authorities have people who can assess legal, technical, financial and service questions, but the authority to combine those assessments into a pause or refusal is unclear. The result is familiar: concerns are recorded in one document, enthusiasm in another and the award proceeds because nobody knows which role may close the gate.

The authority should name the roles that can accept, reject, narrow or pause a purchase at each stage. The roles need access to the relevant evidence and a route to record the reason. A procurement officer may own the process, a service owner the public purpose, a data protection officer a privacy condition, a security lead a control, a technical reviewer a test and a senior accountable role the final decision. The exact arrangement varies. The absence of an arrangement is the dangerous part.

A useful stop condition is not a red badge that says high risk. It is a fact that blocks the next decision. The intended purpose is not sufficiently defined. The supplier cannot provide evidence for a material requirement. The affected person has no usable review route. The authority cannot inspect the relevant change. The data or artefact rights are unclear. The system cannot be exported or replaced within the continuity plan. The human reviewer has responsibility but no authority. Each condition can have a different remedy. Some require clarification, some a contract change, some a narrower scope and some a no.

Stop conditions should be known before the tender is evaluated. They should be connected to award criteria and to the contract so that a buyer is not inventing a new standard after seeing the supplier’s answer. They should also be revisited after award. A requirement that was satisfied at launch can become unsatisfied after a material change or a new use. The ability to say no is not a single gate at the end. It is a maintained authority throughout the life of the service.

Panagrinėkime hipotetinę viešąją komandą, kuri perka dokumentų maršrutizavimo paslaugą. Jos paskelbtuose reikalavimuose numatyta šaltinio atsekamumas, žmogiškosios peržiūros kelias, pranešimas apie esminius modelio pakeitimus, įrašų eksportas ir aiškiai apibrėžta nutraukimo procedūra. Vienas tiekėjas pateikia įspūdingą demonstraciją, tačiau negali leisti institucijai patikrinti šaltinio atrankos arba išsaugoti versijuotų maršrutizavimo įrodymų. Kitas tiekėjas siūlo mažiau funkcijų, bet atitinka įrodymų ir pasitraukimo reikalavimus. Komanda neprivalo teikti pirmenybės įspūdingesnei demonstracijai. Ji gali taikyti nustatytus kriterijus, užduoti proporcingus klausimus ir atmesti pirmąjį pasiūlymą, jei esminis reikalavimas lieka neįrodytas.

Toks sprendimas neturėtų būti formuluojamas kaip moralinis vertinimas apie tiekėją ar technologiją. Jame turėtų būti nurodytas viešasis tikslas, reikalavimas, gauti įrodymai, neišspręsta sąlyga ir sprendimas, kurį leidžia priimti pirkimo dokumentai. Aiškus „ne“ yra pagarbesnis nei miglotas „galbūt“, kuris vėliau virsta privalomu atnaujinimu. Tai taip pat siunčia naudingą signalą rinkai: viešieji pirkėjai mokės už įrodymus ir kontrolę, o ne tik už įspūdingą demonstraciją.

Žmogiškoji teisė sustabdyti paslaugą turi būti įgyvendinama incidento metu. Operatorius turi žinoti, į ką kreiptis, kokią sistemos būseną išsaugoti, kuris paslaugos maršrutas gali veikti toliau ir koks bendravimas yra būtinas. Sprendimo įraše reikėtų atskirti neatidėliotiną situacijos suvaldymą nuo ilgesnio pirkimo sprendimo. Viešoji įstaiga neturi laukti tobulo tyrimo, kad užkirstų kelią tolesnei žalai, tačiau turėtų vengti teigti didesnį tikrumą, nei iš tikrųjų turi. Sustabdymas yra kontrolės priemonė. Paaiškinimas gali būti plėtojamas.

Viešieji pirkimai formuoja rinką

Viešieji pirkimai yra vienas iš būdų, kuriais Europa nusprendžia, kokias galimybes verta kurti. JRC ataskaitoje apie dirbtinio intelekto diegimo pažangą ES viešosiose administracijose viešasis sektorius apibūdinamas kaip didelę įtaką rinkai daranti jėga. Joje sėkmingas diegimas siejamas su valdysena, darbuotojų pasirengimu, atsakingais pirkimais, sąveikumu ir visuomenės pasitikėjimu. Taip pat teigiama, kad strateginiai pirkimai gali sumažinti priklausomybę nuo ne ES tiekėjų ir paremti Europos startuolius, atvirojo kodo ir GovTech sprendimus. Esmė ne ta, kad viešoji institucija turėtų tapti rizikos kapitalo fondu. Esmė ta, kad jos reikalavimai gali arba atlyginti už atskaitingas galimybes, arba atlyginti už įtikinamą priklausomybės įvyniojimą.

Specialiosios ataskaitos Nr. 28/2023 pavadinimas yra „Public procurement in the EU: less competition for contracts awarded for works, goods and services in the ten years up to 2021“. Jos viešojoje santraukoje teigiama, kad konkurencija dėl viešųjų pirkimų konkursų Europoje mažėja. Rinka, kurioje yra mažiau veiksmingų konkurentų, yra prasta vieta slėpti neaiškius reikalavimus. Jei institucija negali palyginti įrodymų, ji gali rinktis tarp rinkodaros stilių, o ne tarp paslaugų. Atsisakymas nepatikrinamo pasiūlymo gali išsaugoti sąlygas geresnei konkurencijai ateityje.

Tuo pat metu pirkėjas gali netyčia atstumti naudingus tiekėjus, reikalaudamas įrodymų tokia forma, kurią gali pateikti tik didžiausias tiekėjas. Proporcingi reikalavimai, aiškios sąsajos, atviri formatai ir etapinis vertinimas gali leisti mažesnėms organizacijoms parodyti ribotas galimybes neapsimetant, kad jos turi tarptautinės korporacijos išteklius. Pirkėjas turėtų būti griežtas dėl viešojo tikslo ir lankstus dėl įgyvendinimo, kai įgyvendinimas neturi įtakos tam tikslui. Taip „ne“ tampa geresniu klausimu, o ne uždarytomis durimis.

Rinkos formavimas taip pat reiškia atsisakymą leisti vieno tiekėjo privačiai architektūrai apibrėžti viešąjį poreikį. Jei reikalavime įvardijamas konkretus modelis, debesija ar nuosavybinis darbo srautas be pagrįsto ryšio su užduotimi, konkurencija gali būti susiaurinta dar nepamačius įrodymų. Funkciniai reikalavimai ir patikrinami rezultatai suteikia viešiesiems pirkėjams daugiau erdvės palyginti skirtingus požiūrius. Jie taip pat daro sutartį mažiau trapią, kai pasirinktas komponentas keičiasi.

A public authority can be a demanding customer without becoming a difficult customer. It can publish the evidence it expects, explain the reason for a stop condition, offer a route for clarification and pay for work that creates durable public capability. The market then has something useful to respond to. It does not have to guess whether the winning factor was a hidden preference, a beautiful demo or the price of a future problem.

A working pattern for a procurement that can refuse

The following pattern is a practical recommendation, not a new legal procedure. It is a way to keep the public decision visible while a system moves from idea to operation. An authority should adapt it to its law, sector, risk and procurement method. The important part is that each gate has an owner, evidence and a permitted outcome that includes pause or refusal.

First, write the public purpose. Name the service, the people who perform it, the people who receive it, the decision or action that may change and the reason a system is being considered. State what is outside scope. If the purpose cannot be described without the supplier’s product vocabulary, the authority is still in market discovery. The output of this gate is a problem statement and a decision about whether procurement is the right next step.

Second, write the evidence boundary. For each material claim, state what would show that it is true in the intended task. Name the data conditions, language, accessibility needs, source records, version, baseline and review route that make the test meaningful. Specify what must be inspectable, what can be kept confidential and what must be delivered as a contract record. The output of this gate is a set of requirements that tenderers can understand and an evaluation plan that can change the award.

Third, write the authority boundary. Name the actions the system may suggest, the actions it may take, the actions that need approval and the actions that are prohibited. Name who can correct a source, reject an output, change a rule, pause a service and speak to an affected person. Define what happens when the system is uncertain or the evidence conflicts. The output of this gate is a human route that is more specific than a checkbox.

Fourth, write the change boundary. Identify the changes that require notice, evaluation, approval or a new procurement decision. Include model, data, supplier, subcontractor, infrastructure, processing location, interface, threshold, population, purpose and human route. Decide which evidence stays with the change record and which can be redacted for lawful reasons. The output of this gate is a maintained record rather than a promise that the system will remain static.

Fifth, write the exit boundary. List the records, data, configuration, evidence, permissions, integrations and operational knowledge that must survive. Define formats, timing, support, verification, reduced service, cut-over, access closure and deletion. Rehearse a small export before renewal or a material expansion. The output of this gate is a route that can be tested while the supplier is still a partner, not only after the relationship has become a dispute.

Sixth, write the public record. Decide what can be published about the purpose, system role, evidence, human route, changes, incidents and contact for challenge. Protect confidential and personal information without turning the whole decision into a private conversation. A public record can say what is known, what is not known and when the next review will occur. Its job is not to make the system look perfect. It is to make the authority’s judgement inspectable.

Galiausiai surašykite atsisakymą. Atsisakymas nėra dramatiškas pranešimas spaudai. Tai įprastas sprendimo įrašo rezultatas: reikalavimas buvo esminis, įrodymai jo nepatenkino, sprendimas dėl taisomosios priemonės buvo apsvarstytas, o institucija nusprendė atmesti, susiaurinti, sustabdyti arba pasirinkti kitą kelią. Viešasis pirkimas, kuris negali pateikti tokio įrašo, rodo, kad pirkimas atrodė neišvengiamas dar prieš tai, kai tokia išvada buvo pagrįsta.

Šie vartai gali būti atspindėti pasiūlymo atsakyme, projekto pradžios architektūroje, sutarties grafike, peržiūros susitikime ir incidentų veiksmų plane. Jie neturėtų tapti didesne forma vien dėl pačios formos. Jei vartai nekeičia to, ką komanda gali nuspręsti, tai greičiausiai dokumentacijos teatras. Jei jie suteikia asmeniui įrodymų ir įgaliojimų veikti, jie yra paslaugos dalis.

Klausimai, kuriuos verta įtraukti į konkursą

Geriausi klausimai nėra tie, kurie verčia tiekėją kartoti savo rinkodaros kalbą. Jie yra tie, kurie išryškina viešąjį tikslą ir įrodymų ribą. Pirkėjas gali pritaikyti šiuos klausimus sistemai ir procedūrai:

  • Kokį konkretų viešąjį uždavinį palaiko siūloma galimybė ir kurios užduotys nepatenka į jos numatytą naudojimo sritį?
  • Kokie žmonės, įrašai ir duomenų šaltiniai patenka į taikymo sritį, o kurie turi būti neįtraukti?
  • Kokį rezultatą sukuria sistema ir koks sprendimas ar veiksmas gali būti priimtas remiantis juo?
  • Kurį reikalavimą galima įrodyti, kurį galima patikrinti, o kuris bus užtikrinamas sutartimi?
  • Kaip institucija atkartos rezultatą naudodama atitinkamą versiją, šaltinius, konfigūraciją ir užduoties sąlygas?
  • Ką žmogus, atliekantis peržiūrą, gali matyti, keisti, atmesti, perduoti aukštesniam lygiui ar sustabdyti prieš įvykstant esminiam veiksmui?
  • Kokie modelio, duomenų, infrastruktūros, subrangovo ar politikos pakeitimai reikalauja pranešimo ir pakartotinio įvertinimo?
  • Kokius įrašus ir artefaktus institucija gali eksportuoti, kokiais formatais, su kokia reikšme, teisėmis ir saugojimo būsena?
  • Kas atsitinka, kai paslauga nepasiekiama, įrodymai neišsamūs arba asmuo užginčija rezultatą?
  • Kokios paramos, audito, incidentų, mokymų ir pasitraukimo prievolės tęsiasi po pirmojo leidimo?

Šie klausimai nepakeičia viešųjų pirkimų direktyvos, DI akto, duomenų apsaugos teisės ar sektoriaus taisyklių. Jie yra raginimai institucijai paversti savo įsipareigojimus veiksmingais. Tiekėjas, kuris į juos gali aiškiai atsakyti, vis tiek gali būti netinkamas tiekėjas. Tiekėjas, kuris į juos negali atsakyti, vis tiek gali turėti naudingą komponentą, tačiau institucija neturėtų painioti naudingo komponento su visa viešąja galimybe.

Mūsų trumpa pastaba

„Dweve“ mūsų AI Compas apima nuo tiekėjo nepriklausomą viešųjų pirkimų ir valdymo kelią reguliuojamoms Europos organizacijoms. RFI ir RFP medžiaga prašo komandų klasifikuoti naudojimo atvejį, taikyti atrankos kriterijus, palyginti tiekėjus, atlikti koncepcijos įrodymą ir saugoti įrodymus stebėsenos metu. Tai yra mūsų įgyvendinimo kontekstas, o ne nepriklausomi įrodymai apie viešuosius pirkimus ir ne teiginys, kad viena sistema tinka kiekvienai institucijai. Mes tai paminime, nes čia aprašyta disciplina yra ta pati disciplina, kurios stengiamės laikytis savo darbe: apibrėžti ribą, reikalauti įrodymų, išlaikyti sprendimą žmogišką ir padaryti pasitraukimą matomą.

Mūsų Trust Centre tą patį skirtumą pateikia kita forma. Viešas įrašas gali apibūdinti, kas yra dokumentuota, kas paruošta ir kas lieka būsimu įvykiu, nepaverčiant ketinimo pareiškimo įrodymu. Pirkimų komanda nusipelno tokio paties sąžiningumo iš savo tiekėjų. Pirkėjas turėtų matyti teiginio būseną, už jo esančius įrodymus ir jo užginčijimo kelią.

Pamoka

A public authority does not become accountable when it signs for an AI system. It becomes accountable when the procurement can explain why the system belongs in the work, what evidence supports that conclusion, who may intervene, what happens when the system changes and how the public function can continue if the supplier cannot.

European procurement rules already provide important habits: criteria should be connected to the subject matter, information should be verifiable, weightings should be stated and contract conditions should be clear. The European Commission’s AI procurement clauses give public buyers a way to discuss high-risk and non-high-risk systems and to allocate responsibilities. The Dutch Algoritmekader turns responsible procurement into practical measures about purpose, data, evidence, audit, human control, stopping and exit. The JRC report places procurement inside Europe’s capability and sovereignty conversation. The ECA’s warning about shrinking competition is a reminder that a weak contest is not repaired by a confident award.

The difficult word is still no. No, the purpose is not defined. No, the evidence cannot be inspected. No, the human route is decorative. No, the change path is invisible. No, the public record cannot be maintained. No, the service cannot leave without losing the work it was meant to protect. Each no can be a refusal, a narrowing, a pause or a request for a better answer. The authority should decide which one, record why and keep the decision open to challenge.

Procurement that can say no is not procurement that fears technology. It is procurement that knows the difference between a capability and a promise. It pays for a system that can be tested, supervised, changed and left. It gives suppliers a fairer contest because the question is visible. It gives public servants a route to intervene before a problem becomes a policy. It gives the people affected by the service something more useful than a statement that a vendor has been approved.

A public purchase should end with a service that the authority can still govern. If the evidence is strong, saying yes is meaningful. If the evidence is weak, saying no is the public work. The procurement file should be able to contain both sentences.

Sources