Общественият сектор има нужда от обществени поръчки, които могат да кажат „не“.

Отговорността на публичния орган не възниква с подписването на договор за ИИ система. Тя възниква, когато изискванията, доказателствата, човешкият контрол,...

Общественият сектор има нужда от обществени поръчки, които могат да кажат „не“.

The document that can end a purchase

A public procurement file often begins with a request that sounds harmless: find a system that can help with a task. The request moves through a problem statement, a market consultation, a set of requirements, an evaluation, a contract and, if the process is healthy, a decision that can still stop the work. That last possibility is easy to lose. Once money, calendars and political attention have gathered around a purchase, the word no starts to sound like a failure of delivery. In public work, it can be the most useful decision in the file.

European procurement law already treats a tender as more than a contest of attractive promises. Directive 2014/24/EU says that award criteria must allow effective and fair competition and must be accompanied by arrangements that let the contracting authority verify the information supplied by tenderers. The directive also says that criteria should not give the authority unrestricted freedom of choice. A public buyer has to describe what matters, explain how it will be weighed and check whether the offer actually meets it. This is not an administrative footnote. It is the legal shape of a decision that other people must be able to understand and challenge.

AI makes the old discipline harder because a supplier can offer a system whose behaviour depends on data, model updates, prompts, thresholds, integrations, people and a service that may change while the contract is still warm. The brochure can remain the same while the thing behind it moves. A procurement team therefore has to buy more than an interface. It has to buy a bounded capability, the evidence that the capability is suitable, the authority to supervise it and a credible way to stop or replace it.

The public sector needs procurement that can say no because the public sector cannot outsource its judgement. A supplier may provide a model, a workflow, a hosted service or a set of tools. It cannot provide the legitimacy of the decision made with them. The authority still has to know what problem it is solving, whose interests may be affected, what evidence supports the system, which person can intervene and how the service will continue if the supplier changes course. A signature is not a transfer of responsibility. It is a record that responsibility has been arranged.

This article follows that arrangement from the first sentence of a requirement to the last line of an exit record. It uses European public guidance and procurement material as evidence. The practical patterns are recommendations, not claims that every authority must use one form. Any invented situation is labelled as hypothetical. A plausible office, a neat tender and a dramatic failure are not evidence merely because they fit a familiar story.

A public buyer buys a promise twice

Every public purchase carries two promises. The first is the supplier’s promise about a product or service. The second is the authority’s promise to the people who depend on the work: that the money was spent for a defined public purpose, that the decision can be explained, that relevant rights were considered and that someone remains answerable when the system is wrong. The second promise is the one that survives the launch event.

AI procurement often makes the first promise vivid and the second one vague. A demonstration can show a fluent summary, a ranked list or a fast answer. It rarely shows who may reject the output, what happens when a source is missing, how a change is approved, whether the records can be exported, or which person can pause the service without negotiating their own authority in the middle of an incident. Those questions are less cinematic. They are also the questions that decide whether a public body can remain in charge.

Общността на публичните купувачи към Европейската комисия описва актуализираните си примерни договорни клаузи за ИИ в три части: пълна версия за ИИ с висок риск, съобразена с Акта за ИИ, облекчена версия, която може да се адаптира за ИИ без висок риск, и коментар за това как да се използват и приспособяват клаузите. Разликата е от значение. Примерната клауза не е магически печат, който прави една обществена поръчка подходяща. Тя е отправна точка за разпределяне на задълженията между публична организация и доставчик в договор, чиито обхват, цел и доказателства все още трябва да бъдат определени от купувача.

Затова купувачът трябва първо да попита какво всъщност обещава на обществеността, преди да попита какво може да докаже даден доставчик. Дали институцията обещава по-бърз път през натрупани закъснения, по-последователна първоначална проверка, по-безопасна инспекция, по-добро използване на ограничена експертиза или просто експеримент с видими граници? Всяка цел поражда различни доказателства и различни основания за спиране. Система, която изготвя вътрешни бележки, може да изисква различна граница на правомощията от система, която класира заявления за услуга, която хората не могат да избегнат.

Да разгледаме хипотетичен екип за оценка, който преглежда инструмент за обобщаване на подадените от доставчици оферти. Екипът може да реши, че задачата е подходяща за подпомагане, но само ако обобщението запазва изключенията, условията и сроковете и насочва оценителите обратно към съответните пасажи в източника. Ако доставчикът не може да покаже как тези изисквания ще бъдат тествани, екипът трябва да може да откаже инструмента или да стесни обхвата на договора. Това не е обвинение към доставчика. Това е извод за наличните доказателства във връзка с определената цел.

Същата логика важи, когато проблемът е привлекателен, но слабо ограничен. Публичен орган може да иска да прогнозира търсенето, да приоритизира инспекциите или да насочва кореспонденцията. Тези глаголи прикриват решенията, които стоят зад тях. Какво се счита за търсене. Какво променя приоритетът. Коя кореспонденция може безопасно да бъде насочвана, без човек да я прочете. Първото „не“ може да се отнася до обхвата на проблема, а не до използването на софтуер. Отказът от неясна покупка често е начинът, по който дадена институция защитава полезната част от работата от част, която не може да бъде тествана.

Опишете проблема, преди решението

Обществената поръчка става крехка, когато дадена продуктова категория се появи, преди да е назован даден обществен проблем. Изкуственият интелект е особено добър в създаването на този ред, защото един и същ модел може да бъде представен като асистент за писане, класификатор, слой за търсене или агент, в зависимост от презентацията. Институцията трябва да опише работата по начин, който остава смислен, когато доставчикът, семейството на модела и интерфейсът бъдат премахнати.

Нидерландската рамка Algoritmekader, поддържана за публични организации, поставя тази работа сред препоръчаните си мерки. Тя изисква от организациите да опишат предвидената цел и използваните данни, да определят приложимата рискова група, да установят въздействието, ако алгоритъмът не работи по предназначение, и да решат дали решението трябва да бъде разработено или закупено. Тя също така посочва архитектура за стартиране на проекта за разработване или закупуване на алгоритми. Това не са украшения за обществени поръчки. Това са начини проблемът да стане разбираем, преди да бъде предложен отговор.

Едно добро изискване започва с решението или услугата, които трябва да бъдат подобрени, хората, които ги изпълняват или получават, информацията, която системата може да използва, информацията, която не трябва да използва, и човешките правомощия, които остават. То посочва условията, при които системата е полезна, и условията, при които не трябва да се използва. То назовава записите, които трябва да съществуват, когато резултатът е приет, отхвърлен, коригиран или повдигнат на по-високо ниво. Не е необходимо да предвижда вътрешния дизайн на доставчика. То трябва да определи публичната способност, която може да бъде проверявана.

Тук е мястото, където функционалните изисквания и изискванията за производителност имат значение. Директива 2014/24/ЕС изисква техническите спецификации да са достатъчно точни, за да могат оферентите да разберат предмета на поръчката, а възложителите да оценят как офертите отговарят на критериите. Изискване като „осигурете интелигентно решение“ не е полезен тест. Изискване като „запазете изходните пасажи, използвани в проект, покажете датата на извличане, позволете на рецензент да отхвърли проекта и да експортира получения запис“ е по-близо до проверима обществена потребност. То описва поведение и път за доказване, а не мода.

Изискванията трябва също така да разкриват границите на задачата. Публичен орган може да заяви, че системата може да предлага маршрут, но не може да взема окончателното решение. Може да посочи, че препоръка не трябва да се използва, когато определен източник липсва или е противоречив. Може да изисква човешки път за лице, което е засегнато и иска да оспори резултата. Това не са враждебни ограничения. Те са условията, при които покупката остава обществена услуга, а не частен работен процес с правителствено лого.

Тясната формулировка на проблема не е липса на амбиция. Тя е начин амбицията да стане отговорна. Ако органът не може да обясни коя стъпка променя системата, кой има полза, какво може да се обърка и какво може да направи човек след това, той не е готов да сравнява доставчици. Правилното действие може да бъде повече проучване, решение без ИИ, малък контролиран пилотен проект или изобщо да не се извършва покупка. Досието за обществената поръчка трябва да има място за всеки от тези отговори.

Превърнете изискванията в доказателства

Думата „доказателство“ се използва свободно в обществените поръчки за технологии. Презентация на доставчик, демонстрация на продукт и изявление, че системата е надеждна, може да са полезни входни данни. Нито едно от тях не е автоматично доказателство, че дадено изискване е изпълнено. Доказателството трябва да е свързано с твърдение, тест, обхват и лице, което може да го провери. Без тази връзка оценката се превръща в състезание, в което печели най-лъскавото изречение.

Директивата за обществените поръчки е ясна относно основната връзка: критериите за възлагане трябва да бъдат съпътствани от договорености, които позволяват информацията, предоставена от оферентите, да бъде ефективно проверена. Този принцип е особено важен за ИИ, защото резултатът може да изглежда убедителен, докато условията, които са го създали, остават скрити. Възложителят трябва да попита какво ще бъде показано, при какви условия за данни и задачи, с каква базова линия и как рецензентът може да възпроизведе или оспори резултата.

Нидерландската Algoritmekader поставя същото изискване на практичен език. Нейните мерки за обществени поръчки включват включване на изискванията за алгоритмите в документите за поръчката и договора, изискване от доставчиците да предоставят доказателства, че изискванията са изпълнени като част от оценката, оценка на условията за отговорност на доставчика, изискване за възможност за одит в договора, договаряне какво се случва с данните и артефактите и искане на план за спиране на алгоритъма. Списъкът е насока, а не универсален правен контролен списък. Неговата стойност е, че третира доказателството като обект на поръчката.

Възложителят може да раздели доказателствата на три полезни категории. Демонстрирано доказателство е това, което доставчикът показва в контролирана оценка: входът, изходът, обработката на грешки, използването на източници и човешкият път могат да бъдат наблюдавани. Проверимо доказателство е това, което органът може да разгледа, без да разчита на демонстрация: документация, резултати от тестове, регистрационни файлове, интерфейси, записи за промени, описания на данни и възможността за изпълнение на договорена проверка. Договорно доказателство е това, което доставчикът трябва да продължи да предоставя: уведомления за съществени промени, информация за инциденти, достъп за одит, записи за услуги, възможности за експорт и подкрепа за контролирано излизане. Категориите се припокриват, но предотвратяват един впечатляващ сеанс да поеме целия договор.

Доказателствата също се нуждаят от обхват. Доставчикът може да покаже, че дадена система се представя добре върху набор от примери. Купувачът все пак трябва да знае дали примерите отразяват предвидения език, качеството на документите, съотношението на случаите, нуждите от достъпност и оперативните ограничения. Твърдение за даден модел в лаборатория не е автоматично твърдение за публична услуга. То е твърдение за експеримента, който е извършен. Екипът по обществените поръчки трябва да запази задачата, условията на данните, версията и резултата, така че по-късното решение да не се носи свободно от теста.

Представете си като хипотеза, че кандидат предоставя примерен набор от генерирани резюмета и общо изявление за точност. Органът може да поиска изходните документи, правилото за подбор, използваната версия, третирането на липсващ материал, процедурата за преглед и артефакта, който ще остане след приемането. Ако отговорът е, че подробностите са собственост на доставчика и не могат да бъдат проверени, екипът е научил нещо важно. Не е научил, че системата е лоша. Научил е, че предложената граница на доказателствата може да е твърде слаба за публичната цел.

Доказателствата трябва да са съразмерни. Малко вътрешно средство за изготвяне на текстове не се нуждае от същия пакет за проверка като система, която влияе върху достъпа до публична услуга. Съразмерността не означава приемане на лозунг при нисък риск. Тя означава съобразяване на дълбочината на доказателствата с последиците, обратимостта, засегнатите хора и способността за откриване и поправяне на грешка. Доставчикът трябва да знае изискваните доказателства преди подаването на офертата. В противен случай органът променя състезанието след неговото провеждане, което е познат начин за получаване на скъпа изненада.

Изискването трябва да води до доказателства, а на доказателствата трябва да бъде позволено да променят решението за възлагане.

Купувачът трябва да може да не е съгласен

Публичната отчетност не е същото като прозрачността на доставчика. Доставчикът може да обясни услугата си, докато органът все още няма път, по който жител, служител, предприятие или специалист да оспори начина, по който услугата е била използвана. Досието на поръчката следователно трябва да пита как работи несъгласието, а не само как системата произвежда отговор.

Algoritmekader поставя човешкия контрол, основните права, прозрачността и пътищата за подаване на жалби сред своите теми за публичния сектор. Препоръчаните мерки включват смислена човешка намеса при вземането на решения, процес, чрез който граждани или други заинтересовани страни могат да подадат жалба, възражение или обжалване, публично решение за използването на алгоритъма и начин за публикуване на алгоритми, свързани с въздействието, в нидерландския регистър на алгоритмите. Тези мерки не превръщат всеки алгоритъм в публично зрелище. Те правят отговорността на органа достатъчно видима, за да бъде поставена под въпрос.

Изискване за човешки надзор в процедура за възлагане на обществена поръчка трябва да посочва конкретното човешко действие. Може ли проверяващият да види информацията, оформила препоръката. Може ли да коригира записа. Може ли да отхвърли резултата, без първо да получи разрешение от системата. Може ли да поиска алтернативен път, когато липсва източник. Може ли да спре партида, да изолира версия или да повдигне въпрос пред лице с правомощия. Ако отговорът е само, че някъде в процеса присъства човек, изискването описва обзавеждане, а не надзор.

Несъгласието също изисква време. Проверяващ, от когото се очаква да проверява всеки резултат, като същевременно запазва първоначалното си натоварване, може технически да е в процеса, а на практика да е извън него. Възлагащият орган може да изисква обучение, подкрепа, използваеми доказателства и допускане за натоварването при проверката. Може да определи кои случаи изискват одобрение преди действие и кои обратими действия с нисък риск могат да продължат с регистриране и последваща извадка. Може да поиска от доставчика да поддържа този път, вместо да го скрива зад интерфейс за приложно програмиране.

Органът трябва да се противопостави и на собствения си ентусиазъм. Успешен пилотен проект може да създаде натиск за разширяване на инструмента към група от хора или решение, които никога не са били част от изпитването. Договорът трябва да запази първоначалната цел и да изисква ново решение, когато се променят целта, данните, засегнатите хора или последиците. Актуализацията не е автоматично безвредна, защото се предоставя като услуга. Новата употреба не е автоматично покрита, защото същото лого стои в горната част на екрана.

Когато доставчикът каже, че моделът е само със съвещателен характер, органът трябва да разгледа какво всъщност върши работата. Ако служителите са инструктирани да приемат класирането, ако няма време за проверката му или ако системата контролира кои случаи достигат до човек, съветът може на практика да се е превърнал в решение. Екипът по обществените поръчки не трябва да спори за точния етикет. Той трябва да документира пътя от резултата до последицата и да запази правомощието да промени този път.

Границите на доставчика са част от договора

Възлагането на обществени поръчки за изкуствен интелект често се описва като избор между изграждане и закупуване. По-трудният избор е как да се раздели границата между доставчика и публичната организация. Доставчикът може да контролира модел, услуга, път за актуализации, инфраструктура, екип за поддръжка и част от обработката на данни. Органът контролира публичната цел, решението, засегнатото население и задължението да предоставя законосъобразна и използваема услуга. Договорът трябва да свърже тези отговорности, а не да ги остави като две учтиви схеми.

Актуализираните примерни договорни клаузи на ЕС за изкуствен интелект са полезни, защото признават, че публичните купувачи се нуждаят от различни подходи за високорисков и невисокорисков изкуствен интелект и от насоки за приспособяване на клаузите на практика. Те не заместват стратегията за обществените поръчки или правния преглед. Те са общ речник за изричното посочване на отговорностите. Купувачът все пак трябва да реши кои доказателства, права върху данни, достъп за одит, уведомяване за промени, поддръжка, отговорност и условия за излизане са съразмерни на закупуваната система.

Данните и артефактите заслужават особено внимание. Системата може да докосва изходни документи, етикети, подкани, вграждания, генерирани чернови, човешки корекции, оценителски набори, регистрационни файлове и окончателни записи. Договорът трябва да разграничава какво предоставя органът, какво създава доставчикът, какво може да използва всяка страна, какво трябва да бъде върнато, какво трябва да бъде изтрито и какво доказателство за изтриване или съхранение се изисква. Твърдението, че органът притежава данните си, не отговаря къде се намират производните артефакти или как органът може да извлече записите, които обясняват даден резултат.

Правата на одит трябва да придобият практическа форма. Купувачът трябва да знае кои записи могат да бъдат проверявани, как се иска достъп, какво предизвестие е разумно, кои защити на поверителността се прилагат и какво се случва, когато одитът установи пропуск. Клауза за одит без работещ път е присъда, която чака спор. Същото важи и за клауза за инцидент, която казва, че доставчикът ще съдейства, без да посочва информацията, сроковете и отговорното лице, необходими за съдействието.

Управлението на промените не трябва да се оставя на бележките към версиите. Възложителят може да изисква уведомление за съществена промяна в модела, източниците на данни, мястото на обработване, подизпълнителите, интерфейсите, праговете, метода за оценка или човешкия маршрут. Той може да определи какви доказателства са необходими, преди променена версия да се използва за публичната задача. Може да изисква право на пауза, отхвърляне или връщане към предишно състояние, когато променената услуга вече не отговаря на съществено изискване. Това са препоръки, които правят договора оперативен. Те не са твърдения, че една клауза може да разреши всяка връзка с доставчик.

Отговорността включва и това, което доставчикът не може да предостави. Услугата може да зависи от модел или инфраструктура на трета страна, чиито промени са извън непосредствения контрол на доставчика. Купувачът трябва да бъде информиран за тази зависимост и да знае кои задължения преминават към него. Публична организация не може да оцени веригата, като проверява само входната врата. Договорът трябва да запази път към съответните доказателства, или купувачът трябва да признае, че несигурността е основание да стесни обхвата или да се откаже от покупката.

Добрите граници защитават и доставчиците. Публичен купувач, който иска всеки възможен документ, всяка подробност от програмния код и неограничена поддръжка без определена цел, може да намали конкуренцията и да направи договора непривлекателен за по-малки европейски доставчици. Пропорционалността, яснотата и достоверният обхват на доказателствата позволяват на доставчика да каже какво може да направи и на купувача да каже от какво има нужда. Обществените поръчки трябва да бъдат взискателни, без да бъдат театрални. Стена от невъзможни изисквания спира лошите системи и добрите с еднаква ефективност.

Промяната след възлагане също е обществена поръчка

Възлагането не е краят на решението. То е моментът, в който услугата попада под различен вид контрол. По време на експлоатация данните се променят, политиките се сменят, интерфейсите се заменят, персоналът научава преки пътища, доставчиците преработват модели и системата може да бъде използвана в ситуации, които първоначалният екип не е предвидил. Възложителят трябва да има начин да забележи тези промени, преди те случайно да се превърнат в нова публична цел.

Algoritmekader препоръчва редовни проверки дали алгоритъмът работи според предназначението си, наблюдение на промените в данните и оценка на работата и резултатите при промяна на данните, както и поддържане на план за непрекъснато наблюдение. Той включва и мярка за авариен план за спиране на алгоритъма. Тези препоръки поставят времето вътре в модела на управление. Обществена поръчка, която улавя само първоначалната спецификация, е закупила снимка на движеща се услуга.

Не всяка актуализация трябва да предизвиква една и съща процедура. Пач за сигурност, който не променя модела, границите на данните и ролята при вземане на решения, може да следва различен път от ново семейство модели, променен източник за извличане на информация или нов праг. Договорът може да определи съществеността в оперативни термини: промяната е съществена, когато променя задачата, засегнатите хора, пътя на доказателствата, последиците от решението, юрисдикцията на внедряване, подизпълнителя, използването на данни или възможността за намеса. Точното определение изисква правна и техническа преценка. Принципът е прост: промяната е част от закупената способност.

Мониторингът трябва да запазва информацията, необходима за вземане на решение. Таблото може да покаже, че дадена услуга е натоварена; може да не покаже, че даден източник е остарял или че оценителите отменят една и съща препоръка. Възложителят следва да съхранява съответната версия, обхвата на задачата, условията за доказателствата, човешкото действие и причината за промяната. Той трябва да знае кои промени са приети, кои са оттеглени, кои са ограничени и кои са породили нов въпрос по обществената поръчка.

Доставчикът може да не е в състояние да уведоми предварително за всяка вътрешна промяна. Договорът все пак може да изисква използваемо уведомление и пакет от доказателства, преди да се разчита на промененото поведение. Възложителят може да избере поетапно внедряване, контролирана оценка или временно спиране. Възможността за пауза не е наказание. Тя е това, което позволява на публичната услуга да остане отговорна, докато фактите се установяват.

Записът за промените също предпазва от фалшива сигурност. Ако възложителят не може да определи дали разликата произтича от нов модел, промяна в данните, подсказка, човешко заобикаляне или външна зависимост, той не трябва да твърди, че системата се е държала последователно. Правилният отговор може да бъде да се ограничи употребата, да се съберат по-добри доказателства или да се спре засегнатият път. Публичните пари не стават по-сигурни, защото обяснението е спретнато.

Оперативната съвместимост е учтивата дума за напускане

Хората често обсъждат оперативната съвместимост, сякаш е техническа любезност между системите. В обществените поръчки тя е също и контрол на приемствеността. Ако публичната услуга не може да премести своите записи, конфигурации, доказателства, интерфейси и оперативни знания към друг път, възложителят може да е юридически свободен да напусне, но практически да не е в състояние да го направи. Договорът е създал зависимост, която досието на поръчката не е назовало.

Докладът на Съвместния изследователски център на Комисията за напредъка в приемането на ИИ в публичните администрации на ЕС нарича обществените поръчки ключова подкрепяща роля и заявява, че оперативната съвместимост трябва да бъде вградена от самото начало. Той също така представя стратегическите обществени поръчки като начин за намаляване на зависимостта от доставчици извън ЕС и за подкрепа на европейски стартъпи в областта на ИИ, решения с отворен код и GovTech. Това не е аргумент да се купува европейско по лозунг или да се третира отвореният код като автоматична гаранция. Това е аргумент техническата и институционалната способност за промяна на курса да бъде част от стойността, която се купува.

Излизането започва със списък на това, което трябва да оцелее. Той може да включва изходни записи, идентификатори, етикети, подсказки, версии на модела и конфигурацията, набори за оценка, одитни записи, съпоставяния на потребители и роли, интеграционни договори, статус на съхранение, защитен материал и значението на полетата. Списъкът зависи от услугата. Преносим файл без контекст може да е по-малко полезен от по-малък запис с непокътнати семантика и права за достъп. Експортът е възможност, която трябва да се тества, а не поле за отмятане.

Оперативната съвместимост също означава, че възложителят може да направи смислено сравнение. Може ли дестинацията да обработи записите, без мълчаливо да промени значението им. Могат ли оценителите да сравнят стар и нов резултат при едни и същи условия на задачата. Може ли публичната услуга да продължи в намален режим, ако една зависимост е недостъпна. Могат ли доказателствата да останат четливи, след като интерфейсът изчезне. Тези въпроси принадлежат към изискванията, оценката и договора, защото излизането, открито по време на извънредна ситуация, обикновено е археологически разкопки.

Преносимостта не означава непременно, че доставчикът трябва да предаде всеки вътрешен детайл от внедряването. Тя означава, че органът може да запази публичната функция и записите, за които отговаря, при спазване на законните права и ограниченията за сигурност. Границата трябва да бъде заявена преди подписването. Ако моделът на доставчика е недостъпен, органът все пак може да изисква преносими входни данни, изходни данни, записи за решения, оценки, конфигурация и път за възстановяване на публичните задължения на услугата. Ако не може да получи този път, той трябва честно да оцени зависимостта или да се откаже от нея.

Репетицията за излизане е ценна, защото превръща договорното обещание в наблюдавана способност. Публичният купувач може да тества експорт, да провери полетата, да пусне представително натоварване в контролирана дестинация и да сравни получените записи. Той може да отбележи какво не се е преместило и да реши дали пропускът е приемлив. Упражнението не трябва да е драматично. Малка репетиция, направена преди подновяването, е по-добра от героична миграция, извършена след като доставчикът е станал единственият човек, който помни системата.

Напускането е последователност от орган, експорт, значение, проверка, непрекъснатост и приключване. Бутон с надпис „експорт“ не е тази последователност.

Разходите са повече от реда в обявата

Цената е лесна за сравняване, когато обектът на покупката е стабилен. Обществените поръчки за ИИ имат по-дълъг времеви хоризонт на разходите. Може да има работа по интеграция, подготовка на източници, време за преглед, контроли за сигурност, съхранение, оценка, актуализации на модела, работа по достъпност, реагиране при инциденти, поддръжка, експорт и подмяна. Някои разходи се поемат от органа. Други се прехвърлят върху служителите или върху обществеността, когато услугата стане по-трудна за оспорване. Обществена поръчка, която сравнява само първоначалната такса, не е непременно икономична. Тя просто отчита една видима част.

Директива 2014/24/ЕС предвижда изчисляване на разходите през целия жизнен цикъл, когато органът избере този подход. Директивата описва разходи като придобиване, използване, поддръжка, извеждане от употреба и, когато е уместно и проверимо, външни разходи за околната среда. Тя също така изисква документите за поръчката да посочват данните, които оферентите трябва да предоставят, и метода, използван за оценка на разходите през жизнения цикъл. Това е полезна дисциплина за ИИ, защото изисква купувачът да заяви какво ще се отчита, вместо да кани всеки доставчик да донесе различно определение за евтино.

Същият принцип важи и за човешкото внимание. Ако дадена система изготвя препоръки, които изискват преглед, работата по прегледа им е част от операционния модел. Ако една публична услуга се нуждае от път за корекция, този път се нуждае от отговорник и време. Ако актуализация на доставчик изисква нова оценка, органът трябва да разполага с капацитета да я извърши. Това не са аргументи срещу автоматизацията. Те са напомняне, че автоматизацията променя мястото, където се извършва работата. Икономията във фактурата може да се превърне в разход в опашката, ако поръчката не посочва новата работа.

Разходите трябва също да включват цената на невъзможността да се излезе. Една зависимост може да изглежда евтина, докато е нова, и да поскъпне, когато около нея се натрупат записи, експертиза, интеграции и обществени очаквания. Купувачът може да поиска оценка за миграция, опис на данните и артефактите, задължение за поддръжка и график за репетиция. Той може да сравни тези условия като част от стойността на офертата. Изборът не е между оптимизъм и песимизъм. Той е между зависимост, която е видима, и такава, която е скрита в бъдеще време.

Мисленето за жизнения цикъл помага на екипа по обществени поръчки да каже „не“, без да се преструва, че най-евтината видима оферта е неутралният вариант. Екипът може да отхвърли предложение, защото неговите доказателства, тежест на прегледа, път на промяната или разходи за излизане не са съвместими с публичната цел. Той може да обясни решението си според публикуваните критерии. Това не е жест срещу пазара. Това е точно това, което един пазар с проверими изисквания трябва да позволява.

Публичните купувачи се нуждаят от правомощие да казват „не“

Екипът по обществени поръчки не може да упражнява правомощие, което организацията не му е предоставила. Много органи разполагат с хора, които могат да оценяват правни, технически, финансови и обслужващи въпроси, но правомощието да се комбинират тези оценки в пауза или отказ е неясно. Резултатът е познат: притесненията са записани в един документ, ентусиазмът в друг, а възлагането продължава, защото никой не знае коя роля може да затвори вратата.

Органът трябва да посочи ролите, които могат да приемат, отхвърлят, стесняват или спират покупка на всеки етап. Ролите се нуждаят от достъп до съответните доказателства и от начин да запишат причината. Служител по обществени поръчки може да отговаря за процеса, собственик на услугата за публичната цел, служител по защита на данните за условие за поверителност, ръководител по сигурността за контрол, технически рецензент за тест, а висшестоящо отговорно лице за крайното решение. Точното разпределение варира. Липсата на разпределение е опасната част.

Полезното условие за спиране не е червен знак, който казва „висок риск“. То е факт, който блокира следващото решение. Предназначението не е достатъчно добре дефинирано. Доставчикът не може да предостави доказателства за съществено изискване. Засегнатото лице няма използваем път за обжалване. Органът не може да провери съответната промяна. Правата върху данните или артефактите са неясни. Системата не може да бъде експортирана или заменена в рамките на плана за непрекъснатост. Човешкият рецензент има отговорност, но няма правомощие. Всяко условие може да има различно решение. Някои изискват разяснение, някои промяна в договора, някои по-тесен обхват, а някои отказ.

Условията за спиране трябва да са известни преди оценката на офертите. Те трябва да са свързани с критериите за възлагане и с договора, така че купувачът да не измисля нов стандарт, след като е видял отговора на доставчика. Те трябва също да бъдат преразглеждани след възлагането. Изискване, което е било изпълнено при стартирането, може да престане да бъде изпълнено след съществена промяна или нова употреба. Способността да се каже „не“ не е единствена врата в края. Тя е поддържано правомощие през целия живот на услугата.

Помислете за хипотетичен публичен екип, който възлага поръчка за услуга за маршрутизиране на документи. Публикуваните му изисквания включват проследимост на източника, път за човешка проверка, уведомление за съществени промени в модела, експорт на записи и ясно определена процедура за спиране. Един оферент предлага силна демонстрация, но не може да позволи на органа да провери избора на източник или да запази версионираните доказателства за маршрутизиране. Друг оферент предлага по-малко функции, но отговаря на изискванията за доказателства и изход. Екипът не е задължен да предпочете по-впечатляващата демонстрация. Той може да приложи посочените критерии, да зададе пропорционални въпроси и да откаже първото предложение, ако съществено изискване остане недоказано.

Това решение не трябва да бъде формулирано като морална присъда за доставчика или технологията. То трябва да посочва обществената цел, изискването, получените доказателства, неразрешеното условие и решението, което документите за поръчката позволяват. Ясното „не“ е по-уважително от неясното „може би“, което по-късно се превръща в задължително подновяване. То също така изпраща полезен сигнал към пазара: публичните купувачи ще плащат за доказателства и контрол, а не само за демонстрации на възможности.

Човешкият орган за спиране трябва да може да действа при инцидент. Операторът трябва да знае кого да се обади, какво състояние на системата да запази, кой маршрут на услугата може да продължи и каква комуникация се изисква. Протоколът за решението трябва да разграничава незабавното ограничаване на щетите от по-дългосрочно решение за поръчката. Публичният орган не трябва да чака перфектно разследване, преди да предотврати по-нататъшни вреди, но трябва да избягва да твърди повече сигурност, отколкото има. Спирането е контрол. Обяснението може да се развива.

Обществените поръчки оформят пазара

Обществените поръчки са един от начините, по които Европа решава кои възможности си струва да се изградят. Докладът на Съвместния изследователски център за насърчаване на приемането на ИИ в публичните администрации на ЕС описва публичния сектор като основна сила, оформяща пазара. Той свързва успешното приемане с управлението, готовността на работната сила, отговорните обществени поръчки, оперативната съвместимост и общественото доверие. В него също се посочва, че стратегическите обществени поръчки могат да намалят зависимостта от доставчици извън ЕС и да подкрепят европейски стартъпи, решения с отворен код и GovTech. Въпросът не е, че публичният орган трябва да се превърне във фонд за рисков капитал. Въпросът е, че неговите изисквания могат или да възнаградят отговорни възможности, или да възнаградят убедителна обвивка около зависимостта.

Специален доклад № 28/2023 на Европейската сметна палата е озаглавен Public procurement in the EU: less competition for contracts awarded for works, goods and services in the ten years up to 2021. Неговото публично резюме описва конкуренцията за обществени поръчки в Европа като свиваща се. Пазар с по-малко ефективни конкуренти е лошо място за скриване на неясни изисквания. Ако органът не може да сравни доказателствата, той може да избира между маркетингови стилове, а не между услуги. Отказът на непроверимо предложение може да запази условията за по-добра конкуренция в бъдеще.

В същото време купувачът може случайно да изключи полезни доставчици, като изисква доказателства във форма, която само най-големият доставчик може да представи. Пропорционални изисквания, ясни интерфейси, отворени формати и поетапни оценки могат да позволят на по-малки организации да демонстрират ограничена възможност, без да се преструват, че разполагат с ресурсите на мултинационална компания. Купувачът трябва да бъде строг по отношение на обществената цел и гъвкав по отношение на изпълнението, когато изпълнението не засяга тази цел. Така „не“ се превръща в по-добър въпрос, а не в затворена врата.

Оформянето на пазара също означава отказ да се превърне частната архитектура на един доставчик в определение на обществената нужда. Ако изискване посочва конкретен модел, облак или патентован работен процес без обоснована връзка със задачата, конкуренцията може да бъде ограничена още преди да се видят доказателствата. Функционалните изисквания и проверимите резултати дават на публичните купувачи повече свобода да сравняват подходите. Те също така правят договора по-малко крехък, когато избраният компонент се промени.

Публичният орган може да бъде взискателен клиент, без да става труден клиент. Той може да публикува доказателствата, които очаква, да обясни причината за условие за спиране, да предложи път за изясняване и да плаща за работа, която създава траен публичен капацитет. Тогава пазарът има на какво да отговори. Не е нужно да гадае дали решаващият фактор е скрито предпочитание, красив демо или цената на бъдещ проблем.

Работен модел за поръчка, която може да откаже

Следният модел е практическа препоръка, а не нова правна процедура. Той е начин публичното решение да остане видимо, докато една система преминава от идея към експлоатация. Органът трябва да го адаптира към своето законодателство, сектор, риск и метод на възлагане. Важното е всяка врата да има собственик, доказателства и разрешен резултат, който включва пауза или отказ.

Първо, опишете публичната цел. Назовете услугата, хората, които я изпълняват, хората, които я получават, решението или действието, което може да се промени, и причината, поради която се обмисля система. Посочете какво е извън обхвата. Ако целта не може да бъде описана без речника на продукта на доставчика, органът все още е на етап проучване на пазара. Резултатът от тази врата е формулировка на проблема и решение дали възлагането е правилната следваща стъпка.

Второ, опишете границата на доказателствата. За всяко съществено твърдение посочете какво би показало, че то е вярно в предвидената задача. Назовете условията за данните, езика, нуждите от достъпност, изходните записи, версията, базовата линия и пътя за преглед, които правят теста смислен. Уточнете какво трябва да може да се проверява, какво може да остане поверително и какво трябва да се предаде като договорен запис. Резултатът от тази врата е набор от изисквания, които кандидатите могат да разберат, и план за оценка, който може да промени решението за възлагане.

Трето, опишете границата на правомощията. Назовете действията, които системата може да предлага, действията, които може да предприема, действията, които изискват одобрение, и действията, които са забранени. Посочете кой може да коригира източник, да отхвърли резултат, да промени правило, да спре услуга и да говори със засегнато лице. Определете какво се случва, когато системата е несигурна или доказателствата си противоречат. Резултатът от тази врата е човешки път, който е по-конкретен от отметка в поле.

Четвърто, опишете границата на промените. Определете промените, които изискват уведомление, оценка, одобрение или ново решение за възлагане. Включете модел, данни, доставчик, подизпълнител, инфраструктура, място на обработка, интерфейс, праг, съвкупност, цел и човешки път. Решете кои доказателства остават към записа за промяната и кои могат да бъдат заличени по законни причини. Резултатът от тази врата е поддържан запис, а не обещание, че системата ще остане непроменена.

Пето, опишете границата на излизане. Избройте записите, данните, конфигурацията, доказателствата, разрешенията, интеграциите и оперативните знания, които трябва да бъдат запазени. Определете формати, срокове, поддръжка, проверка, намалено обслужване, преминаване, закриване на достъпа и изтриване. Репетирайте малък експорт преди подновяване или съществено разширение. Резултатът от тази врата е път, който може да се тества, докато доставчикът все още е партньор, а не само след като отношенията са се превърнали в спор.

Шесто, опишете публичния запис. Решете какво може да се публикува за целта, ролята на системата, доказателствата, човешкия път, промените, инцидентите и контакта за оспорване. Защитете поверителната и личната информация, без да превръщате цялото решение в частен разговор. Публичният запис може да каже какво е известно, какво не е известно и кога ще се проведе следващият преглед. Неговата задача не е да направи системата да изглежда безупречна. Тя е да направи преценката на органа проверима.

Накрая напишете отказа. Отказът не е драматично прессъобщение. Той е нормален резултат в протокола на решението: изискването е било съществено, доказателствата не са го покрили, обмислена е била мярката за отстраняване и органът е избрал да откаже, да стесни обхвата, да спре или да потърси друг път. Поръчка, която не може да представи такъв протокол, е направила покупката да изглежда неизбежна, преди да е заслужила този извод.

Тези порти могат да бъдат представени в оферта за участие в обществена поръчка, начална архитектура на проект, график на договор, прегледна среща и наръчник за реагиране при инциденти. Те не трябва да се превръщат в по-голяма форма заради самата форма. Ако една порта не променя това, което екипът може да реши, вероятно е документална театралност. Ако дава на човек доказателства и правомощие да действа, тя е част от услугата.

Въпроси, които си струва да включите в обществена поръчка

Най-добрите въпроси не са тези, които карат доставчика да повтаря маркетинговия си език. Те са тези, които правят видими обществената цел и границата на доказателствата. Възложителят може да адаптира следните въпроси към системата и процедурата:

  • Каква точно обществена задача подпомага предлаганата възможност и кои задачи са извън предвидената ѝ употреба?
  • Кои хора, записи и източници на данни са в обхвата и кои трябва да бъдат изключени?
  • Какъв резултат произвежда системата и какво решение или действие може да последва от него?
  • Кое изискване може да бъде демонстрирано, кое може да бъде проверено и кое ще се поддържа договорно?
  • Как органът ще възпроизведе резултат със съответната версия, източници, конфигурация и условия на задачата?
  • Какво може да види, промени, отхвърли, ескалира или спре човекът, който прави прегледа, преди да настъпи действие със съществени последици?
  • Кои промени в модела, данните, инфраструктурата, подизпълнителя или политиката изискват уведомление и повторна оценка?
  • Кои записи и артефакти може да експортира органът, в какви формати, с какво значение, права и статут на съхранение?
  • Какво се случва, когато услугата е недостъпна, доказателствата са непълни или човек оспори резултата?
  • Кои задължения за поддръжка, одит, инциденти, обучение и излизане продължават след първото пускане?

Тези въпроси не заместват директивата за обществените поръчки, Акта за изкуствения интелект, законодателството за защита на данните или секторните правила. Те са подсказки органът да операционализира собствените си задължения. Доставчик, който може да отговори ясно на тях, може пак да не е правилният доставчик. Доставчик, който не може да отговори на тях, може пак да има полезна компонента, но органът не трябва да бърка полезната компонента с цялостна обществена възможност.

Нашата кратка бележка

В Dweve нашият AI Compas включва неутрален към доставчиците път за обществени поръчки и управление за регулирани европейски организации. Материалите за RFI и RFP изискват от екипите да класифицират случая на употреба, да прилагат критерии за отпадане, да сравняват доставчици, да проведат доказателство на концепцията и да пазят доказателства чрез мониторинг. Това е нашият контекст на внедряване, а не независимо доказателство за обществените поръчки и не твърдение, че една рамка подхожда на всеки орган. Споменаваме го, защото дисциплината, описана тук, е и дисциплината, която се опитваме да прилагаме в собствената си работа: определете границата, изисквайте доказателства, пазете решението човешко и направете излизането видимо.

Нашият Trust Centre прави същото разграничение в различен регистър. Публичният запис може да опише какво е документирано, какво е подготвено и какво остава бъдещо събитие, без да превръща изявление за намерение в доказателство. Екипът по обществени поръчки заслужава същата честност от своите доставчици. Купувачът трябва да може да види статуса на дадено твърдение, доказателствата зад него и пътя за оспорването му.

Урокът

Един публичен орган не става отговорен, когато подпише за система с изкуствен интелект. Той става отговорен, когато процедурата по възлагане може да обясни защо системата принадлежи към работата, какви доказателства подкрепят това заключение, кой може да се намеси, какво се случва, когато системата се промени, и как публичната функция може да продължи, ако доставчикът не може.

Европейските правила за обществени поръчки вече осигуряват важни навици: критериите трябва да са свързани с предмета на поръчката, информацията трябва да е проверима, тежестите трябва да са посочени, а условията по договора трябва да са ясни. Клаузите на Европейската комисия за обществени поръчки за изкуствен интелект дават на публичните купувачи начин да обсъждат системи с висок и нисък риск и да разпределят отговорностите. Нидерландският Algoritmekader превръща отговорното възлагане в практически мерки относно целта, данните, доказателствата, одита, човешкия контрол, спирането и излизането. Докладът на JRC поставя обществените поръчки в контекста на европейския разговор за капацитет и суверенитет. Предупреждението на ECA за свиващата се конкуренция е напомняне, че слабата надпревара не се поправя с уверено възлагане.

Трудната дума все още е не. Не, целта не е определена. Не, доказателствата не могат да бъдат проверени. Не, човешкият път е декоративен. Не, пътят на промяната е невидим. Не, публичният регистър не може да бъде поддържан. Не, услугата не може да напусне, без да загуби работата, която е трябвало да защитава. Всяко не може да бъде отказ, стесняване, пауза или искане за по-добър отговор. Органът трябва да реши кое от тях, да запише защо и да остави решението отворено за оспорване.

Възлагането, което може да каже не, не е възлагане, което се страхува от технологията. То е възлагане, което знае разликата между способност и обещание. То плаща за система, която може да бъде тествана, наблюдавана, променяна и напусната. То дава на доставчиците по-честна надпревара, защото въпросът е видим. То дава на публичните служители път да се намесят, преди проблемът да стане политика. То дава на хората, засегнати от услугата, нещо по-полезно от изявление, че даден доставчик е одобрен.

Една публична покупка трябва да завърши с услуга, която органът все още може да управлява. Ако доказателствата са силни, казването на да е смислено. Ако доказателствата са слаби, казването на не е публичната работа. Досието по поръчката трябва да може да съдържа и двете изречения.

Източници