Европейският разговор за ИИ се нуждае от по-малко демонстрации и повече институции.

Убедителната демонстрация на модел може да покаже възможност. Тя не може да реши кой има власт, как хората оспорват даден резултат, къде се съхраняват...

Европейският разговор за ИИ се нуждае от по-малко демонстрации и повече институции.

Демонстрацията не е публична институция

Една добра демонстрация притежава особен вид сила. Тя свива една възможност в няколко минути. Попълва се формуляр, обобщава се документ, появява се изображение, труден въпрос получава правдоподобен отговор. Всеки в стаята може да види защо някой би искал това нещо. Това е полезно. Но също така е моментът, в който множество по-трудни въпроси учтиво се отлагат за по-късно.

По-късно е мястото, където започва институцията. Кой има право да решава дали системата може да се използва? На каква публична цел служи тя? Кои доказателства са достатъчни за тази цел и кой може да каже, че не са достатъчни? Какво се случва, когато дадена версия се промени, когато служител оспори препоръка, когато човек поиска обяснение, когато ограничение на енергията затвори маршрут или когато пътната карта на доставчика се превърне в различна пътна карта? Една демонстрация не е създадена да отговаря на тези въпроси. Публичната институция е.

Европа е прекарала доста време в обсъждане на ИИ като състезание на способности. Този разговор е разбираем. Способността е видима. Тя създава подреден видеоклип. Институциите са видими най-вече чрез работата, която не позволяват да стане загадъчна: условия за обществени поръчки, водене на записи, контрол на достъпа, обучение, надзор, пътища за обжалване, бюджети за поддръжка, езикова поддръжка, технически стандарти, човек, чието име е свързано с дадено решение. Нищо от това не придава обичайния блясък на основната реч. Но именно това решава дали една система остава отговорна, след като стаята опустее.

Това не е аргумент за плаха технология или за публичен сектор, който не купува нищо, докато не види бъдещето. Това е аргумент за отхвърляне на категорийна грешка. Един модел може да генерира, класифицира, прогнозира или препоръчва. Той не може сам да създаде легитимен мандат, да разпредели публична отговорност, да научи колега как да го оспори, да поддържа национален език, да договори присъединяване към мрежата или да запази средство за защита за човек, засегнат от използването му. Тези задачи принадлежат на хората и организациите, дори когато софтуерът помага в работата.

Европейският разговор за ИИ има нужда от по-малко демонстрации в смисъл, че има нужда от по-малко демонстрации, които заместват доказателства за готовност. Има нужда от повече институции в смисъл, че има нужда от по-добри места за вземане на решения, запазване на знания и коригиране на курса. Промяната не е от технология към бюрокрация. Тя е от тясна представа за технологията към действителната уредба, в която технологията има последици.

Този въпрос е от значение далеч отвъд правителството. Болница, община, училище, производител, културна институция и малък бизнес нямат едни и същи задължения или рискове. Но всички те в крайна сметка откриват, че моделът е един компонент в по-голяма уредба. По-голямата уредба определя кой доставя входните данни, кой чете резултатите, кой поема остатъчния риск, кой може да спре системата и кой остава, след като софтуерната компания е изпратила своя тримесечен бюлетин.

Ето защо езикът на институциите не е отстъпление от техническите амбиции. Той е езикът на приемствеността. Една публична услуга трябва да работи в обикновен вторник, на езика на хората, които я използват, при бюджет, който някой може да провери, след смяна на персонала, по време на несъгласие с доставчика и когато първоначалният ентусиазъм се е превърнал в билет за поддръжка. Всяко сериозно твърдение за ИИ трябва в крайна сметка да премине през това пътуване.

Способността е само един от въпросите

Една демонстрация обикновено задава тесен и разумен въпрос: може ли системата да изпълни тази задача при тези условия? Една институция трябва да зададе по-голям набор от въпроси наведнъж. Подходяща ли е тази задача за автоматизиране или подпомагане? Законосъобразна и пропорционална ли е заявената цел? Хората, които вършат работата, все още ли могат да разберат и оспорят резултата? Съществува ли път, по който представител на обществеността да попита какво се е случило? Може ли организацията да смени доставчика, без да изостави записите си? Зависи ли системата от оскъдни изчислителни ресурси, от конкретен езиков ресурс или от поток от данни, чиято поддръжка никой не е предвидил в бюджета?

Тези въпроси не влошават модела. Те правят решението по-честно. Те разграничават функция от услуга и услуга от публичен капацитет. Една функция може да е впечатляваща, докато обкръжаващата я уредба е крехка. Една услуга може да е полезна, докато договорът ѝ прави невъзможна проверката на съществена промяна. Един публичен капацитет трябва да остане използваем, управляван и поправим във времето. Той трябва да носи повече от просто резултат.

За Акта за ИИ често се говори като за единствен отговор на този проблем. Той не е такъв. Той е значителна правна рамка и заявената му цел свързва функционирането на вътрешния пазар с ориентиран към човека и надежден ИИ и с високо ниво на защита на здравето, безопасността, основните права, демокрацията, правовата държава и опазването на околната среда. Но самият Акт прави важен извод за институционалната реалност: той действа успоредно със съществуващото право на Съюза относно защитата на данните, потребителите, заетостта, работниците и безопасността на продуктите. Правната рамка не замества тези области. Тя се среща с тях.

Това трябва да оформи практическия разговор. Екип не може да обяви система за социално издържана, като посочи класификация на риска на ИИ, докато пренебрегва процеса на заетост около нея. Публичен орган не може да обяви система за отговорна, защото е извършил техническа оценка, докато жителите остават неспособни да открият собственика или записа. Доставчик не може да накара проблема с преносимостта да изчезне, като използва думата облак. Въпросът винаги е как новият компонент се държи вътре в задълженията, които вече са съществували.

Съществува практическо изкушение да се третира това като аргумент за по-голяма папка за съответствие. Не е така. Повече страници могат да направят организацията по-малко способна да действа, ако никой не знае коя страница променя решението. Институциите не стават способни, като събират шаблони. Те стават способни, когато определена цел, посочен орган, използваеми доказателства и път за корекция могат да се срещнат в една и съща работа.

Това е много по-висок стандарт от демонстрация. Той е и по-справедлив. Доставчикът на модел не трябва да отговаря за всеки местен политически избор, направен от внедряващата страна. Внедряващата страна не трябва да бъде помолена да възстанови обратно всяко техническо решение нагоре по веригата. Всяка страна се нуждае от граница, от запис на това, което я пресича, и от начин да установи кога границата се е преместила. Институциите съществуват отчасти, за да направят тези граници четливи.

Законът е основа, а не цялата сграда

За Европа често се говори, сякаш е избрала правила вместо технология. Описанието е твърде спретнато, за да е полезно. Законът може да забранява, да изисква, да разпределя отговорности и да запазва правни средства за защита. Той може да определи минимална публична основа, под която една система не бива да пада. Той не може да наеме проверяващия, който разбира местния работен процес, да поддържа интерфейс за данни, да напише разумна спецификация за обществени поръчки или да накара изтощен екип изведнъж да има време да научи нов процес. Тези неща изискват капацитет.

Разликата има значение, защото правният език може да прикрива оперативни липси. Една политика може да гласи, че съществува човешки надзор. Това твърдение е безсмислено, ако човекът няма правомощие да спре маршрута, няма време да прегледа даден случай, няма информация за версията на модела, няма обучение за задачата и няма път за ескалация на несъгласие. Надзорът съществува само на хартия, подобно на противопожарен изход, скрит зад шкаф. Той е много успокояващ, докато не потрябва.

Същото важи и за прозрачността. Едно оповестяване може да е технически налично и практически безполезно. Човек може да получи дълго описание на система, без да научи кой носи отговорност за решението, кой запис може да бъде оспорен или как да получи правна защита. Публичен регистър може да изброява алгоритъм, без да посочва дали изброената версия е актуална, за какво се използва системата или кой има правомощие да отговаря на въпроси. Прозрачността не е количеството текст. Тя е способността да се открие дадено решение и неговият отговорник.

Правната работа на Европа е ценна именно защото прави някои от тези въпроси по-трудни за пренебрегване. Тя дава общ език на доставчиците, внедряващите, регулаторите и засегнатите хора. Тя също така прави пропуските по-видими. Когато една организация не може да посочи предвидената си цел, да идентифицира потока си от данни, да води запис за съществена промяна или да назове лицето, което може да спре дадено използване, проблемът не е просто, че документацията закъснява. Организацията все още не е изградила това, което твърди, че експлоатира.

Тук институциите имат скромно предимство пред лозунгите. Те помнят, че дадено решение е взето. Те съхраняват условията заедно с него. Те запазват разликата между план и събитие. Те поставят име, пощенска кутия и понякога леко упорит формуляр до всяко обещание. Формулярът не е постижението. Постижението е, че някой може да бъде държан отговорен за отговора.

Добрият закон създава пространство за тази работа. Той не трябва да се използва като неин заместител. Зрелият въпрос не е дали дадена система отговаря на изискванията в абстрактен смисъл. Той е дали отговорните хора могат да докажат как конкретната ѝ употреба изпълнява приложимите задължения, какво все още не знаят и какво ще направят, когато доказателствата се променят. Това е едновременно правен, оперативен и институционален въпрос.

Обществените поръчки са мястото, където публичното намерение среща договора с доставчика

Обществените поръчки звучат процедурно, защото са процедурни. Те са и едно от местата, където публичното намерение става реално. Публичен орган купува строителство, стоки или услуги от избрани компании чрез процес, оформен от правила, предназначени да запазят поръчките открити и конкурентни. В контекста на ИИ този процес не е просто моментът, в който се избира даден продукт. Той е моментът, в който органът може да реши какво доставчикът трябва да направи проверяемо, какви промени изискват уведомление, кои записи остават налични, как работата може да бъде предадена и какво се случва, ако системата трябва да бъде спряна.

Обществена поръчка, която иска само възможностите на модела, обикновено купува демонстрация с приложена фактура. Обществена поръчка, която иска условията на експлоатация, купува нещо по-близко до услуга. Тя може да изисква определена предвидена цел, интерфейси, документация, достъпни доказателства, разрешения на база роли, контакти за инциденти, уведомления за актуализации, формати за експорт, граници на поддръжката, договорености за съхранение, помощ при прекратяване и ясно разпределение на отговорностите. Тя може да попита кой носи отговорност за конкретен риск, вместо да позволи на всяка страна да предполага, че другата я носи.

Няма универсална клауза, която да урежда тези въпроси. Малка организация, която купува тесен вътрешен инструмент, не бива да наследява договор, създаден за национална критична услуга. Също така, публична употреба с голямо въздействие не бива да получава договорната дисциплина на безплатен пробен период с малко по-дълга форма. Договорът трябва да следва последиците от решението, зависимостта, създадена от услугата, и капацитета на организацията да я управлява.

Илюстративен сценарий, а не доклад за реална обществена поръчка: представете си публичен орган, който обмисля система, помагаща на служителите да организират постъпващия материал по случаи. Демонстрацията показва обобщения, извлечени полета и предложена опашка. Отговорният въпрос не е дали опашката изглежда подредена. Въпросът е дали служителите могат да видят изходния материал, дали правилата за приоритет са документирани, дали даден случай може да бъде коригиран без да се създаде скрит втори работен процес, дали актуализация на системата променя резултата, дали записите могат да бъдат експортирани и кой отговаря, когато човек оспори начина, по който е обработен неговият материал. Нито един от тези въпроси не изисква театрален страх от ИИ. Те изискват зрял договор.

Обществените поръчки могат също да защитят организацията от собствения ѝ оптимизъм. Ако доставчик каже, че нова функция ще пристигне по-късно, органът може да я запише като план, вместо да я купи като съществуващо възможност. Ако доставчик обещае път за човешка проверка, договорът може да опише действителната роля, условието за отговор и доказателствата, вместо да приеме фраза, която звучи успокояващо. Ако услугата зависи от конкретен формат на данните, органът може да изиска преобразуването и експорта, преди системата да стане трудна за напускане. Оптимизмът има място в иновациите. Не бива да му се позволява да подписва договори без придружител.

Това не означава, че всеки екип по обществени поръчки трябва да се превърне в моделна лаборатория. Означава, че екипите се нуждаят от достъп до правилната компетентност. Правни, технически, оперативни, финансови и ориентирани към потребителя знания трябва да се срещнат, преди да бъдат взети необратимите решения. Това е една от причините институциите да имат значение. Те създават начин различни форми на знание да присъстват, без да се преструват, че един човек може да ги носи всичките.

Най-добрият въпрос при обществена поръчка често е обезоръжаващо прост: какво ще изисква тази договореност от нас след стартирането? Отговорът може да включва време на персонала, записи, наблюдение, енергия, езикова експертиза, интеграционна работа, пътища за проверка и план за излизане. Ако нито едно от тези неща не се появи в отговора, обществената поръчка не е накарала тежестта да изчезне. Тя просто я е оставила извън бюджета.

Инфраструктурата има публичен адрес

Изкушаващо е да се говори за изчислителни ресурси, сякаш са времето. Едно натоварване се нуждае от капацитет, капацитетът е някъде другаде, а важното е дали страницата в крайна сметка се зарежда. Но изчислителните ресурси имат местоположение, верига за доставки, мрежов път, енергийно търсене, режим на поддръжка и правен контекст. Инфраструктурата следователно е част от институционалния капацитет, а не негов фон.

Работата на Европейската комисия по цифровизацията на енергийната система прави това трудно да се пренебрегне. Тя се занимава с оптимизация на мрежата, ефективност, гъвкавост и устойчиво интегриране на центрове за данни. Важната дума е интегриране. Центърът за данни не е просто частна кутия с машини, която случайно консумира електричество. Той се намира в споделена енергийна система с местни ограничения, публично планиране и други претенции към мрежата. Сериозната стратегия за ИИ трябва да вижда цялата договореност, вместо да третира електричеството като бележка под линия под графиката на изчислителните ресурси.

Това не води до простo правило, че цялата обработка трябва да е локална, централна, национална или европейска. Всяко решение има условия. Локалното разполагане може да намали някои трансфери и да постави контрола близо до организацията, но увеличава тежестта по поддръжката. Споделено европейско съоръжение може да разшири достъпа до скъпи възможности, но изисква ясни правила за достъп и реалистичен път от експеримент до експлоатация. Търговска хостинг услуга може да предложи полезен път за част от работата, но поражда въпроси за юрисдикция, зависимост, записи и контрол на промените. Географията е дизайнерско решение с последици, а не морален етикет.

AI фабриките на EuroHPC са интересни в това отношение, защото публичното им описание е по-широко от стая, пълна с ускорители. Услугите включват изчисления и съхранение, достъп до данни и софтуер, поддръжка, обучение, въвеждане и секторно ориентирано сътрудничество. Тази комбинация има значение. Машина без достъпен път, хора, които могат да помогнат, и обоснована връзка с област на работа не е публичен капацитет. Тя е скъпа мебелировка с впечатляващ шум от вентилатори.

Публичната инфраструктура се нуждае и от институционална памет. Кой може да ползва ресурса? При какви условия? Коя работа получава приоритет, когато капацитетът е ограничен? Какви данни могат да се внасят? Кои резултати могат да излязат? Какво се случва, когато проект приключи? Как по-малките организации се подпомагат да ползват ресурса, без от тях да се очаква да дойдат с отдел за научни изследвания и свободна седмица? Закупуването на хардуер не отговаря на тези въпроси. Експлоатацията отговаря.

Тук има урок за суверенитета, който често се свежда до карта. Една услуга може да е физически близо и въпреки това да е трудна за управление. Една система може да се хоства на европейска земя, докато ключовите контроли, правомощията за актуализации, интерфейсите или търговският лост остават другаде. Обратно, трансгранична европейска договореност може да подкрепи смислен публичен капацитет, когато границите, правата за достъп, отговорностите и пътищата за излизане са изрично определени. Уместният въпрос не е просто къде стои стойката. Той е кой може да решава, да проверява, да поддържа и да напуска.

Необходими са институции, които да държат тези въпроси заедно. Енергийните плановици не могат да изведат AI натоварване от маркетингова страница. Служителите по обществени поръчки не могат да преговарят за взаимоотношение с център за данни въз основа на бенчмарк на модел. Изследователски екип не може да превърне достъпа до машина в трайна способност без поддръжка, практика за данните и път за използване на резултата. Нишката, която свързва тези въпроси, не е конкретен модел. Тя е публичната способност да се взема ограничено решение и да се запази възможността да се преразгледа.

Способността не стои в центъра сама по себе си. Изберете поле, за да видите публичната работа, която то трябва да носи.

Трудът не е детайл по внедряването

Всяка AI система променя работата някъде. Понякога промяната е очевидна, защото задача се предава на софтуер. По-често е по-тиха. Служител проверява предложение, вместо да създава първа чернова. Ръководител вижда резултат, преди да проведе разговор. Оператор в кол център получава обобщение, което оформя следващия въпрос. Служител по преписки прекарва по-малко време в търсене на документ и повече в обясняване на изключение. Задачата се е променила, дори ако длъжността не се е променила.

Ето защо трудът не може да остане накрая на плана за внедряване, под рубриката „управление на промяната“. Работата не е повърхност, с която да се управлява след като техническото решение е взето. Тя е мястото, където системата придобива своето практическо значение. Работниците знаят кои записи са непълни, кои изключения са чести, къде едно разумно правило става абсурдно и какво изисква от човека един привидно ефикасен процес. Да ги извадим от разговора за проектирането е сигурен начин да направим работния процес по-малко разбираем.

Прегледът на EU-OSHA за управлението на работници чрез ИИ посочва както възможности, така и рискове за здравето и безопасността при работа. Тази формулировка е полезна, защото отхвърля два лесни разказа. Първият гласи, че всеки инструмент с ИИ е управител в маскировка. Вторият гласи, че технологията е неутрална, докато някой конкретен злонамерен участник не я злоупотреби. На практика, проектирането на наблюдението, целите, препоръките, предупрежденията и разпределението може да оформи качеството на труда, преди някой да е казал и една драматична дума за замяната.

Човешкият институционален отговор не е да се настоява всеки служител да стане специалист по ИИ. Той е да се направи възможна за обсъждане връзката между инструмента и работата. Какво е позволено на системата да препоръчва? Какво не ѝ е позволено да решава? Кои сигнали подхранват разговора за представянето? Може ли работникът да прегледа и коригира записа, който се води за него? Какво се случва, когато резултатът на системата противоречи на професионалната преценка? Има ли време за усвояване на инструмента и това време третирано ли е като работа, а не като лично хоби, практикувано след като децата заспят?

Въпросът за авторитета е особено важен. Работник, който на думи е свободен да отхвърли даден резултат, но е оценяван чрез табло, което възнаграждава съгласието, не е получил смислена свобода на преценка. Ръководител, който получава оценка, без да знае на какво се основава, не е получил смислена отговорност. Синдикален представител, който вижда системата едва след закупуването ѝ, не може да добави знанието, което би предотвратило един предотвратим конфликт. Институциите правят място за тези факти, преди една електронна таблица да ги превърне в изненади.

Няма единно европейско работно място. Отрасловите споразумения, националното трудово законодателство, организационната култура и естеството на задачата имат значение. Но институционалният принцип се пренася добре: не се отнасяйте към хората като към слой за обработка на грешки в система, която не им е било позволено да разберат. Ако човешката преценка е част от аргумента за безопасност, тогава организацията трябва да даде на тази преценка информация, правомощия и път да бъде чута.

Образованието е практика, а езикът е част от практиката

Грамотността по ИИ се превърна в популярен отговор на институционалната слабост. Изпратете хората на курс, издайте сертификат, поставете весел слайд в интранета и считайте въпроса за уреден. Това е по-добър отговор от никакво обучение. Но не е достатъчно.

Насоките на Комисията за грамотност по ИИ поставят задължението на едно по-основателно място. Доставчиците и внедряващите следва да предприемат мерки, за да осигурят достатъчно ниво на грамотност сред персонала и другите лица, работещи с ИИ системи от тяхно име. Съответните фактори включват технически знания, опит, образование и обучение, както и контекста, в който се използва системата. Това не е изискване за универсален тест по машинно обучение. Това е покана да съобразим знанието с отговорността.

Служител по обществени поръчки трябва да разпознае твърдение, което не може да бъде оценено от брошура. Работник на първа линия трябва да знае кога резултат трябва да бъде сверен с изходния материал. Ръководител трябва да разбере какво обобщен резултат не може да му каже за отделен случай. Член на борда трябва да може да попита кой има правомощия да спре дадена система. Разработчик се нуждае от по-задълбочено разбиране на данните, интерфейсите, оценката и грешките. Да наречем всичко това грамотност може да е леко неточно. На реалните институции е позволено да бъдат неточни, когато алтернативата е да се преструваме, че един курс подготвя всяка роля еднакво.

Обучението има и времеви проблем. Човек може да разбере даден инструмент през март, а през октомври да се изправи пред материализирано различен интерфейс, модел или работен процес. Една полезна учебна програма затова следва промените, които имат значение. Тя дава на хората начин да преразгледат условията за вземане на решения, а не просто спомен от събитие по стартирането. Етичните насоки на Комисията за преподавателите повдигат сходна точка в друг контекст: практическият подход към ИИ в преподаването и ученето не може да бъде сведен до включване на превключвател. Контекстът, целта и хората в стаята остават от значение.

Езикът също е от значение тук. Показаният език на една система не е езикът на обществото. Модел може да произвежда плавен текст на даден език, но да пропуска административни термини, регионални форми, професионална лексика, културни препратки или правни значения, които правят едно реално решение разбираемо. Един превод може да е граматически издържан и пак да промени отговорност, задължение или право. Многоезичната употреба не е декоративна стъпка по локализация в края на иначе завършен продукт.

За Европа това е практически институционален въпрос. Обществените услуги, работните места и училищата работят на много езици, понякога на няколко в рамките на една и съща организация. Документацията, пътищата за грешки, обучението, подкрепата и процесите за оспорване трябва да срещнат хората там, където се извършва работата. Ако политиката е налична на един език, а работният интерфейс на друг, организацията е разделила системата на две. Ако човек може да получи решение на своя език, но не може да намери обяснението или пътя за оспорване на този език, средството за защита се е превърнало в теоретично.

Решението не е да обещаваме, че всяка система разбира всеки език еднакво. Това би било твърдение с много малко доказателства зад себе си. Решението е да заявим обхвата честно, да тестваме употребата, която реално е предвидена, да държим езиковите ограничения видими и да гарантираме, че една празнина не се превръща тихо в недостатък за хората, които най-малко могат да я поправят. Това е по-малко бляскаво от обявяването на многоезичен ИИ. По-уважително е.

Безопасността започва с твърдение, което може да бъде оспорено

Безопасността е друга дума, която става неясна, когато се иска да носи твърде много. Една ИИ система не е безопасна, защото доставчик казва, че има предпазни механизми. Не е безопасна, защото бенчмарк съдържа успокояващо число. Не е безопасна, защото човек остава някъде в процеса. Безопасността се отнася до ограничено твърдение: тази система може да бъде използвана за тази цел, в тази среда, при тези условия, с тези контроли, доказателства, остатъчни рискове и хора, които могат да действат.

Ето защо досиетата за безопасност са полезни извън секторите, в които обичайно се обсъждат. Досието за безопасност не е значка. То е аргумент, който свързва твърдение с опасности, контроли, допускания, доказателства и решение. В него има място за несигурност. То може да каже, че дадено условие все още не е изпълнено. То може да каже, че промяна изисква преоценка. То може да каже, че правилното решение е да се направи пауза. Една демонстрация няма реален начин да каже тези неща, без да развали собственото си настроение.

В работата с изкуствен интелект важното е да се свържат доказателствата с реалната употреба. Оценката на модел може да каже на дадена организация нещо за дадена способност при описания метод. Тя не установява автоматично, че моделът е подходящ за всеки работен процес, за всяка група, на всеки език или след всяка промяна в интеграцията. Институцията трябва да поеме веригата от модела към услугата и към локалното решение. Именно във веригата много на пръв поглед искрени твърдения стават прекомерни.

Доказателствата имат срок на годност, дори когато самият файл няма. Версията се променя. Колекцията за извличане се променя. Нов шаблон за подкана променя поведението, което потребителят вижда. Служител открива режим на отказ, който не е бил в тестовия набор. Закон, политика или източник на данни се променя. Това не са смущаващи прекъсвания на една съвършена система. Това са обичайни условия за работа със софтуер в реалния свят. Институционалната задача е да реши кои промени изискват нов преглед, кой взема това решение и как предишният запис остава достъпен за сравнение.

Способността да се спре е част от същия аргумент. Условие за спиране, което никой не може да задейства, е декоративна клауза. Бутон за спиране без отговорник е малко произведение на съвременното изкуство. Една надеждна договореност посочва органа, сигнала, който може да задейства действие, пътя за ескалация, безопасното състояние и начина, по който решението се записва. Детайлите варират. Нуждата от детайли не варира.

Затова безопасността не е отделът, който идва накрая с червен молив. Тя е начин да се направи едно споделено решение по-прецизно, преди системата да стане трудна за промяна. Тя задава въпроса, който демонстрациите избягват, защото отговорът може да е неудобен: какви доказателства биха ни убедили да не продължим? Институция, която може да отговори на този въпрос, вече е станала по-способна от тази, която може само да празнува пускането.

Публичният капацитет е верига, не витрина

Публичният капацитет на Европа за изкуствен интелект няма да се измерва само с броя на моделите, центровете за данни или изследователските обяви, които може да постави на картата. Тези неща имат значение. Те не са самоподдържащи се. Капацитетът е способността да се използват технически ресурси за публична цел във времето, с достатъчно компетентност и правомощия, за да се избегне зависимост, маскирана като напредък.

Актът за оперативна съвместимост на Европа предлага полезна насока. Неговата грижа е оперативната съвместимост в публичния сектор в целия Съюз и споделянето и повторното използване на решения за оперативна съвместимост. Оперативната съвместимост понякога се третира като техническо предпочитание: въпрос за формат за хора, които харесват диаграми със стрелки. В публичната работа тя е също и институционално свойство. Тя определя дали даден запис може да пътува със значението си, дали един орган може да разбере границите на системата на друг орган, дали излизането на доставчик се превръща в управляема миграция или в шкаф, пълен с нечетими експорти.

Оперативната съвместимост не означава, че всяка система трябва да изглежда еднакво или че цялата публична работа трябва да бъде централизирана. Тя означава, че една граница не трябва да унищожава информацията, необходима за отговорно продължаване. Една организация трябва да може да идентифицира обекта, неговия собственик, неговото предназначение, неговата версия, доказателствата, приложени към него, и решенията, които са го променили. Нова услуга трябва да може да получи необходимите записи, без да изисква разрешение от стария доставчик, за да ги тълкува. Това не е дизайнерска украса. Това е начинът, по който една публична институция остава свободна да решава по-късно.

Нидерландският регистър на алгоритмите е друг малък, но полезен институционален обект. Той публикува информация за алгоритми, използвани от правителствени организации, и се фокусира върху алгоритми със значително въздействие, включително системи с висок риск за изкуствен интелект. Един регистър не доказва, че всяка изброена система е добра, справедлива или законосъобразна. Стойността му е другаде. Той прави съществуването на система, обявената употреба и отговорния публичен орган по-лесни за откриване. Той създава повърхност, върху която може да се приземи един въпрос.

Нужни са ни повече такива повърхности, не непременно повече уебсайтове. Запис за модел или система, публично обяснение, контролиран технически файл, път за инциденти, запис за обществени поръчки, план за обучение и спецификация за оперативна съвместимост обслужват различни читатели. Те трябва да са съгласувани по отношение на фактите, които преминават между тях. Една публична страница не е длъжна да разкрива всеки чувствителен детайл. Но не бива да противоречи на вътрешните доказателства. Един файл за обществена поръчка не е длъжна да бъде наръчник за обществеността. Но не бива да позволява на организацията да забрави условията, които е закупила.

Опасността е да се обърка видимостта със способността. Един лъскав портал може да прикрие липсващ оперативен модел. Една национална стратегия може да назове приоритет, без да осигури персонал, достъп, поддръжка или път за по-малките организации. Един иновационен фонд може да подкрепи доказателство за концепция, без да подкрепи работата, необходима за поддържане на полезна услуга жива. Празнината между тези неща е мястото, където много разумни проекти тихо приключват.

Публичният капацитет има по-малко фотогенична форма. Той включва споделена експертиза, достъпна инфраструктура, компетентност в обществените поръчки, работа по стандарти, ресурси на местни езици, дългосрочно финансиране, независим контрол и хора, които разбират достатъчно, за да зададат труден въпрос на доставчик. Той включва способността да се каже „не“, да се направи пауза, да се адаптира и да се оттегли. Континент, който може да прави тези неща, има повече от сектор за изкуствен интелект. Той има началото на технологично самоуправление.

Публичният капацитет е цикъл: цел, доказателства, власт, работа и учене трябва да останат свързани след пускането.

Работата след аплодисментите

Може да помогне да си представим седмицата след демонстрация, а не момента на самата демонстрация. Не реално събитие, не прикрит казус, а просто обикновената работа, която следва една обещаваща идея. Някой трябва да превърне заявената цел в обхват, който може да бъде оценен. Някой трябва да реши кои изходни записи е подходящо да се използват. Някой трябва да начертае как даден резултат навлиза в работен процес. Някой трябва да попита дали работата се променя за хората, които вече я вършат. Някой трябва да се увери, че пътят за поддръжка работи на езиците, които имат значение. Някой трябва да остойности интеграцията, мониторинга и евентуалното излизане.

В този момент проектът може да изглежда по-бавен, защото е придобил имена, условия и зависимости. Всъщност е станал управляем. Една демонстрация е бърза, защото пренебрегва работата по превръщането на една система в отговорна. Една институция не е бавна, защото използва контролен списък. Тя е бавна, когато открие реалните зависимости, след като вече е обещала резултат.

Практическата дисциплина е нерешените въпроси да се поставят там, където могат да променят решението. Ако организацията не знае как доставчикът ще я уведоми за съществена промяна в модела, запишете това, преди договорът да бъде сключен. Ако не може да обясни кой може да отмени препоръка, разрешете това, преди интерфейсът да стане навик. Ако никой не притежава изходните данни, не наричайте данните готови. Ако организацията не може да поддържа предвидените езици, стеснете предвидената употреба, вместо да позволявате едно широко обещание да се превърне в тихо изключване.

Това не е бюрократичен максимализъм. Това е пропорционалност. Асистент с ниски последствия за вътрешна употреба може да изисква ограничена договореност: посочена употреба, ясна граница на данните, указания за персонала, начин за подаване на сигнал за проблем и изходен маршрут. Система, която оформя достъпа до работа, услуги, образование, кредити, здравеопазване или публична власт, изисква много по-сериозна договореност. Правилният отговор на пропорционалността не е по-малко въпроси. Това са въпроси, съобразени с вредата, която една грешка може да причини.

Институционалната работа също прави иновациите по-лесно приложими отново. Когато един екип документира как е оценил даден работен процес, друг екип може да се поучи от метода, вместо да повтаря същата несигурност. Когато даден орган публикува полезен запис за система, жителите и други публични органи получават отправна точка. Когато договор запазва правата за износ и записите за промени, наследникът не е принуден да реконструира миналото от екранни снимки и фактури. Повторната употреба не е само за код. Тя е за това решенията около кода да останат разбираеми.

Тук има приятна ирония. Организациите, които най-много се притесняват, че управлението ще ги забави, често носят и най-много скрита преработена работа. Те повтарят оценки, защото условията никога не са били записани. Те спорят за отговорност, защото ролите никога не са били назовани. Те предоговарят договор, защото изходът е бил приет за даденост, а не уточнен. Те обучават хора след внедряването, защото работният процес е бил третиран като от само себе си разбиращ се. Институциите изглеждат като излишна тежест само докато отсъствието им все още не се вижда в плана на проекта.

Какво всъщност правят институциите

Лесно е да се представят институциите като величествени и далечни. На практика те извършват обикновени действия по поддръжка. Те запазват различия, които пазарният разговор предпочита да замаже. Те разграничават цел от резултат, план от събитие, модел от услуга, услуга от публично решение, запис от доказателство и оплакване от средство за защита.

Те разпределят правомощия. Не символични правомощия, а правомощието да одобрят предвидена употреба, да откажат източник на данни, да спрат маршрут, да публикуват корекция, да приемат остатъчен риск и да кажат на доставчик, че отговорът не е достатъчен. Система без такова разпределение обикновено открива правомощията чрез конфликт. Това е скъп начин за проектирането ѝ.

Те запазват паметта. Записът от по-ранно решение може да не е бляскав, но той позволява на нов член на екипа да разбере защо съществува дадено ограничение. Историята позволява на организацията да сравни променена система с условията, при които тя е била одобрена. Тя защитава човек, който оспорва даден резултат, от твърдението, че съответните доказателства са се разтворили в предишна версия. Забравянето понякога е удобно. То рядко е стабилен модел на управление.

Те създават пътища за несъгласие. Една добра институция не приема, че оплакването е доказателство за провал. Тя дава на оплакването място, където да отиде, достатъчно информация, за да бъде разгледано, и човек, който може да отговори, без да измисля нова процедура под напрежение. Това има значение за работещите, жителите, клиентите, доставчиците и вътрешните екипи. Пътят за оспорване не е отстъпка пред песимизма. Той е част от начина, по който една система забелязва собствените си граници.

Те инвестират в компетентност. Работата не е само техническа. Тя включва хора, които могат да четат договор, да оценяват граница на данните, да разбират работен процес, да обясняват резултат на прост език, да управляват инфраструктура, да обучават колеги и да разпознават кога доказателствата са твърде слаби за предлаганото решение. Никоя организация не наема всички тези хора за всеки малък проект. Но сериозните организации знаят как да ги намерят, да ги споделят или да ги попитат, преди решението да се е втвърдило.

Накрая институциите правят поетите ангажименти поносими. Една компания може да смени посоката, министър може да смени ресора, модел може да смени версията, а бюджетът може да стане по-малко въображаем. Обществената цел, архивът, правомощията и средството за защита не бива да изчезват заедно с първоначалната презентация. Затова устойчивите системи се нуждаят от скучни неща: отворени интерфейси, където е възможно, ясна собственост, съхранени архиви, реалистични условия за поддръжка, посочени точки за преглед и работещ изход. Скучните неща не са противоположност на иновацията. Те са това, което позволява иновацията да бъде преразглеждана, без да се превърне в съсипваща операция.

Европейско предимство, което си струва да се изгради

Европа не трябва да печели спор за това дали институциите са вълнуващи. В повечето дни не са. Един добре воден регистър не е вълнуващ. Спецификация за оперативна съвместимост никога не е предизвиквала вълна на стадиона. Клауза за обществени поръчки относно форматите за експорт няма да бъде отпечатана на платнена чанта. Липсата на блясък е част от тяхната стойност. Те продължават да работят, когато вниманието се насочи другаде.

Също така няма причина това да се превръща в история за европейско морално превъзходство. Всеки регион има институции, провали, технически постижения и слепи петна. Европа има възможност, а не завършено предимство. Нейните правни традиции, обществени услуги, многоезични общества, изследователски мрежи, индустриална база и трансгранични договорености могат да подкрепят различен подход, ако бъдат свързани с реална оперативна способност. Те могат също така да останат колекция от възхитителни документи, ако хората, които трябва да вършат работата, останат без време, правомощия или инструменти.

Изборът е практичен. Изграждайте обществени поръчки, които купуват доказателства и изходни пътища, а не само способности. Изграждайте инфраструктура, която включва достъп, поддръжка, осъзнаване на енергийното потребление и отговорна експлоатация. Изграждайте работни процеси, които дават на хората информация и истинска свобода на преценка. Вграждайте грамотността в ролите и промените, а не в едно следобедно обучение. Вграждайте езиковата поддръжка в услугата, а не само в началната страница. Изграждайте аргументи за безопасност, които могат да бъдат отворени отново. Изграждайте публични архиви, които позволяват труден въпрос да достигне до правилния отговорник.

Тогава следващата демонстрация може да бъде приета както трябва. Тя може да бъде оценена за това, което е: доказателство, че дадена техническа способност може да си струва да бъде проучена. Тя не трябва да носи невъзможното бреме да доказва, че заобикалящото я общество е готово. Това доказателство, доколкото изобщо е възможно, се създава бавно от институциите, които вършат работата си.

Кратка бележка от нас

В Dweve подхождаме към същия институционален проблем с умишлено ограничено публично твърдение. Нашият Trust Centre записва, че Dweve Loom 1.0 остава във вътрешно тестване преди пускане, с затворен външен достъп. Публикуваният критерий за пускане гласи, че отварянето на външен път зависи от доказателства, съответстващи на версията, преминати проверки за конкретния път, документирано решение за пускане и проверка на целостта на публичните архиви. Това не е твърдение, че даден архив прави системата безопасна или че бъдещо пускане ще се случи. Това е твърдение за поддържане на плана отделен от събитието и за оперативно решение, обвързано с доказателства.

Това е стандартът, който си струва да се прилага по-широко. Не искайте от модела да бъде институция. Искайте от институциите да бъдат достатъчно добри, за да решат къде принадлежи моделът, какво може да прави, как може да бъде оспорван и кога трябва да спре.

Източници