Conversația europeană despre AI are nevoie de mai puține demonstrații și mai multe instituții

O demonstrație convingătoare a unui model poate arăta o capacitate. Nu poate decide cine are autoritate, cum contestă oamenii un rezultat, unde trăiește...

Conversația europeană despre AI are nevoie de mai puține demonstrații și mai multe instituții

O demonstrație nu este o instituție publică

O demonstrație bună are un anumit tip de putere. Comprimă o posibilitate în câteva minute. Se completează un formular, se rezumă un document, apare o imagine, o întrebare dificilă primește un răspuns plauzibil. Toți cei din încăpere pot vedea de ce cineva și-ar dori acel lucru. Asta este util. Este și momentul în care o mulțime de întrebări mai dificile sunt mutate politicos pentru mai târziu.

Mai târziu este locul unde începe instituția. Cine are dreptul să decidă dacă sistemul poate fi folosit? Ce scop public servește? Ce dovezi sunt suficiente pentru acel scop și cine poate spune că nu sunt suficiente? Ce se întâmplă când se schimbă o versiune, când un angajat contestă o recomandare, când o persoană cere o explicație, când o constrângere energetică închide o rută sau când foaia de parcurs a furnizorului devine o altă foaie de parcurs? O demonstrație nu este concepută să răspundă la aceste întrebări. O instituție publică este.

Europa a petrecut mult timp discutând despre AI ca pe o competiție a capacităților. Această conversație este de înțeles. Capacitatea este vizibilă. Produce un clip video îngrijit. Instituțiile sunt vizibile în principal prin munca pe care o fac pentru ca lucrurile să nu devină misterioase: condiții de achiziție, evidențe, controale de acces, instruire, supraveghere, căi de contestație, bugete de întreținere, suport lingvistic, standarde tehnice, o persoană al cărei nume este atașat unei decizii. Niciunul dintre acestea nu oferă unui discurs principal strălucirea obișnuită. Dar ele decid dacă un sistem rămâne responsabil după ce sala s-a golit.

Acesta nu este un argument pentru tehnologie timidă sau pentru un sector public care nu cumpără nimic până nu poate vedea viitorul. Este un argument pentru refuzarea unei erori de categorie. Un model poate genera, clasifica, prezice sau recomanda. Nu poate, de unul singur, să creeze un mandat legitim, să aloce responsabilitate publică, să învețe un coleg cum să îl conteste, să întrețină o limbă națională, să negocieze o conexiune la rețea sau să păstreze o cale de remediere pentru o persoană afectată de utilizarea sa. Aceste sarcini aparțin oamenilor și organizațiilor, chiar și atunci când software-ul ajută la realizarea lor.

Conversația europeană despre AI are nevoie de mai puține demonstrații în sensul că are nevoie de mai puține demonstrații care să înlocuiască dovezile de pregătire. Are nevoie de mai multe instituții în sensul că are nevoie de locuri mai bune pentru a lua decizii, a reține cunoștințe și a corecta direcția. Schimbarea nu este de la tehnologie la birocrație. Este de la o imagine subțire a tehnologiei la aranjamentul real în care tehnologia are consecințe.

Acest aspect contează cu mult dincolo de guvern. Un spital, o municipalitate, o școală, un producător, o instituție culturală și o mică afacere nu au aceleași obligații sau riscuri. Dar toate descoperă în cele din urmă că modelul este o componentă într-un aranjament mai larg. Aranjamentul mai larg determină cine furnizează datele de intrare, cine citește rezultatele, cine acceptă riscul rezidual, cine poate opri sistemul și cine rămâne după ce compania de software a trimis buletinul său informativ trimestrial.

De aceea, limbajul instituțiilor nu este o retragere din ambiția tehnică. Este limbajul continuității. Un serviciu public trebuie să funcționeze într-o marți obișnuită, în limba oamenilor care îl folosesc, sub un buget pe care cineva îl poate inspecta, după o schimbare de personal, în timpul unui dezacord cu furnizorul și când entuziasmul inițial a devenit un tichet de mentenanță. Orice afirmație serioasă despre AI trebuie să supraviețuiască în cele din urmă acestei călătorii.

Capacitatea este doar una dintre întrebări

O demonstrație pune, de obicei, o întrebare îngustă și rezonabilă: poate sistemul să îndeplinească această sarcină în aceste condiții? O instituție trebuie să pună simultan un set mai larg de întrebări. Este această sarcină potrivită pentru automatizare sau asistență? Este scopul declarat legal și proporțional? Oamenii care fac munca pot în continuare să înțeleagă și să conteste rezultatul? Există o cale prin care un membru al publicului să poată întreba ce s-a întâmplat? Poate organizația să schimbe furnizorul fără să își abandoneze înregistrările? Depinde sistemul de resurse de calcul rare, de un anumit resurs lingvistic sau de un flux de date pe care nimeni nu și-a planificat bugetul să îl întrețină?

Aceste întrebări nu fac modelul mai slab. Ele fac decizia mai onestă. Ele deosebesc o funcționalitate de un serviciu și un serviciu de o capacitate publică. O funcționalitate poate fi impresionantă, în timp ce aranjamentul din jur este fragil. Un serviciu poate fi util, în timp ce contractul său face imposibilă inspectarea unei modificări substanțiale. O capacitate publică trebuie să rămână utilizabilă, guvernată și reparabilă în timp. Trebuie să poarte mai mult decât un rezultat.

Despre Regulamentul privind inteligența artificială se vorbește adesea ca și cum ar fi un singur răspuns la această problemă. Nu este. Este un cadru juridic semnificativ, iar scopul său declarat leagă funcționarea pieței interne de o inteligență artificială centrată pe om și demnă de încredere și de un nivel ridicat de protecție a sănătății, siguranței, drepturilor fundamentale, democrației, statului de drept și mediului. Dar regulamentul însuși face un punct important despre realitatea instituțională: funcționează alături de legislația existentă a Uniunii privind protecția datelor, consumatorii, ocuparea forței de muncă, lucrători și siguranța produselor. Cadrul juridic nu înlocuiește aceste domenii. Se întâlnește cu ele.

Aceasta ar trebui să modeleze conversația practică. O echipă nu poate declara un sistem solid din punct de vedere social arătând spre o clasificare a riscurilor de inteligență artificială, ignorând în același timp procesul de angajare din jurul său. O autoritate publică nu poate declara un sistem responsabil pentru că a finalizat o evaluare tehnică, lăsând în același timp rezidenții incapabili să găsească proprietarul sau înregistrarea. Un furnizor nu poate face o problemă de portabilitate să dispară folosind cuvântul cloud. Întrebarea este întotdeauna cum se comportă noua componentă în interiorul obligațiilor care existau deja.

Există o tentație practică de a trata acest lucru ca pe un argument pentru un dosar de conformitate mai mare. Nu este. Mai multe pagini pot face o organizație mai puțin capabilă să acționeze dacă nimeni nu știe care pagină schimbă decizia. Instituțiile nu devin capabile adunând șabloane. Ele devin capabile atunci când un scop definit, o autoritate numită, dovezi utilizabile și o cale de corecție se pot întâlni în aceeași activitate.

Acesta este un standard mult mai exigent decât o demonstrație. Este și unul mai echitabil. Un furnizor de modele nu ar trebui să răspundă pentru fiecare alegere locală de politică făcută de un implementator. Un implementator nu ar trebui să fie rugat să reconstituie fiecare decizie tehnică din amonte. Fiecare parte are nevoie de o graniță, de o înregistrare a ceea ce o traversează și de o modalitate de a identifica momentul în care granița s-a mutat. Instituțiile există parțial pentru a face aceste granițe lizibile.

Legea este un etaj minim, nu întreaga clădire

Europa este adesea descrisă ca și cum ar fi ales reguli în loc de tehnologie. Descrierea este prea simplistă pentru a fi utilă. Legea poate interzice, poate impune, poate aloca obligații și poate păstra căi de atac. Poate defini un etaj minim public sub care un sistem nu ar trebui să coboare. Nu poate angaja evaluatorul care înțelege un flux de lucru local, nu poate întreține o interfață de date, nu poate scrie o specificație de achiziție sensibilă și nu poate face o echipă epuizată să aibă brusc timp să învețe un proces nou. Aceste lucruri necesită capacitate.

Distincția contează pentru că limbajul juridic poate ascunde o absență operațională. O politică poate afirma că există supraveghere umană. Acea afirmație este lipsită de sens dacă persoana nu are autoritatea de a opri ruta, timp pentru a analiza un caz, informații despre versiunea modelului, pregătire pentru sarcină și nicio cale de a escalada un dezacord. Supravegherea există doar pe hârtie, cam ca o ieșire de incendiu ascunsă în spatele unui dulap. Va fi foarte liniștitoare până în momentul în care va fi necesară.

Același lucru este valabil și pentru transparență. O dezvăluire poate fi tehnic disponibilă și practic inutilă. O persoană poate primi o descriere lungă a unui sistem fără să afle cine deține decizia, ce înregistrare poate fi contestată sau cum poate obține o cale de atac. Un registru public poate lista un algoritm fără să spună dacă versiunea listată este actuală, pentru ce este folosit sistemul sau cine are autoritatea de a răspunde la o întrebare. Transparența nu înseamnă cantitatea de text. Este capacitatea de a localiza o decizie și pe cel care o deține.

Munca juridică a Europei este valoroasă tocmai pentru că face mai greu de ignorat unele dintre aceste întrebări. Oferă un limbaj comun pentru furnizori, implementatori, autorități de reglementare și persoanele afectate. Face, de asemenea, golurile mai vizibile. Atunci când o organizație nu poate declara scopul intenționat, nu poate identifica fluxul de date, nu poate păstra o evidență a unei modificări materiale sau nu poate numi persoana care poate opri o utilizare, problema nu este doar că documentația întârzie. Organizația nu a construit încă lucrul pe care pretinde că îl operează.

Aici instituțiile au un avantaj modest față de sloganuri. Ele își amintesc că o decizie a avut loc. Păstrează condițiile asociate. Ele păstrează diferența dintre un plan și un eveniment. Pun un nume, o adresă de e-mail și, uneori, un formular ușor rigid lângă o promisiune. Formularul nu este realizarea. Realizarea este că cineva poate fi tras la răspundere pentru răspuns.

Legea bună creează spațiu pentru această muncă. Nu ar trebui folosită ca substitut pentru ea. Întrebarea matură nu este dacă un sistem este conform în abstract. Este dacă persoanele responsabile pot demonstra cum utilizarea sa specifică îndeplinește obligațiile aplicabile, ce nu știu încă și ce vor face atunci când dovezile se schimbă. Aceasta este o întrebare juridică, o întrebare operațională și o întrebare instituțională în același timp.

Achizițiile publice sunt locul unde intenția publică întâlnește contractul cu furnizorul

Achizițiile publice sună procedural pentru că sunt procedurale. Ele sunt, de asemenea, unul dintre locurile în care intenția publică devine reală. O autoritate publică cumpără lucrări, bunuri sau servicii de la companii selectate printr-un proces modelat de reguli menite să mențină achizițiile deschise și competitive. Într-un context de inteligență artificială, acest proces nu este doar momentul în care este ales un produs. Este momentul în care o autoritate poate decide ce trebuie să facă furnizorul inspectabil, ce modificări necesită notificare, ce înregistrări rămân disponibile, cum poate fi predată munca și ce se întâmplă dacă sistemul trebuie oprit.

O achiziție care cere doar capacitățile unui model tinde să cumpere o demonstrație cu o factură atașată. O achiziție care cere condițiile de operare cumpără ceva mai aproape de un serviciu. Poate cere un scop intenționat definit, interfețe, documentație, dovezi accesibile, permisiuni bazate pe roluri, contacte pentru incidente, notificări de actualizare, formate de export, limite de suport, aranjamente de păstrare, asistență la ieșire și o alocare clară a responsabilității. Poate cere cine deține un anumit risc, în loc să permită fiecărei părți să presupună că cealaltă o face.

Nu există o clauză universală care să rezolve aceste chestiuni. O organizație mică care cumpără un instrument intern de nișă nu ar trebui să moștenească un contract conceput pentru un serviciu național critic. În mod similar, o utilizare publică cu impact ridicat nu ar trebui să primească disciplina contractuală a unui trial gratuit cu un formular ușor mai lung. Contractul trebuie să urmeze consecința deciziei, dependența creată de serviciu și capacitatea organizației de a-l opera.

Scenariu ilustrativ, nu un raport despre o achiziție reală: imaginați-vă un organism public care analizează un sistem ce ajută personalul să organizeze materialele primite în cazuri. Demonstrația prezintă rezumate, câmpuri extrase și o coadă sugerată. Întrebarea responsabilă nu este dacă coada arată ordonată. Este dacă personalul poate vedea materialul sursă, dacă regulile de prioritizare sunt documentate, dacă un caz poate fi corectat fără a crea un flux de lucru ascuns, dacă o actualizare a sistemului schimbă rezultatul, dacă înregistrările pot fi exportate și cine răspunde atunci când o persoană contestă modul în care a fost tratat materialul său. Niciuna dintre aceste întrebări nu necesită o teamă teatrală de AI. Ele necesită un contract matur.

Achizițiile pot proteja, de asemenea, organizația de propriul optimism. Dacă un furnizor spune că o funcție nouă va apărea mai târziu, autoritatea o poate înregistra ca plan, nu o poate cumpăra ca o capacitate existentă. Dacă un furnizor promite o rută de revizuire umană, contractul poate descrie rolul real, condiția de răspuns și dovezile, în loc să accepte o formulare care sună liniștitor. Dacă un serviciu depinde de un anumit format de date, autoritatea poate solicita maparea și exportul înainte ca sistemul să devină greu de părăsit. Optimismul are locul său în inovație. Nu ar trebui să i se permită să semneze contracte nesupravegheat.

Acest lucru nu înseamnă că fiecare echipă de achiziții trebuie să devină un laborator model. Înseamnă că echipele au nevoie de acces la competența potrivită. Cunoștințele juridice, tehnice, operaționale, financiare și cele legate de utilizatori trebuie să se întâlnească înainte de a se lua deciziile ireversibile. Acesta este unul dintre motivele pentru care instituțiile contează. Ele creează o modalitate prin care diferite forme de cunoaștere pot fi prezente fără a pretinde că o singură persoană le poate purta pe toate.

Cea mai bună întrebare în achiziții este adesea dezarmant de simplă: ce va cere această înțelegere de la noi după lansare? Răspunsul poate include timpul personalului, înregistrări, monitorizare, energie, expertiză lingvistică, lucrări de integrare, rute de revizuire și un plan de ieșire. Dacă niciunul dintre aceste elemente nu apare în răspuns, achiziția nu a făcut ca povara să dispară. Pur și simplu a lăsat-o în afara bugetului.

Infrastructura are o adresă publică

Este tentant să vorbim despre compute ca și cum ar fi vremea. O sarcină de lucru are nevoie de capacitate, capacitatea este în altă parte, iar lucrul important este dacă pagina se încarcă în cele din urmă. Dar compute are o locație, un lanț de aprovizionare, o cale de rețea, o cerere de energie, un regim de întreținere și un context juridic. Infrastructura este, prin urmare, parte a capacității instituționale, nu un fundal pentru aceasta.

Lucrările Comisiei Europene privind digitalizarea sistemului energetic fac acest lucru greu de ignorat. Ele abordează optimizarea rețelei, eficiența, flexibilitatea și integrarea durabilă a centrelor de date. Cuvântul important este integrare. Un centru de date nu este doar o cutie privată de mașini care se întâmplă să consume electricitate. El se află într-un sistem energetic comun, cu constrângeri locale, planificare publică și alte cereri asupra rețelei. O strategie serioasă de AI trebuie să vadă întregul aranjament, nu să trateze electricitatea ca pe o notă de subsol sub un grafic de compute.

Aceasta nu produce o regulă simplă potrivit căreia toată procesarea trebuie să fie locală, centrală, națională sau europeană. Fiecare alegere are condițiile ei. O implementare locală poate reduce unele transferuri și poate aduce controlul aproape de organizație, dar crește sarcina de întreținere. O facilitate europeană comună poate lărgi accesul la capacități costisitoare, dar necesită reguli de acces clare și o cale realistă de la experiment la operare. Un serviciu găzduit comercial poate oferi o rută utilă pentru anumite lucrări, dar ridică întrebări despre jurisdicție, dependență, evidențe și controlul schimbărilor. Geografia este o decizie de proiectare cu consecințe, nu o etichetă morală.

Fabricile de AI ale EuroHPC sunt interesante în acest sens, deoarece descrierea lor publică este mai amplă decât o sală plină de acceleratoare. Serviciile includ calcul și stocare, acces la date și software, suport, formare, integrare și colaborare orientată pe sectoare. Această combinație contează. O mașină fără o rută accesibilă, fără oameni care să ajute și fără o legătură rațională cu un domeniu de activitate nu este capacitate publică. Este mobilier scump cu un zgomot impresionant de ventilator.

Infrastructura publică are nevoie și de o memorie instituțională. Cine poate folosi resursa? În ce condiții? Ce lucrări primesc prioritate când capacitatea este limitată? Ce date pot fi aduse? Ce rezultate pot pleca? Ce se întâmplă când un proiect se încheie? Cum sunt ajutate organizațiile mai mici să folosească resursa fără să fie așteptate să vină cu un birou de cercetare dedicat și o săptămână liberă? Achiziția de hardware nu răspunde la aceste întrebări. Operarea o face.

Există aici o lecție despre suveranitate care este adesea redusă la o hartă. Un serviciu poate fi fizic aproape și totuși greu de guvernat. Un sistem poate fi găzduit pe sol european, în timp ce controalele cruciale, autoritatea de actualizare, interfețele sau pârghiile comerciale rămân în altă parte. Invers, o înțelegere europeană transfrontalieră poate susține o capacitate publică reală atunci când granițele, drepturile de acces, responsabilitățile și rutele de ieșire sunt explicitate. Întrebarea relevantă nu este doar unde stă un rack. Este cine poate decide, inspecta, întreține și pleca.

Instituțiile sunt necesare pentru a ține aceste întrebări împreună. Planificatorii din energie nu pot deduce o sarcină de AI dintr-o pagină de marketing. Ofițerii de achiziții nu pot negocia o relație cu un centru de date pe baza unui benchmark de model. O echipă de cercetare nu poate transforma accesul la o mașină într-o capacitate durabilă fără suport, practici de date și o rută de utilizare a rezultatului. Firul care leagă aceste aspecte nu este un model anume. Este capacitatea publică de a lua o decizie delimitată și de a păstra posibilitatea de a o reconsidera.

Capacitatea nu stă la centru de una singură. Selectează un domeniu pentru a vedea munca publică pe care trebuie să o susțină.

Munca nu este un detaliu de implementare

Fiecare sistem de AI schimbă munca undeva. Uneori schimbarea este evidentă, pentru că o sarcină este predată software-ului. Mai des este mai liniștită. Un angajat verifică o sugestie în loc să creeze o primă versiune. Un manager vede un scor înainte de o conversație. Un operator de call center primește un rezumat care structurează următoarea întrebare. Un lucrător social petrece mai puțin timp găsind un document și mai mult timp explicând o excepție. Sarcina s-a schimbat chiar dacă titlul postului nu s-a schimbat.

De aceea, munca nu poate fi lăsată la finalul unui plan de implementare, sub titlul „managementul schimbării”. Munca nu este o suprafață care trebuie gestionată după ce s-a luat decizia tehnică. Ea este locul în care sistemul capătă sens practic. Muncitorii știu care evidențe sunt incomplete, care excepții sunt frecvente, unde o regulă rezonabilă devine absurdă și ce anume cere un proces aparent eficient ca o persoană să absoarbă. Excluderea lor din discuția despre proiectare este o modalitate sigură de a face un flux de lucru mai puțin inteligibil.

Prezentarea generală a EU-OSHA privind gestionarea muncitorilor bazată pe inteligență artificială semnalează atât oportunități, cât și riscuri pentru securitatea și sănătatea în muncă. Această formulare este utilă pentru că respinge două povești simpliste. Prima spune că fiecare instrument de inteligență artificială este un manager deghizat. A doua spune că tehnologia este neutră până când un anumit actor rău intenționat o folosește greșit. În practică, modul în care sunt proiectate monitorizarea, obiectivele, recomandările, alertele și alocarea poate modela calitatea muncii înainte ca cineva să rostească un cuvânt dramatic despre înlocuire.

Un răspuns instituțional uman nu înseamnă să insistăm ca fiecare angajat să devină specialist în inteligență artificială. Înseamnă să facem discutabilă relația dintre instrument și muncă. Ce are voie sistemul să recomande? Ce nu are voie să decidă? Ce semnale alimentează o discuție despre performanță? Poate un muncitor să inspecteze și să corecteze evidența folosită despre el? Ce se întâmplă când rezultatul sistemului intră în conflict cu judecata profesională? Există timp pentru a învăța instrumentul, iar acest timp este tratat ca muncă, nu ca un hobby privat practicat după ce copiii au adormit?

Întrebarea autorității este deosebit de importantă. Un muncitor care este nominal liber să respingă un rezultat, dar este evaluat printr-un tablou de bord care recompensează acordul, nu a primit o libertate de decizie reală. Un manager care primește un scor fără să știe pe ce se bazează nu a primit o responsabilitate reală. Un reprezentant sindical care vede sistemul abia după achiziție nu poate aduce cunoștințele care ar fi prevenit un conflict evitabil. Instituțiile fac loc acestor realități înainte ca o foaie de calcul să le transforme în surprize.

Nu există un singur loc de muncă european. Acordurile sectoriale, legislația națională a muncii, cultura organizațională și natura sarcinii contează toate. Dar principiul instituțional se aplică pretutindeni: nu tratați oamenii ca pe un strat de gestionare a erorilor pentru un sistem pe care nu au avut voie să îl înțeleagă. Dacă judecata umană face parte din argumentul privind siguranța, atunci organizația trebuie să îi ofere acelei judecăți informații, autoritate și o cale de a fi auzită.

Educația este o practică, iar limba face parte din practică

Competența digitală în domeniul inteligenței artificiale a devenit un răspuns popular la slăbiciunea instituțională. Trimiteți oamenii la un curs, eliberați un certificat, puneți un diapozitiv vesel pe intranet și considerați problema rezolvată. Este un răspuns mai bun decât nicio învățare. Nu este suficient.

Orientările Comisiei privind competența digitală în domeniul inteligenței artificiale plasează obligația într-un loc mai bine ancorat. Furnizorii și implementatorii ar trebui să ia măsuri pentru a asigura un nivel suficient de competență în rândul personalului și al altor persoane care se ocupă de sistemele de inteligență artificială în numele lor. Factorii relevanți includ cunoștințele tehnice, experiența, educația și formarea, precum și contextul în care este utilizat sistemul. Aceasta nu este o cerință pentru un test universal despre învățarea automată. Este o invitație de a potrivi cunoștințele cu responsabilitatea.

Un responsabil cu achizițiile trebuie să recunoască o afirmație care nu poate fi evaluată dintr-o broșură. Un lucrător din prima linie trebuie să știe când un rezultat ar trebui verificat în raport cu materialul sursă. Un manager trebuie să înțeleagă ce nu îi poate spune un scor agregat despre un caz individual. Un membru al consiliului de administrație trebuie să poată întreba cine are autoritatea de a opri un sistem. Un dezvoltator are nevoie de o înțelegere mai profundă a datelor, interfețelor, evaluării și eșecului. Să numim toate acestea „alfabetizare” poate fi ușor neîngrijit. Instituțiilor reale li se permite să fie neîngrijite atunci când alternativa este să pretindem că un singur curs pregătește fiecare rol în mod egal.

Educația are și o problemă temporală. O persoană poate înțelege un instrument în martie și se poate confrunta în octombrie cu o interfață, un model sau un flux de lucru material diferit. Un program de învățare util urmărește, prin urmare, schimbările care contează. Oferă oamenilor o modalitate de a reexamina condițiile de decizie, nu doar o amintire a unui eveniment de lansare. Orientările etice ale Comisiei pentru educatori fac un punct similar într-un alt context: judecata practică despre IA în predare și învățare nu poate fi redusă la acționarea unui întrerupător. Contextul, scopul și oamenii din încăpere rămân relevante.

Limba aparține și ea aici. Limba afișată a unui sistem nu este limba unei societăți. Un model poate produce text fluent într-o limbă, dar poate rata termenii administrativi, formele regionale, vocabularul profesional, referințele culturale sau sensurile juridice care fac o decizie reală inteligibilă. O traducere poate fi corectă din punct de vedere gramatical și poate totuși să schimbe o responsabilitate, o obligație sau un drept. Utilizarea multilingvă nu este o trecere decorativă de localizare la finalul unui produs altfel finisat.

Pentru Europa, aceasta este o chestiune instituțională practică. Serviciile publice, locurile de muncă și școlile funcționează în multe limbi, uneori chiar mai multe în cadrul aceleiași organizații. Documentația, căile de eroare, formarea, asistența și procesele de contestare trebuie să întâlnească oamenii acolo unde se desfășoară munca. Dacă politica este disponibilă într-o limbă, dar interfața de operare în alta, organizația a împărțit sistemul în două. Dacă o persoană poate primi o decizie în limba sa, dar nu poate găsi explicația sau calea de contestare în acea limbă, remediul a devenit teoretic.

Soluția nu este să promitem că fiecare sistem înțelege fiecare limbă în mod egal. Aceasta ar fi o afirmație cu foarte puține dovezi în spate. Soluția este să declarăm acoperirea cu onestitate, să testăm utilizarea efectiv intenționată, să menținem vizibile limitările lingvistice și să ne asigurăm că un decalaj nu devine în tăcere un dezavantaj pentru oamenii cel mai puțin capabili să îl corecteze. Aceasta este mai puțin spectaculos decât anunțarea unei IA multilingve. Este mai respectuos.

Siguranța începe cu o afirmație care poate fi dezbătută

Siguranța este un alt cuvânt care devine vag atunci când i se cere să susțină prea mult. Un sistem de IA nu este sigur pentru că un furnizor spune că are măsuri de protecție. Nu este sigur pentru că un reper conține un număr liniștitor. Nu este sigur pentru că o persoană rămâne undeva în buclă. Siguranța se referă la o afirmație delimitată: acest sistem poate fi utilizat pentru acest scop, în acest cadru, în aceste condiții, cu aceste controale, dovezi, riscuri reziduale și oameni care pot acționa.

De aceea, cazurile de siguranță sunt utile dincolo de sectoarele în care sunt discutate în mod obișnuit. Un caz de siguranță nu este o insignă. Este un argument care leagă o afirmație de pericole, controale, ipoteze, dovezi și o decizie. Are loc pentru incertitudine. Poate spune că o condiție nu este încă îndeplinită. Poate spune că o schimbare necesită reevaluare. Poate spune că decizia corectă este să faci o pauză. O demonstrație nu are nicio modalitate reală de a spune aceste lucruri fără să își strice propria atmosferă.

În munca cu inteligența artificială, mișcarea importantă este să conectezi dovezile cu utilizarea reală. O evaluare a unui model poate spune unei organizații ceva despre o capacitate, în condițiile unei metode declarate. Nu stabilește automat că modelul este potrivit în orice flux de lucru, pentru orice grup, în orice limbă sau după orice modificare de integrare. O instituție trebuie să ducă lanțul de la model la serviciu, la decizia locală. Lanțul este locul unde multe afirmații altfel sincere devin prea mari.

Dovezile au o dată de expirare chiar și atunci când fișierul în sine nu are. O versiune se schimbă. O colecție de regăsire se schimbă. Un nou șablon de prompt schimbă comportamentul pe care îl vede un utilizator. Un angajat descoperă un mod de eșec care nu era în setul de testare. O lege, o politică sau o sursă de date se schimbă. Acestea nu sunt întreruperi jenante ale unui sistem perfect. Sunt condiții obișnuite de operare a software-ului în lume. Sarcina instituțională este să decidă ce schimbări necesită o nouă evaluare, cine ia această decizie și cum rămâne disponibilă înregistrarea anterioară pentru comparație.

Capacitatea de a opri face parte din același argument. O condiție de oprire pe care nimeni nu o poate invoca este o clauză decorativă. Un buton de oprire fără un responsabil este o mică piesă de artă contemporană. O aranjare credibilă numește autoritatea, semnalul care poate declanșa acțiunea, calea de escaladare, starea sigură și modul în care este înregistrată decizia. Detaliile variază. Nevoia de detalii nu variază.

Siguranța nu este, așadar, departamentul care apare la final cu un pix roșu. Este un mod de a face o decizie comună mai precisă înainte ca sistemul să devină greu de schimbat. Pune întrebarea pe care demonstrațiile o evită pentru că răspunsul poate fi incomod: ce dovezi ne-ar convinge să nu continuăm? O instituție care poate răspunde la această întrebare a devenit deja mai capabilă decât una care poate doar să sărbătorească o lansare.

Capacitatea publică este un lanț, nu un showroom

Capacitatea publică a Europei pentru inteligența artificială nu va fi măsurată doar prin numărul de modele, centre de date sau anunțuri de cercetare pe care le poate plasa pe o hartă. Aceste lucruri contează. Nu se susțin singure. Capacitatea este abilitatea de a folosi resurse tehnice pentru un scop public în timp, cu suficientă competență și autoritate pentru a evita dependența deghizată în progres.

Actul privind Europa Interoperabilă oferă un indiciu util. Preocuparea sa este interoperabilitatea sectorului public în întreaga Uniune și partajarea și reutilizarea soluțiilor de interoperabilitate. Interoperabilitatea este uneori tratată ca o preferință tehnică: o chestiune de format pentru oamenii cărora le plac diagramele cu săgeți. În munca publică, este și o proprietate instituțională. Determină dacă o înregistrare poate călători cu semnificația ei, dacă o autoritate poate înțelege limitele sistemului altei autorități, dacă ieșirea unui furnizor se transformă într-o migrare gestionabilă sau într-un dulap plin de exporturi ilizibile.

Interoperabilitatea nu înseamnă că fiecare sistem ar trebui să arate la fel sau că toată munca publică ar trebui centralizată. Înseamnă că o graniță nu ar trebui să distrugă informațiile necesare pentru a continua în mod responsabil. O organizație ar trebui să poată identifica obiectul, proprietarul său, scopul său, versiunea sa, dovezile atașate și deciziile care l-au schimbat. Un serviciu nou ar trebui să poată primi înregistrările necesare fără a cere permisiunea vechiului furnizor pentru a le interpreta. Aceasta nu este o înfloritură de design. Este modul în care o instituție publică rămâne liberă să decidă mai târziu.

Registrul Olandez al Algoritmilor este un alt obiect instituțional mic, dar util. Publică informații despre algoritmii folosiți de organizațiile guvernamentale și se concentrează pe algoritmii cu impact, inclusiv sistemele de IA cu risc ridicat. Un registru nu dovedește că fiecare sistem listat este bun, corect sau legal. Valoarea sa stă în altă parte. Face existența unui sistem, o utilizare declarată și un organism public responsabil mai ușor de găsit. Creează o suprafață pe care o întrebare poate ateriza.

Avem nevoie de mai multe astfel de suprafețe, nu neapărat de mai multe site-uri web. O înregistrare de model sau de sistem, o explicație publică, un dosar tehnic controlat, o rută pentru incidente, o înregistrare de achiziție, un plan de formare și o specificație de interoperabilitate deservesc cititori diferiți. Ele ar trebui să fie de acord asupra faptelor care le traversează. O pagină publică nu trebuie să expună fiecare detaliu sensibil. Dar nu ar trebui să contrazică dovezile interne. Un dosar de achiziție nu trebuie să fie un manual pentru public. Dar nu ar trebui să permită organizației să uite condițiile pe care le-a achiziționat.

Pericolul este să confundăm vizibilitatea cu capacitatea. Un portal lustruit poate ascunde un model operațional absent. O strategie națională poate numi o prioritate fără să asigure personal, acces, întreținere sau o rută pentru organizațiile mai mici. Un fond de inovare poate sprijini un proof of concept fără să sprijine munca necesară pentru a menține în viață un serviciu util. Decalajul dintre aceste lucruri este locul unde multe proiecte sensibile se încheie în tăcere.

Capacitatea publică are o formă mai puțin fotogenică. Include expertiză partajată, infrastructură accesibilă, competență în achiziții, activitate de standardizare, resurse în limba locală, finanțare pe termen lung, supraveghere independentă și oameni care înțeleg suficient pentru a pune unui furnizor o întrebare dificilă. Include capacitatea de a spune nu, de a face o pauză, de a te adapta și de a pleca. Un continent care poate face aceste lucruri are mai mult decât un sector de IA. Are începuturile autoguvernării tehnologice.

Capacitatea publică este o buclă: scopul, dovezile, autoritatea, operarea și învățarea trebuie să rămână conectate după o lansare.

Munca de după aplauze

Poate ajuta să ne imaginăm săptămâna de după o demonstrație, nu momentul în sine. Nu un eveniment real, nu un studiu de caz deghizat, ci pur și simplu munca obișnuită care urmează unei idei promițătoare. Cineva trebuie să transforme scopul declarat într-un domeniu care poate fi evaluat. Cineva trebuie să decidă care înregistrări sursă sunt adecvate de utilizat. Cineva trebuie să cartografieze modul în care o ieșire intră într-un flux de lucru. Cineva trebuie să întrebe dacă munca se schimbă pentru oamenii care o fac deja. Cineva trebuie să se asigure că ruta de suport funcționează în limbile care contează. Cineva trebuie să stabilească prețul integrării, monitorizării și ieșirii finale.

În acest moment, proiectul poate părea mai lent, pentru că a dobândit nume, condiții și dependențe. De fapt, a devenit posibil de gestionat. O demonstrație este rapidă pentru că ignoră munca de a face un sistem responsabil. O instituție nu este lentă pentru că folosește o listă de verificare. Este lentă când descoperă dependențele reale după ce a promis deja un rezultat.

Disciplina practică este să punem întrebările nerezolvate acolo unde pot schimba decizia. Dacă organizația nu știe cum o va notifica furnizorul despre o modificare materială a modelului, înregistrează acest lucru înainte ca contractul să fie stabilit. Dacă nu poate explica cine poate anula o recomandare, rezolvă acest lucru înainte ca interfața să devină un obicei. Dacă nimeni nu deține datele sursă, nu numi datele gata. Dacă organizația nu poate sprijini limbile vizate, restrânge utilizarea intenționată, mai degrabă decât să permiți unei promisiuni largi să devină o excludere tăcută.

Acesta nu este maximalism birocratic. Este proporționalitate. Un asistent intern cu consecințe reduse poate avea nevoie de o aranjare limitată: un scop declarat, o graniță clară a datelor, îndrumare pentru personal, o modalitate de a raporta o problemă și o cale de ieșire. Un sistem care modelează accesul la muncă, servicii, educație, credit, sănătate sau putere publică are nevoie de o aranjare mult mai solidă. Răspunsul corect la proporționalitate nu înseamnă mai puține întrebări. Înseamnă întrebări scalate în funcție de daunele pe care le poate crea o greșeală.

Munca instituțională face și inovația mai reutilizabilă. Când o echipă documentează cum a evaluat un flux de lucru, o altă echipă poate învăța din metodă, în loc să repete aceeași incertitudine. Când o autoritate publică un registru util al unui sistem, locuitorii și alte organisme publice au un punct de plecare. Când un contract păstrează drepturi de export și evidențe ale modificărilor, un succesor nu este obligat să reconstituie trecutul din capturi de ecran și facturi. Reutilizarea nu înseamnă doar cod. Înseamnă menținerea inteligibilă a deciziilor din jurul codului.

Există o ironie plăcută aici. Organizațiile cel mai îngrijorate că guvernanța le va încetini poartă adesea cea mai mare cantitate de muncă ascunsă refăcută. Reiau evaluările pentru că condițiile nu au fost niciodată înregistrate. Dezbat responsabilitatea pentru că rolurile nu au fost niciodată numite. Renegociază un contract pentru că ieșirea a fost presupusă, nu specificată. Instruiesc oamenii după implementare pentru că fluxul de lucru a fost tratat ca fiind de la sine înțeles. Instituțiile par a fi cheltuieli generale doar când absența lor nu este încă vizibilă într-un plan de proiect.

Ce fac instituțiile de fapt

Este ușor să faci instituțiile să sune grandios și îndepărtat. În practică, ele îndeplinesc acte obișnuite de întreținere. Ele păstrează distincții pe care o conversație de piață preferă să le estompeze. Ele disting o țintă de un rezultat, un plan de un eveniment, un model de un serviciu, un serviciu de o decizie publică, o evidență de o dovadă și o plângere de o remediere.

Ele alocă autoritate. Nu autoritate simbolică, ci autoritatea de a aproba o utilizare intenționată, de a refuza o sursă de date, de a suspenda o rută, de a publica o corecție, de a accepta un risc rezidual și de a spune unui furnizor că răspunsul nu este suficient. Un sistem fără această alocare tinde să descopere autoritatea prin conflict. Acesta este un mod costisitor de a o proiecta.

Ele păstrează memoria. Evidența unei decizii anterioare poate să nu fie spectaculoasă, dar este ceea ce permite unui nou membru al echipei să înțeleagă de ce există o constrângere. Istoria permite unei organizații să compare un sistem modificat cu condițiile în care a fost aprobat. Protejează o persoană care contestă un rezultat de a i se spune că dovezile relevante s-au dizolvat într-o versiune anterioară. Uitarea este ocazional convenabilă. Rareori este un model solid de guvernanță.

Ele creează căi pentru dezacord. O instituție bună nu presupune că o plângere este dovada unui eșec. Oferă plângerii un loc unde să meargă, suficiente informații pentru a fi examinată și o persoană care poate răspunde fără a inventa o procedură nouă sub presiune. Acest lucru contează pentru lucrători, locuitori, clienți, furnizori și echipe interne. O cale de contestare nu este o concesie pesimismului. Face parte din modul în care un sistem își observă propriile limite.

Ele investesc în competență. Munca nu este doar tehnică. Include oameni care pot citi un contract, evalua o graniță a datelor, înțelege un flux de lucru, explica un rezultat într-un limbaj simplu, opera infrastructura, instrui colegii și recunoaște când dovezile sunt prea slabe pentru decizia propusă. Nicio organizație nu angajează toți acești oameni pentru fiecare proiect mic. Dar organizațiile serioase știu cum să îi găsească, să îi împărtășească sau să îi consulte înainte ca decizia să se întărească.

În cele din urmă, instituțiile fac ca angajamentele să fie durabile. O companie își poate schimba direcția, un ministru poate schimba portofoliul, un model își poate schimba versiunea, iar un buget poate deveni mai puțin imaginativ. Scopul public, evidența, autoritatea și remediul nu ar trebui să dispară odată cu prezentarea inițială. De aceea, sistemele durabile au nevoie de lucruri banale: interfețe deschise acolo unde este posibil, o proprietate clară, evidențe păstrate, termeni de suport realiști, puncte de revizuire nominalizate și o cale de ieșire funcțională. Lucrurile banale nu sunt opusul inovației. Ele sunt cele care permit ca inovația să fie revizuită fără să devină o operațiune de demolare.

Un avantaj european care merită construit

Europa nu trebuie să câștige o dezbatere despre dacă instituțiile sunt interesante. Nu sunt, în majoritatea zilelor. Un registru bine gestionat nu este captivant. O specificație de interoperabilitate nu a provocat niciodată valul într-un stadion. O clauză de achiziții despre formatele de export nu va fi imprimată pe o geantă de pânză. Lipsa farmecului face parte din valoarea lor. Ele continuă să funcționeze când atenția se mută în altă parte.

Nu există niciun motiv să transformăm acest lucru într-o poveste despre superioritatea morală europeană. Fiecare regiune are instituții, eșecuri, realizări tehnice și puncte oarbe. Europa are o oportunitate, nu un avantaj deja câștigat. Tradițiile sale juridice, serviciile publice, societățile multilingve, rețelele de cercetare, baza industrială și aranjamentele transfrontaliere pot susține o abordare distinctă dacă sunt conectate la o capacitate operațională reală. Ele pot rămâne, de asemenea, o colecție de documente admirabile dacă oamenii chemați să facă munca rămân fără timp, autoritate sau instrumente.

Alegerea este practică. Construiți achiziții care cumpără dovezi și căi de ieșire, nu doar capacitate. Construiți infrastructură care include acces, suport, conștientizare energetică și operare responsabilă. Construiți procese de lucru care oferă oamenilor informații și libertate reală de decizie. Integrați alfabetizarea digitală în roluri și schimbări, nu doar într-o singură după-amiază. Construiți suport lingvistic în serviciu, nu doar pe pagina de lansare. Construiți argumente de siguranță care pot fi redeschise. Construiți evidențe publice care permit unei întrebări dificile să ajungă la proprietarul potrivit.

Apoi, următoarea demonstrație poate fi primită în mod corespunzător. Poate fi apreciată pentru ceea ce este: o dovadă că o capacitate tehnică merită investigată. Nu trebuie să poarte povara imposibilă de a dovedi că societatea din jur este pregătită. Acea dovadă, acolo unde este posibilă, este construită încet de instituțiile care își fac treaba.

O scurtă notă din partea noastră

La Dweve, abordăm aceeași problemă instituțională cu o afirmație publică deliberat restrânsă. Centrul nostru de încredere consemnează că Dweve Loom 1.0 rămâne în testare pre-lansare doar internă, cu acces extern închis. Poarta de lansare publicată stipulează că deschiderea unei rute externe depinde de dovezi corespunzătoare versiunii, de treceri specifice rutei, de o decizie de lansare înregistrată și de verificarea integrității evidențelor publice. Aceasta nu este o afirmație că o evidență face un sistem sigur sau că o lansare viitoare va avea loc. Este o afirmație despre menținerea unui plan separat de un eveniment și despre o decizie operațională legată de dovezi.

Acesta este standardul care merită aplicat mai larg. Nu cereți unui model să fie o instituție. Cereți instituțiilor să fie suficient de bune pentru a decide unde se potrivește un model, ce i se permite să facă, cum poate fi contestat și când trebuie să se oprească.

Surse