Mažas modelis gali turėti didelę atsakomybę

Modelo dydis yra inžinerinė savybė. Prievolė priklauso nuo sistemos paskirties, konteksto, duomenų, autoriteto ir žmonių.

Mažas modelis gali turėti didelę atsakomybę

Įstatymas neklausia, koks jis didelis

Atverskite Europos Sąjungos dirbtinio intelekto aktą ir nesutiksite modelių skaitiklio. Nėra pirmojo puslapio, kuriame mašina būtų sveriama, matuojama ir įdedama į tvarkingą teisinį stalčių. Aktas prasideda nuo sistemos: mašina pagrįstos sistemos, kuri veikia įvairaus savarankiškumo lygiu, gali prisitaikyti po įdiegimo ir iš įvesties duomenų daro išvadas, kaip generuoti prognozes, turinį, rekomendacijas ar sprendimus, galinčius paveikti fizinę ar virtualią aplinką. Jo apibrėžimas yra apie tai, ką sistema daro ir ką jos rezultatai gali pakeisti.

Tai naudinga vieta pradėti, nes technologijų pokalbis nuolat bando priversti dydį atlikti konteksto darbą. Mažesnis modelis skamba kukliai. Jis gali tilpti į įprastą aparatinę įrangą, atsakyti į vieną siaurą klausimą arba grąžinti etiketę vietoj pastraipos. Tai gali būti vertingos inžinerinės savybės. Jos gali sumažinti plotą, kurį reikia išbandyti, sumažinti diegimo poreikį ištekliams arba palengvinti komponento pakeitimą. Nė viena iš jų nepasako, ar žmogus gali prarasti teisę, paslaugą, darbą ar saugų maršrutą dėl etiketės.

Pareiga atsiranda santykyje tarp sistemos ir ją supančio pasaulio. Kas naudoja rezultatą. Koks sprendimas seka. Kokie duomenys patenka į kelią. Kiek autoriteto sistema turi. Ar žmogus gali užginčyti rezultatą. Ar kas nors gali jį pakeisti, kol žala netampa nuolatinė. Ar paveiktas asmuo priklauso nuo rezultato, galbūt todėl, kad nėra praktinės alternatyvos. Modelis gali būti techniškai mažas ir instituciniu požiūriu didelis. Tai šio straipsnio argumentas, ir žodis instituciniu atlieka sunkų darbą.

Tai ne argumentas traktuoti kiekvieną klasifikatorių kaip visuomenės ekstremalią situaciją. Tai argumentas už proporcingumą. Proporcingumas nereiškia, kad mažos sistemos sulaukia ceremoninės šypsenos ir jokių klausimų. Tai reiškia, kad klausimai seka faktinę pasekmę. Modelis, naudojamas rūšiuoti privatų užrašų rinkinį, ir modelis, naudojamas nuspręsti, kas sulauks patikros, saugykloje gali atrodyti panašiai. Pasaulyje jie nėra panašūs.

Modelio dydis apibūdina komponentą. Paskirtis, paveikti žmonės ir kontrolė nustato pareigą, kurią tas komponentas neša.

Mažas yra matavimas, o ne kontekstas

Mažas gali reikšti kelis skirtingus dalykus, ir šios reikšmės dažnai tyliai sukeičiamos. Tai gali reikšti mažiau parametrų, mažesnį atminties pėdsaką, mažiau skaičiavimų mokymui, ribotą žodyną, siaurą išvesties schemą arba trumpą įvesties langą. Tai gali reikšti, kad modelis veikia įrenginyje, o ne per nuotolinę paslaugą. Tai taip pat gali reikšti, kad komanda modeliui suteikė siaurą užduotį. Tai nėra tas pats teiginys. Mažas parametrų skaičius nereiškia mažo socialinio vaidmens, kaip ir didelis parametrų skaičius nepasako, kur sistemai leista veikti.

Yra ir antra painiava. Žmonės vartoja mažas reikšmei vietinis, o vietinis reikšmei nekenksmingas. Vietinis diegimas gali pagerinti duomenų judėjimo, prieinamumo ar veiklos nuosavybės kontrolę. Jis taip pat gali įdėti sprendimą tiesiai į darbo vietą, prie viešojo langelio, į medicininį darbo srautą arba į įrenginį, kurio žmogus negali lengvai palikti. Fizinis artumas gali sumažinti vienos rūšies priklausomybę, kartu padidindamas sistemą valdančių žmonių svarbą. Serveris tame pačiame pastate nėra moralinė kategorija.

Taip pat yra mažas kaip pažadas apie galimybes. Komponentas gali būti išmokytas vienos užduoties ir vis tiek daryti įtaką didesniam procesui. Jis gali grąžinti tik patvirtinti, peržiūrėti arba atsisakyti. Tolesnis darbo srautas gali traktuoti šiuos tris žodžius kaip vartus. Komponentui nereikia rašyti esė, kad priimtų reikšmingą sprendimą. Jį tereikia įdėti ten, kur kita sistema ar kitas žmogus negali lengvai jo užklausti.

Valdymui naudingas vienetas todėl yra ne vien modelis. Tai modelis, kaip jis diegiamas, su tikslu, operatoriumi, įvesties riba, išvesties sutartimi, tolesniu veiksmu ir pataisymo keliu. Tai mažiau tvarkinga nei lyderių lentelė. Tai taip pat arčiau realybės. Lyderių lentelė gali pasakyti, kaip modelis atliko užduotį. Ji negali pasakyti, ar ta užduotis buvo leista, ar paveikti žmonės galėjo prieštarauti, ar organizacija turėjo įgaliojimus naudoti rezultatą.

Europos Komisijos kalba apie bendros paskirties dirbtinį intelektą tyliai iliustruoja šį skirtumą. Komisija pateikia techninius kriterijus, padedančius nustatyti, kada modelis gali patekti į GPAI įsipareigojimų taikymo sritį, tačiau taip pat sako, kad kriterijai yra orientaciniai ir kad būtinas vertinimas kiekvienu atveju atskirai. Gairės neapsimeta, kad vienas skaičius gali apibūdinti kiekvieną vaidmenį, kurį modelis gali atlikti. Jos bando padaryti vieną klasifikavimo klausimą įgyvendinamą, nepaverčiant jo universalia žalos teorija.

Slenkstis nėra nuosprendis

AI akte yra skaičiai, ir tai viena iš priežasčių, kodėl žmonės griebiasi skaičių, kai nori tikrumo. 51 straipsnis sukuria didelio poveikio galimybių prezumpciją bendros paskirties dirbtinio intelekto modeliui, išmokytam naudojant didesnį nei 1025 slankiojo kablelio operacijų kaupiamąjį skaičiavimų kiekį. Ši prezumpcija priklauso GPAI modelių su sistemine rizika klasifikavimui. Tai nėra taisyklė, kad modelis žemiau slenksčio yra saugus, nei taisyklė, kad kiekvienas modelis virš jo sukelia tą pačią žalą.

Komisijos GPAI gairėse naudojamas kitoks orientacinis slenkstis, didesnis nei 1023 slankiojo kablelio operacijų kartu su plačia generavimo galimybe, siekiant padėti nustatyti modelius, kurie gali būti bendros paskirties. Puslapyje aiškiai nurodytos ribos. Modelis, esantis žemiau rodiklio, vis tiek gali atitikti reikalavimus, jei pasižymi reikšmingu bendrumu. Modelis, kuris jį atitinka, išimties tvarka gali neatitikti reikalavimų, jei jam trūksta atitinkamo bendrumo. Gairės yra konkretaus teisinio klausimo aiškinimas, o ne leidimas kiekvienam tolesniam naudojimui.

Šios dvi ribinės vertės naudingos būtent todėl, kad yra siauros. Jos padeda institucijoms ir teikėjams suskirstyti konkrečią modelių pareigų klasę. Jos neatsako į klausimą, ar mažam modeliui, įdiegtam į didelės rizikos sistemą, reikia skirti deramo dėmesio. Jos neatsako į klausimą, ar duomenų tvarkymas yra teisėtas. Jos neatsako į klausimą, ar asmuo gali ginčyti sprendimą. Ribinė vertė gali nustatyti, kad klausimas turi būti užduotas. Ji negali atsakyti į klausimą, kuris priklauso kitam lygmeniui.

Techninės ribinės vertės taip pat sensta. Aktas nustato, kad Komisija gali koreguoti sisteminės rizikos ribinę vertę atsižvelgdama į technologijų raidą, įskaitant algoritmų tobulinimą ir aparatinės įrangos efektyvumą. Komisijos gairėse teigiama, kad jos pačios kriterijus nėra absoliutus. Tai protingas pripažinimas. Skaičius, kuris pirkimų lentelėje atrodo stabilus, gali pasikeisti, kai keičiasi jį supanti technologija. Atsakinga reakcija nėra nepasitikėti kiekvienu skaičiumi. Tai yra susieti skaičių su klausimu, kuriam atsakyti jis buvo sukurtas.

Komandoms, kurios skelbia modelių korteles ar vidaus architektūros pastabas, yra praktinė pamoka. Nurodykite ribinę vertę, matavimo vienetą, teisės nuostatą ir ribą. Pasakykite, ar skaičius yra teisinė prezumpcija, Komisijos rodiklis, etalono sąlyga ar vidaus projektavimo tikslas. Neleiskite, kad viena metrika įgytų didesnę reikšmę vien todėl, kad tai patogu pristatymo skaidrėse. Maža metrika taip pat gali reikšti didelę pareigą. Skaičius turi turėti savo kilmės istoriją.

Sistema yra daugiau nei joje esantis modelis

DI aktas padaro sistemos ribas matomas. Jis apibrėžia teikėjus ir diegėjus, atskiria modelius nuo sistemų ir priskiria pareigas vertės grandinėje. Teikėjas gali būti asmuo ar organizacija, kuri kuria sistemą arba paveda ją sukurti ir savo vardu pateikia rinkai arba pradeda naudoti. Diegėjas yra asmuo ar organizacija, kuri naudoja sistemą pagal savo įgaliojimus. Šie vaidmenys svarbūs, nes tas pats pagrindinis komponentas gali atsidurti skirtingose struktūrose su skirtingomis pareigomis.

Įsivaizduokite kompaktišką teksto klasifikatorių, kuris grąžina vieną iš keturių kategorijų. Modelis neturi vartotojo sąsajos, atminties ir galimybės iškviesti įrankį. Vienoje aplinkoje jis rūšiuoja komandos dokumentus į aplankus. Kitoje jis pažymi paraiškas viešajai paslaugai, kad kai kurie asmenys būtų nukreipti papildomai patikrai. Komponentas gali būti techniškai identiškas. Antroji sistema turi kitą paskirtį, kitus paveiktus asmenis, kitokį galios santykį ir kitokį paaiškinimo bei teisių gynimo poreikį.

Akto didelės rizikos klasifikavimo taisyklės atitinka tokio pobūdžio skirtumus. Jose vertinama, ar sistema yra saugos komponentas, ar ji naudojama III priede išvardytoje srityje ir ar ji kelia didelę riziką sveikatai, saugumui ar pagrindinėms teisėms. Išvardyto naudojimo kelias nėra sprendimas dėl modelio elegancijos. Tai sprendimas dėl to, ką sistema daro aplinkoje, kurioje neteisingas rezultatas gali turėti reikšmės. Siaura procedūrinė užduotis gali patekti į kruopščiai suformuluotą išimtį, kai ji neturi esminės įtakos sprendimui, tačiau teikėjas turi dokumentuoti šį vertinimą.

Šį dokumentavimo reikalavimą lengva nuvertinti. Komanda, teigianti, kad sistema yra tik parengiamoji, pateikia teiginį apie priežastingumą. Ji teigia, kad rezultatas neturi esminės įtakos po jo einančiam sprendimui. Jei vertintojas žymę traktuoja kaip pagrindą pradėti bylą, jei darbuotojai pasikliauja reitingu arba jei pareiškėjas neturi prasmingo būdo ištaisyti už vėliavėlės esančius duomenis, praktinė įtaka gali būti didesnė, nei rodo sąsaja. Žodis parengiamoji negali reikšti nematoma.

System boundaries also include the boring machinery around a model: the data source, the threshold, the queue, the person who receives the result, the record that survives, the supplier contract, the update process, and the route for stopping the workflow. A small model may be the visible object while the real risk lives in the hand-off. That is why a risk review that asks only what the model predicts is incomplete. The harder question is what the organisation does because it predicted it.

Purpose changes the meaning of the same output

An output has no obligation in a vacuum. The same probability, category, or recommendation can be benign in one task and consequential in another. This is not because words change their dictionary meaning. It is because an output enters a decision structure. A ranking used to choose which research notes to read first is not the same thing as a ranking used to decide which household receives a fraud investigation. The machine may use the same mathematics. The institution does not have the same relationship with the people at the other end.

Article 7 of the AI Act lists the criteria the Commission must consider when adding or modifying high-risk use cases. They include intended purpose, how widely the system is used or likely to be used, the nature and amount of data, autonomy and the possibility of human override, the extent and intensity of possible harm, dependence on the outcome, power imbalance, vulnerability, reversibility, benefit, and the availability of redress. Read together, those criteria form a useful rebuttal to model-size thinking. They describe a relationship, not a weight file.

The component stays small while the surrounding purpose, power, dependence and reversibility change the control question.

Dependence is especially important. A person can sometimes ignore a recommendation, seek another service, or ask a colleague to check the answer. A person may also have no practical alternative. If an automated screening step determines whether a service is delayed, whether an application receives attention, or whether a worker is called into a meeting, the affected person may have to live with the system's first interpretation while the organisation decides whether to look again. The smaller the visible decision, the easier it can be to miss the dependence underneath.

Grįžtamumas svarbus dėl tos pačios priežasties. Rašybos klaida vidinėje žymoje gali būti ištaisyta, kol niekas dar ja nesiremia. Rizikos vėliavėlė gali pakeisti eilės tvarką, kuria nagrinėjama byla, o pats vėlavimas gali tapti reikšmingas. Atmetimas gali lemti praleistą terminą. Reitingas gali tapti vieninteliu reitingu, kurį pamato užimta komanda. Tai, kad administratorius techniškai gali redaguoti duomenų bazę, neįrodo, kad socialinį rezultatą lengva pakeisti. Techninis grįžtamumas ir realiai patiriamas grįžtamumas yra susiję, bet ne tapatūs.

Čia proporcingumas įgyja turinį. Mažai įtakos turinčiam vidiniam pasiūlymui gali pakakti lengvo įrašo ir aiškaus atsakingojo. Sistemai, kuri daro įtaką galimybei naudotis viešąja paslauga, reikia tvirtesnio įrodymų kelio, informuoto žmogaus dalyvavimo ir galimybės ginčyti tiek įvestį, tiek rezultatą. Proporcingos kontrolės priemonės nėra kontrolės priemonių nebuvimas. Jos pasirenkamos todėl, kad santykis jų nusipelno.

Duomenys išlaiko savo įsipareigojimus

Modelio dydis savaime nepadaro duomenų anonimiškų. Europos duomenų apsaugos valdybos nuomonėje 28/2024 teigiama, kad klausimas, ar dirbtinio intelekto modelį galima laikyti anonimišku, turi būti vertinamas kiekvienu atveju atskirai. EDAV viešoje santraukoje pateiktas testas klausia, ar labai mažai tikėtina, kad modelis tiesiogiai ar netiesiogiai galėtų nustatyti asmenis, kurių duomenys buvo panaudoti jam sukurti, ir ar labai mažai tikėtina, kad jų asmens duomenis būtų galima išgauti užklausomis. Mažesnis modelis gali turėti mažiau informacijos, bet mažiau nėra teisinė išvada.

EDAV taip pat nepamiršta teisėto intereso konteksto. Jos analizė nukreipia į būtinumą ir interesų pusiausvyrą, o joje išvardijami santykiai tarp asmenų ir duomenų valdytojo, paslaugos pobūdis, kontekstas, kuriame duomenys buvo surinkti, šaltinis, galimi tolesni naudojimo būdai ir tai, ko asmenys galėtų pagrįstai tikėtis. Šie veiksniai neišnyksta, kai modelis suspaudžiamas, distiliuojamas, kvantizuojamas ar paslepiamas už tvarkingos API. Suspaudimas pakeičia techninį objektą. Jis neperrašo istorijos, kodėl duomenys buvo surinkti ar ką asmenims buvo pasakyta.

Skaityti tą nuomonę kartu su modelių inžinerija yra naudinga disciplina. Paklauskite, kam modelis buvo mokomas ar pritaikytas, kokius duomenis jis gauna veikimo metu, kurie įrašai saugomi ir kas gali į jį kreiptis užklausomis. Tada paklauskite, kas vyksta toliau. Ar rezultatas nukopijuojamas į bylą. Ar reitingas tampa nurodymu. Ar žmogus, peržiūrintis sprendimą, mato šaltinio medžiagą ar tik modelio etiketę. Ar asmuo, kurio duomenys susiję, turi galimybę ištaisyti faktinę klaidą. Tai duomenų ir valdymo klausimai, o ne vien tikslumo klausimai.

EDAV viešoje santraukoje taip pat pažymima, kad neteisėtai tvarkytų asmens duomenų panaudojimas kuriant modelį gali turėti įtakos jo diegimo teisėtumui, nebent modelis būtų tinkamai anonimizuotas. Šis sakinys užkerta kelią įprastam pabėgimo keliui. Komanda negali išspręsti problemos teigdama, kad galutinis modelis yra mažas, duomenys nebėra matomi arba modelis yra tik vienas komponentas. Teisinė ir etinė duomenų istorija lieka sistemos istorijos dalimi.

Inžinieriams tai reiškia, kad mokymo įrašas ir diegimo įrašas neturėtų būti traktuojami kaip atskiros visatos. Perkantiesiems tai reiškia, kad tiekėjo teiginys apie modelio dydį nepakeičia duomenų kilmės, tikslo, saugojimo, teisių tvarkymo ar tolesnės dokumentacijos. Nukentėjusiam asmeniui tai reiškia, kad naudingas klausimas nėra, kiek parametrų buvo panaudota. Naudingas klausimas yra, kas atsitiko jo informacijai ir ką organizacija gali padaryti, kai rezultatas yra klaidingas.

Mažas signalas gali pajudinti didelę eilę

Consider a hypothetical service desk that receives requests from residents. A compact classifier reads the first message and assigns a route: information, routine work, urgent review, or specialist handling. The example is deliberately ordinary and entirely illustrative. There is no named council, no real deployment, no timestamp, and no claim that this happened. The point is to make the boundary visible.

If the categories only help a worker arrange a private set of notes, the risk may be modest. If the urgent route determines who receives a safety inspection, the output now sits closer to a public decision. If a missing keyword sends a person's request to routine work, the delay may matter even though the model never speaks to the resident. If the worker can see the original message, change the route, record why, and respond quickly to a challenge, the system has a different control posture from one in which the label becomes a hidden gate.

The model has not become larger. The obligation has become clearer. It follows the path from input to consequence. The organisation must know what the categories mean, what evidence the model may use, which cases require refusal or escalation, who can override the route, and what record allows a later reviewer to understand the decision. The model's modesty is not a reason to skip those questions. It may be a reason to answer them more precisely because the component's contract can be made narrow.

A similar hypothetical appears in employment. A small model could extract skills from a CV, classify a role, or flag a missing certificate. Extraction sounds less consequential than selection, but the extraction may shape the ranking that follows. If the output is never used to decide who progresses, the system may stay on the preparatory side of a boundary. If people treat the extracted label as an objective summary and stop looking at the document, the boundary moves. The obligation lives in use, not in the verb chosen for the model's job description.

In both illustrations, the right response is not to panic about a small model. It is to make the hand-off explicit. Name the intended purpose. Declare what the output can and cannot change. Preserve the source and model version where a decision depends on them. Give a person enough information and authority to disagree. Test the slices where the system is expected to be uncertain. Review the workflow when the organisation changes the data, threshold, audience, or downstream action.

What the Dutch SyRI judgment actually teaches

Europe already has a documented example of a compact-looking risk system carrying a rights-sized obligation. On 5 February 2020, the District Court of The Hague described SyRI as a statutory government instrument used to combat fraud in benefits, allowances, and taxes. The court did not decide the case by asking how many parameters the system had. It assessed the legal framework against Article 8 of the European Convention on Human Rights, including whether the interference with private life struck a fair balance.

The court concluded that the SyRI legislation did not pass that test. In the court's account, the use of SyRI was insufficiently transparent and controllable. The legal framework was therefore incompatible with higher law and could not stand in its existing form. The public case page is concise, but its lesson is not small: when a state uses a risk-indication system against people who may have little power to understand or contest it, the system needs a level of insight and control that matches that relationship.

„SyRI“ buvo Nyderlandų teisinis rizikos nustatymo instrumentas, o ne atvejo analizė apie modernų neuroninį modelį, ir teismo puslapis nesuteikia mums parametrų skaičiaus, kurį galėtume aptarti. Būtent todėl šis pavyzdys čia ir tinka. Jis neleidžia mums traktuoti modelio architektūros kaip vienintelio įdomaus objekto. Taisyklių sistema, balų kortelė, statistinis modelis ar mažas klasifikatorius gali tapti institucinio sprendimo dalimi. Teisių klausimas kyla per naudojimą.

Sprendimas taip pat teisingai apibrėžia skaidrumo vietą. Tai ne tik prašymas paaiškinti po to, kai asmuo patyrė žalą. Tai dalis sąlygų, kuriomis sistema gali būti vertinama prieš jai veikiant ir jai veikiant. Jei žmonės negali pakankamai matyti tikslo, duomenų naudojimo, apsaugos priemonių ir apskundimo kelio, kad suprastų kišimąsi, organizacija gali nesugebėti įrodyti teisingos pusiausvyros, kurią teigia pasiekusi.

Nereikia paversti „SyRI“ universalia analogija. Nyderlandų teisinė sistema, bylos faktai ir Europos konvencija yra specifiniai. Naudingas perkėlimas yra siauresnis: neklauskite, ar sistema techniškai įspūdinga, prieš paklausdami, ar jos institucinis ryšys yra matomas, kontroliuojamas ir ginčijamas. Mažesnė mašina nepateisina didesnės tylos.

Ženklinimas keliauja kartu su tolesniu naudojimu

Modelis gali būti pristatytas kaip komponentas ir vis tiek tapti sistemos, kuri neša kitą pareigą, dalimi. Komisijos GPAI gairės paaiškina, kodėl tolesnių naudotojų grandinės dalyviams reikia informacijos apie modelio galimybes ir apribojimus. Jie tos informacijos reikia norėdami atsakingai integruoti modelį ir įvykdyti savo pačių pareigas pagal DI aktą. Modelio teikėjas ir sistemos teikėjas nerašo to paties dokumento, nes jie neatsako į tą patį klausimą.

Šis skirtumas svarbus, kai komandos modelio kortelę traktuoja kaip pasą. Modelio kortelė gali aprašyti architektūrą, mokymą, vertinimą, žinomus apribojimus ir numatytą naudojimą. Ji pati negali aprašyti kiekvienos aplinkos, į kurią tolesnės grandinės komanda gali įdėti modelį. Tolesnės grandinės sistema prideda naudotoją, tikslą, duomenų srautus, sąsają, žmogiškuosius vaidmenis, sprendimą ir paveiktų žmonių grupę. Šie papildymai gali pakeisti pareigą net tada, kai modelio svoriai lieka nepakeisti.

Atsakomybė taip pat gali pasikeisti, kai organizacija pakeičia numatytą paskirtį arba atlieka esminį pakeitimą. DI akto vertės grandinės nuostatos aprašo aplinkybes, kuriomis veikėjas gali prisiimti teikėjo pareigas, įskaitant DI sistemos numatytos paskirties pakeitimą taip, kad ji taptų didelės rizikos. Tai naudingas įspėjimas prieš sutartinį miglotumą. Tiekėjas gali pateikti komponentą, bet diegėjas negali priversti savo naudojimo išnykti pavadindamas komponentą biblioteka.

Praktinis perdavimas todėl turėtų nešti daugiau nei atsisiuntimo nuorodą. Jame turėtų būti nurodytos numatytos užduotys, įvesties ir išvesties ribos, integravimo reikalavimai, mokymo ir patvirtinimo informacija, kai tai aktualu, žinomi apribojimai ir sąlygos, kuriomis komponento naudoti negalima. Jame turėtų būti paaiškinta, ko modelis neįvertino. Tolesnės grandinės komanda neturėtų turėti spręsti apie garantijos nebuvimą iš pasitikinčios diagramos buvimo.

Šiems dokumentams yra žmogiška priežastis. Asmuo, paveiktas galutinės sistemos, abstrakčiai nesusitinka su modelio teikėju. Jie susitinka su organizacija, kuri pasirinko darbo eigą. Organizacija turi sugebėti pasakyti, ką komponentas padarė, ką organizacija su juo padarė ir kaip asmuo gali apskųsti rezultatą. Jei atsakymai gyvena trijose sutartyse ir nėra veiklos įrašo, sistema nėra gerai integruota. Ji tiesiog gerai paskirstyta.

Žmogiškasis kelias turi būti realus

Žmogaus priežiūra dažnai vaizduojama kaip žmogus, sėdintis prie ekrano. AI aktas yra tikslesnis. Didelės rizikos sistemoms priežiūra turi būti veiksminga ir proporcinga rizikai, autonomijos lygiui ir naudojimo kontekstui. Priežiūrai paskirtas asmuo turėtų gebėti suprasti atitinkamas galimybes ir apribojimus, stebėti anomalijas, interpretuoti rezultatus, nuspręsti jų nenaudoti, jų nepaisyti arba juos pakeisti, atšaukti juos bei saugiai įsikišti arba sustabdyti sistemą.

Nė vienas iš šių veiksmų nėra garantuotas mažo modelio. Siauras rezultatas gali būti lengviau interpretuojamas, tačiau interpretavimas nėra tas pats, kas įgaliojimas. Pakeitimo mygtukas, kuriuo niekas negali pasinaudoti, nes eilė per didelė, nėra veiksminga priežiūra. Recenzentas, matantis tik spalvą ar etiketę, negali prasmingai patikrinti šaltinio. Asmuo, kaltinamas dėl sprendimo, bet negalintis pristabdyti darbo eigos, nėra kontrolės taškas. Jis yra dekoratyvus žmogaus pavidalo tarpas diagramoje.

Proporcinga priežiūra gali būti tyli. Tai gali būti aiškus kelias darbuotojui pažymėti nepakankamus įrodymus, antras patikrinimas jautriai kategorijai, įrašas, kodėl rekomendacija buvo atmesta, arba automatinė pauzė, kai trūksta privalomų laukų. Tai gali būti asmuo, kuriam priklauso sprendimas ir kuris turi laiko ištirti atvejus, kuriuos sistema jam nukreipia. Išsami informacija priklauso nuo konteksto. Reikalavimas yra tas, kad kelias veiktų, kai sistema yra neaiški, klaidinga, nepasiekiama arba ginčijama.

Mažiems modeliams struktūrizuotas atsisakymas gali būti privalumas. Jei klasifikatorius gali pasakyti trūksta šaltinio, ne pagal apimtį arba reikia peržiūros, organizacija turi konkretų įvykį, kurį reikia tvarkyti. Tai geriau nei sklandi pastraipa, kuri tyliai paverčia neaiškumą nurodymu. Tačiau atsisakymui vis tiek reikia savininko. Jei kiekvienas atsisakymas tampa aklaviete, sistema tiesiog perkėlė naštą kažkam, nesuteikdama jam kelio per ją.

Žmogiškasis kelias tęsiasi iki paveikto asmens. Asmuo neturėtų turėti naudoti pardavėjo terminologijos, kad ginčytų rezultatą. Organizacija turėtų žinoti, kokią informaciją galima paaiškinti, ką galima ištaisyti, kas peržiūri atvejį ir kas vyksta, kol peržiūra atvira. Mažas modelis gali palengvinti vidinio pėdsako aprašymą. Tai nesumažina asmens, esančio už sistemos ribų, svarbos.

Proporcingos kontrolės vis tiek yra kontrolės

Proporcingas valdymas prasideda atsisakant dviejų blogų sandorių. Pirmasis teigia, kad kiekviena sistema nusipelno to paties sunkaus proceso, kuris rizikos valdymą paverčia popierizmu ir ilgainiui išmoko komandas slėpti darbą. Antrasis teigia, kad maži modeliai nenusipelno jokio rimto proceso, kuris painioja siaurą komponentą su nekenksminga institucija. Proporcingas požiūris klausia, ką sistema gali pakeisti, kas gali būti paveiktas ir kokie įrodymai leistų organizacijai ištaisyti klaidą.

Pirmoji kontrolė yra tikslo aprašymas, kurį gali suprasti ne specialistas. Jis turėtų įvardyti užduotį, numatomus naudotojus, paveiktus asmenis, leidžiamus įvesties duomenis, rezultatą ir veiksmus, kurių sistema negali atlikti. Toks tikslas kaip paramos prioritetizavimas yra pernelyg neaiškus, jei jis galėtų reikšti privačios eilės sudarymą, sprendimą, kas gaus teisės aktų numatytą patikrinimą, arba kandidatų atranką drausminei peržiūrai. Šis sakinys nėra rinkodaros tekstas. Tai riba, pagal kurią tikrinami vėlesni pakeitimai.

Antroji kontrolė yra įvesties ir įrodymų riba. Kokius šaltinius sistema gali skaityti. Kurie laukai yra autoritetingi. Kiek jie turi būti nauji. Kas atsitinka, kai reikšmės trūksta arba ji prieštarauja kitam šaltiniui. Ar asmens duomenys gali patekti į kelią. Kuris įrašas saugomas. Kompaktiškas modelis gali būti griežtas dėl įvesties ir vis tiek sugesti, jei aplinkinė darbo eiga tyliai išplečia duomenis. Apimčiai reikia savininko, ne tik schemos.

Trečiasis valdiklis yra išvesties sutartis. Nurodykite leidžiamas etiketes, neapibrėžtumo būsenas, atsisakymo sąlygas ir tolesnius veiksmus kiekvienam rezultatui. Jei sistema grąžina balą, pasakykite, ką tas balas reiškia ir ko jis nereiškia. Jei ji grąžina reitingą, pasakykite, ar reitingas yra pasiūlymas, ar vartai. Jei ji grąžina kategoriją, pasakykite, kas gali ją keisti ir koks įrašas užfiksuoja pakeitimą. Mažas žodynas naudingas tik tada, kai institucija sutinka neįterpti į jį papildomo autoriteto.

Ketvirtasis valdiklis yra pokyčių kelias. Modelio atnaujinimai, slenksčių pakeitimai, nauji duomenų šaltiniai, kitokia vartotojų grupė, naujas tiekėjas arba pakeistas tolesnis veiksmas gali pakeisti sistemos riziką. AI akto gyvavimo ciklo kalba primena, kad rizikos valdymas yra kartotinis. Komponentas, kuris sausį buvo siauras, rugpjūtį gali atsidurti kitokiame sprendime. Prievolė siejasi su pasikeitusiu santykiu, o ne su data pirmame projektavimo dokumente.

Penktasis valdiklis yra išėjimas. Ar organizacija gali pristabdyti komponentą, grįžti prie žmogiškojo kelio, eksportuoti įrašus, paaiškinti sprendimų istoriją ir pakeisti tiekėją neprarasdama įrodymų, reikalingų atvejams ištaisyti. Išėjimas nėra prabanga, skirta tik didelėms sistemoms. Mažas modelis gali tapti vieninteliu institucinės atminties tašku, jei niekas neišsaugo aplink jį šaltinio, versijos ir sprendimų kelio.

Proporcinga įrodymų byla

Proporcinga įrodymų byla nėra sandėlis, kuriame sukrautos visos mintys, kilusios kam nors apie modelį. Tai skaitomas atsakymas į klausimus, kuriuos vertintojas, operatorius, paveiktas asmuo ar reguliuotojas gali pagrįstai užduoti. Kokia buvo numatyta paskirtis. Kuri versija veikė. Kokius duomenis gavo. Ką grąžino. Kuri taisyklė ar slenkstis pavertė tą išvestį veiksmu. Kas turėjo įgaliojimus keisti rezultatą. Kas atsitiko, kai įrodymų trūko. Kaip sprendimą galima atkurti ar užginčyti.

Mažos pasekmės pasiūlymui byla gali būti nedidelė. Joje gali būti paskirtis, šaltinis, versija, pagrindinis vertinimas, savininkas, saugojimo taisyklė ir nuoroda į taisymo kelią. Sistemai, kuri daro įtaką prieigai, saugai, įdarbinimui ar teisėms, bylos reikia daugiau. Ji turėtų susieti rizikos analizę su duomenimis ir išvesties sutartimi, parodyti, kaip žmogiškoji priežiūra veikia praktiškai, dokumentuoti žinomus apribojimus ir išsaugoti pakankamai veiklos istorijos, kad būtų galima ištirti ginčijamą rezultatą. Proporcingumas auga kartu su pasekmėmis, o ne su parametrų skaičiumi.

Testavimas turėtų vadovautis ta pačia logika. Vienas tikslumo skaičius negali apibūdinti sistemos tinkamumo kiekvienam kontekstui. Išbandykite duomenų dalis ir sąlygas, kurios svarbios paskirčiai. Įtraukite trūkstamus ir prieštaringus duomenis. Įtraukite atvejus, kai atsisakymas yra teisingas. Patikrinkite, ar skirtingos komandos modelio išvestį naudoja skirtingai. Užfiksuokite, kas buvo matuojama, kokiomis sąlygomis ir kas lieka nežinoma. Modelis, kuris gerai veikia su švariu testų rinkiniu, vis tiek gali būti blogai pritaikytas netvarkingoje institucijoje.

Stebėsena nėra prietaisų skydelio puošmena. Tai būdas organizacijai sužinoti, kad realus darbo srautas pasikeitė. Stebėkite įvesties duomenų pokyčius, nesutapimų dažnį, atsisakymų dažnį, žmogiškųjų pakeitimų pokyčius, naujus tolesnius naudojimo būdus ir skundus ar taisymo prašymus. Tikslūs signalai priklauso nuo sistemos. Principas yra stabilus: įrodymai turėtų apimti santykį, kuris sukuria prievolę, o ne tik vidinį modelio balą.

Geri įrodymai taip pat turi galiojimo datą, net jei įrašai saugomi ilgiau. Teisinė interpretacija gali pasikeisti. Paslauga gali pasiekti naują populiaciją. Tiekėjas gali atnaujinti modelį. Kelias, kuris buvo grįžtamas, gali būti įterptas į kitą sistemą. Pažymėkite, kas buvo vertinama, kada, kieno ir pagal kokią paskirtį. Tada įrašas tampa sprendimų istorija, o ne statišku sertifikatu, kuris išgyvena sąlygas, dėl kurių jis buvo prasmingas.

Mažų modelių gedimo režimai

Mažos sistemos žlunga atpažįstamais būdais. Klasifikatorius gali praleisti kategoriją, nes etiketės apibrėžtis yra dviprasmiška. Išgaviklis gali grąžinti tikėtiną lauką iš netinkamo sakinio. Reitingavimo modelis gali teikti pirmenybę įprastiems atvejams ir paslėpti neįprastus. Slenkstis gali nuolatinį neapibrėžtumą paversti klaidingu dvejetainiu sprendimu. Vietinis modelis gali veikti patikimai, kol šaltinio duomenys pasensta. Nė viena iš šių nesėkmių savaime nėra katastrofiška. Kiekviena tampa svarbi, kai darbo eiga traktuoja rezultatą kaip autoritetingesnį, nei leidžia komponento sutartis.

Pirmasis gedimo būdas yra klaidingas kuklumas. Komanda sako, kad modelis tik žymi, rūšiuoja ar padeda, o paskui suprojektuoja darbo eigą taip, kad darbuotojai retai nesutinka. Etiketė tampa sprendimu iš įpročio. Tai ne modelio parametrų skaičiaus trūkumas. Tai institucijos elgesio su autoritetu trūkumas. Išeitis yra padaryti perdavimą matomą, matuoti pakeitimus ir nesutarimus bei suteikti žmonėms praktinį kelią rezultatui pakeisti.

Antrasis yra paslėpta kompozicija. Mažas modelis gali būti šalia paieškos, taisyklių, eilės, reitingavimo ir pranešimų tarnybos. Kiekvienas komponentas atrodo ribotas. Kartu jie gali sukurti galingą sprendimų kelią. Rizikos peržiūra turėtų sekti kelią nuo pradžios iki pabaigos. Kuris šaltinis patenka pirmas. Kuri transformacija pašalina kontekstą. Kuri etiketė sukelia veiksmą. Kuris įrašas išlieka. Kuris žmogus gali sustabdyti grandinę. Komponentų lygmens užtikrinimas yra būtinas, bet tai nėra sistemos vaizdas.

Trečiasis yra pasenęs įsipareigojimas. Modelis lieka nepakitęs, o jo paskirtis ar auditorija keičiasi. Komanda prideda naują duomenų šaltinį, siunčia rezultatus kitam skyriui arba pradeda naudoti privatų prioritizavimo įrankį viešai matomoje darbo eigoje. Modelio kortelė lieka ta pati, todėl visi mano, kad rizika ta pati. Taip nėra. Numatytas tikslas pasikeitė, ir įrodymų byla turėtų keistis kartu.

Ketvirtasis yra mažo modelio aureolė. Maža išteklių sąskaita ar tvarkingas vietinis diegimas sukuria įspūdį, kad sistema yra atskaitingesnė, nei yra iš tikrųjų. Organizacija vis tiek gali nesugebėti paaiškinti rezultato, išsaugoti įvestį, suteikti teisių gynimo priemonę ar paskirti žmogų, turintį įgaliojimus. Techninis efektyvumas yra sveikintinas. Jis nepakeičia institucinės kontrolės. Sistema gali būti pigi eksploatuoti ir brangi ginti.

Penktasis yra dingęs išėjimas. Mažus komponentus lengva pridėti ir sunku pašalinti, kai jie įsipina į užimtą procesą. Pakeitimas keičia kategorijas, slenksčius ar įrašus, kurių tikisi vėlesnės grandies komandos. Jei niekas neišbandė perėjimo, sistema tampa lipni. Modelis gali būti mažas, bet migracija dabar yra vieša problema. Perkeliamumas turi būti pirmajame dizaino pokalbyje, o ne paskutiniame pirkimų susitikime.

Kada mažas yra teisingas inžinerinis pasirinkimas

Nė viena iš šių pastabų neturėtų virsti kampanija prieš mažus modelius. Mažas gali būti visiškai teisingas. Siaura užduotis su aiškia sutartimi gali nereikalauti bendros paskirties modelio. Vietinis komponentas gali laikyti neskelbtinus duomenis arčiau už juos atsakingų žmonių. Fiksuotas rezultatas gali palengvinti patikrą ir stebėseną. Modelis, kuris atsisako veikti už savo apimties ribų, gali būti saugesnis komponuoti nei tas, kuris į kiekvieną klausimą atsako pasitikinčiai.

Inžinerinis argumentas yra stipriausias, kai komanda gali įvardyti, ko komponentas nedarys. Jis klasifikuos tik patvirtintas kategorijas. Jis skaitys tik deklaruotus laukus. Jis grąžins nepakankamų įrodymų pranešimą, kai trūks reikiamo lauko. Jis nekviečia įrankio. Jis nepriims galutinio sprendimo. Jis turės versiją ir vertinimo įrašą. Jis bus pakeičiamas, nes sąsaja ir įrodymų sutartis yra dokumentuotos. Šie apribojimai nepadaro sistemos vaikiškos. Jie padaro jos atsakomybes aiškias.

Maži komponentai taip pat gali padėti geriau pasidalyti darbą. Platus modelis gali interpretuoti netvarkingą kalbą ar parengti žmogui suprantamą paaiškinimą. Griežtas komponentas gali išgauti lauką, pritaikyti politikos vartus, reitinguoti nustatytą šaltinių rinkinį arba patikrinti, ar rezultatas atitinka žinomą formą. Taisyklių variklis arba sprendiklis gali valdyti dalį, kuri turi būti tiksli. Žmogus gali turėti sprendimo teisę, kurios negalima saugiai perduoti. Svarbiausia ne grynumas. Svarbiausia, kad kiekviena dalis turėtų apibrėžtą užduotį, o sistema užfiksuotų, kaip tos užduotys susijusios.

Šiame išdėstyme yra europietiško praktiškumo. Institucijos retai gali viską pakeisti iš karto. Jos turi turėti sistemas, kurios veiktų tokiomis aparatinės įrangos, teisinėmis, kalbos ir viešųjų pirkimų sąlygomis, kokias jos iš tikrųjų turi. Mažesnius komponentus kartais galima įdiegti arčiau darbo vietos, įvertinti pagal vietos įrodymus ir pakeisti nereikalaujant, kad visa organizacija keistų savo atmintį. Tai lūkestis, o ne teiginys apie kiekvieną mažą modelį. Diegimui vis tiek reikia įrodymų, kad tinkamumas yra realus.

Mažumas taip pat naudingas kaip disciplina. Kai komanda negali išspręsti problemos pridėdama daugiau bendrųjų galimybių, ji turi nuspręsti, kokia informacija svarbi, koks neapibrėžtumas gali būti atskleistas ir kuriais atvejais reikia žmogaus. Toks projektavimo darbas gali atskleisti, kad modelis nereikalingas. Kartais tinkamas komponentas yra duomenų bazės apribojimas, paieškos indeksas, pasirašytas įrašas arba gerai surašyta forma. Mažesnis modelis gali turėti didelę atsakomybę. Ne modelis taip pat gali ją turėti.

Kai mažumas naudojamas kaip maskuotė

Mažumas tampa maskuote, kai jis siūlomas kaip atsakymas, dar niekam neaprašius klausimo. Pristatyme gali būti sakoma, kad komponentas yra lengvas, vietinis, privatus, efektyvus arba atviras. Tai visi gali būti naudingi faktai. Jie nepasako paveiktam asmeniui, ar sistemą galima užginčyti, ar operatoriui, ar rezultatą galima pakeisti, ar reguliuotojui, ar organizacija suprato savo tikslą.

Maskuotė dažnai pasireiškia viešųjų pirkimų kalba. Pirkėjui parodomas modelio dydis, delsos rodiklis ir išvadų sąnaudos. Sutartyje sakoma, kad tiekėjas teikia sprendimų paramos įrankį. Niekas neįrašo, kokie sprendimai, kieno duomenys, kurios populiacijos, koks žmogaus dalyvavimo kelias ar kokie pakeitimai sukelia peržiūrą. Vėliau vidinė komanda atranda, kad įrankis tapo vartais, nes eilė, terminas arba informacijos suvestinė padarė rekomendaciją patogią vykdyti. Modelis buvo mažas. Valdysena buvo dar mažesnė.

Kita maskuotė yra frazė „žmogus grandinėje“. Žmogus techniškai gali paliesti kiekvieną atvejį, neturėdamas prasmingo laiko, informacijos ar įgaliojimų. Tada grandinė veikia kaip patvirtinimo ritualas. Mažas modelis gali tai padaryti ypač viliojančiu, nes rezultatas atrodo paprastas. Gaunamos trys kategorijos, žmogus spusteli vieną, ir organizacija vadina rezultatą peržiūrėtu. Peržiūrai reikia galimybės suprasti, užginčyti ir pakeisti rezultatą. Vienas spustelėjimas savaime nėra apsauga.

Trečia maskuotė yra teiginys, kad vietinis reiškia suverenų. Vietinis apdorojimas gali padėti užtikrinti duomenų buvimo vietą, mažesnę delsą ir veiklos kontrolę, tačiau suverenumas taip pat susijęs su tuo, kas gali keisti programinę įrangą, laikyti raktus, pasiekti įrašus ir palaikyti paslaugos veikimą, kai tiekėjas arba tinklas nepasiekiamas. Mažas modelis įrenginyje gali būti vietinis, o jo atnaujinimai, vertinimas ir įgaliojimai gali likti kitur. Vieta yra faktas žemėlapyje. Kontrolė yra faktas santykiuose.

Priešnuodis nėra didesnė forma. Tai aštresnė forma. Klauskite tikslo. Klauskite, kas pasikeičia dėl rezultato. Klauskite, kas gali nesutikti. Klauskite, ką paveiktas asmuo gali padaryti. Klauskite, kokie įrodymai išsaugomi. Klauskite, kaip sistema sustabdoma, pakeičiama ir iš naujo įvertinama. Jei atsakymai aiškūs, modelio dydis gali grįžti į savo vietą kaip vienas iš daugelio inžinerinių sprendimų.

Pirkėjo klausimai

Prieš mažam modeliui įžengiant į svarbų darbo srautą, pirkėjas turėtų sugebėti atsakyti į seką paprastų klausimų. Kokia numatyta paskirtis vienu sakiniu. Kas nepatenka į taikymo sritį. Kurie žmonės gali būti paveikti tiesiogiai arba per vėlesnį veiksmą. Kokie duomenys reikalingi, o kokie duomenys draudžiami. Ką kiekviena išvestis leidžia organizacijai daryti. Ko ji neleidžia organizacijai daryti.

Tada paklauskite apie įgaliojimus. Kam priklauso sprendimas. Kas gali pakeisti modelio sprendimą. Kas gali sustabdyti darbo srautą. Kokią informaciją tas asmuo mato. Kiek laiko jie turi. Kas nutinka, kai jie nesutinka. Ar paveiktam asmeniui suteikiama pakankamai informacijos, kad galėtų prašyti peržiūros. Ar organizacija gali ištaisyti ir įvestį, ir išvestį. Šie klausimai nėra kaltinimas tiekėjui. Tai yra minimalus aprašymas institucijos, kuri perka įrankį.

Paklauskite apie įrodymus. Kuri versija buvo paleista. Kuri modelio ir politikos konfigūracija buvo aktyvi. Kurie šaltiniai buvo prieinami. Kuri riba ar taisyklė pavertė išvestį į kitą veiksmą. Kas užfiksuojama, kai žmogus pakeičia rezultatą. Ar organizacija gali atkurti atvejį neapsimesdama, kad naujas paleidimas yra senasis. Ar ji gali eksportuoti įrašus tokia forma, kurią gali perskaityti kita sistema. Atsakymas neturi būti didinga platforma. Jis turi būti tikras įrašas.

Paklauskite apie pokyčius. Kas laikoma modelio atnaujinimu. Kas laikoma nauju duomenų šaltiniu. Kas nutinka, kai pasikeičia paskirtis. Kurie pakeitimai reikalauja naujo vertinimo. Kas informuojamas. Kaip paveikti žmonės apsaugomi atšaukimo ar migracijos metu. Jei tiekėjas negali atsakyti, pirkėjas neperka mažos rizikos. Pirkėjas priima mažą didelės nežinomybės aprašymą.

Galiausiai paklauskite apie pasitraukimą. Ar darbo srautas gali veikti saugiai be modelio. Ar organizacija gali atgauti įvestis, išvestis, sprendimus ir pataisymų istoriją. Ar kitas komponentas gali atitikti tą pačią sąsają be naujos priklausomybės. Ar sistema gali būti atšaukta nepaliekant žmonių nežinioje. Modelis nėra iš tikrųjų mažas, jei jį pašalinus institucija turi pamiršti, kaip priėmė sprendimus.

Trumpa pastaba iš mūsų pusės

Bendrovėje Dweve, Loom yra vienas iš dizaino pozicijos, kurią pristatome šiuo klausimu, pavyzdžių. Jo viešas produkto aprašymas pristato mažus kalbos komponentus kaip atvaizdavimo įrenginius aplink tipizuotą samprotavimo grafą, su pėdsakais, atkūrimu ir aiškiomis atsisakymo ribomis. Tai yra teiginys apie mūsų architektūrą ir būdą, kuriuo norime, kad komponento atsakomybė būtų matoma. Tai nėra nepriklausomas įrodymas, reguliavimo klasifikacija, kliento diegimas ar pažadas, kad mažas komponentas automatiškai tinka svarbiam naudojimui.

Naudinga pavyzdžio dalis yra riba. Komponentas gali būti mažas ir vis tiek nusipelnyti tikslaus susitarimo. Jis gali būti įdėtas į didesnį grafą netampant kiekvieno sprendimo savininku. Jis gali turėti pėdsaką neteigdamas, kad pėdsakas įrodo, jog visa institucija veikė teisėtai. Loom čia paminime tik norėdami parodyti, kaip mūsų pačių darbas bando atskirti modelio galimybes, sistemos paskirtį, įrodymus ir žmogaus įgaliojimus. Europos klausimas mums išlieka toks pat kaip ir visiems kitiems: ką ši sistema gali pakeisti, ir ar atsakingi žmonės vis dar gali ją patikrinti ir ištaisyti?

Pareigą neša santykis

Mažą modelį gali būti lengviau paleisti, lengviau išbandyti ir lengviau pakeisti. Tai yra geros priežastys jį pasirinkti. Jos nėra priežastys sumažinti supančią rūpestingumo pareigą. Dirbtinio intelekto akto apibrėžimai ir rizikos taisyklės, Komisijos GPAI gairės, EDPB atvejų analize pagrįstas požiūris į duomenis ir Nyderlandų SyRI sprendimas visi nukreipia ta pačia praktine kryptimi netapdami vienu teisiniu testu: žiūrėkite į paskirtį, kontekstą, įgaliojimus, įrodymus, paveiktus žmones ir galimybę gauti teisių gynimo priemones.

Todėl teisingas klausimas yra ne tai, ar modelis yra mažas. O tai, ką modeliui leidžiama keisti. Jei jis tik padeda žmogui ieškoti savo užrašuose, atsakymas gali būti kuklus. Jei jis keičia tai, kas sulaukia dėmesio, kuris įrašas laikomas patikimu, arba ar viešoji paslauga atveria duris, atsakymas yra didesnis. Jei organizacija negali paaiškinti perdavimo, išsaugoti įrodymų arba suteikti žmogui galimybę užginčyti rezultatą, pareiga jau viršijo komponentą.

Geras valdymas palieka vietos proporcingumui. Jis nereikalauja, kad kiekvienas modelis taptų komitetu. Jis prašo komandos padaryti matomus svarbius ryšius, susieti teiginius su įrodymais ir suteikti žmonėms realią galią, kai sistema yra neaiški arba klysta. Maži modeliai gali padėti šiame darbe, nes ribotą komponentą galima įvardyti ir išbandyti. Tačiau ribotumas yra dizaino pasiekimas, o ne numatytoji mažumo savybė.

Dydis priklauso inžinerijos įrašui. Tikslas priklauso sistemos įrašui. Pasekmės priklauso žmogiškajam įrašui. Kai šiems trims įrašams leidžiama kalbėtis vieniems su kitais, mažą modelį galima naudoti atsargiai, nelaikant jo nekenksmingu. Kai jie laikomi atskirai, modelio kuklumas tampa teatru, o žmonės, nešantys rezultatą, sumoka už trūkstamą kontekstą.

Šaltiniai