Nyilvános MI-nek nyugták kellenek
A pénztárbizonylat nélküli ügyfélszolgálat
Egy hivatal nyugta nélkül abszurd lenne. Képzelje el, hogy meghosszabbít egy engedélyt, átadja a dokumentumokat, befizeti a díjat, és csupán egy barátságos bólintást kap az ügyintézőtől. Nincs ügyiratszám. Nincs dátum. Semmi jelzés arról, mit fogadtak el. Nincs mód a fellebbezésre. Az ügyintéző mosolyog, és azt mondja, a rendszer tudni fogja. Még a legtürelmesebb önkormányzatban is akadna valaki a sorban, aki elkezdené azt az arcot vágni, ami azt jelenti, hogy a demokrácia hamarosan papírmunkává válik.
A nyugták apróságok, de intézményi súlyuk van. Azt mondják el az embereknek, hogy egy intézkedés megtörtént, hogy egy kérelem folyamatba került, hogy pénz cserélt gazdát, hogy egy szabályt alkalmaztak, hogy egy határidő elindult, hogy egy döntés újra megtalálható. Nem látványosak. Jobbak a látványosnál. Szerény bizonyítékai annak, hogy az állam nem egyszerűen elnyelte az ügyet egy szürke gépezetbe, és nem kért vak bizalmat.
A közszolgálati MI-nek most ugyanerre a szokásra van szüksége. Amikor egy algoritmus összefoglal egy iratot, javaslatot tesz a jogosultságra, rangsorolja az ellenőrzéseket, megfogalmaz egy választ, kockázatot jelez, egy állampolgárt ügyintézési útvonalra terel, vagy támogat egy döntést, a közintézménynek képesnek kell lennie nyugtát kiállítani. Nem utólag generált színpadi magyarázatot. Nem egy irányítópult-képernyőképet. Nem egy ígéretet, hogy a szállító valószínűleg rekonstruál valamit, ha munkaidőben felveszik a kapcsolatot az ügyfélszolgálattal. Hanem nyugtát: tömör, strukturált, érthető bizonyítékot arról, hogy mi történt, és miért engedték meg, hogy megtörténjen.
Nem azért, mert minden MI-művelet baljós. A legtöbbször a probléma kevésbé drámai és sokkal hétköznapibb. A rendszerek összetettek. A források változnak. A szabályzatok frissülnek. A modelleket lecserélik. Az emberek osztályok között mozognak. Egy állampolgár hat hónappal később megtámad egy eredményt. Egy ellenőr megkérdezi, melyik szabályváltozatot használták. Egy miniszter biztosítékot szeretne egy meghallgatás előtt. Nyugták nélkül a szervezetnek emlékekből, naplókból, exportokból és annak az optimizmusából kell újraalkotnia a múltat, aki kitart amellett, hogy az architektúra-ábra szinte naprakész.
A bizalom nem hangulat
A közintézmények gyakran úgy beszélnek a bizalomról, mintha a szolgáltatások körüli meleg légkör lenne. Legyen átlátható, legyen emberi, legyen innovatív, és a bizalom majd besétál egy bevásárlótáskával. Ez túl lágy az MI-hez. A közbizalom nem hangulat. Ez egy intézményi feltétel, amelyet jogok, eljárások, nyilvántartások, felülvizsgálat, korlátok és annak képessége hoz létre, hogy megmondjuk, mi történt, amikor az eredményt vitatják.
Az AI nehezebbé teszi ezt, mert a közigazgatási munka gördülékenyebbnek tűnhet, miközben a döntési folyamat átláthatósága csökken. Egy ügyintéző kaphat egy összefoglalót, amely elég pontos ahhoz, hogy hasznos legyen. Egy tervező kaphat egy kockázati pontszámot, amely időt takarít meg. Egy állampolgár kaphat egy chatbot-választ, amely megspórol egy telefonhívást. Ezek valódi előnyök lehetnek. De amikor a válasz befolyásolja a kezelést, a prioritást, a jogosultságot, a végrehajtást vagy a szolgáltatáshoz való hozzáférést, az intézménynek többre van szüksége a hasznosságnál. Közszolgálati szintű elszámoltathatóságra van szüksége.
A közszolgálati szintű elszámoltathatóság azt jelenti, hogy az intézmény képes egy kimenetet a feladatköréhez kötni. Képes megmutatni, mely adatokat használták fel, és mely adatok használata volt tilos. Képes megmutatni, hogy a modell tervezetkészítő segédeszközként, ajánlómotorként, triázseszközként vagy automatizált döntési komponensként működött-e. Képes megmutatni a szabályverziót és az emberi jóváhagyást, ahol az előírt. Képes elmagyarázni, hogyan támadhatja meg az érintett személy a döntést. Ezek nem díszek az AI körül. Ezek a padló alatta.
Csábító a bizalom kérdéseire tág ígéretekkel válaszolni. A rendszer tesztelt. A modell biztonságos. A szállító tanúsított. A folyamat irányított. Ezek az állítások igazak lehetnek, és mégis elégtelenek. A közszolgálati munka esetről esetre történik. Egy állampolgár nem egy aggregált benchmarkban él. A saját döntésében él, a saját aktájában, a saját határidejében, az elmaradt ellátásában, az ellenőrzésében, az időpontjában, a megválaszolatlan kérdésében. A bizonylatok az elszámoltathatóságot arra a szintre hozzák le, ahol a közhatalom érezhető.
A bizonylat nem csak napló
Az első hiba, ha a bizonylatot összekeverjük a naplóval. A naplók értékesek, de gépeknek, üzemeltetőknek, biztonsági csapatoknak vagy a jövőbeli zavar eloszlatására íródnak. Lehetnek túl részletesek, túl érzékenyek, túl technikaiak, túl szétszórtak, vagy túlzottan függhetnek egy szállítótól. A bizonylat formált artefaktum. Úgy tervezték, hogy választ adjon a közszolgálati elszámoltathatóság kérdéseire anélkül, hogy minden titkot felfedne, minden olvasót elárasztana, vagy egy hétvégi tanfolyamot követelne az elosztott nyomkövetésből.
A hasznos bizonylatnak rétegei vannak. A nyilvános réteg tartalmazhatja a szolgáltatás kontextusát, a dátumot, a döntés hivatkozási számát, a magas szintű adatkategóriákat, a szabályalapot és a jogorvoslati utat. A belső réteg tartalmazhatja a forrásazonosítókat, a modellverziót, a prompt sablont, a lekérési paramétereket, a szabályzatellenőrzéseket, a hozzáférés-vezérlést és a felülvizsgáló személyazonosságát. Az auditréteg tartalmazhatja a hash-eket, az időbélyegeket, az aláírásokat, a megőrzési szabályokat és a megváltoztathatatlan bizonyítékokra mutató hivatkozásokat. A rétegek védik a magánéletet, miközben megőrzik az átvizsgálhatóságot. Nem mindenkinek kell ugyanazt a részletességet látnia. Valakinek viszont képesnek kell lennie arra, hogy eleget lásson.
Ez a megkülönböztetés azért fontos, mert a közszolgálati AI-bizonylatoknak el kell kerülniük, hogy a megfigyelés egy másik formájává váljanak. Az átláthatatlanságra adott válasz nem az, hogy mindent örökre rögzítünk. Így válik egy irányítási problémából adatvédelmi probléma jobb mappákkal. A bizonylatoknak minimálisnak, célhoz kötöttnek kell lenniük, egyértelmű ideig megőrzendőknek, a felesleges tartalomtól elkülönítetteknek, és meghatározott szerepkörökön keresztül hozzáférhetőknek kell lenniük. A teszt egyszerű: képes-e az intézmény megmagyarázni a döntést és támogatni a korrekciót anélkül, hogy minden állampolgári interakcióról állandó naplót vezetne.
A naplók a nyersanyag. A bizonylat az elszámoltatható termék. Egy érett rendszerben ezek összekapcsolódnak. Egy bizonylat mélyebb naplókra mutathat, ha egy felhatalmazott vizsgálat megköveteli. Egy napló bizonyíthatja, hogy a bizonylatot nem a vita megkezdése után találták ki. De a bizonylat az a dolog, amelyet a közszolgáltatás átadhat a saját folyamatainak, és néha az érintett személynek is, anélkül hogy mindenkitől elvárná, hogy egy JSON-objektumot csodáljon meg a természetes környezetében.
Az állampolgár látja a határt
Az architektúraábrákat általában belülről rajzolják meg. Dobozok, nyilak, szolgáltatások, sorok, modellek, adatbázisok, szabálymotorok, ügyfélportálok. Az állampolgár ebből semmit sem tapasztal. Az állampolgár egy határfelületet tapasztal. A kérelmet elfogadják vagy elutasítják. A kockázati jelzés megjelenik vagy nem. Az időpont elérhető vagy nem. A dokumentum elegendő vagy nem. A válasz: igen, nem, várjon, töltse fel, hívjon, fellebbezzen, távozzon.
Ezen a határfelületen a legfontosabb az elismervény. Ha azt közlik az állampolgárral, hogy egy kérelmet nem lehet automatikusan feldolgozni, az elismervénynek meg kell mondania, melyik feltétel nem teljesült, és hogyan lehet azt orvosolni. Ha egy MI-összefoglaló befolyásolt egy döntést, a nyilvántartásnak meg kell mutatnia, hogy egy ember felülvizsgálta, és milyen forrásanyag állt rendelkezésre. Ha egy chatbot eljárási tanácsot ad, az elismervénynek azonosítania kell a nyilvános forrás verzióját, és tisztáznia kell, hogy a tanács kötelező érvényű volt-e. Ha egy kockázati modell rangsorol egy ellenőrzést, az elismervénynek meg kell mutatnia a jogalapot, az adatkategóriákat és a felülvizsgálati utat anélkül, hogy olyan módszereket fedne fel, amelyek aláásnák magát az ellenőrzést.
Ez nem arról szól, hogy minden állampolgári interakciót jogi értekezéssé alakítsunk. Az embereknek nem kellene ügyvédre támaszkodniuk ahhoz, hogy megértsenek egy parkolási engedélyt. De a közhatalom tartozik az embereknek egy érthető fogódzóval. Egy elismervény lehet rövid, mégis tartalmas: a kérelmét e szabályverzió alapján bírálták el, ezekkel a nyilvántartásokkal, ezzel az automatizált támogatással, ezt a szerepkört felülvizsgálta, és ezen az úton támadható meg. Ez nem költészet, ami szerencse. A költészetnek rossz a múltja a szolgáltatási portálokon.
A határfelület a hivatalnokok számára is fontos. Az ügyintézők, ellenőrök, tanárok, tervezők, klinikai szakemberek és az ügyfélszolgálati munkatársak nem maradhatnak MI-kimenetekkel, amelyek eredetét nem tudják megmagyarázni. Az elismervény megvédi őket attól, hogy emberi burkokká váljanak egy titokzatos gépezet körül. Lehetőséget ad nekik arra, hogy elmondják, mit tett a rendszer, hol lépett be az ő ítélőképességük, és mikor kell egy ügyet kivenni az automatizálásból. Ez nem öncélú bürokrácia. Ez a szakmai méltóság egy iktatószámmal.
A tisztességes eljárás a gépek idejében
A közigazgatásnak már vannak tisztességes eljárási hagyományai: értesítés, indokolás, iratbetekintés, meghallgatás, fellebbezés, arányosság, egyenlő bánásmód, iratmegőrzési szabályok és név szerinti hatáskör. Az MI nem helyettesíti ezeket a hagyományokat. Összesűríti az időt, amely alatt ezeknek működniük kell. Egy modell ebéd előtt ezer ügyet feldolgozhat. Egy útválasztási szabály egész városrészeket érinthet, mielőtt bárki észrevenné. Egy összefoglalási hiba gyorsabban haladhat végig egy munkafolyamaton, mint egy helyesbítés. A gépek ideje sürgetőbbé teszi a régi jogokat, nem kevésbé.
A nyugták az egyik módja annak, hogy a tisztességes eljárás túlélje a sebességet. Megállást teremtenek az ügyiratban akkor is, ha a munkafolyamat gyors. Abban a pillanatban, amikor egy MI-rendszer hozzáér egy ügyhöz, a nyugta rögzítheti a célt, a jogalapot, a források körét, a modell állapotát, a szakpolitikai ellenőrzéseket és a felülvizsgálat státuszát. Abban a pillanatban, amikor egy ember a kimenetre támaszkodik, a nyugta rögzítheti a szerepet és a műveletet. Abban a pillanatban, amikor egy állampolgár megkapja az eredményt, a nyugta hivatkozást és útvonalat adhat. Ez memóriát ad a folyamatnak.
A memória azért fontos, mert a nyilvánosságot érintő hibák gyakran későn derülnek ki. Egy ember lehet, hogy nem tudja, hogy egy hiányzó adatmező számított, amíg el nem utasítják az ellátást. Egy ellenőr lehet, hogy nem tudja, hogy egy forrás elavult volt, amíg egy helyszíni látogatás furcsán célzottnak nem tűnik. Egy tanár lehet, hogy nem tudja, hogy egy kockázati jelzés hibás jelenléti adatfolyamból jött, amíg egy szülő fel nem tesz egy közvetlen kérdést. Nyugták nélkül a késői felfedezés késői találgatássá válik. Nyugtákkal a késői felfedezés korrekcióvá válhat.
Ez nem azt jelenti, hogy minden MI-támogatott lépés külön-külön megtámadhatóvá válik. A közszolgáltatási folyamatnak működőképesnek kell maradnia. De a láncnak elegendő bizonyítékot kell megőriznie ahhoz, hogy a megfelelő ponton értelmes kifogás lehessen. Ha egy rendszer olyan javaslatot ad, amelyet egy ember figyelmen kívül hagy, a nyugtának ezt tükröznie kell. Ha egy rendszer olyan ajánlást ad, amelyet egy ember elfogad, a nyugtának ezt is tükröznie kell. A különbség számít. A nyilvánosság nem támadhat egy szellemet, és a tisztviselők sem védekezhetnek egy ellen.
Nyugták megfigyelés nélkül
A nyugtákkal szembeni legerősebb kifogás az, hogy új adatkockázatokat teremthetnek. Ez a kifogás komoly. A közintézményeknek nem szabad úgy megoldaniuk az MI átláthatatlanságát, hogy minden állampolgárról egy második árnyékaktát gyűjtenek. Egy nyugtarendszer, amely szükségtelen promptokat, teljes beszélgetéseket, érzékeny forráskivonatokat, belső jegyzeteket, eszközkimeneteket és viselkedési nyomokat tárol örökre, nem elszámoltathatóság. Ez egy nagyon szervezett probléma.
A magánéletet védő nyugták tervezési fegyelmet igényelnek. Tároljon azonosítókat a teljes tartalom helyett, ahol lehetséges. Használjon hash-eket az integritáshoz. Válassza szét az állampolgárok számára készült nyugtákat a belső auditnyilvántartásoktól. Őrizze meg a bizonyítékokat a folyamat jogi értéke szerint, nem pedig a tárolórendszerek kapacitása szerint. Anonimizálja vagy összesítse az alacsony kockázatú interakciókat. Védje a felülvizsgálók személyazonosságát, ahol a személyes biztonság vagy a függetlenség megköveteli, miközben megőrzi a szerepkör szerinti elszámoltathatóságot. Vezessen hozzáférési naplót magához a nyugtatárhoz is, mert a bizonyítékokra vonatkozó bizonyítékoknak kellemetlen szokásuk van fontossá válni.
A tervezésnek kerülnie kell a hamis pontosság megteremtését is. Egy nyugta ne állítsa, hogy a modell úgy gondolkodott, mint egy ember, ha nem így történt. Ne alakítson át valószínűségi kimenetet erkölcsi ítéletté. Ne tegyen úgy, mintha egy magas pontszám tény lenne. Azt kell mondania, amit a rendszer tett: ezeket a forrásokat kérte le, ezt a szabályt alkalmazta, ezt a kimenetet állította elő, ezt a megbízhatósági tartományt jelölte meg, ennek a szerepkörnek adta át, ezt az emberi műveletet kapta. A száraz nyelv polgári szolgálat. A közszférában már így is van elég díszítő köd.
Van itt egy hasznos alázat. A nyugták nem teszik az MI-t tökéletesen méltányossá, pontosá vagy jogszerűvé. Ellenőrizhetőbbé teszik a rendszert. Csökkentik a hibakeresés költségét. Helyet teremtenek a korrekciónak. Megnehezítik az intézményeknek, hogy a rendszer így mondta kifejezés mögé bújjanak. A közszolgálati munkában ez nem kis dolog. Ez a különbség az automatizálás mint ügyintézés és az automatizálás mint zárt fiók között.
A nyugtafelület megvásárlása
Ha a bizonylatok számítanak, azokat meg kell vásárolni és fel kell építeni, nem pedig utólag kívánni a létezésüket az élesítés után. A közbeszerzőknek meg kell kérdezniük a szállítóktól, hogyan állítja elő a rendszer az esetszintű bizonyítékokat. Rögzíthetők-e a modellverziók. Változáskezelték-e a promptsablonokat. Visszaadnak-e forrásazonosítókat. Exportálhatók-e a lekérési döntések. Naplózzák-e a szabályzatellenőrzéseket. Szétválaszthatók-e a naplók cél szerint. Aláírtak vagy manipulációt jelzők-e a naplózási rekordok. Előállíthatók-e az állampolgárok számára készült összefoglalók ugyanazokból a bizonyítékokból anélkül, hogy érzékeny belső részleteket fednének fel. Távozhat-e az intézmény úgy, hogy a bizonylatai érintetlenek maradnak.
Ezek a kérdések igényesnek tűnhetnek, de kevésbé igényesek, mint egy vitatott automatizált folyamat rekonstruálása, miután egy újság, bíróság, tanács, parlament vagy ombudsman érdeklődni kezd iránta. A bizonylatok utólagos beépítése nehéz, mert a hiányzó bizonyítékot gyakran soha nem rögzítették. Nem lehet bizonylatot hozzátűzni a tegnapi láthatatlan tranzakcióhoz. Csak értelmező táncot lehet előadni a telemetria körül. Ez nem ajánlott irányítási módszerként.
A bizonylatfelületek a belső csapatoknak is segítenek. Megkönnyítik az értékelést, mert a kimenetek összehasonlíthatók a forrással és a szabályok állapotával. Felgyorsítják az incidenskezelést, mert az érintett esetek visszakövethetők. Mérhetőbbé teszik a szabályzatváltozásokat, mert a csapatok látják, mely szabályok okoznak súrlódást. Biztonságosabbá teszik a betanítást, mert a példák származásuk alapján választhatók ki. Kevesebb teátrális elemet visznek a törlésbe és a helyesbítésbe, mert a származtatott artefaktumok megtalálhatók.
A közintézményeknek nem kell elvárniuk, hogy minden szállító minden belső titkot felfedjen. Egyes összetevők feketedobozok maradnak egy adott rétegben. De a szolgáltatás egészének használható bizonylatokat kell előállítania a nyilvános határon. Ha egy szállító ezt nem tudja támogatni, az intézménynek tudnia kell, mit vásárol: nemcsak egy képességet, hanem egy hiányosságot a saját elszámoltathatósági képességében.
Amikor a bizonylatok rossz szabályzatot tárnak fel
A bizonylatok néha feltárják, hogy nem az AI-rendszer a fő probléma. Ez hasznos és kényelmetlen. Egy bizonylat megmutathatja, hogy a modell helyesen követte a szabályt, de a szabály elavult volt. Megmutathatja, hogy egy ember gyakran felülbírálta a rendszert, mert a szabályzat túl merev volt. Megmutathatja, hogy egy másik osztály hiányzó adatai ismétlődő elutasításokat okoztak. Megmutathatja, hogy egy kockázati jelzés technikailag pontos és társadalmilag abszurd volt. A jó bizonyítéknak megvan az a neveletlen szokása, hogy kiszélesíti a beszélgetést.
Ez az egyik oka annak, hogy az intézmények ellenállhatnak a nyugtáknak anélkül, hogy ezt nyíltan kimondanák. A nyugták elszámoltathatóságot teremtenek nemcsak a technológiai csapatok, hanem a szakpolitikák gazdái, az adatgazdák, a vezetők, a beszállítók és a választott vezetők számára is. Megnehezítik, hogy az algoritmusra hárítsák a felelősséget egy olyan döntésért, amelyet valójában szakpolitika, költségvetés, létszám vagy egy hősiesen sok rejtett oszlopot tartalmazó táblázat tervezett. Ez a kellemetlenség szándékos. A közszolgáltatási AI nem adhat új búvóhelyet a régi döntéseknek.
A nyugták a tanulást is támogatják. Ha sok ügy bukik el ugyanazon bizonyíték-követelményen, az űrlap lehet nem egyértelmű. Ha sok AI-összefoglalót javítanak ki a munkatársak, a forráskinyerés lehet gyenge. Ha a fellebbezések rendszeresen megváltoztatnak egy adott szabályt érintő döntéseket, a szakpolitikát felül kell vizsgálni. Ha az állampolgárok a nyugta kézhezvétele után ugyanazt a kérdést teszik fel, a magyarázat nem elég jó. Az elszámoltathatóság körfolyamattá válik, nem pedig egy múltbeli bevezetés előtti hódolat.
A közintézmények lehetnek tökéletlenek. Nem lehetnek azonban átláthatatlanok, amikor hatalmat gyakorolnak. A nyugták kezelhetővé teszik a tökéletlenséget. Lehetőséget adnak az embereknek arra, hogy kifogásoljanak valamit, és a szervezeteknek arra, hogy fejlődjenek. Ez kevésbé romantikus, mint a megbízható AI ígérete egy stratégiai dokumentumban. Ugyanakkor sokkal hasznosabb is, ami a gyakorlati intézkedések ismert kockázata.
Emlékezettel rendelkező közszolgáltatási döntés
A legjobb nyugtarendszerek nem passzív archívumok. Egy döntési kört táplálnak. Egy kérelem érkezik. Ellenőrzik a felhatalmazást és a célt. Kiválasztják a forrásokat. A modell vagy a szabálymotor a megadott kereteken belül támogatja a munkát. Egy emberi szereplő elfogadja, elutasítja vagy módosítja a kimenetet, ahol erre szükség van. Az állampolgár eredményt és utat kap. A kifogások és a javítások bizonyítékként térnek vissza a rendszerbe a fejlesztéshez. A nyugta a fonal, amely átfűzi a kört.
Ez a kör azért fontos, mert a közszolgáltatások változnak. A törvényeket módosítják. Az űrlapokat újra tervezik. Az adathalmazokat megtisztítják. A modelleket frissítik. A szervezeti határok eltolódnak. Egy tavalyi nyugtát az idei folyamat szerint kell értelmezni. Ehhez stabil azonosítókra, verziózott szabályokra, migrációs nyilvántartásokra és megőrzési fegyelemre van szükség. Ellenkező esetben egy közintézmény olyan nyugtát őrizhet meg, amely egy eltűnt rendszerre hivatkozik olyan nyelvezettel, amelyet senki sem ért. Ez nem elszámoltathatóság. Ez digitális régészet jobb kávéval.
A nyugtákat ezért iratokként kell kezelni. Szükségük van gazdára, megőrzési ütemtervre, hozzáférési jogokra, exportformátumokra, integritás-ellenőrzésekre, törlési szabályokra és felülvizsgálati eljárásokra. Nem hagyhatók a naplózókönyvtár melléktermékeként, amely éppen divatos volt a szolgáltatás indításakor. A köziratok polgári technológia. Az AI-nyugták ennek a hagyománynak a részét képezik, még akkor is, ha modellverziókat tartalmaznak töltőtoll-aláírások helyett.
Demokratikus előnye is van. A nyugták lehetővé teszik az összesített felügyeletet anélkül, hogy minden egyes személyt kitennének. Az intézmények mérhetik, hogy mely szolgáltatások használnak AI-t, hol alakítja az automatizált támogatás az eredményeket, milyen gyakran írják felül az emberek, hol járnak sikerrel a fellebbezések, mely források okoznak súrlódást, és hogy bizonyos csoportokat aránytalanul érint-e a rendszer. Így léphet a közszolgáltatási AI a homályos biztosítékoktól a szabályozott gyakorlat felé. Nem azzal, hogy a társadalmat egy modell csodálatára kéri, hanem azzal, hogy a közhatalmat eléggé számszerűsíthetővé teszi ahhoz, hogy kérdőre lehessen vonni.
A tanulság
A közösségi MI-nek azért van szüksége nyugtákra, mert a közhatalomnak nyilvántartásokra van szüksége. Egy gördülékeny modellválasz nem elég. Egy hasznos kockázati pontszám nem elég. Egy sikeres kísérleti projekt nem elég. Amikor az MI jogokat, szolgáltatásokat, sorrendet, pénzt, kényszerítést, gondozást, oktatást vagy hozzáférést érint, az intézménynek képesnek kell lennie bemutatni az eredmény mögött álló felhatalmazást, forrásokat, modellállapotot, szabályokat, emberi szerepet és felülvizsgálati utat.
Ez nem azt jelenti, hogy minden interakciót ügyintézéssé kell alakítani. Azt jelenti, hogy a bizonyítékokat a megfelelő szinten kell beépíteni a rendszerbe. A közösségi nyugtáknak tömörnek, rétegzettnek, adatvédelmet tiszteletben tartónak, szereptudatosnak, hamisításra utaló jeleket mutatónak és valódi felülvizsgálathoz kapcsolódónak kell lenniük. Segíteniük kell az állampolgároknak a határok megértésében, a tisztviselőknek a mérlegelés gyakorlásában, az ellenőröknek az események rekonstruálásában, az intézményeknek pedig a kihívásokból való tanulásban.
A közszférának nem olyan MI-re van szüksége, amely a bizalmat játssza el. Olyan MI-re van szüksége, amely számon kérhető. A nyugták ennek az elszámoltathatóságnak a szerény technológiái. Kicsik, unalmasak és makacsul hasznosak. A közigazgatásban ez a kombináció többet nyomott a latban, mint a legtöbb kiáltvány. A közösségi MI jövőjét nem csak a modell képességei döntik el. Az is eldönti, hogy az intézmény, amikor megkérdezik, mi történt, képes-e valami jobbat felmutatni, mint egy magabiztos vállrándítás.