AI-elszámoltathatóság a bemeneti fegyelemmel kezdődik
A hiba már korábban megtörtént
A vitatott válasz modellproblémának tűnt. A rendszer olyan javaslatot generált, amely egy kis, de jelentőségteljes módon volt hibás. Egy már lecserélt szabályzatra hivatkozott, olyan ügyféladatot használt, amelyből hiányzott egy módosítás, és figyelmen kívül hagyott egy szakértői megjegyzést, mert az abban a mappában volt, amelyet a lekérési feladat nem indexelt. Az áttekintő megbeszélés ismerős kérdésekkel kezdődött a modell minőségéről, a prompt megfogalmazásáról, és arról, hogy a hőmérsékleti beállítás nem volt-e vakmerő. A technológia szereti, ha az emberek ablak nélküli szobákban beszélnek hőmérsékletről.
Egy óra elteltével megjelent a kellemetlen tény. A modell azt tette, amit a bemeneti környezet lehetővé tett. A jelenlegi és az elavult szabályzat is elérhető volt. A módosított és a módosítatlan adat ugyanazt a címet viselte. A szakértői megjegyzés kívül esett a hatókörön, mert senki nem nevezte meg a mappát hiteles forrásként. A prompt megalapozott javaslatot kért, de a rendszer nem kapott fegyelmezett módot annak meghatározására, hogy mely források alapján szabad érvelni. A kimenet hibás volt, de a hiba már azelőtt elkezdődött, hogy a modell egyetlen tokent is látott volna.
Az AI elszámoltathatóságáról gyakran a lánc végén beszélnek: magyarázd meg a választ, ellenőrizd a döntést, naplózd a kimenetet, iktass be emberi felülvizsgálatot, készíts jelentést. Mindez számít. De az elszámoltathatóság korábban kezdődik, a befogadásnál. Mely adatok kerültek be. Mely adatok maradtak ki. Melyik forrás volt hiteles. Milyen átalakítások történtek. Mely jogosultságok érvényesültek. Melyik kontextus volt túl régi, túl érzékeny, túl hiányos vagy túl gyenge a felhasználáshoz. Bemeneti fegyelem nélkül a kimeneti elszámoltathatóság olyan, mint egy tiszta ing egy vezetékezési probléma fölött.
A bemeneti fegyelem az a működési szokás, amely a bemeneteket szabályozott anyagként kezeli, nem pedig kényelmes kontextusként. Osztályozást, származást, célt, frissességet, engedélyt, minőségi küszöböket, átalakítási nyilvántartást, elutasítási szabályokat és felelősöket igényel. Kevésbé izgalmasan hangzik, mint a modellértékelés. Ez azért van, mert közelebb áll a vízvezeték-szereléshez. A vízvezeték-szerelés híresen unalmas, amíg be nem kerül a nappaliba.
A szemét bemenet túl kedves kifejezés
A régi mondás, miszerint szemét bemenet, szemét kimenet, hasznos, de túl enyhe a modern AI-rendszerekhez. A bemenetek nem csupán tiszták vagy piszkosak lehetnek. Lehetnek jogosulatlanok, elavultak, kétértelműek, túl tágak, ismétlődők, elfogultak, bizalmasak, hiányosak, rossz célból származók, vagy meggyőzőek, miközben lényegtelenek. Egy modell az ilyen bemeneteket folyékony kimenetté alakíthatja, ami még nehezebbé teszi a problémát. A hétköznapi szemét legalább olyan udvarias, hogy bűzlik. A rossz AI-kontextus nyakkendőben is megérkezhet.
Az input minősége magában foglalja a ténybeli minőséget, de a kormányzási minőséget is. Engedélyezett-e ez a forrás ehhez a feladathoz. Még mindig aktuális-e. Kompatibilis célból gyűjtötték-e. Tartalmaz-e személyes adatokat, amelyeket anonimizálni kell. Végleges döntést vagy tervezetet képvisel-e. Elsődleges feljegyzés vagy összefoglalók összefoglalója-e. Ütközik-e egy másik forrással. Ki a tulajdonosa. Mikor jár le. Melyik átalakítás változtatta meg. Ezek a kérdések döntik el, hogy a modell kontextusa elszámoltatható-e.
A csapatok gyakran kihagyják ezt, mert a modellek tűrőképessége ezt lehetővé teszi. Képesek rendetlen szöveget olvasni, hiányzó szerkezetet kikövetkeztetni, egymásnak ellentmondó forrásokat összefoglalni, és magabiztos választ adni. Ez a tűrőképesség hasznos a felhasználói oldalon, de veszélyes a kormányzási határon. Ha a rendszer minden hihető forrást elfogad, az elszámoltathatóságot találgatós játékká változtatja. Később, amikor a kimenetet megkérdőjelezik, a szervezet rájön, hogy a modell nem egyedül hallucinált. Cinkosai voltak, név szerint az alapértelmezett index és a megosztott meghajtó.
A fegyelem nem azt jelenti, hogy csak tökéletes adatokkal etetjük a modellt. A tökéletes adat kellemes mítosz, mint az üres postaláda vagy a találkozó, amely azért ér véget, mert a napirend kész. A fegyelem azt jelenti, hogy tudjuk, milyen minőségi szint elegendő melyik feladathoz, milyen bizonytalanságot kell megjelölni, milyen adatot kell visszautasítani, és milyen emberi út létezik, ha az input nem alkalmas automatizálásra. A rendetlenség kezelhető. A névtelen rendetlenség nem.
Az input hatóköre döntés
Minden AI-rendszernek van input hatóköre, még akkor is, ha senki nem írja le. A hatókör meghatározza, hogy mely dokumentumok, adatbázisok, üzenetek, naplók, képek, feljegyzések, weboldalak, felhasználói emlékek, eszközeredmények és korábbi kimenetek alakíthatják a választ. Amikor a hatókör implicit, a rendszer az alapértelmezésektől örökli: amit a csatlakozó lát, amit az index tartalmaz, amit a prompt magában foglal, amit a felhasználó beillesztett, amit az utolsó kísérlet hátrahagyott. Az alapértelmezések gyorsak. Egyben a politika architektúrán keresztüli csempészésének hagyományos módszerei is.
A hatókörnek explicitnek kell lennie a feladat szintjén. Egy ügyfélszolgálati asszisztens használhatja a termékdokumentációt, a rendelés állapotát, az ismert szabályzatot és az ügyfél aktuális jegyét, de nem használhat kapcsolódás nélküli fiókmegjegyzéseket. Egy orvosi összefoglaló használhatja a bejelentett ellátási epizód feljegyzéseit, de nem minden valaha írt feljegyzést, csak azért, mert a több kontextus biztonságosabbnak tűnik. Egy beszerzési eszköz használhatja a szállítói benyújtásokat és a jóváhagyott értékelési szempontokat, de nem a korábbi tárgyalásokról szóló pletykákat. Egy kódasszisztens olvashatja a repozitóriumot, de nem a titkokat vagy a kapcsolódás nélküli projekteket. A hatókör nem csak technikai szűrő. Ígéret arról, hogy mi számít.
Az explicit hatókör a visszautasításban is segít. Egy rendszernek képesnek kell lennie arra, hogy azt mondja, a válaszhoz a megengedett hatókörön kívüli forrásra van szükség, vagy a rendelkezésre álló forrás túl régi, vagy a kért művelet összeférhetetlen célra használja az adatokat. Ez nem kudarc. Ez az elszámoltathatóság, amely a kár bekövetkezte előtt tesz valami hasznosat. Egy modell, amely azért utasít vissza, mert az inputszabályok világosak, kevésbé látványos, mint egy modell, amely improvizál, de a látványosság vegyes eredményeket ért el a megfelelés terén.
Az input hatókörét verziózni kell. Amikor egy forrást hozzáadnak, eltávolítanak, átminősítenek vagy elavulttá nyilvánítanak, ez a változás megváltoztathatja a kimeneteket. Egy vitatott válasznak visszajátszhatónak kell lennie az akkor létező forráskészlet ellen. Ellenkező esetben a vizsgálat a mai kontextussal futtatja újra az esetet, és csodálkozik, hogy a tegnapi eredmény miért nem reprodukálható. Az időutazás így is elég nehéz, anélkül hogy az indexek átírhatnák a történelmet.
A származás nem lábjegyzet
A származást gyakran olyan dokumentációként kezelik, amelyet az érdekes munka elvégzése után kapcsolnak az adatokhoz. Az AI-rendszerekben a származás a futásidő része. A rendszernek tudnia kell, honnan jött egy bemenet, ki hozta létre, mikor változott, melyik verziót használták, hogyan alakították át, mely engedélyek vonatkoztak rá, és hogy hiteles volt-e. Enélkül a modell úgy kapja meg a kontextust, mintha minden szöveg egyenértékű lenne. Pedig nem minden szöveg egyenértékű. Egy politikatervezet, egy aláírt szabályzat, egy ügyfélpanasz, egy hívásátirat és egy modell által készített összefoglaló mind hivatalosnak hangozhat, ha ugyanabba a promptba kerül. A világ sajnos ilyen.
A jó származás jobb válaszokat és vizsgálatokat eredményez. Lehetővé teszi, hogy a lekérdezés a hivatalos forrásokat a hétköznapi jegyzetek elé sorolja. Lehetővé teszi, hogy a felület megjelölje a tervezet jellegű anyagot. Lehetővé teszi, hogy az ellenőrök lássák, egy állítás elsődleges forrásból vagy összefoglalóból származik-e. Lehetővé teszi, hogy az auditálók rekonstruálják a döntést. Lehetővé teszi, hogy az adatgazdák a megfelelő forrást javítsák. Lehetővé teszi, hogy a rendszer elutasítsa az elavult vagy jogosulatlan kontextust. A származás nem csak a hibák utáni felelősségre vonásról szól. Arról is szól, hogy a kimenet előtt irányítson.
A származásnak túl kell élnie az átalakításokat. A PDF elemzése, a szöveg darabolása, beágyazások létrehozása, mezők kinyerése, személyes adatok álnevesítése, tartalom fordítása, dokumentumok összefoglalása és promptok gyorsítótárazása mind megváltoztatja a bemenet alakját. Minden lépés veszíthet jelentésből, torzítást adhat hozzá, vagy új rekordot hozhat létre. Ha a rendszer csak a végső darabot őrzi meg, elveszíti a képességét, hogy megmagyarázza, hogyan lett az a darab kontextussá. A darab pontos lehet. Lehet azonban egy mondat is, amelynek hiányoznak a szülei.
Van itt egy gyakorlati fegyelem: a bemeneti artefaktumoknak azonosítókra van szükségük. Forrásazonosítókra, verzióazonosítókra, átalakítási azonosítókra, szabályzatazonosítókra, promptazonosítókra és nyomkövetési azonosítókra. Ez papírmunkának hangzik, amíg nem érkezik egy vitatott ügy. Akkor ez lesz a különbség a visszajátszás és a folklór között. A folklórnak kulturális értéke van. Kevésbé meggyőző egy szabályozó hatóság postaládájában.
A prompt bemenet is bemenet
Sok szervezet szabályozza a dokumentumokat és az adatbázisokat, majd hagyja, hogy a promptok oldalajtóvá váljanak. Egy felhasználó bizalmas szöveget illeszthet be egy általános asszisztensbe. Egy munkafolyamat utasításokat szúrhat be egy nem megbízható forrásból. Egy modell olyan rendszerpromptokat kaphat, amelyek olyan szabályzatot tartalmaznak, amelyet senki sem verziózott. Egy ágens közvetlenül továbbíthatja az eszköz kimenetét egy másik lépésbe. A promptanyag ideiglenesnek tűnik, mert beszélgetés jellegű. Mégis hordozhat érzékeny adatokat, döntéseket, kötelezettségeket és támadási felületet.
A prompt bemenetére ugyanazok a kérdések vonatkoznak, mint bármely más bemenetre. Ki szolgáltatta. Milyen célt szolgál. Megengedett-e ehhez a feladathoz. Bizalmas-e. Utasításokat vagy csak tartalmat tartalmaz. Szerkesztendő-e. Naplózandó-e. Felülírja-e a szabályzatot. Hordoz-e felhasználói preferenciát vagy intézményi szabályt. Megbízható-e. Mikor jár le. Ha ez nehézkesnek tűnik minden prompt esetében, a válasz nem az, hogy figyelmen kívül hagyjuk. A válasz az, hogy osztályozzuk a promptcsatornákat, hogy a hétköznapi esetek egyszerűek legyenek, a kockázatos eseteket pedig blokkoljuk vagy továbbítsuk.
A promptinjekció az egyik ok, amiért ez számít, de nem az egyetlen. Támadó nélkül is összezavarhatja a promptbemenet az elszámoltathatóságot. A felhasználó beilleszthet egy szabályzattervezetet, és úgy kérhet tanácsot, mintha az lenne a hatályos szabályzat. Egy értékesítési feljegyzés tartalmazhat olyan ígéretet, amelyet a jogi osztály soha nem hagyott jóvá. Egy támogatási átirat tartalmazhatja az ügyfél találgatását. A tegnapi modellkimenet ma tényként kerülhet vissza. A rendszernek meg kell különböztetnie a tartalmat, az utasítást, a preferenciát, a szabályzatot és a bizonyítékot. Az embereknek is nehézséget okoz ez a megbeszéléseken. A gépeknek explicit segítségre van szükségük.
A strukturált promptbevitel szerény lehet. Különítsük el a felhasználói kérést a forrásanyagtól. Jelöljük meg a megbízható és a nem megbízható tartalmat. Utasítsuk el a visszakeresett dokumentumokból származó utasításokat, hacsak kifejezetten nem engedélyezett. Alkalmazzunk szerkesztést a modellkontextus előtt. Tároljuk a promptsablonokat verziózott objektumként. Rögzítsük, melyik sablon és melyik bemenet hozta létre a kimenetet. Ez nem túltervezés. Ez a hátsó ajtó bezárása, amelyet mindenki használ, mert a bejárati ajtónál van egy űrlap.
A származtatott adatok felelősséget örökölnek
Az AI-rendszerek futás közben származtatott bemeneteket hoznak létre. A dokumentumokból darabok lesznek. A darabokból beágyazások. Az interakciókból nyomok. A kimenetekből példák. Az áttekintésekből címkék. Az összefoglalókból későbbi kérdések forrásanyaga. Minden származék hordozhat jelentést az eredetiből, még akkor is, ha már nem tűnik érzékenynek. A beágyazás nem dokumentum, de eleget elárulhat egy dokumentumról ahhoz, hogy számítson. Az összefoglaló nem a forrás, de azzá válhat, ha a rendszer lusta. A lustaság meglepően aktív építészeti erő.
A bemeneti fegyelemnek meg kell határoznia az öröklődést. Mely származtatott objektumok örökölnek érzékenységet a forrásból. Melyek használhatók fel újra. Melyek járnak le. Melyek használhatók kiértékelésre. Melyek taníthatnak modellt. Melyeknek kell helyben maradniuk. Melyeket kell törölni, ha a forrást törlik. Melyek mutathatók meg felülvizsgálónak. Melyeket soha nem szabad naplózni. Öröklődési szabályok nélkül a származtatott adatok jogi és működési komposztdomb lesz. Lehet, hogy termékeny. Az is lehet, hogy bűzlik a bizonyítékfeltárás során.
Az származtatott bemenetek visszacsatolási hurkokat is létrehoznak. Egy modell által generált összefoglaló indexelhető, majd később úgy kérhető le, mintha elsődleges forrás lenne. Egy hibás osztályozás tanítási címkévé válhat. Egy ellenőri megjegyzés felhasználható az eredeti céljától eltérő célra. Egy gyorsítótárazott válasz túlélheti a szabályzat módosítását. Ezek a hurkok nem egzotikusak. A rendszerek hétköznapi mellékhatásai, amelyek segítőkészek próbálnak lenni. Az elszámoltathatóság megköveteli az elsődleges források és a származtatott kényelmi megoldások megkülönböztetését.
Egy egyszerű szabály segít: a származtatott elemeknek hordozniuk kell a származásukat. Ha létezik beágyazás, darab, összefoglaló, címke, gyorsítótár-bejegyzés vagy kiértékelési példa, a rendszernek tudnia kell, melyik forrás, verzió, átalakítás és cél hozta létre. A származtatott elemnek nem szabad úgy sodródnia az architektúrán keresztül, mint egy titokzatos rokonnak egy esküvőn. Névtáblával és indokkal kell megérkeznie.
A bemenet visszautasítása funkció
A csapatok szeretik azokat a rendszereket, amelyek válaszolnak. A felhasználók szeretik azokat a rendszereket, amelyek válaszolnak. A vezetők szeretik azokat a rendszereket, amelyek válaszolnak, mert a megválaszolt kérések produktívnak tűnnek az irányítópultokon. A bemeneti fegyelem néha megköveteli, hogy a rendszer ne válaszoljon, vagy korlátozott következő lépéssel válaszoljon. A rendelkezésre álló bizonyíték túl régi. A kért forrás hatókörön kívül esik. A felhasználónak nincs engedélye. A dokumentum tervezet. Az adatok hiányosak. A feladat emberi ítéletet igényel. Ez a visszautasítás nem az intelligencia hiánya. Ez intelligencia fékezettel.
A visszautasítás akkor válik hasznossá, ha konkrét. Nem az, hogy nem tudok segíteni. Helyette: a jelenlegi forráskészlet nem tartalmaz jóváhagyott szabályzatot 2026 márciusa után, vagy ez a kérelem munkavállalói egészségügyi adatokat használna a munkafolyamatban nem bejelentett célra, vagy a rendelkezésre álló nyilvántartásban feloldatlan azonosító-ütközések vannak. A visszautasításnak meg kell neveznie a hiányzó bemeneti fegyelmet, és fel kell kínálnia a helyes utat: jóváhagyás kérése, forrás hozzáadása, felterjesztés felülvizsgálatra, a nyilvántartás javítása, a feladat szűkítése vagy megjelölt korlátozással történő folytatás.
A konkrét visszautasítás a kultúrát is javítja. Megtanítja a felhasználóknak, hogy a rendszer nem szórakozásból nehézkes. Megmutatja, hogy a határok okkal léteznek. Nyomást hoz létre a forrásminőség és a szabályzati hiányosságok javítására. Megakadályozza azt az ismerős mintát, amikor a felhasználók megtanulják újrafogalmazni a kéréseket, amíg a modell elég hasznosat nem mond. A vezérlők körüli újrafogalmazás olyan sport, amelynek rendezését a szervezeteknek kerülniük kell.
A visszautasítási mérőszámok értékesek. Kövessék nyomon, miért utasítanak el bemeneteket. Elavult forrás. Hiányzó engedély. Hatókör-ütközés. Hiányos nyilvántartás. Kétértelmű cél. Érzékeny tartalom. Nem támogatott művelet. Minden kategória egy javításra vagy szabályzati döntésre mutat. Ha a visszautasítási arány magas, a rendszer túl szigorú lehet, az adatállomány rendetlen lehet, vagy a feladat nem áll készen az automatizálásra. Mindegyik hasznos tény, még ha csak az egyik is kellemes.
Az elszámoltathatóság működési hurok
A bemeneti fegyelem nem lehet egyszeri takarítás. Az adatok változnak, a szabályzatok változnak, a csatlakozók változnak, a felhasználók új feladatokat találnak ki, a modellek változnak, és a szervezetek új módokat fedeznek fel ugyanazon ügyfél megnevezésére. Az elszámoltathatóságnak működési hurokra van szüksége. Bemenetek osztályozása. Engedélyezésük. Előkészítésük. Felhasználásuk. Rögzítésük. Eredmények felülvizsgálata. Források és szabályok javítása. Ismétlés. Ez a hurok nem csábító, de a fogápolás sem az. Mindkettőt leginkább akkor veszik észre, ha elhanyagolják.
A huroknak össze kell kötnie az adatkezelést, a biztonságot, a terméket, a jogot, a működést és a területi szakértőket. A bemeneti fegyelem nem egy hősies adatgondnok tulajdona, aki egy táblázat mögé bújik. Az adatgondnokok ismerik a forrásminőséget. A biztonság ismeri a hozzáférést és a szivárgást. A jog ismeri a célt és a megőrzést. A termék ismeri a feladattervezést. A működés tudja, mi romlik el nagy méretekben. A területi szakértők tudják, mikor értelmes a rendelkezésre álló bemenet. A modellcsapat a hurok része, nem pedig az egész hurok.
Az értékelésnek a bemeneti feltételeket kell tesztelnie, nem csak a kimenet minőségét. Mi történik, ha egy forrás elavult. Mi történik, ha két forrás ütközik. Mi történik, ha érzékeny tartalom jelenik meg. Mi történik, ha egy felhasználó egy dokumentumon keresztül próbál utasításokat bejuttatni. Mi történik, ha egy kötelező mező hiányzik. Mi történik, ha a rendszer nagy biztonsággal, de gyenge származási adatokkal dolgozik. Ezek a tesztek a válasz megírása előtt mérik az elszámoltathatóságot.
A jó irányítópultok mutatják a bemenetek állapotát: a források frissességét, az engedélyezési hibákat, a szerkesztési arányokat, a hiányzó mezőket, az ismétlődő rekordokat, az átalakítási hibákat, a megtagadási okokat, a származási adatok lefedettségét és a származtatott artefaktumok számát. Ez operatívnak hangzik, mert az is. Az a mesterséges intelligencia-elszámoltathatóság, amely nem látja a bemeneteit, az optimizmusra épülő elszámoltathatóság. Az optimizmusnak megvan a helye. Nem ez lehet a felügyeleti stratégia.
A modell nincs felmentve
Egyik sem menti fel a modelleket a felelősség alól. A modelleknek továbbra is szükségük van értékelésre, biztonsági ellenőrzésekre, kalibrált bizonytalanságra, megbízható visszakeresésre, korlátozott eszközhasználatra és őszinte kimeneti nyilvántartásokra. A fegyelmezett bemeneti út nem teszi tökéletessé a modellt. Átláthatóvá teszi a modell munkáját. Csökkenti az elkerülhető hibák számát, és megkönnyíti az elkerülhetetlen bizonytalanság kezelését.
A bemeneti fegyelem a modell gyengeségeit is világosabban felfedi. Ha a források tiszták, körülhatároltak, frissek és engedélyezettek, és a modell mégis félreolvassa őket, a modell problémája láthatóvá válik. Ha a bemenetek kaotikusak, minden hiba kétértelművé válik. A modell tévedett. A forrás elavult volt. A visszakeresés egy piszkozatot választott. Hiányzott az engedély. A szerkesztés eltávolította a kritikus mondatot. Egy összefoglaló helyettesített egy rekordot. A kétértelműség egy hétig védheti az egókat. Évekig károsítja a működést.
Ezért a bemeneti fegyelem nem kevésbé fejlett, mint a modellmunkával kapcsolatos tevékenység. Ez az az alap, amely miatt a fejlett munka megbízhatóvá válik. A visszakereséssel bővített generálás, az ügynöki munkafolyamatok, a multimodális elemzés, az automatikus osztályozás, a döntéstámogatás és a mesterséges intelligenciával támogatott műveletek mind a kontextusra épülnek. Ha a kontextus nem kezelt, a rendszer nem elszámoltatható, mert nem tudja megmondani, milyen világból válaszolt.
A gyakorlati következtetés szigorú, de hasznos. Mielőtt megkérdeznénk, hogyan magyarázzuk el a modellt, kérdezzük meg, hogyan vált a bemenet modellkontextussá. Mielőtt megkérdeznénk, miért volt rossz a válasz, kérdezzük meg, tudta-e a rendszer, mely források lehettek helyesek. Mielőtt felügyelőbizottságot hoznánk létre, készítsünk beviteli nyilvántartást. Mielőtt ünnepelnénk az autonómiát, határozzuk meg a megtagadást. A kimenet az, ahol az elszámoltathatóság láthatóvá válik. A bemenet az, ahol eldől.
A tanulság
Az AI elszámoltathatósága a bemeneti fegyelemmel kezdődik, mert az AI-rendszerek a kontextus alapján működnek. Ha a kontextus osztályozatlan, jogosulatlan, elavult, túlzottan kiterjedt, nyilvántartás nélkül átalakított, vagy megbízhatatlan utasításokkal keveredik, a szervezet máris gyengítette a képességét az eredmény magyarázatára, megkérdőjelezésére, javítására és fejlesztésére. A kifinomult válasz nem kompenzálhatja a fegyelmezetlen forrásutat. Csak olvashatóbbá teszi a problémát.
A munka konkrét: osztályozni a forrásokat, meghatározni a hatókört, rögzíteni a származást, szabályozni a prompt bemenetét, nyomon követni az átalakításokat, definiálni a származékos öröklődést, pontosan megfogalmazni az elutasítást, és működtetni egy bemeneti hurkot, amely kijavítja az ismétlődő hibákat. Ez nem AI-ellenes óvatosság. Így érdemlik ki az AI-rendszerek a jogot, hogy jelentőségteljes munkához nyúljanak. Az elszámoltathatóság nem akkor kezdődik, amikor a modell megszólal. Akkor kezdődik, amikor a szervezet eldönti, hogy a modell mit hallhat.