AI Audit Trail & Decision Evidence | Dweve Trace

Odpoveď AI je len jednou časťou príbehu. V terminológii observability logy zaznamenávajú udalosti; trace sleduje jednu požiadavku alebo prípad cez jeho span-y. Trace v Dweve uchováva relevantný záznam o tom, čo sa stalo, ktoré materiály a pravidlá boli dôležité, kto mal právomoc, čo sa dá skontrolovať a čo ešte potrebuje ľudský úsudok.

Trace mení operáciu podporenú AI na záznam, ktorý sa môže pohybovať medzi prevádzkou, rizikom, auditom a dotknutou osobou. Zachováva kontext rozhodnutia bez toho, aby predstieral, že integrita, dôkazy a zodpovednosť sú to isté.

Trace je celoštackový sprievodca pre dôkazy, pôvod a zmluvy o prehratí. Oddeľuje zachytávanie udalostí, vysvetlenie, líniu pôvodu, kontroly integrity a opätovné spustenie, a potom ukazuje, kde každý systém Dweve prispieva ohraničeným záznamom, nie univerzálnym dôkazovým artefaktom.

Logy zaznamenávajú udalosti. Trace uchováva zdroj, pravidlo, vlastníka a rozsah prehratia v jednom ohraničenom zázname, ktorý sa dá neskôr skontrolovať.

Log pomáha operátorovi vidieť, že sa niečo stalo. Vysvetlenie pomáha človeku pochopiť výsledok. Trace nesie relevantné vstupy, stav, verzie, akcie a dôkazy ako kontrolovateľný záznam. Jeden systém môže produkovať všetky tri, ale odpovedajú na rôzne otázky.

Logy sú zvyčajne usporiadané okolo systémových udalostí: prišla požiadavka, nástroj vrátil výsledok, úloha zlyhala. Sú cenné pre prevádzku, ale hromada časových pečiatok sama o sebe neidentifikuje zmluvu o rozhodnutí ani neukazuje, ktoré dôkazy podporili výsledok.

Vysvetlenie je písané pre pochopenie. Môže zhrnúť, prečo bola zvolená trasa, alebo uviesť použité zdroje. Trace je základný záznam, ktorý umožňuje inej osobe skontrolovať tieto tvrdenia, vrátane častí, ktoré vysvetlenie kvôli prehľadnosti vynecháva.

Trace je užitočný, keď je jeho hranica viditeľná

Akcia alebo výsledok, ktorý sa zaznamenáva.

Relevantný vstup, stav, politika a verzia.

Presné tvrdenie, ktoré záznam podporuje.

Použite záznam, ktorý odpovedá na otázku pred vami

Jednoduchý opis uvádza, ktoré faktory boli dôležité.

Relevantný stav, právomoc a dôkazy cestujú s výsledkom.

Rozdiel je najdôležitejší, keď otvoríte samotný záznam

Užitočný trace vzniká počas behu práce. Zaznamenáva materiálny stav, ktorý bol vtedy k dispozícii, verziu, ktorá konala, pravidlo alebo právomoc platnú v tom čase a výsledok, ktorý nasledoval. Nie je to príbeh rekonštruovaný neskôr z dashboardu a niečej pamäte.

Rekonštrukcia má tendenciu zachovať viditeľný výsledok a stratiť nepohodlný kontext: odmietnutie, zmenený zdroj, nezodpovedaný súhlas, odpoveď externej služby alebo presnú verziu, ktorá bola aktívna. Tieto detaily sú často dôvodom, prečo je rozhodnutie sporné.

Zachytávanie počas behu neznamená zaznamenávať všetko. Záznam by mal uchovať to, čo jeho deklarované tvrdenie potrebuje, a uviesť, čo zostáva mimo neho. To je užitočnejšie ako vyčerpávajúci sledovací tok, ktorého účel, vlastník a doba uchovávania sú nejasné.

Zachyťte kontext rozhodnutia, nie súkromný prúd myšlienok

Vstup, politika a autorita sú identifikované.

Akcie, kontroly a odmietnutia sa pripájajú.

Rozsah výstupu a overenia je zapečatený spolu.

Konečná odpoveď dedí kontext zaznamenaný vedľa nej

Zdrojová množina, politika a aktívna verzia sú identifikované.

Trasy, kontroly, odmietnutia a schválenia sa pridávajú, ako sa dejú.

Odkazy na dôkazy a zodpovednosť zostávajú pripojené.

Keď záznam existuje, ďalšou otázkou je, čo dokazuje

Podpis môže ukázať, kto záznam vydal a či sa zmenil. Nemôže urobiť zaznamenané rozhodnutie správnym. Dôkaz môže podporiť tvrdenie, ale môže byť stále neúplný alebo sporný. Dobrá stopa udržiava tieto rozdiely viditeľné namiesto toho, aby ich zlúčila do jediného odznaku dôvery.

Identita a integrita odpovedajú na to, či je to záznam, ktorý vydal menovaný producent. Neurčujú, že zdroj bol presný, že politika bola spravodlivá, že autorita bola legitímna alebo že konečný úsudok bol správny.

Dôkaz by mal zostať pripojený so svojím pôvodom, verziou a nezhodou. To umožňuje recenzentovi spochybniť tvrdenie bez toho, aby najprv útočil na kontajner. Záznam môže byť neporušený, zatiaľ čo rozhodnutie sa stále reviduje, odvoláva alebo zamieta.

Pomenúva vydávajúci kľúč alebo producenta.

Ukazuje, či sa zaznamenané bajty zmenili.

Dobrý záznam uľahčuje lokalizáciu nezhody

Integrita zostáva platná, zatiaľ čo sa rozhodnutie prehodnocuje.

Táto hranica patrí do záznamu, ktorý si ponechávate a kontrolujete

Osoba alebo organizácia zodpovedná za prácu by mala vedieť, kde záznam žije, kto ho môže exportovať, ako dlho zostane dostupný a čo sa stane, keď musí byť materiál obmedzený alebo odstránený. Prenosnosť je rozhodnutie o správe, nie tlačidlo na stiahnutie pridané na konci.

Export by mal zachovať stabilné identity, verzie, odkazy na dôkazy a pokyny na overenie potrebné mimo pôvodného rozhrania. Ak príjemca dostane iba snímku obrazovky alebo slovné zhrnutie, najdôležitejšie časti záznamu sa nepreniesli.

Retencia nie je rovnaká pre každú vrstvu. Prevádzková udalosť, dôkazy, na ktoré odkazuje, a osobný materiál okolo nej môžu mať rôzne zákonné účely a lehoty. Vymazanie, anonymizácia a obmedzenie by mali zanechať zrozumiteľný záznam o tom, čo sa zmenilo.

Záznam bez pravidiel správy sa stáva ďalšou dátovou záťažou

Pomenujte systém a zodpovedného vlastníka.

Uplatnite pravidlá účelu, prístupu a retencie.

Zaznamenajte obmedzenie, anonymizáciu alebo uplynutie platnosti.

Každý prenos nesie rovnaké identifikátory a deklarované obmedzenia

Pomenovaný pracovný priestor uchováva primárny záznam.

Stabilné identifikátory, verzie a odkazy zostávajú pripojené.

Účel a dátum kontroly určujú, čo zostáva dostupné.

Akékoľvek obmedzenie alebo anonymizácia je viditeľná v histórii.

Kontrola je najdôležitejšia, keď dvaja ľudia čítajú záznam rozdielne

Ak nesúhlasíte s rozhodnutím, stopa by mala pomôcť nájsť rozdiel. Môžete spochybniť vstup, zdroj, pravidlo, oprávnenie, konanie alebo interpretáciu. Stroj môže predložiť záznam. Zodpovedná osoba musí stále vypočuť námietku a rozhodnúť, čo bude nasledovať.

Užitočná námietka pomenúva bod nesúhlasu voči stabilnému záznamu: tento zdroj bol zastaraný, toto schválenie chýbalo, táto verzia politiky sa nevzťahovala alebo tento výstup nevyplýva z predložených dôkazov. Námietka, ktorá nepomenúva žiadny z týchto bodov, je názor na odpoveď.

Posudzovateľ by mal byť schopný zachovať pôvodný záznam, pridať námietku a vydať opravu alebo nahrádzajúce rozhodnutie. Prepísanie predchádzajúceho výsledku by sťažilo pochopenie odvolania a vymazalo by dôvod, prečo sa systém zmenil.

Úlohou človeka je rozhodnúť, čo záznam znamená pre daný prípad

Zastarané, nepoužiteľné alebo nespravodlivé.

Oprava pridáva nové rozhodnutie namiesto vymazania prvého

Jeho vstup, zdroj, politika a výsledok zostávajú pripnuté.

Nové rozhodnutie sa pridá bez vymazania prvého.

Žiadna jednotlivá súčasť nenesie celý tento záznam sama

Produkty Dweve prispievajú rôznymi časťami príbehu o dôkazoch. Loom môže odhaliť stopu tkania. Nexus zaznamenáva riadenú prácu a autoritu. Spindle uchováva pôvod zdrojov a nezhody. Mesh môže zanechať potvrdenie o vykonaní. AION kontroluje menované rodiny certifikátov. Žiadny z nich nenahrádza ostatné.

Záznam o zdroji nemôže dokázať, že hardvér konal čestne. Potvrdenie o vykonaní nemôže dokázať, že politika bola spravodlivá. Certifikát o uvažovaní nemôže reprodukovať externého producenta, ktorého nezachytil. Oddelené vrstvy uľahčujú kontrolu každého sľubu. Zlúčenie do jedného tvrdenia robí záznam neskôr nečitateľným.

Produkt, ktorý používate, určuje, ktoré záznamy existujú a ktorá zmluva o prehrávaní sa uplatňuje. Opýtajte sa na záznam viazaný na skutočný pracovný postup, jeho exportný formát, pravidlo uchovávania a proces overovania alebo kontroly, ktorý tomuto záznamu rozumie. Dva produkty môžu mať pre jeden pracovný postup rôzne záznamy, preto sa opýtajte, ktorý to je.

Rôzne záznamy odpovedajú na rôzne otázky

Neimplikuje sa žiadny univerzálny artefakt

Pracovné zaťaženie, uzly, zdroje a identita výstupu.

Začnite rozhodnutím a potom sledujte záznamy, ktoré skutočne vytvorilo

Loom odhaľuje tkanie; Nexus zaznamenáva autoritu a schválenia.

Spindle udržiava pôvod, verziu, dôkazy a nezhody viditeľné.

Core, Kera alebo Mesh poskytujú svoje záznamy o vykonaní s vymedzeným rozsahom.

AION alebo overovateľ producenta kontroluje iba deklarovanú zmluvu.

Táto mapa je východiskovým bodom pre vážny rozhovor o adopcii

Stopa dáva prevádzke, riziku a auditu spoločný záznam o rozhodnutí podporenom AI. Uchováva spolu akciu, relevantný stav, dôkazy, autoritu a výsledok. To znižuje potrebu rekonštruovať prípad z aplikačných protokolov, exportov poskytovateľa modelov, tiketov a spomienok po tom, čo sa niečo pokazí.

Bez spoločného záznamu si každý tím zostaví inú verziu tej istej udalosti. Prevádzka vidí volania a zlyhania, riziko vidí politiku, vlastník podniku vidí výsledok a dotknutá osoba vidí správu. Zosúladenie sa stáva vyšetrovaním.

So zmluvou o stope sa tieto pohľady odvolávajú na stabilné identity a verzie. Tímy môžu stále nesúhlasiť s rozhodnutím, ale nesúhlasia nad rovnakým zaznamenaným materiálom. To skracuje odovzdávanie a robí chýbajúce dôkazy viditeľnými namiesto tichého vypĺňania medzier predpokladmi.