Dôstojnosť dát začína ešte pred modelom
Formulár na nesprávnom stole
Diskusia o dôstojnosti údajov sa často začína príliš neskoro. Začína sa až po tom, čo bol model natrénovaný, po tom, čo bol dátový súbor zoškrabaný, zlúčený, filtrovaný, deduplikovaný, normalizovaný, vložený, vyhodnotený, zabalený, nasadený a obhájený niekým z právneho oddelenia, kto nemal dosť spánku. V tom momente znie rozhovor morálne, čo je užitočné, a tiež mierne teatrálne, čo je menej užitočné. Ľudia sa pýtajú, či model rešpektoval ľudí stojacich za údajmi. Úprimná odpoveď zvyčajne znie, že model nikdy nedostal šancu. Rozhodnutie padlo o mesiace skôr, na formulári, ktorý nechcel nikto vlastniť.
Raz som sledoval, ako výskumný tím v zdravotníctve objavil túto skutočnosť na stretnutí, ktoré sa malo týkať kvality modelu. Problémom nebol model. Problémom bol malý stĺpec na vstupe s označením reuse allowed. Mal tri možné hodnoty: áno, nie a prázdne. Prázdne znamenalo, že nikto nevedel. V exportnom pipeline sa prázdne považovalo za áno, pretože inak by bol experiment nepohodlný. Nebola to zlomyseľnosť. Pre účely správy to bolo horšie: bol to predvolený stav. Najtichšie pole v tabuľke malo väčšiu autoritu ako etická komisia.
Tím mohol model pretrénovať, ospravedlniť sa, zdokumentovať a zlepšiť sa. Problém dôstojnosti sa však nezačal v neurónovej sieti. Začal sa, keď záznam prišiel bez jasného účelu, bez správcu, bez pravidla uchovávania, bez spôsobu, ako zachovať odvolanie súhlasu, a bez technickej zmluvy, ktorá by odmietala neistotu. Model len urýchlil skoršiu neúctu. Strojom sa často vyčíta, že sú chladné, ale mnohé z najchladnejších rozhodnutí robia teplí ľudia, ktorí kliknú na import.
Dôstojnosť údajov sa začína pred modelom, pretože údaje sa stávajú politickými v momente, keď sa zhromažďujú. Záznam nie je len riadok. Je to fragment človeka, spoločnosti, komunity, pracoviska, cesty pacienta, verejnej služby, senzorového prostredia alebo odborného úsudku. Zaobchádzať s týmto fragmentom dôstojne neznamená obaliť ho sentimentálnym jazykom. Znamená to zachovať okolo neho dostatok pravdy, aby neskoršie systémy nemohli predstierať, že sa objavil odnikiaľ.
Súhlas nie je parfum
Mnohé organizácie pristupujú k súhlasu ako k príjemnej vôni pridanej do procesu až po tom, čo je ťažká práca hotová. Do politiky sa vloží odsek. Na portál sa pridá začiarkavacie políčko. Riadok v registri hovorí o oprávnenom záujme. Všetci sa uvoľnia, aspoň kým sa niekto nespýta, čo sa model vlastne mohol naučiť. Potom miestnosť zistí, že právne formulácie a prevádzkové povolenie spolu súvisia rovnako ako jedálny lístok s večerou. Jedno je sľub. Druhé sa musí uvariť.
Prevádzkový súhlas má štruktúru. Hovorí, ktorý účel je povolený, ktoré subjekty môžu záznam spracúvať, ktoré transformácie sú prípustné, ktoré odvodeniny preberajú obmedzenie, ako dlho môže záznam existovať, ako sa rieši odvolanie súhlasu a aké dôkazy neskôr preukážu voľbu. Ak tieto časti nie sú dostatočne strojovo čitateľné na to, aby ovplyvnili potrubie spracovania, nie sú súhlasom v systéme umelej inteligencie. Sú dokumentáciou so súhlasnou tematikou. Dokumentácia má svoje miesto, ale nemalo by sa od nej očakávať, že zastaví dávkovú úlohu morálnou silou.
Toto sa stáva obzvlášť dôležitým, keď sa údaje presúvajú z pôvodného účelu do tréningu, vyhľadávania, vyhodnocovania, monitorovania alebo produktovej analytiky. Sťažnosť podaná obci môže byť užitočná na zlepšenie klasifikátora. Klinická poznámka môže byť užitočná na extrahovanie príznakov. Prepis zákazníckej podpory môže byť užitočný pre chatbota. Užitočnosť nevytvára dôstojnosť. Vytvára pokušenie. Otázkou dôstojnosti je, či bol nový účel vyhlásený, či ho dotknuté osoby a inštitúcie mohli rozumne očakávať a či systém dokáže presadiť odpoveď, keď sa údaje stanú vhodnými.
Súhlas tiež starne. Záznam zhromaždený pred piatimi rokmi mohol byť získaný za predpokladov, ktoré už nezodpovedajú súčasnej praxi. Osoba mohla súhlas odvolať. Zmluva mohla uplynúť. Dohoda o zdieľaní údajov mohla povoľovať analýzu, ale nie tréning modelu. Pole mohlo byť anonymizované dostatočne dobre pre správu, ale nie dostatočne dobre pre index vektorových vložení, ktorý môžu kreatívni zamestnanci prehľadávať celý deň. Staré povolenie by sa nemalo považovať za pohár džemu v zadnej časti skrinky. Na dátume záleží.
Kontext je technická vlastnosť
Existuje lenivý zvyk oddeľovať údaje od kontextu, akoby kontext bol mäkký a údaje tvrdé. V skutočných systémoch je to často naopak. Hodnota údajov môže byť číslo, kód, názov, časová pečiatka alebo textové pole. Jej význam závisí od metódy zberu, jednotky, rozsahu, neistoty, autority zdroja, pravidiel vylúčenia, jazyka, chýbajúcich hodnôt a situácie, v ktorej bola zaznamenaná. Ak sa tieto prvky odstránia, údaje sa nestanú neutrálnymi. Stanú sa príliš sebavedomými.
Údaj zo snímača na moste nie je len vibrácia. Je to vibrácia z konkrétneho zariadenia, kalibrovaného v konkrétnom dátume, namontovaného na konkrétnom mieste, meraná za konkrétneho počasia, vzorkovaná pri konkrétnej frekvencii a interpretovaná v kontexte histórie údržby. Platobný záznam nie je len suma. Nachádza sa v zmluve, procese vyrovnania, modeli podvodov, menovej konvencii a ľudskom zvyku zadávať čiarky tam, kde chceli žiť desatinné miesta. Model môže vidieť iba tokeny alebo vektory, ale inštitúcia zostáva zodpovedná za chýbajúce podstatné mená.
Dôstojnosť údajov preto vyžaduje zachovanie kontextu ako technickú požiadavku. Opisy schém musia byť verzované. Zdrojové systémy musia byť pomenované. Transformácie musia byť zaznamenané. Chýbajúce hodnoty musia byť odlíšené od núl, odmietnutí, neznámych hodnôt a stavov, ktoré sa neuplatňujú. Označenia musia niesť informáciu o tom, kto ich vytvoril, podľa akých usmernení a s akou mierou nezhody. Príklady na vyhodnocovanie musia niesť informáciu o tom, prečo boli vybrané. Súbor údajov bez kontextu nie je surový materiál. Je to fáma v tabuľkovej podobe.
Toto nie je výzva na nekonečné metadáta. Nekonečné metadáta sú spôsob, akým dobré nápady odídu na dôchodok do katalógu, ktorý nikto neotvára. Ide o selektívne, operačné metadáta: kontext potrebný na rozhodnutie, či sa záznam môže použiť, či stále znamená to, čo si systém myslí, že znamená, a či ho neskôr môže niekto spochybniť. Dôstojnosť nevyžaduje každý fakt o zázname. Vyžaduje fakty, ktoré zabránia tomu, aby sa záznam stal cudzincom sám sebe.
Dlh dôstojnosti
Technický dlh je známy, pretože ho inžinieri vidia v buildoch, incidentoch, pomalých zmenách a malých kliatbach písaných do správ o commitoch. Dlh dôstojnosti údajov je tichší. Hromadí sa, keď je pôvod nejasný, povolenie nejednoznačné, kontext sa zahodí, uchovávanie sa ignoruje, štítky sú nedokumentované, prístup je príliš široký alebo odvodené údaje sa považujú za neškodné, pretože už nevyzerajú ako zdroj. Dlh nemusí rozbiť test. Čaká na sťažnosť, audit, spor, škodlivý výstup alebo trpezlivého novinára.
Nebezpečné na dlhu dôstojnosti je, že sa znásobuje užitočnosťou. Dátový súbor, ktorý je pohodlný, sa kopíruje. Skopírovaný dátový súbor sa stane feature store. Feature store napája model. Výstup modelu sa stane záznamom. Záznam sa stane spätnou väzbou na tréning. Každý krok pôsobí prakticky. Každý krok tiež sťažuje odpoveď na pôvodnú otázku: čo sme s týmito údajmi mohli robiť a čo sme dlhovali ľuďom za nimi. Kým sa otázka dostane k vedeniu, odpoveď je rozptýlená naprieč ôsmimi systémami a jedným človekom, ktorý prešiel na iné oddelenie.
Seriózne tímy zaobchádzajú s dlhom dôstojnosti ako s akýmkoľvek iným operačným rizikom. Registrujú ho, ocenia ho, priradia vlastníkov a rozhodnú, ktoré použitia sú zablokované, kým sa dlh nesplatí. Ak dátový súbor nedokáže preukázať pôvod, nemal by vstúpiť do vysoko vplyvného tréningu. Ak sa odvolanie nedá šíriť, použitie by malo byť obmedzené. Ak sa odvodené artefakty nedajú vysledovať, model by nemal podporovať rozhodnutia s následkami. Ak boli štítky vytvorené podľa zlých pokynov, vyhodnotenie by sa nemalo používať ako certifikát spravodlivosti. Toto je nudné tým najlepším spôsobom. Nuda je to, ako dospelí udržiavajú mosty hore.
Existuje pokušenie vyriešiť dlh dôstojnosti veľkou platformou. Platformy môžu pomôcť, ale prvý krok je zvyčajne menší a disciplinovanejší: odmietnuť neznáme pri príjme, oddeliť účel od uchovávania, zaznamenať líniu pôvodu na hraniciach transformácií, ponechať práva pripojené k odvodeninám a urobiť vymazanie testovateľným. Systém, ktorý nedokáže s istotou vymazať, nemôže čestne tvrdiť, že rešpektoval odvolanie. Môže len tvrdiť, že dúfa, že údaje sa stali hanblivými.
Odvodené údaje sú stále údaje
AI sťažuje dôstojnosť údajov, pretože vytvára deriváty, ktoré vyzerajú nevinne. Dokument sa stane blokom. Blok sa stane vložením. Konverzácia so zákazníckou podporou sa stane zhrnutím. Klinická poznámka sa stane štítkom. Vyhľadávací dopyt sa stane analytickou udalosťou. Odpoveď modelu sa stane novým záznamom. Ľudská oprava sa stane tréningovými údajmi. Každý artefakt môže stratiť podobu originálu, pričom si zachová dostatok významu na to, aby na ňom záležalo. Maska sa mení. Povinnosť sa meniť nemusí.
Vloženia sú užitočným príkladom, pretože sa dajú ľahko nepochopiť. Nie sú čitateľným textom, takže ľudia s nimi zaobchádzajú, akoby sa dôstojnosť vyparila. Ale vloženie môže stále odhaliť podobnosť, príslušnosť, citlivé zoskupenia alebo obchodný kontext. Môže pomôcť rekonštruovať alebo odvodiť fakty. Môže niesť dôsledky zaujatých štítkov. Môže pretrvať aj po odstránení zdroja. Nazvať ho vektorom z neho nerobí spoločensky bezvýznamnú vec. Mnohé veci v živote vyzerajú nevinne, keď sú zapísané ako desatinné čísla. Napríklad bankové zostatky.
Odvodené údaje potrebujú pravidlá dedenia. Ktoré povinnosti prechádzajú zo zdroja na blok, vektor, vyrovnávaciu pamäť, zhrnutie, prvok, denník výziev, hodnotiacu vzorku a výstup modelu. Ktoré deriváty sa musia odstrániť, keď sa odstráni zdroj. Ktoré možno ponechať, pretože sú dostatočne agregované alebo právne nezávislé. Ktoré si vyžadujú samostatný súhlas. Ktoré sú záznamami samy osebe. Bez dedenia si každý nadväzujúci systém môže dôstojnosť improvizovať. Improvizácia je v jazze očarujúca. V správe údajov často vedie k zápisniciam zo stretnutí.
Tieto pravidlá dedenia by sa mali navrhnúť pred zhromažďovaním, nie až po prvom spustení modelu. Nejde o zmrazenie inovácií. Ide o to, aby inovácie dostali základ. Inžinieri môžu pracovať rýchlejšie, keď vedia, ktoré deriváty sú povolené, ktoré hranice si vyžadujú preskúmanie a ktoré metadáta musia putovať s údajmi. Výskumníci môžu skúmať bez toho, aby sa každý experiment zmenil na právnu seansu. Používatelia a dotknuté osoby získavajú dôležitejší prínos: inštitúcia dokáže vysvetliť, čo sa stalo s ich údajmi, bez toho, aby sa musela spoliehať na folklór.
Model je neskorý svedok
Keď sa systém umelej inteligencie správa zle, vyšetrovanie sa často najprv zameria na model. To je pochopiteľné. Model je viditeľný, drahý a sebavedomo nesprávny spôsobom, ktorý vytvára dobré snímky obrazovky. Ale model je často neskorým svedkom skorších rozhodnutí. Odzrkadľuje rozhodnutia o zhromažďovaní, označovaní, vylúčení, čistení, uchovávaní a hodnotení. Žiadať len od modelu, aby sa stal dôstojným, je ako žiadať posledného bežca v štafete, aby zlepšil štafetový kolík.
Modelové karty, audity, hodnotenia, red-team cvičenia a nástroje na vysvetliteľnosť majú všetky svoj význam. Sú súčasťou príbehu o dôstojnosti, najmä keď systémy ovplyvňujú ľudí. Nedokážu však obnoviť povolenie, ktoré nikdy nebolo zachytené, kontext, ktorý bol zahodený, ani pôvod, ktorý nebol zaznamenaný. Dokážu odhaliť medzeru. Nedokážu ju morálne zahladiť. Preto skoré kontroly nie sú byrokracia. Sú podmienkami, vďaka ktorým je neskoršia zodpovednosť viac než len divadlo.
To isté platí pre férovosť. Preskúmanie férovosti po tréningu dokáže odhaliť nerovnaké miery chybovosti, chýbajúce skupiny, proxy premenné alebo škodlivé prahy. Nedokáže však vždy určiť, či súbor údajov vylúčil ľudí už pri zbere, či štítky zachytili inštitucionálne predsudky, či pole znamenalo to isté na rôznych pracoviskách, alebo či pravidlo súhlasu filtrovalo vzorku spôsobom, ktorý zmenil populáciu. Férovosť bez dôstojnosti údajov je práca so zrkadlom, ktoré mohlo byť pokrivené už pri výrobe.
Existuje aj praktická výhoda začať skoro: čím skôr pravidlo dôstojnosti vstúpi do procesu, tým lacnejšie je ho presadzovať. Záznam odmietnutý pri príjme stojí málo. Súbor údajov v karanténe pred tréningom stojí viac. Model stiahnutý z produkcie stojí oveľa viac. Verejná strata dôvery stojí toľko, koľko financií zapíše, keď všetci prestanú predstierať, že ide len o komunikáciu. Dôstojnosť sa často opisuje ako etická réžia. V serióznych systémoch je lacnejšia ako upratovanie.
Starostlivosť je skutočná práca
Dôstojnosť údajov potrebuje správcov, nie maskotov. Správca nie je človek, ktorého meno sa objaví na snímke, aby mal diagram riadenia ľudskú tvár. Správca má právomoc odpovedať na to, či sa súbor údajov môže použiť, zablokovať rizikový účel, vyžadovať metadáta, schváliť uchovávanie, zvládnuť stiahnutie a vysvetliť rozhodnutie audítorom a dotknutým osobám. Bez právomoci sa starostlivosť stáva dekoratívnou. Dekoratívne riadenie sa dá ľahko spoznať, pretože obsahuje veľa výborov a veľmi málo slovies.
Správca potrebuje aj technickú páku. Potrebuje prehľady, ktoré ukazujú pôvod a použitie, nielen objem úložiska. Potrebuje upozornenia, keď sa súbor údajov použije mimo svojho účelu. Potrebuje dohody s technickými tímami o požadovaných metadátach. Potrebuje vyskúšanú cestu na vymazanie. Potrebuje spôsob, ako označiť neistotu bez toho, aby sledoval, ako ju proces potichu pretaví na áno. Potrebuje dostatok rozpočtu na opravu dlhu dôstojnosti skôr, než sa stane titulkom. Toto je práca, nie nálepka cnosti.
Dobrá starostlivosť je spolupráca. Právne oddelenie rozumie právomoci. Bezpečnosť rozumie prístupu. Dátoví inžinieri rozumejú pohybu. Doménoví experti rozumejú významu. Produktové tímy rozumejú zamýšľanému použitiu. Výskumníci rozumejú neistote. Prevádzka rozumie tomu, čo sa deje o tretej ráno. Dôstojnosť údajov zlyhá, keď sa jeden z týchto pohľadov vyhlási za vlastníka celého problému a všetci ostatní sa vrátia k svojim prehľadom. Záznam putuje naprieč oddeleniami; rovnako musí putovať aj zodpovednosť.
Je v tom ľudská skromnosť. Dôstojnosť údajov nevyžaduje, aby organizácia vedela všetko. Vyžaduje, aby organizácia vedela, čo vie, čo nevie, kto môže rozhodovať a kde sa presadzujú hranice. To je menej okázalé ako strategická prezentácia o zodpovednej umelej inteligencii. Je to však pravdepodobnejšie, že to prežije kontakt so skutočnou importnou úlohou.
Čo znamená dôstojnosť v infraštruktúre
Infraštruktúra pre dôstojnosť údajov nie je mystická. Vyzerá ako registre zdrojov, značky účelu, stavy súhlasu, zmluvy o údajoch, udalosti línie, rozsahy prístupu, úlohy uchovávania, potvrdenia o vymazaní, pokyny pre označovanie, verzie dátových sád, registre hodnotenia a fronty na kontrolu. Ak ten zoznam znie obyčajne, dobre. Najspoľahlivejšie etické systémy často pripomínajú inštalatérstvo. Všimnú si ich hlavne vtedy, keď ich niekto zabudol nainštalovať.
Pri príjme by záznam mal prísť s deklarovaným zdrojom, účelom, právnym základom alebo stavom povolenia, triedou citlivosti a stewardom. Pri transformácii by systém mal vydávať udalosti línie a zachovávať príslušné obmedzenia. Pri použití by mal runtime kontrolovať, či sa účel zhoduje. Pri uchovávaní by mali byť uchovávanie a vymazanie vykonateľné, nie len aspiratívne. Pri hodnotení by príklady mali niesť pôvod a logiku výberu. Pri kontrole by postihnutí ľudia a interní operátori mali mať cestu, ako napadnúť zneužitie. Nič z toho nevyžaduje predstierať, že všetky údaje sú posvätné. Vyžaduje to priznať, že údaje majú život.
Najdôležitejším dizajnovým krokom je urobiť z neznámeho stav prvotriedny stav. Neznáme nie je áno. Neznáme nie je neškodné. Neznáme je signál pýtať sa, karanténovať, obmedziť alebo odmietnuť. Mnohé zlyhania dôstojnosti sa stávajú preto, lebo systémy sú alergické na neistotu. Uprednostňujú čistý boolovský stav, aj keď reálny svet žiadny neposkytol. Takto sa z prázdnych buniek stanú povolenia. Dôstojný systém nechá neistotu spomaliť veci. Stroj to zvládne. Nebol pozvaný na obed kvôli svojim pocitom.
Neexistuje dokonalá architektúra dôstojnosti. Existujú lepšie a horšie predvolené hodnoty. Lepšie predvolené hodnoty držia kontext blízko, šíria obmedzenia, zaznamenávajú pohyb, vyžadujú explicitné sekundárne použitie a umožňujú zvrátenie. Horšie predvolené hodnoty splošťujú účel, voľne kopírujú, dôverujú všetkým, vymazávajú len v politike a objavujú povinnosti, keď to urobí kalendár auditu. Voľba nie je medzi inováciou a dôstojnosťou. Voľba je medzi systémami, ktoré si pamätajú, čo dlhujú, a systémami, ktoré dúfajú, že sa nikto nebude pýtať.
Ponaučenie
Dôstojnosť údajov sa často diskutuje ako veľký princíp, ale stáva sa skutočnou v malých technických rozhodnutiach prijatých predtým, než sa model objaví. Čo musí byť známe pri príjme. Ktoré neznáme zastavia tok. Ktoré práva cestujú s derivátmi. Ktoré kontexty sa zachovávajú. Ktoré účely sú povolené. Ktorí stewardi môžu povedať nie. Ktoré vymazania sa dajú dokázať. Tieto voľby určujú, či neskorší model môže byť zodpovedný alebo len výrečný.
Rešpektujúci prístup nie je proti dátam a nie je proti AI. Je za pamäť. Trvá na tom, aby záznamy niesli dostatok pôvodu, povolenia, kontextu a záväzku, aby zostali prepojené s ľuďmi a inštitúciami, ktoré ich vytvorili. Model trénovaný na takýchto dátach má väčšiu šancu byť užitočný bez toho, aby sa náhodou stal vykorisťovateľským. Model trénovaný bez týchto základov môže byť stále pôsobivý. Rovnako ako budova bez základov je pôsobivá na krátke a vzrušujúce obdobie.
Začnite pred modelom. Začnite pri formulári, zmluve, schéme, stave súhlasu, pokynoch na označovanie, pravidlách uchovávania, politike odvodených diel a správcovi so skutočnou právomocou. Tam vstupuje do systému dôstojnosť. Všetko po tom je buď zachovanie, alebo škodová kontrola.