Dostojanstvo podatkov se začne pred modelom
Obrazec na napačni mizi
Razprava o dostojanstvu podatkov se pogosto začne prepozno. Začne se, ko je model že naučen, ko je bil nabor podatkov že postrgan, združen, filtriran, očiščen podvojenih zapisov, normaliziran, vdelan, ovrednoten, zapakiran, nameščen in zagovarjan s strani nekoga iz pravne službe, ki ni dovolj spal. Na tej točki pogovor zveni moralno, kar je uporabno, in tudi nekoliko teatralno, kar je manj uporabno. Ljudje sprašujejo, ali je model spoštoval ljudi za podatki. Iskren odgovor je običajno, da model te priložnosti nikoli ni dobil. Odločitev je bila sprejeta mesece prej, na obrazcu, ki ga ni hotel nihče prevzeti.
Nekoč sem opazoval raziskovalno ekipo na področju zdravstva, kako je to odkrila na sestanku, ki naj bi bil namenjen kakovosti modela. Model ni bil problem. Problem je bil majhen stolpec za vnos z oznako ponovna uporaba dovoljena. Imel je tri možne vrednosti: da, ne in prazno. Prazno je pomenilo, da nihče ni vedel. V izvozni cevovodni verigi je bilo prazno obravnavano kot da, ker bi bil eksperiment sicer nepriročen. To ni bilo zlobno. Za namene upravljanja je bilo še hujše: bila je privzeta vrednost. Najtišje polje v preglednici je imelo več avtoritete kot etična komisija.
Ekipa bi lahko model znova naučila, se opravičila, dokumentirala in se izboljšala. Toda vprašanje dostojanstva se ni začelo v nevronski mreži. Začelo se je, ko je zapis prispel brez jasnega namena, brez skrbnika, brez pravila o hrambi, brez načina za ohranitev preklica in brez tehnične pogodbe, ki bi zavrnila negotovost. Model je zgolj pospešil prejšnje nespoštovanje. Strojem se pogosto očita, da so hladni, vendar mnoge najhladnejše odločitve sprejmejo topli ljudje, ki kliknejo uvoz.
Dostojanstvo podatkov se začne pred modelom, ker podatki postanejo politični v trenutku, ko so zbrani. Zapis ni le vrstica. Je delček osebe, podjetja, skupnosti, delovnega okolja, poti pacienta, javne storitve, senzorskega okolja ali strokovne presoje. Ravnati s tem delčkom dostojanstveno ne pomeni, da ga zavijemo v sentimentalen jezik. Pomeni ohraniti dovolj resnice okoli njega, da poznejši sistemi ne morejo pretvarjati, da se je pojavil od nikoder.
Soglasje ni parfum
Številne organizacije obravnavajo privolitev kot prijeten vonj, ki ga procesu dodajo šele, ko je trdo delo že opravljeno. V politiko se umesti odstavek. Na portal se doda potrditveno polje. V register se vpiše vrstica o zakonitem interesu. Vsi si oddahnejo, vsaj dokler se kdo ne vpraša, kaj se je model sploh smel naučiti. Potem v prostoru ugotovijo, da sta pravno besedilo in operativno dovoljenje povezana približno tako kot jedilnik in večerja. Eno je obljuba. Drugo je treba skuhati.
Operativna privolitev ima strukturo. Določa, kateri namen je dovoljen, kateri akterji smejo obdelovati zapis, katere transformacije so dovoljene, kateri izpeljani podatki podedujejo omejitev, kako dolgo zapis lahko obstaja, kako se obravnava preklic in kateri dokazi pozneje izpričajo izbiro. Če ti deli niso dovolj strojno berljivi, da bi vplivali na cevovod, v sistemu umetne inteligence ne gre za privolitev. Gre za dokumentacijo s pridihom privolitve. Dokumentacija ima svoje mesto, vendar je ne bi smeli prositi, naj z moralno silo ustavi paketno obdelavo.
To postane še posebej pomembno, ko se podatki iz svojega prvotnega namena premaknejo v usposabljanje, iskanje, vrednotenje, spremljanje ali analitiko izdelkov. Pritožba, poslana občini, je lahko uporabna za izboljšanje klasifikatorja. Klinični zapis je lahko uporaben za izločanje simptomov. Prepis pogovora s podporo strankam je lahko uporaben za klepetalnega robota. Uporabnost ne ustvarja dostojanstva. Ustvarja skušnjavo. Vprašanje dostojanstva je, ali je bil novi namen razglašen, ali so ga vpletene osebe in institucije lahko razumno pričakovale ter ali sistem lahko uveljavi odgovor, ko podatki postanejo priročni.
Privolitev se tudi stara. Zapis, zbran pred petimi leti, je lahko nastal ob predpostavkah, ki ne ustrezajo več sedanji praksi. Oseba je morda preklicala privolitev. Pogodba je morda potekla. Sporazum o izmenjavi podatkov je morda dovoljeval analizo, ne pa usposabljanja modela. Polje je bilo morda dovolj anonimizirano za poročilo, ne pa dovolj za indeks vdelav, ki ga lahko ves dan poizvedujejo ustvarjalni zaposleni. Staro dovoljenje ne bi smeli obravnavati kot kozarec marmelade na zadnji polici omare. Datum je pomemben.
Kontekst je tehnična lastnost
Obstaja lenobna navada ločevanja podatkov od konteksta, kot da bi bil kontekst mehak in podatki trdi. V resničnih sistemih je pogosto ravno obratno. Vrednost podatka je lahko številka, koda, ime, časovni žig ali besedilno polje. Njegov pomen je odvisen od metode zbiranja, enote, obsega, negotovosti, avtoritete vira, pravil izključevanja, jezika, manjkajočih vrednosti in okoliščin, v katerih je bil zabeležen. Če vse to odstranimo, podatki ne postanejo nevtralni. Postanejo preveč samozavestni.
Odčitek senzorja z mostu ni le vibracija. Je vibracija z določene naprave, umerjene na določen datum, nameščene na določenem mestu, izmerjene v določenem vremenu, vzorčene pri določeni frekvenci in interpretirane glede na zgodovino vzdrževanja. Plačilni zapis ni le znesek. Je del pogodbe, postopka poravnave, modela goljufij, valutne konvencije in človeške navade vnašanja vejic tam, kjer so želela živeti decimalna ločila. Model morda vidi le žetone ali vektorje, vendar institucija ostaja odgovorna za manjkajoče samostalnike.
Dostojanstvo podatkov zato zahteva ohranjanje konteksta kot inženirsko zahtevo. Opisi shem morajo biti različnično označeni. Izvorni sistemi morajo biti poimenovani. Transformacije morajo biti zabeležene. Manjkajoče vrednosti je treba razlikovati od ničel, zavrnitev, neznank in stanj, ki ne pridejo v poštev. Oznake morajo nositi podatek o tem, kdo jih je postavil, po katerih smernicah in s kakšnim nestrinjanjem. Primeri za vrednotenje morajo nositi podatek o tem, zakaj so bili izbrani. Nabor podatkov brez konteksta ni surovina. Je govorica v obliki tabele.
To ni poziv k neskončnim metapodatkom. Neskončni metapodatki so pot, po kateri dobre ideje odidejo v pokoj v katalog, ki ga nihče ne odpre. Bistvo so selektivni, operativni metapodatki: kontekst, potreben za odločitev, ali se zapis lahko uporabi, ali še pomeni to, kar sistem misli, da pomeni, in ali ga lahko kasnejša oseba izpodbija. Dostojanstvo ne zahteva vsakega podatka o zapisu. Zahteva podatke, ki preprečijo, da bi zapis postal sam sebi tujec.
Dolg dostojanstva
Tehnični dolg je znan, ker ga inženirji vidijo v gradnjah, incidentih, počasnih spremembah in majhnih prekletstvih, vtipkanih v sporočila potrditev. Dolg dostojanstva podatkov je tišji. Kopiči se, ko je izvor nejasen, dovoljenje dvoumno, kontekst izpuščen, hramba prezrta, oznake nedokumentirane, dostop preširok ali ko se izpeljani podatki obravnavajo kot neškodljivi, ker ne spominjajo več na vir. Dolg morda ne bo podrl testa. Čaka na pritožbo, revizijo, spor, škodljiv izhod ali potrpežljivega novinarja.
Nevarna stvar pri dolgu dostojanstva je, da se obrestuje prek uporabnosti. Nabor podatkov, ki je priročen, se kopira. Kopiran nabor podatkov postane zbirka funkcij. Zbirka funkcij hrani model. Izhod modela postane zapis. Zapis postane povratna informacija za usposabljanje. Vsak korak se zdi praktičen. Vsak korak tudi oteži odgovor na prvotno vprašanje: kaj nam je bilo dovoljeno storiti s temi podatki in kaj smo dolgovali ljudem za njimi. Ko vprašanje pride do vodstva, je odgovor razpršen po osmih sistemih in eni osebi, ki se je preselila na drug oddelek.
Resne ekipe obravnavajo dolg dostojanstva kot vsako drugo operativno tveganje. Registrirajo ga, ovrednotijo, določijo lastnike in odločijo, katere uporabe so blokirane, dokler dolg ni poplačan. Če nabor podatkov ne more dokazati izvora, ne sme vstopiti v visoko vplivno usposabljanje. Če umika ni mogoče razširiti, je treba uporabo omejiti. Če izpeljanih artefaktov ni mogoče izslediti, model ne sme podpirati odločitev z velikimi posledicami. Če so bile oznake ustvarjene po slabih navodilih, se vrednotenje ne sme uporabljati kot potrdilo o pravičnosti. To je dolgočasno na najboljši način. Dolgočasno je, kako odrasli ohranjajo mostove pokonci.
Skušnjava je rešiti dolg dostojanstva z veliko platformo. Platforme lahko pomagajo, a prvi korak je običajno manjši in bolj discipliniran: zavrnite neznanke ob vnosu, ločite namen od shranjevanja, beležite izvor na mejah transformacije, ohranite pravice pri izpeljankah in naredite izbris preverljiv. Sistem, ki ne more samozavestno izbrisati, ne more pošteno trditi, da je spoštoval umik. Lahko le trdi, da upa, da so podatki postali sramežljivi.
Izpeljani podatki so še vedno podatki
AI otežuje dostojanstvo podatkov, ker ustvarja izpeljanke, ki so videti nedolžne. Dokument postane kos. Kos postane vdelava. Pogovor s podporo postane povzetek. Klinični zapis postane oznaka. Iskalna poizvedba postane analitični dogodek. Odziv modela postane nov zapis. Človeški popravek postane podatek za učenje. Vsak artefakt lahko izgubi obliko izvirnika, a ohrani dovolj pomena, da je pomemben. Maska se spremeni. Obveznost morda ne.
Vdelave so uporaben primer, ker jih je lahko napačno razumeti. Niso berljivo besedilo, zato ljudje ravnajo, kot da je dostojanstvo izpuhtelo. Toda vdelava lahko še vedno razkrije podobnost, pripadnost, občutljive skupine ali poslovni kontekst. Lahko pomaga pri rekonstrukciji ali sklepanju o dejstvih. Lahko nosi posledice pristranskih oznak. Lahko ostane tudi potem, ko je bil vir izbrisan. To, da jo imenujemo vektor, je ne naredi družbeno breztežne. Marsikaj v življenju je videti nedolžno, če je zapisano z decimalkami. Bančna stanja, na primer.
Izpeljani podatki potrebujejo pravila dedovanja. Katere obveznosti sledijo od vira do kosa, vektorja, predpomnilnika, povzetka, značilke, dnevnika poizvedb, ocenjevalnega vzorca in izhoda modela. Katere izpeljanke je treba izbrisati, ko je vir izbrisan. Katere se lahko obdržijo, ker so dovolj agregirane ali pravno neodvisne. Katere zahtevajo posebno privolitev. Katere so zapisi po svoji naravi. Brez dedovanja lahko vsak nadaljnji sistem improvizira dostojanstvo. Improvizacija je očarljiva v jazzu. V upravljanju podatkov pogosto ustvari zapisnike sestankov.
Ta pravila dedovanja je treba oblikovati pred zbiranjem, ne po prvem zagonu modela. Bistvo ni zamrzniti inovacije. Bistvo je dati inovaciji tla. Inženirji lahko gradijo hitreje, če vedo, katere izpeljanke so dovoljene, katere meje zahtevajo pregled in katere metapodatke je treba prenašati. Raziskovalci lahko raziskujejo, ne da bi vsak poskus spremenili v pravno seanso. Uporabniki in prizadete osebe dobijo pomembnejšo korist: institucija lahko pojasni, kaj se je zgodilo z njihovimi podatki, ne da bi se posvetovala s folkloro.
Model je pozna priča
Ko se AI sistem obnaša slabo, preiskava pogosto najprej strmi v model. To je razumljivo. Model je viden, drag in samozavestno napačen na načine, ki dajejo dobre posnetke zaslona. Toda model je pogosto pozna priča prejšnjih odločitev. Odraža izbire pri zbiranju, označevanju, izključevanju, čiščenju, hranjenju in ocenjevanju. Zahtevati dostojanstvo samo od modela je kot prositi zadnjega tekača v štafeti, naj izboljša štafetno palico.
Model kartice, revizije, vrednotenja, vaje z rdečo ekipo in orodja za razložljivost so vsa pomembna. So del zgodbe o dostojanstvu, zlasti kadar sistemi vplivajo na ljudi. Vendar ne morejo pridobiti nazaj dovoljenja, ki ni bilo nikoli zajeto, konteksta, ki je bil zavržen, ali izvora, ki ni bil zabeležen. Lahko razkrijejo vrzel. Ne morejo narediti vrzeli moralno urejene. Zato zgodnji nadzor ni birokracija. So pogoji, ki poznejšo odgovornost naredijo več kot le gledališče.
Enako velja za pravičnost. Pregled pravičnosti po usposabljanju lahko odkrije neenake stopnje napak, manjkajoče skupine, nadomestne spremenljivke ali škodljive pragove. Ne more pa vedno ugotoviti, ali je nabor podatkov izključil ljudi pri zbiranju, ali so oznake zajele institucionalne predsodke, ali je polje pomenilo isto stvar na različnih lokacijah ali ali je pravilo o soglasju filtriralo vzorec tako, da je spremenilo populacijo. Pravičnost brez dostojanstva podatkov je delo z ogledalom, ki je bilo morda ukrivljeno že pri izdelavi.
Obstaja tudi praktična prednost začetka zgodaj: prej ko pravilo dostojanstva vstopi v cevovod, cenejše je njegovo uveljavljanje. Zapis, zavrnjen ob vnosu, stane malo. Nabor podatkov v karanteni pred usposabljanjem stane več. Model, umaknjen iz produkcije, stane veliko več. Javna izguba zaupanja stane toliko, kolikor finance zapišejo, ko vsi nehajo pretvarjati, da gre le za komuniciranje. Dostojanstvo je pogosto opisano kot etični strošek. V resnih sistemih je cenejše od čiščenja.
Skrbništvo je pravo delo
Dostojanstvo podatkov potrebuje skrbnike, ne maskote. Skrbnik ni oseba, katere ime se pojavi na prosojnici, da bi diagram upravljanja imel človeški obraz. Skrbnik ima pooblastilo, da odgovori, ali se nabor podatkov lahko uporabi, da blokira tvegan namen, da zahteva metapodatke, da odobri hrambo, da obravnava umik in da razloži odločitev revizorjem in prizadetim ljudem. Brez pooblastila skrbništvo postane dekorativno. Dekorativno upravljanje je lahko prepoznati, ker vsebuje veliko odborov in zelo malo glagolov.
Skrbnik potrebuje tudi tehnični vzvod. Potrebuje nadzorne plošče, ki prikazujejo izvor in uporabo, ne le obseg shranjevanja. Potrebuje opozorila, ko se nabor podatkov znova uporabi zunaj njegovega namena. Potrebuje dogovore z inženirskimi ekipami o zahtevanih metapodatkih. Potrebuje preizkušeno pot za izbris. Potrebuje način, kako označiti negotovost, ne da bi gledal, kako jo cevovod tiho spremeni v pritrditev. Potrebuje dovolj proračuna, da popravi dolg dostojanstva, preden postane naslovnica. To je delo, ne oznaka kreposti.
Dobro skrbništvo je sodelovalno. Pravna služba razume pooblastila. Varnost razume dostop. Podatkovni inženirji razumejo gibanje. Strokovnjaki za področje razumejo pomen. Produktne ekipe razumejo predvideno uporabo. Raziskovalci razumejo negotovost. Operativa razume, kaj se zgodi ob treh zjutraj. Dostojanstvo podatkov propade, ko ena od teh perspektiv razglasi lastništvo celotnega problema in se vsi drugi vrnejo k svojim nadzornim ploščam. Zapis potuje med funkcijami; tako mora potovati tudi odgovornost.
V tem je človeška ponižnost. Dostojanstvo podatkov ne zahteva, da organizacija ve vse. Zahteva, da organizacija ve, kaj ve, česa ne ve, kdo lahko odloča in kje so meje uveljavljene. To je manj glamurozno kot strateška predstavitev o odgovorni umetni inteligenci. Je pa tudi bolj verjetno, da preživi stik z resničnim uvozom podatkov.
Kako dostojanstvo izgleda v infrastrukturi
Infrastruktura za dostojanstvo podatkov ni mistična. Sestavljajo jo registri izvora, oznake namena, stanja privolitve, podatkovne pogodbe, dogodki izvora, obsegi dostopa, opravila hrambe, dokazi o izbrisu, smernice za označevanje, različice naborov podatkov, registri vrednotenja in čakalne vrste za pregled. Če se ta seznam sliši preprosto, tako je prav. Najzanesljivejši etični sistemi pogosto spominjajo na vodovodno napeljavo. Opazijo jih predvsem takrat, ko jih nekdo pozabi namestiti.
Ob vnosu bi moral zapis prispeti z deklariranim izvorom, namenom, pravno podlago ali stanjem dovoljenja, razredom občutljivosti in skrbnikom. Pri preoblikovanju bi moral sistem oddajati dogodke izvora in ohranjati ustrezne omejitve. Pri uporabi bi moralo izvajalno okolje preveriti, ali se namen ujema. Pri shranjevanju bi morali biti hramba in izbris izvedljiva, ne le želja. Pri vrednotenju bi morali primeri nositi izvor in logiko izbire. Pri pregledu bi morale prizadete osebe in notranji operaterji imeti pot do izpodbijanja zlorabe. Nič od tega ne zahteva pretvarjanja, da so vsi podatki sveti. Zahteva priznanje, da imajo podatki življenje.
Najpomembnejša oblikovalska poteza je, da neznano postane stanje prvega reda. Neznano ni da. Neznano ni neškodljivo. Neznano je znak za vprašanje, karanteno, omejitev ali zavrnitev. Številni spodrsljaji pri dostojanstvu se zgodijo, ker so sistemi alergični na negotovost. Raje imajo čisto logično vrednost, tudi ko resnični svet ni ponudil ene. Tako prazne celice postanejo dovoljenja. Dostojanstven sistem pusti, da negotovost upočasni stvari. Stroj bo prenesel. Ni bil povabljen na kosilo zaradi svojih čustev.
Popolne arhitekture dostojanstva ni. So boljše privzete nastavitve in slabše privzete nastavitve. Boljše privzete nastavitve ohranjajo kontekst blizu, širijo omejitve, beležijo gibanje, zahtevajo izrecno sekundarno uporabo in omogočajo razveljavitev. Slabše privzete nastavitve sploščijo namen, prosto kopirajo, zaupajo vsem, brišejo samo v politiki in odkrijejo obveznosti, ko to naredi koledar revizij. Izbira ni med inovacijo in dostojanstvom. Izbira je med sistemi, ki se spomnijo, kaj dolgujejo, in sistemi, ki upajo, da nihče ne bo vprašal.
Sporočilo
O dostojanstvu podatkov se pogosto razpravlja kot o velikem načelu, a postane resnično v majhnih tehničnih odločitvah, sprejetih pred pojavom modela. Kaj mora biti znano ob vnosu. Katere neznanke ustavijo tok. Katere pravice potujejo z izpeljanimi vsebinami. Kateri konteksti so ohranjeni. Kateri nameni so dovoljeni. Kateri skrbniki lahko rečejo ne. Katere izbrisane vsebine je mogoče dokazati. Te odločitve določijo, ali je lahko poznejši model odgovoren ali zgolj zgovoren.
Spoštljiva pot ni proti podatkom in ni proti umetni inteligenci. Je za spomin. Vztraja, da zapisi nosijo dovolj izvora, dovoljenj, konteksta in obveznosti, da ostanejo povezani z ljudmi in institucijami, ki so jih ustvarili. Model, usposobljen na takih podatkih, ima več možnosti, da je uporaben, ne da bi po naključju postal izkoriščevalski. Model, usposobljen brez teh temeljev, je lahko še vedno impresiven. Prav tako kot stavba brez temeljev za kratko in razburljivo obdobje.
Začnite pred modelom. Začnite pri obrazcu, pogodbi, shemi, stanju privolitve, smernicah za označevanje, pravilu hrambe, politiki izpeljank in skrbniku z dejansko avtoriteto. Tam v sistem vstopi dostojanstvo. Vse po tem je bodisi ohranjanje bodisi obvladovanje škode.