Andmeväärikus algab enne mudelit
Vorm valel laual
Arutelu andmeväärikuse üle algab sageli liiga hilja. See algab pärast seda, kui mudel on treenitud, pärast seda, kui andmestik on kraabitud, liidetud, filtreeritud, deduplitseeritud, normaliseeritud, manustatud, hinnatud, pakendatud, kasutusele võetud ja kaitstud kellegi poolt õigusosakonnast, kes pole piisavalt maganud. Sel hetkel kõlab vestlus moraalsena, mis on kasulik, ja ka kergelt teatraalsena, mis on vähem kasulik. Inimesed küsivad, kas mudel austas andmete taga olevaid inimesi. Aus vastus on tavaliselt see, et mudelile ei antud kunagi võimalust. Otsus tehti kuud varem, vormil, mida keegi ei tahtnud enda omaks võtta.
Kord nägin tervishoiu teadusmeeskonda seda avastamas koosolekul, mis pidi rääkima mudeli kvaliteedist. Mudel polnud probleem. Probleem oli väike sisestusveerg pealkirjaga reuse allowed. Sellel oli kolm võimalikku väärtust: yes, no ja blank. Blank tähendas, et keegi ei teadnud. Eksporditorustikus oli blank koheldud kui yes, sest muidu oleks eksperiment olnud ebamugav. See polnud pahatahtlikkus. See oli halduse seisukohast hullem: see oli vaikeväärtus. Kõige vaiksemal väljal tabelis oli rohkem autoriteeti kui eetikakomiteel.
Meeskond sai ümber treenida, vabandada, dokumenteerida ja täiustada. Kuid väärikuse probleem ei alanud närvivõrgus. See algas siis, kui kirje saabus ilma selge eesmärgita, ilma haldajata, ilma säilitusreeglita, ilma viisita taganemise säilitamiseks ja ilma tehnilise lepinguta, mis keelduks ebakindlusest. Mudel muutis varasema lugupidamatuse lihtsalt kiiremaks. Masinaid süüdistatakse sageli külmuses, kuid paljud kõige külmemad otsused teevad soojad inimesed, kes klõpsavad import.
Andmeväärikus algab enne mudelit, sest andmed muutuvad poliitiliseks hetkel, mil need kogutakse. Kirje pole ainult rida. See on killuke inimesest, ettevõttest, kogukonnast, töökohast, patsiendi teekonnast, avalikust teenusest, andurikeskkonnast või professionaalsest hinnangust. Selle killukese kohtlemine väärikalt ei tähenda selle mähkimist sentimentaalsesse keelde. See tähendab piisavalt tõe säilitamist selle ümber, et hilisemad süsteemid ei saaks teeselda, et see ilmus eikusagilt.
Nõusolek pole parfüüm
Paljud organisatsioonid kohtlevad nõusolekut nagu meeldivat lõhna, mis lisatakse protsessile pärast raske töö tegemist. Poliitikasse pannakse lõik. Portaali lisatakse märkeruut. Registris on rida, mis ütleb õigustatud huvi. Kõik hingavad kergendatult, vähemalt seni, kuni keegi küsib, mida mudelil tegelikult lubati õppida. Siis avastab ruum, et õiguslik sõnastus ja operatiivne luba on omavahel seotud samamoodi nagu menüü on seotud õhtusöögiga. Üks on lubadus. Teine tuleb ära küpsetada.
Operatiivsel nõusolekul on struktuur. See ütleb, milline eesmärk on lubatud, millised osapooled võivad kirjet töödelda, millised teisendused on lubatud, millised tuletised pärandavad piirangu, kui kaua kirje võib elada, kuidas tagasivõtmist käsitletakse ja milline tõendus tõestab hiljem valikut. Kui need osad pole masinloetavad piisavalt, et mõjutada torustikku, pole need nõusolek AI-süsteemis. Need on nõusolekuteemaline dokumentatsioon. Dokumentatsioonil on oma koht, kuid seda ei tohiks paluda peatada pakett-tööd moraalse jõuga.
See muutub eriti oluliseks, kui andmed liiguvad oma esimesest eesmärgist koolitusse, otsingusse, hindamisse, seiresse või tooteanalüütikasse. Kaebus, mis on esitatud omavalitsusele, võib olla kasulik klassifikaatori parandamiseks. Kliiniline märkus võib olla kasulik sümptomite väljavõtmiseks. Klienditoe vestluse ärakiri võib olla kasulik vestlusroboti jaoks. Kasulikkus ei loo väärikust. See loob kiusatuse. Väärikuse küsimus on see, kas uus eesmärk oli deklareeritud, kas inimesed ja institutsioonid, kes on seotud, võisid seda mõistlikult oodata ja kas süsteem suudab vastust jõustada, kui andmed muutuvad mugavaks.
Nõusolek ka vananeb. Viis aastat tagasi kogutud kirje võis olla sisestatud eelduste alusel, mis ei ühti enam praeguse praktikaga. Inimene võis olla tagasi võtnud. Leping võis olla lõppenud. Andmejagamise leping võis lubada analüüsi, kuid mitte mudeli koolitamist. Väli võis olla anonüümiseeritud piisavalt hästi aruande jaoks, kuid mitte piisavalt hästi manustamisindeksi jaoks, mida loovad töötajad saavad terve päeva pärida. Vana luba ei tohiks kohelda nagu moosipurki kapi tagaosas. Kuupäev loeb.
Kontekst on tehniline omadus
On laisk harjumus eraldada andmeid kontekstist, nagu oleks kontekst pehme ja andmed kõvad. Reaalsetes süsteemides on sageli vastupidi. Andmeväärtus võib olla number, kood, nimi, ajatempel või tekstiväli. Selle tähendus sõltub kogumismeetodist, ühikust, ulatusest, määramatusest, allika autoriteedist, välistusreeglitest, keelest, puuduvatest väärtustest ja olukorrast, milles see salvestati. Kui need eemaldada, ei muutu andmed neutraalseks. Need muutuvad liiga enesekindlaks.
Silla anduri näit ei ole lihtsalt vibratsioon. See on vibratsioon konkreetsest seadmest, kalibreeritud konkreetsel kuupäeval, paigaldatud konkreetsesse kohta, mõõdetud konkreetse ilma tingimustes, proovivõetud konkreetse sagedusega ja tõlgendatud hooldusajaloo taustal. Maksekirje ei ole lihtsalt summa. See asub lepingu, arveldusprotsessi, pettusmudeli, valuutakonventsiooni ja inimese harjumuse sees, kus koma sisestatakse sinna, kus kümnendkohad tahtsid elada. Mudel võib näha ainult tokeneid või vektoreid, kuid institutsioon jääb vastutavaks puuduvate nimisõnade eest.
Andmete väärikus nõuab seetõttu konteksti säilitamist inseneritöö nõudena. Skeemi kirjeldused peavad olema versioonitud. Allikasüsteemid peavad olema nimetatud. Teisendused peavad olema salvestatud. Puuduvad väärtused tuleb eristada nullidest, keeldumistest, teadmatustest ja mittekohaldatavatest olekutest. Sildid peavad kandma, kes need märgistas, millise juhendi alusel ja millise erimeelsusega. Hindamisnäited peavad kandma, miks need valiti. Andmestik ilma kontekstita ei ole toormaterjal. See on kuulujutt tabeli kujul.
See ei ole üleskutse lõputu metadandi haldamiseks. Lõputu metadandi on see, kuidas head ideed lähevad pensionile kataloogi, mida keegi ei ava. Asi on valikulises, operatiivses metadandis: kontekst, mida on vaja otsustamiseks, kas kirjet võib kasutada, kas see tähendab endiselt seda, mida süsteem arvab, et see tähendab, ja kas hilisem isik saab tulemust vaidlustada. Väärikus ei nõua iga fakti kirje kohta. See nõuab fakte, mis takistavad kirjel muutumast iseendale võõraks.
Väärikusevõlg
Tehniline võlg on tuttav, sest insenerid näevad seda ehitustes, intsidentides, aeglastes muudatustes ja väikestes sõimusõnades, mida kinnistusteatesse kirjutatakse. Andmeväärikuse võlg on vaiksem. See koguneb, kui päritolu on ebaselge, luba on mitmetähenduslik, kontekst kaob, säilitustähtaega eiratakse, silte ei dokumenteerita, juurdepääs on liiga lai või tuletatud andmeid peetakse kahjutuks, sest need ei näe enam välja nagu allikas. Võlg ei pruugi testi katki teha. See ootab kaebust, auditit, vaidlust, kahjulikku väljundit või kannatlikku ajakirjanikku.
Ohtlik asi väärikusevõla juures on see, et see kasvab kasulikkuse kaudu. Andmekogum, mis on mugav, kopeeritakse. Kopeeritud andmekogumist saab funktsioonipood. Funktsioonipood toidab mudelit. Mudeli väljundist saab kirje. Kirjest saab koolituse tagasiside. Iga samm tundub praktiline. Iga samm muudab ka algse küsimuse vastamise raskemaks: mida meil oli lubatud nende andmetega teha ja mida me võlgneme inimestele nende taga. Selleks ajaks, kui küsimus jõuab juhtkonnani, on vastus jaotatud kaheksa süsteemi ja ühe inimese vahel, kes on kolinud teise osakonda.
Tõsised meeskonnad kohtlevad väärikusevõlga nagu iga muud operatiivset riski. Nad registreerivad selle, hindavad selle, määravad omanikud ja otsustavad, millised kasutused on blokeeritud, kuni võlg on tasutud. Kui andmekogum ei suuda tõestada oma päritolu, ei tohiks see siseneda suure mõjuga koolitusse. Kui tagasivõtmist ei saa levitada, tuleks kasutust piirata. Kui tuletatud artefakte ei saa jälgida, ei tohiks mudel toetada olulisi otsuseid. Kui sildid toodeti kehva juhendamise all, ei tohiks hindamist kasutada õigluse sertifikaadina. See on igav parimal moel. Igavus on see, kuidas täiskasvanud sildu püsti hoiavad.
On kiusatus lahendada väärikusevõlg suure platvormiga. Platvormid võivad aidata, kuid esimene samm on tavaliselt väiksem ja distsiplineeritum: keelduge tundmatutest vastuvõtul, eraldage eesmärk salvestusruumist, registreerige päritolu teisenduspiiridel, hoidke õigused tuletistega seotud ja tehke kustutamine testitavaks. Süsteem, mis ei suuda enesekindlalt kustutada, ei saa ausalt väita, et see on austanud tagasivõtmist. See saab ainult väita, et loodab, et andmed on muutunud häbelikuks.
Tuletatud andmed on endiselt andmed
AI muudab andmeväärikuse keerulisemaks, sest see loob tuletisi, mis näevad kahjutud välja. Dokumendist saab tükk. Tükist saab manustus. Kasutajatoe vestlusest saab kokkuvõte. Kliinilisest märkusest saab silt. Otsingupäringust saab analüütikasündmus. Mudeli vastusest saab uus kirje. Inimese parandusest saab tugevdusõppe andmestik. Iga artefakt võib kaotada originaali kuju, säilitades samas piisavalt tähendust, et see oluline oleks. Mask muutub. Kohustus ei pruugi.
Manustused on hea näide, sest neid on lihtne valesti mõista. Need ei ole loetav tekst, mistõttu koheldakse neid nii, nagu oleks väärikus haihtunud. Kuid manustus võib siiski paljastada sarnasusi, kuuluvust, tundlikku rühmitust või ärikonteksti. See võib aidata fakte rekonstrueerida või tuletada. See võib kanda kallutatud siltide tagajärgi. See võib püsida ka pärast allika kustutamist. Selle vektoriks nimetamine ei muuda seda sotsiaalselt kaalutuks. Paljud asjad elus näevad kahjutud välja, kui need kümnendmurdudena kirja panna. Näiteks pangakontode saldod.
Tuletatud andmed vajavad pärimisreegleid. Millised kohustused kanduvad allikalt tükile, vektorile, vahemälule, kokkuvõttele, tunnusele, päringulogile, hindamisvalimile ja mudeli väljundile. Millised tuletised tuleb kustutada, kui allikas kustutatakse. Milliseid võib säilitada, sest need on piisavalt agregeeritud või õiguslikult sõltumatud. Milliste jaoks on vaja eraldi nõusolekut. Millised on iseseisvad kirjed. Ilma pärimiseta võib iga allavoolu süsteem väärikust improviseerida. Improvisatsioon on džässis võluv. Andmehalduses sünnib sellest sageli koosolekute protokolle.
Need pärimisreeglid tuleks kavandada enne andmete kogumist, mitte pärast esimest mudeli käivitamist. Eesmärk ei ole innovatsiooni jäätada. Eesmärk on anda innovatsioonile põrand. Insenerid saavad kiiremini ehitada, kui nad teavad, millised tuletised on lubatud, millised piirid nõuavad läbivaatamist ja milline metaandmestik peab kaasa liikuma. Teadlased saavad uurida, muutmata iga katset õiguslikuks seansiks. Kasutajad ja andmesubjektid saavad olulisema kasu: asutus suudab selgitada, mis nende andmetega juhtus, ilma et peaks folkloorile toetuma.
Mudel on hiline tunnistaja
Kui AI-süsteem käitub halvasti, vaatab uurimine sageli kõigepealt mudelit. See on mõistetav. Mudel on nähtav, kallis ja enesekindlalt vale viisil, mis annab häid ekraanipilte. Kuid mudel on sageli hiline tunnistaja varasematele otsustele. See peegeldab kogumisvalikuid, märgendamisvalikuid, välistamisvalikuid, puhastamisvalikuid, säilitamisvalikuid ja hindamisvalikuid. Nõuda ainult mudelilt väärikust on nagu paluda viimasel teatejooksujal teatepulka parandada.
Mudelimudelid, auditid, hinnangud, punase meeskonna harjutused ja selgitatavuse tööriistad on kõik olulised. Need on osa väärikuse loost, eriti kui süsteemid mõjutavad inimesi. Kuid need ei suuda taastada luba, mida kunagi ei küsitud, konteksti, mis ära visati, ega päritolu, mida ei logitud. Need võivad paljastada lõhe. Nad ei suuda seda lõhet moraalselt korda teha. Seetõttu ei ole varajased kontrollid bürokraatia. Need on tingimused, mis muudavad hilisema vastutuse enamaks kui teatriks.
Sama kehtib õigluse kohta. Pärast treenimist tehtud õigluse ülevaade võib leida ebavõrdsed veamäärad, puuduvad rühmad, asendusmuutujad või kahjulikud lävendid. See ei suuda alati kindlaks teha, kas andmestik välistas inimesi kogumisel, kas sildid kajastasid institutsionaalset eelarvamust, kas väli tähendas eri saitidel sama asja või kas nõusolekureegel filtreeris valimi nii, et see muutis populatsiooni. Õiglus ilma andmeväärikuseta on nagu peegliga töötamine, mis võis olla tootmisel juba kõveraks painutatud.
Varajase alustamisega on ka praktiline eelis: mida varem väärikuse reegel torustikku siseneb, seda odavam on seda jõustada. Intake'is keelatud kirje maksab vähe. Enne treenimist karantiini pandud andmestik maksab rohkem. Tootmisest tagasi võetud mudel maksab palju rohkem. Avalik usalduse kaotus maksab nii palju, kui rahandus maha kirjutab pärast seda, kui kõik lõpetavad teesklemise, et see on ainult kommunikatsiooniküsimus. Väärikust kirjeldatakse sageli eetilise üldkuluna. Tõsistes süsteemides on see odavam kui koristustöö.
Haldamine on tõeline töö
Andmeväärikus vajab haldajaid, mitte maskotte. Haldaja ei ole inimene, kelle nimi on slaidil selleks, et valitsemisdiagrammil oleks inimlik nägu. Haldajal on volitus vastata, kas andmestikku võib kasutada, blokeerida riskantne eesmärk, nõuda metaandmeid, kinnitada säilitamist, tegeleda tagasivõtmisega ja selgitada otsuseid audiitoritele ning mõjutatud inimestele. Ilma volituseta muutub haldamine dekoratiivseks. Dekoratiivset valitsemist on lihtne ära tunda, sest see sisaldab palju komiteesid ja väga vähe tegusõnu.
Haldaja vajab ka tehnilist mõjuvõimu. Ta vajab töölaudu, mis näitavad päritolu ja kasutust, mitte ainult salvestusmahtu. Ta vajab hoiatusi, kui andmestikku kasutatakse uuesti väljaspool selle eesmärki. Ta vajab lepinguid insenerimeeskondadega nõutavate metaandmete kohta. Ta vajab kustutamisteed, mida on testitud. Ta vajab viisi ebakindluse märkimiseks ilma, et torustik vaikselt muudaks selle jah-ks. Ta vajab piisavalt eelarvet, et parandada väärikuse võlg enne, kui see muutub pealkirjaks. See on töö, mitte vooruse silt.
Hea haldamine on koostööpõhine. Õigusosakond mõistab volitusi. Turvalisus mõistab juurdepääsu. Andmeinsenerid mõistavad liikumist. Valdkonnaeksperdid mõistavad tähendust. Tootemeeskonnad mõistavad kavandatud kasutust. Teadlased mõistavad ebakindlust. Operatsioon mõistab, mis juhtub kell kolm öösel. Andmeväärikus ebaõnnestub, kui üks neist vaatenurkadest kuulutatakse kogu probleemi omanikuks ja kõik teised naasevad oma töölaudade juurde. Kirje liigub üle funktsioonide; nii peab liikuma ka vastutus.
Selles on inimlik tagasihoidlikkus. Andmeväärikus ei nõua organisatsioonilt, et see teaks kõike. See nõuab, et organisatsioon teaks, mida ta teab, mida ta ei tea, kes võib otsustada ja kus piirid jõustatakse. See on vähem glamuurne kui strateegiaesitlus vastutustundliku tehisintellekti kohta. See on ka tõenäolisem, et jääb ellu kokkupuutel päris importimistööga.
Mida väärikus taristus tähendab
Andmeväärikuse taristu ei ole müstiline. See koosneb allikaregistritest, eesmärgisiltidest, nõusoleku olekutest, andmelepingutest, päritolusündmustest, juurdepääsuulatusest, säilitustöödest, kustutamistõenditest, siltide juhistest, andmekogumite versioonidest, hindamisregistritest ja ülevaatejärjekordadest. Kui see loend tundub tavaline, on see hea. Kõige usaldusväärsemad eetilised süsteemid sarnanevad sageli torustikuga. Neid märgatakse peamiselt siis, kui keegi unustas need paigaldada.
Sissevõtul peaks kirje saabuma koos deklareeritud allika, eesmärgi, õigusliku aluse või loa oleku, tundlikkusklassi ja stewardiga. Teisendamisel peaks süsteem väljastama päritolusündmusi ja säilitama asjakohaseid piiranguid. Kasutamisel peaks käitusaeg kontrollima, kas eesmärk ühtib. Säilitamisel peaksid säilitus- ja kustutamisnõuded olema teostatavad, mitte pelgalt soovitavad. Hindamisel peaksid näited kandma päritolu ja valikuloogikat. Ülevaatusel peaksid mõjutatud isikutel ja sisemistel operaatoritel olema võimalus kuritarvitust vaidlustada. Ükski sellest ei nõua teesklemist, et kõik andmed on pühad. See nõuab tunnistamist, et andmetel on elu.
Kõige olulisem disainivalik on muuta teadmata esmaklassiliseks olekuks. Teadmata ei ole jah. Teadmata ei ole kahjutu. Teadmata on signaal küsida, karantiini panna, piirata või keelduda. Paljud väärikuse rikked juhtuvad seetõttu, et süsteemid on ebakindluse suhtes allergilised. Nad eelistavad korralikku tõeväärtust isegi siis, kui reaalmaailm pole seda andnud. Nii saavad tühjad lahtrid lubadeks. Väärikas süsteem laseb ebakindlusel asju aeglustada. Masin saab hakkama. Teda ei kutsutud lõunale tema tunnete pärast.
Täiuslikku väärikuse arhitektuuri ei ole. On paremaid ja halvemaid vaikeseadeid. Paremad vaikeseaded hoiavad konteksti lähedal, levitavad piiranguid, salvestavad liikumist, nõuavad selgesõnalist teisest kasutust ja teevad tagasipööramise võimalikuks. Halvemad vaikeseaded lamedavad eesmärgi, kopeerivad vabalt, usaldavad kõiki, kustutavad ainult poliitikas ja avastavad kohustused siis, kui auditikalender seda teeb. Valik ei ole innovatsiooni ja väärikuse vahel. Valik on süsteemide vahel, mis mäletavad, mida nad võlgnevad, ja süsteemide vahel, mis loodavad, et keegi ei küsi.
Õppetund
Andmeväärikusest räägitakse sageli kui suurest põhimõttest, kuid see muutub reaalseks väikestes tehnilistes otsustes, mis tehakse enne mudeli ilmumist. Mida tuleb sissevõtul teada. Millised teadmata olekud peatavad voo. Millised õigused liiguvad tuletistega kaasa. Millised kontekstid säilitatakse. Millised eesmärgid on lubatud. Millised stewardid saavad öelda ei. Milliseid kustutamisi saab tõendada. Need valikud määravad, kas hilisem mudel saab olla vastutustundlik või ainult kõnekas.
Austuse tee ei ole andmevastane ega tehisintellektivastane. See on mälupoolne. See nõuab, et kirjed kannaksid piisavalt päritolu, luba, konteksti ja kohustust, et jääda seotuks inimeste ja institutsioonidega, kes need on loonud. Mudelil, mida on selliste andmetega treenitud, on parem võimalus olla kasulik, ilma et see muutuks kogemata ekspluateerivaks. Mudel, mida on treenitud ilma nende alusteta, võib siiski muljet avaldada. Nii nagu hoone ilma vundamendita võib lühikest ja põnevat perioodi muljet avaldada.
Alusta enne mudelit. Alusta vormist, lepingust, skeemist, nõusoleku olekust, märgistusjuhisest, säilitusreeglist, tuletuspoliitikast ja haldurist, kellel on tegelik volitus. Seal siseneb väärikus süsteemi. Kõik pärast seda on kas säilitamine või kahjukontroll.