Duomenų orumas prasideda anksčiau nei modelis
Forma ne toje lentelėje
Diskusija apie duomenų orumą dažnai prasideda per vėlai. Ji prasideda po to, kai modelis jau išmokytas, po to, kai duomenų rinkinys buvo nuskaitytas, sujungtas, filtruotas, išvalytas nuo dublikatų, normalizuotas, įterptas, įvertintas, supakuotas, paskleistas ir apgintas kažkokio teisininko, kuris nepakankamai miegojo. Tuomet pokalbis skamba moraliai, o tai naudinga, ir taip pat šiek tiek teatrališkai, o tai mažiau naudinga. Žmonės klausia, ar modelis gerbė žmones, stovinčius už duomenų. Sąžiningas atsakymas paprastai yra toks, kad modeliui niekada nebuvo suteikta galimybė. Sprendimas buvo priimtas mėnesiais anksčiau, formoje, kurios niekas nenorėjo prisiimti atsakomybės.
Kartą mačiau sveikatos priežiūros tyrimų komandą, kuri tai atrado susitikime, turėjusiame būti apie modelio kokybę. Modelis nebuvo problema. Problema buvo mažas įvedimo stulpelis, pažymėtas reuse allowed. Jis turėjo tris galimas reikšmes: yes, no ir tuščią. Tuščia reiškė, kad niekas nežinojo. Eksporto grandinėje tuščia buvo traktuojama kaip yes, nes kitaip eksperimentas būtų buvęs nepatogus. Tai nebuvo piktavališkumas. Valdymo požiūriu tai buvo dar blogiau: tai buvo numatytoji reikšmė. Tyliausias laukas skaičiuoklėje turėjo daugiau autoriteto nei etikos komitetas.
Komanda galėjo perkvalifikuoti, atsiprašyti, dokumentuoti ir tobulėti. Tačiau orumo problema neprasidėjo neuroniniame tinkle. Ji prasidėjo tada, kai įrašas atkeliavo be aiškaus tikslo, be atsakingojo, be saugojimo taisyklės, be būdo išsaugoti atsisakymą ir be techninės sutarties, kuri atsisakytų neaiškumo. Modelis tik paspartino ankstesnę nepagarbą. Mašinos dažnai kaltinamos šaltumu, bet daugelį šalčiausių sprendimų priima šilti žmonės, kurie spusteli import.
Duomenų orumas prasideda prieš modelį, nes duomenys tampa politiniai tą akimirką, kai jie surenkami. Įrašas yra ne tik eilutė. Tai žmogaus, įmonės, bendruomenės, darbo vietos, paciento kelionės, viešosios paslaugos, jutiklių aplinkos ar profesinio sprendimo fragmentas. Traktuoti tą fragmentą oriai nereiškia apgaubti jį sentimentaliomis kalbomis. Tai reiškia išlaikyti pakankamai tiesos aplink jį, kad vėlesnės sistemos negalėtų apsimesti, jog jis atsirado iš niekur.
Sutikimas nėra kvepalai
Daugelis organizacijų į sutikimą žiūri kaip į malonų kvapą, pridėtą prie proceso po to, kai sunkiausias darbas jau atliktas. Į politiką įterpiama pastraipa. Prie portalo pridedamas žymimasis langelis. Registre eilutėje rašoma „teisėtas interesas“. Visi atsipalaiduoja, bent jau tol, kol kas nors paklausia, ką modeliui iš tikrųjų buvo leista išmokti. Tada kambaryje paaiškėja, kad teisinė formuluotė ir veiklos leidimas yra susiję taip pat, kaip meniu susijęs su vakariene. Vienas yra pažadas. Kitas turi būti iškeptas.
Veiklos sutikimas turi struktūrą. Jame nurodoma, kuris tikslas leidžiamas, kurie subjektai gali tvarkyti įrašą, kokios transformacijos leidžiamos, kurie išvestiniai duomenys paveldi apribojimą, kiek laiko įrašas gali gyvuoti, kaip tvarkomas atšaukimas ir kokie įrodymai vėliau patvirtina pasirinkimą. Jei šios dalys nėra pakankamai mašininio skaitymo, kad paveiktų dujotiekį, tai nėra sutikimas dirbtinio intelekto sistemoje. Tai sutikimo tematikos dokumentacija. Dokumentacija turi savo vietą, tačiau iš jos nereikėtų reikalauti moraline jėga sustabdyti paketinės užduoties.
Tai tampa ypač svarbu, kai duomenys pereina iš pirmojo tikslo į mokymą, paiešką, vertinimą, stebėseną ar produktų analitiką. Savivaldybei pateiktas skundas gali būti naudingas klasifikatoriaus tobulinimui. Klinikinis įrašas gali būti naudingas simptomų išgavimui. Klientų aptarnavimo pokalbio nuorašas gali būti naudingas pokalbių robotui. Naudingumas nesukuria orumo. Jis sukuria pagundą. Orumo klausimas yra tai, ar naujas tikslas buvo paskelbtas, ar dalyvaujantys asmenys ir institucijos galėjo pagrįstai jo tikėtis ir ar sistema gali užtikrinti atsakymą, kai duomenys tampa patogūs.
Sutikimas taip pat sensta. Prieš penkerius metus surinktas įrašas galėjo būti gautas remiantis prielaidomis, kurios nebeatitinka dabartinės praktikos. Asmuo galėjo atšaukti sutikimą. Sutartis galėjo pasibaigti. Duomenų dalijimosi susitarimas galėjo leisti analizę, bet ne modelio mokymą. Laukas galėjo būti anonimizuotas pakankamai gerai ataskaitai, bet ne pakankamai gerai įterpimų indeksui, kurį kūrybingi darbuotojai gali užklausti visą dieną. Senas leidimas neturėtų būti traktuojamas kaip uogienės stiklainis spintos gale. Data turi reikšmės.
Kontekstas yra techninė savybė
Egzistuoja tingus įprotis atskirti duomenis nuo konteksto, tarsi kontekstas būtų minkštas, o duomenys kieti. Realiosiose sistemose dažnai yra atvirkščiai. Duomenų reikšmė gali būti skaičius, kodas, pavadinimas, laiko žyma arba teksto laukas. Jo reikšmė priklauso nuo rinkimo metodo, matavimo vieneto, apimties, neapibrėžtumo, šaltinio autoriteto, išskyrimo taisyklių, kalbos, trūkstamų reikšmių ir situacijos, kurioje jis buvo užfiksuotas. Pašalinkite visa tai, ir duomenys netampa neutralūs. Jie tampa pernelyg pasitikintys savimi.
Tilto jutiklio rodmuo nėra tik vibracija. Tai vibracija iš konkretaus įrenginio, sukalibruoto konkrečią datą, sumontuoto konkrečioje vietoje, išmatuota esant konkrečioms oro sąlygoms, imama konkrečiu dažniu ir interpretuojama atsižvelgiant į priežiūros istoriją. Mokėjimo įrašas nėra tik suma. Jis yra sutarties, atsiskaitymo proceso, sukčiavimo modelio, valiutos konvencijos ir žmogiško įpročio įvesti kablelius ten, kur turėjo būti dešimtainiai skyrikliai, dalis. Modelis gali matyti tik žetonus ar vektorius, tačiau institucija lieka atsakinga už trūkstamus daiktavardžius.
Duomenų orumas todėl reikalauja konteksto išsaugojimo kaip inžinerinio reikalavimo. Schemų aprašai turi būti versijuojami. Šaltinio sistemos turi būti įvardytos. Transformacijos turi būti užfiksuotos. Trūkstamos reikšmės turi būti atskirtos nuo nulių, atsisakymų, nežinomų reikšmių ir netaikomų būsenų. Etiketės turi nurodyti, kas jas uždėjo, pagal kokią gairę ir su kokiais nesutarimais. Vertinimo pavyzdžiai turi nurodyti, kodėl jie buvo atrinkti. Duomenų rinkinys be konteksto nėra žaliava. Tai gandas lentelės pavidalu.
Tai ne raginimas rinkti begalę metaduomenų. Begalė metaduomenų yra tai, kaip geros idėjos iškeliauja į pensiją kataloge, kurio niekas neatsiverčia. Esmė yra atrankiniai, veiksmui skirti metaduomenys: kontekstas, reikalingas nuspręsti, ar įrašą galima naudoti, ar jis vis dar reiškia tai, ką sistema mano jį reiškiant, ir ar vėliau kas nors gali užginčyti rezultatą. Orumas nereikalauja, kad žinotume kiekvieną faktą apie įrašą. Jis reikalauja tų faktų, kurie neleidžia įrašui tapti svetimam sau pačiam.
Orumo skola
Techninė skola yra pažįstama, nes inžinieriai ją mato kūrimo procesuose, incidentuose, lėtuose pakeitimuose ir mažuose keiksmažodžiuose, įrašytuose į versijų valdymo komentarus. Duomenų orumo skola yra tylesnė. Ji kaupiasi, kai kilmė neaiški, leidimas dviprasmiškas, kontekstas prarandamas, saugojimo terminai ignoruojami, etiketės nedokumentuotos, prieiga per plati arba išvestiniai duomenys laikomi nekenksmingais, nes jie nebeatrodo kaip šaltinis. Skola gali nesugadinti testo. Ji laukia skundo, audito, ginčo, žalingos išvesties ar kantraus žurnalisto.
Pavojingiausia orumo skolos savybė yra tai, kad ji didėja per naudingumą. Patogus duomenų rinkinys nukopijuojamas. Nukopijuotas duomenų rinkinys tampa funkcijų saugykla. Funkcijų saugykla maitina modelį. Modelio išvestis tampa įrašu. Įrašas tampa mokymo atsiliepimu. Kiekvienas žingsnis atrodo praktiškas. Kiekvienas žingsnis taip pat apsunkina atsakymą į pirminį klausimą: ką mums buvo leista daryti su šiais duomenimis ir ką buvome skolingi už jų slypintiems žmonėms. Kol klausimas pasiekia vadovybę, atsakymas jau yra išsklaidytas po aštuonias sistemas ir vieną žmogų, kuris persikėlė į kitą skyrių.
Rimtos komandos orumo skolą vertina kaip bet kokią kitą veiklos riziką. Jos ją registruoja, įkainoja, priskiria atsakingus asmenis ir nusprendžia, kurie naudojimo atvejai yra blokuojami, kol skola nebus padengta. Jei duomenų rinkinys negali įrodyti savo kilmės, jis neturėtų patekti į didelio poveikio mokymus. Jei atsiėmimo negalima išplatinti, naudojimas turėtų būti ribojamas. Jei išvestinių artefaktų negalima atsekti, modelis neturėtų remti svarbių sprendimų. Jei etiketės buvo sukurtos vadovaujantis prastomis instrukcijomis, vertinimas neturėtų būti naudojamas kaip teisingumo liudijimas. Tai nuobodu geriausia prasme. Nuobodumas yra tai, kaip suaugusieji laiko tiltus.
Yra pagunda išspręsti orumo skolą didžiule platforma. Platformos gali padėti, tačiau pirmasis žingsnis paprastai yra mažesnis ir drausmingesnis: atsisakyti nežinomų duomenų juos priimant, atskirti paskirtį nuo saugojimo, fiksuoti kilmę transformacijų ribose, išlaikyti teises prie išvestinių duomenų ir padaryti ištrynimą patikrinamą. Sistema, kuri negali užtikrintai ištrinti, negali sąžiningai teigti gerbianti atsiėmimą. Ji gali tik teigti, kad tikisi, jog duomenys tapo drovūs.
Išvestiniai duomenys vis tiek yra duomenys
Dirbtinis intelektas apsunkina duomenų orumą, nes sukuria išvestinius duomenis, kurie atrodo nekal tai. Dokumentas tampa fragmentu. Fragmentas tampa įterptimi. Pokalbis su palaikymo tarnyba tampa santrauka. Klinikinis įrašas tampa etikete. Paieškos užklausa tampa analitikos įvykiu. Modelio atsakymas tampa nauju įrašu. Žmogaus pataisa tampa papildomais mokymo duomenimis. Kiekvienas artefaktas gali prarasti pirminę formą, tačiau išlaikyti pakankamai reikšmės, kad būtų svarbus. Kaukė keičiasi. Prievolė gali likti.
Įterptys yra geras pavyzdys, nes jas lengva suprasti klaidingai. Jos nėra skaitomas tekstas, todėl žmonės elgiasi taip, tarsi orumas būtų išgaravęs. Tačiau įterptis vis tiek gali atskleisti panašumą, narystę, jautrius duomenų telkinius ar verslo kontekstą. Ji gali padėti atkurti ar numanyti faktus. Ji gali perteikti šališkų etikečių pasekmes. Ji gali išlikti net ir ištrynus šaltinį. Vadinti ją vektoriumi nereiškia, kad ji socialiai nesvari. Daugelis dalykų gyvenime atrodo nekenksmingi, kai užrašomi dešimtainėmis trupmenomis. Pavyzdžiui, banko sąskaitų likučiai.
Išvestiniams duomenims reikia paveldėjimo taisyklių. Kurios prievolės pereina iš šaltinio į fragmentą, vektorių, talpyklą, santrauką, požymį, užklausų žurnalą, vertinimo pavyzdį ir modelio išvestį. Kurie išvestiniai duomenys turi būti ištrinti, kai ištrinamas šaltinis. Kuriuos galima išlaikyti, nes jie pakankamai apibendrinti arba teisiškai nepriklausomi. Kuriems reikia atskiro sutikimo. Kurie yra savarankiški įrašai. Be paveldėjimo taisyklių kiekviena vėlesnė sistema gali improvizuoti orumą. Improvizacija žavi džiaze. Duomenų valdyme ji dažnai sukuria posėdžių protokolus.
Šios paveldėjimo taisyklės turėtų būti suprojektuotos prieš renkant duomenis, o ne po pirmojo modelio paleidimo. Tikslas nėra sustabdyti inovacijas. Tikslas yra suteikti inovacijoms pagrindą. Inžinieriai gali dirbti greičiau, kai žino, kurie išvestiniai duomenys leidžiami, kurioms riboms reikia peržiūros ir kokie metaduomenys turi keliauti kartu. Tyrėjai gali tyrinėti nepavertę kiekvieno eksperimento teisiniu seansu. Vartotojai ir duomenų subjektai gauna svarbesnę naudą: institucija gali paaiškinti, kas nutiko jų duomenims, nesikonsultuodama su padavimais.
Modelis yra pavėluotas liudytojas
Kai dirbtinio intelekto sistema elgiasi blogai, tyrimas dažnai pirmiausia žiūri į modelį. Tai suprantama. Modelis yra matomas, brangus ir įtikinamai klysta taip, kad gaunasi geros ekrano nuotraukos. Tačiau modelis dažnai yra pavėluotas liudytojas ankstesniems sprendimams. Jis atspindi duomenų rinkimo, žymėjimo, atmetimo, valymo, saugojimo ir vertinimo pasirinkimus. Prašyti tik modelio tapti oriu yra tas pats, kas prašyti paskutinio estafetės bėgiko pagerinti lazdelę.
Modelių kortelės, auditai, vertinimai, raudonosios komandos pratybos ir paaiškinamumo įrankiai yra svarbūs. Jie yra orumo istorijos dalis, ypač kai sistemos veikia žmones. Tačiau jie negali atkurti leidimo, kuris niekada nebuvo gautas, konteksto, kuris buvo išmestas, ar kilmės, kuri nebuvo užfiksuota. Jie gali atskleisti spragą. Jie negali padaryti spragos morališkai tvarkingos. Todėl ankstyvos kontrolės nėra biurokratija. Jos yra sąlygos, dėl kurių vėlesnė atskaitomybė tampa daugiau nei teatras.
Tas pats pasakytina apie sąžiningumą. Sąžiningumo peržiūra po mokymo gali nustatyti nevienodus klaidų rodiklius, trūkstamas grupes, pakaitinius kintamuosius ar žalingas ribas. Ji ne visada gali nustatyti, ar duomenų rinkinyje žmonės buvo praleisti rinkimo metu, ar etiketės atspindėjo institucinį išankstinį nusistatymą, ar laukas visose vietose reiškė tą patį, ar sutikimo taisyklė atfiltravo imtį taip, kad pasikeitė populiacija. Sąžiningumas be duomenų orumo yra darbas su veidrodžiu, kuris galėjo būti išlenktas gamybos metu.
Taip pat yra praktinis pranašumas pradėti anksti: kuo anksčiau orumo taisyklė patenka į vamzdyną, tuo pigiau ją įgyvendinti. Atmestas įrašas priėmimo metu kainuoja nedaug. Duomenų rinkinys, izoliuotas prieš mokymą, kainuoja daugiau. Modelis, atšauktas iš gamybos, kainuoja gerokai daugiau. Viešas pasitikėjimo praradimas kainuoja tiek, kiek finansai nurašo, kai visi nustoja apsimetinėti, kad tai tik komunikacija. Orumas dažnai apibūdinamas kaip etikos pridėtinės išlaidos. Rimtose sistemose jis pigesnis nei valymas.
Priežiūra yra tikras darbas
Duomenų orumui reikia prižiūrėtojų, o ne talismanų. Prižiūrėtojas nėra asmuo, kurio vardas rodomas skaidrėje, kad valdymo diagrama turėtų žmogišką veidą. Prižiūrėtojas turi įgaliojimus atsakyti, ar duomenų rinkinys gali būti naudojamas, blokuoti rizikingą tikslą, reikalauti metaduomenų, tvirtinti saugojimą, tvarkyti atšaukimą ir paaiškinti sprendimą auditoriams bei paveiktiems žmonėms. Be įgaliojimų priežiūra tampa dekoratyvine. Dekoratyvinį valdymą lengva pastebėti, nes jame yra daug komitetų ir labai mažai veiksmažodžių.
Prižiūrėtojui taip pat reikia techninių svertų. Jie turi matyti informacines suvestines, rodančias kilmę ir naudojimą, o ne tik saugyklos apimtį. Jiems reikia įspėjimų, kai duomenų rinkinys pakartotinai naudojamas ne pagal paskirtį. Jiems reikia susitarimų su inžinerijos komandomis dėl reikalaujamų metaduomenų. Jiems reikia išbandyto ištrynimo kelio. Jiems reikia būdo pažymėti neapibrėžtumą, nestebint, kaip vamzdynas tyliai paverčia jį „taip“. Jiems reikia pakankamo biudžeto orumo skolai ištaisyti, kol ji netampa antrašte. Tai darbas, o ne dorybės etiketė.
Gera priežiūra yra bendradarbiavimu pagrįsta. Teisės skyrius supranta įgaliojimus. Saugumas supranta prieigą. Duomenų inžinieriai supranta judėjimą. Srities ekspertai supranta prasmę. Produktų komandos supranta numatytą naudojimą. Tyrėjai supranta neapibrėžtumą. Operacijų skyrius supranta, kas vyksta trečią valandą nakties. Duomenų orumas žlunga, kai viena iš šių perspektyvų paskelbiama visos problemos savininke, o visi kiti grįžta prie savo informacinių suvesčių. Įrašas keliauja per funkcijas; taip pat turi keliauti ir atsakomybė.
Čia yra žmogiškojo kuklumo. Duomenų orumas nereikalauja, kad organizacija žinotų viską. Jis reikalauja, kad organizacija žinotų, ką žino, ko nežino, kas gali nuspręsti ir kur taikomos ribos. Tai mažiau patrauklu nei strategijos pristatymas apie atsakingą dirbtinį intelektą. Tačiau didesnė tikimybė, kad tai išliks susidūrus su tikru importavimo darbu.
Kaip orumas atrodo infrastruktūroje
Duomenų orumo infrastruktūra nėra mistiška. Ji atrodo kaip šaltinių registrai, paskirties žymės, sutikimo būsenos, duomenų sutartys, kilmės įvykiai, prieigos apimtys, saugojimo užduotys, ištrynimo įrodymai, etikečių gairės, duomenų rinkinių versijos, vertinimo registrai ir peržiūros eilės. Jei tas sąrašas skamba paprastai, puiku. Patikimiausios etinės sistemos dažnai primena vamzdyną. Jos pastebimos tik tada, kai kažkas pamiršo jas įrengti.
Priimant įrašą, jis turėtų atvykti su deklaruotu šaltiniu, paskirtimi, teisiniu pagrindu arba leidimo būsena, jautrumo klase ir stewardu. Transformacijos metu sistema turėtų išduoti kilmės įvykius ir išsaugoti atitinkamus apribojimus. Naudojimo metu vykdymo laikas turėtų patikrinti, ar paskirtis atitinka. Saugojimo metu saugojimas ir ištrynimas turėtų būti įvykdomi, o ne tik deklaruojami. Vertinimo metu pavyzdžiai turėtų turėti kilmę ir atrankos logiką. Peržiūros metu paveikti žmonės ir vidaus operatoriai turėtų turėti kelią užginčyti netinkamą naudojimą. Nė vienam iš to nereikia apsimesti, kad visi duomenys yra šventi. Reikia pripažinti, kad duomenys turi gyvenimą.
Svarbiausias dizaino sprendimas yra padaryti nežinoma pirmos klasės būsena. Nežinoma nėra taip. Nežinoma nėra nekenksminga. Nežinoma yra signalas klausti, izoliuoti, apriboti arba atsisakyti. Daugelis orumo nesėkmių įvyksta todėl, kad sistemos yra alergiškos neapibrėžtumui. Jos renkasi tvarkingą loginę reikšmę net tada, kai realus pasaulis jos nepateikė. Taip tušti langeliai tampa leidimais. Orumo sistema leidžia neapibrėžtumui sulėtinti dalykus. Mašina susitvarkys. Ji nebuvo pakviesta pietų dėl savo jausmų.
Nėra tobulos orumo architektūros. Yra geresni numatytieji nustatymai ir blogesni numatytieji nustatymai. Geresni numatytieji nustatymai laiko kontekstą arti, skleidžia apribojimus, fiksuoja judėjimą, reikalauja aiškaus antrinio naudojimo ir leidžia atšaukti. Blogesni numatytieji nustatymai išlygina paskirtį, laisvai kopijuoja, pasitiki visais, ištrina tik pagal politiką ir atranda įsipareigojimus tada, kai tai padaro audito kalendorius. Pasirinkimas nėra tarp inovacijų ir orumo. Pasirinkimas yra tarp sistemų, kurios prisimena, ką yra skolingos, ir sistemų, kurios tikisi, kad niekas nepaklaus.
Pamoka
Duomenų orumas dažnai aptariamas kaip didingas principas, bet jis tampa realus mažuose techniniuose sprendimuose, priimtuose prieš atsirandant modeliui. Ką reikia žinoti priimant įrašą. Kurie nežinomieji sustabdo srautą. Kurios teisės keliauja su išvestiniais duomenimis. Kurie kontekstai išsaugomi. Kurios paskirtys leidžiamos. Kurie stewardai gali pasakyti ne. Kuriuos ištrynimus galima įrodyti. Tie pasirinkimai nustato, ar vėlesnis modelis gali būti atskaitingas, ar tik iškalbingas.
The respectful path is not anti-data and not anti-AI. It is pro-memory. It insists that records carry enough origin, permission, context, and obligation to remain connected to the people and institutions that produced them. A model trained on such data has a better chance of being useful without becoming extractive by accident. A model trained without those foundations may still be impressive. So is a building with no foundation for a short and exciting period.
Start before the model. Start at the form, the contract, the schema, the consent state, the label guideline, the retention rule, the derivative policy, and the steward with actual authority. That is where dignity enters the system. Everything after that is either preservation or damage control.