Datu cieņa sākas pirms modeļa
Veidlapa uz nepareizā galda
Diskusija par datu cieņu bieži sākas pārāk vēlu. Tā sākas pēc tam, kad modelis ir apmācīts, pēc tam, kad datu kopa ir nokasīta, apvienota, filtrēta, atdublēta, normalizēta, iestrādāta, novērtēta, iepakota, izvietota un aizstāvēta no kāda no juridiskās nodaļas, kurš nav pietiekami gulējis. Tajā brīdī saruna izklausās morāla, kas ir noderīgi, un arī nedaudz teatrāla, kas ir mazāk noderīgi. Cilvēki jautā, vai modelis ir cienījis cilvēkus, kas stāv aiz datiem. Godīgā atbilde parasti ir tāda, ka modelim nekad netika dota iespēja. Lēmums tika pieņemts mēnešiem agrāk, uz veidlapas, kuru neviens nevēlējās uzņemties.
Es reiz redzēju veselības aprūpes pētniecības komandu, kas to atklāja sanāksmē, kurai vajadzēja būt par modeļa kvalitāti. Modelis nebija problēma. Problēma bija maza ievades kolonna ar nosaukumu atkārtota izmantošana atļauta. Tai bija trīs iespējamās vērtības: jā, nē un tukšs. Tukšs nozīmēja, ka neviens nezināja. Eksporta caurulē tukšs tika traktēts kā jā, jo citādi eksperiments būtu bijis neērts. Tā nebija ļaunprātība. Pārvaldības ziņā tas bija sliktāk: tas bija noklusējums. Klusākais lauks izklājlapā bija ar lielāku autoritāti nekā ētikas padome.
Komanda varēja pārkvalificēt, atvainoties, dokumentēt un uzlabot. Bet cieņas problēma nesākās neironu tīklā. Tā sākās, kad ieraksts ieradās bez skaidra mērķa, bez pārziņa, bez saglabāšanas noteikuma, bez veida, kā saglabāt atsaukšanu, un bez tehniskā līguma, kas atteiktos no nenoteiktības. Modelis tikai padarīja agrāko necieņu ātrāku. Mašīnām bieži pārmet, ka tās ir aukstas, bet daudzus aukstākos lēmumus pieņem silti cilvēki, kuri noklikšķina importēt.
Datu cieņa sākas pirms modeļa, jo dati kļūst politiski brīdī, kad tie tiek vākti. Ieraksts nav tikai rinda. Tas ir cilvēka, uzņēmuma, kopienas, darbavietas, pacienta ceļa, sabiedriskā pakalpojuma, sensoru vides vai profesionāla sprieduma fragments. Izturēties pret šo fragmentu ar cieņu nenozīmē to ietīt sentimentālā valodā. Tas nozīmē saglabāt ap to pietiekami daudz patiesības, lai vēlākas sistēmas nevarētu izlikties, ka tas parādījās no nekurienes.
Piekrišana nav smaržas
Daudzas organizācijas pret piekrišanu izturas kā pret patīkamu smaržu, ko pievieno procesam pēc tam, kad pamatdarbs jau paveikts. Politikā ievieto rindkopu. Portālā pievieno atzīmes lodziņu. Reģistra rindā ieraksta leģitīmo interesi. Visi atviegloti nopūšas, vismaz līdz brīdim, kad kāds jautā, ko modelim patiesībā bija atļauts apgūt. Tad sanāksmes dalībnieki atklāj, ka juridiskā formulējuma un operacionālās atļaujas attiecības ir tādas pašas kā ēdienkartes un vakariņu attiecības. Viens ir solījums. Otrs ir jāpagatavo.
Operacionālajai piekrišanai ir struktūra. Tajā noteikts, kurš mērķis ir atļauts, kuri subjekti drīkst apstrādāt ierakstu, kādas transformācijas ir pieļaujamas, kuri atvasinājumi pārmanto ierobežojumu, cik ilgi ieraksts drīkst pastāvēt, kā tiek risināta atsaukšana un kādi pierādījumi vēlāk apliecina izvēli. Ja šīs daļas nav pietiekami mašīnlasāmas, lai ietekmētu datu apstrādes plūsmu, tās nav piekrišana mākslīgā intelekta sistēmā. Tās ir ar piekrišanas tēmu saistīta dokumentācija. Dokumentācijai ir sava vieta, taču no tās nevajadzētu gaidīt, ka tā ar morālu spēku apturēs pakešuzdevumu.
Tas kļūst īpaši svarīgi, kad dati no sava sākotnējā mērķa nonāk apmācībā, izguvē, novērtēšanā, uzraudzībā vai produktu analītikā. Pašvaldībā iesniegta sūdzība var noderēt klasifikatora uzlabošanai. Klīniskā piezīme var noderēt simptomu izgūšanai. Klientu atbalsta sarunas stenogramma var noderēt tērzēšanas robotam. Noderīgums nerada cieņu. Tas rada kārdinājumu. Cieņas jautājums ir, vai jaunais mērķis tika deklarēts, vai iesaistītās personas un institūcijas to varēja pamatoti sagaidīt un vai sistēma spēj īstenot atbildi brīdī, kad dati kļūst ērti izmantojami.
Piekrišana arī noveco. Pirms pieciem gadiem ievākti ieraksti var būt tapuši, balstoties uz pieņēmumiem, kas vairs neatbilst pašreizējai praksei. Persona var būt atsaukusi piekrišanu. Līgums var būt beidzies. Datu apmaiņas līgums var būt atļāvis analīzi, bet ne modeļa apmācību. Lauks var būt anonimizēts pietiekami labi pārskatam, bet ne pietiekami labi iegultņu indeksam, kuru radoši darbinieki var vaicāt visu dienu. Vecu atļauju nevajadzētu uztvert kā ievārījuma burku skapja dziļumos. Datumam ir nozīme.
Konteksts ir tehniska īpašība
Pastāv slinks ieradums nošķirt datus no konteksta, it kā konteksts būtu mīksts un dati cieti. Reālās sistēmās bieži ir pretēji. Datu vērtība var būt skaitlis, kods, nosaukums, laikspiedols vai teksta lauks. Tās nozīme ir atkarīga no ievākšanas metodes, mērvienības, tvēruma, nenoteiktības, avota ticamības, izslēgšanas noteikumiem, valodas, trūkstošajām vērtībām un situācijas, kurā tā reģistrēta. Ja to visu noņem, dati nekļūst neitrāli. Tie kļūst pārlieku pašpārliecināti.
Sensoru rādījums no tilta nav tikai vibrācija. Tā ir vibrācija no konkrētas ierīces, kalibrēta konkrētā datumā, uzstādīta konkrētā vietā, mērīta konkrētos laikapstākļos, paraugota ar konkrētu frekvenci un interpretēta, ņemot vērā apkopes vēsturi. Maksājuma ieraksts nav tikai summa. Tas atrodas līguma, norēķinu procesa, krāpšanas modeļa, valūtas konvencijas un cilvēka ieraduma ievadīt komatus tur, kur bija jābūt decimāldaļām, kontekstā. Modelis, iespējams, redz tikai žetonus vai vektorus, bet institūcija joprojām ir atbildīga par trūkstošajiem lietvārdiem.
Tādēļ datu cieņa prasa konteksta saglabāšanu kā inženiertehnisku prasību. Shēmas aprakstiem jābūt versijām. Avota sistēmas jānosauc. Transformācijas jāreģistrē. Trūkstošās vērtības jānošķir no nullēm, atteikumiem, nezināmām vērtībām un neattiecināmiem stāvokļiem. Etiķetēm jānorāda, kurš tās izveidojis, saskaņā ar kādām vadlīnijām un ar kādām domstarpībām. Novērtēšanas piemēriem jānorāda, kāpēc tie atlasīti. Datu kopa bez konteksta nav izejmateriāls. Tā ir baumas tabulas formā.
Šis nav aicinājums uz bezgalīgu metadatu. Bezgalīgi metadati ir tas, kā labas idejas dodas pensijā uz katalogu, kuru neviens neatver. Būtība ir selektīvi, operatīvi metadati: konteksts, kas vajadzīgs, lai izlemtu, vai ierakstu drīkst izmantot, vai tas joprojām nozīmē to, ko sistēma domā, ka tas nozīmē, un vai vēlāk kāds var apstrīdēt rezultātu. Cieņa neprasa visus faktus par ierakstu. Tā prasa faktus, kas neļauj ierakstam kļūt svešam pašam sev.
Cieņas parāds
Tehniskais parāds ir pazīstams, jo inženieri to redz būvēs, incidentos, lēnās izmaiņās un mazos lāstos, kas ierakstīti commit ziņojumos. Datu cieņas parāds ir klusāks. Tas uzkrājas, kad izcelsme ir neskaidra, atļauja ir neviennozīmīga, konteksts tiek zaudēts, saglabāšana tiek ignorēta, etiķetes nav dokumentētas, piekļuve ir pārāk plaša vai atvasinātie dati tiek uzskatīti par nekaitīgiem, jo tie vairs neizskatās pēc avota. Parāds var nesalauzt testu. Tas gaida sūdzību, revīziju, strīdu, kaitīgu izvadi vai pacietīgu žurnālistu.
Bīstamā lieta cieņas parādā ir tā, ka tas pieaug caur lietderību. Datu kopa, kas ir ērta, tiek kopēta. Kopētā datu kopa kļūst par feature store. Feature store baro modeli. Modeļa izvade kļūst par ierakstu. Ieraksts kļūst par apmācības atgriezenisko saiti. Katrs solis šķiet praktisks. Katrs solis arī apgrūtina atbildi uz sākotnējo jautājumu: ko mums bija atļauts darīt ar šiem datiem un ko mēs bijām parādā cilvēkiem, kas aiz tiem stāv. Līdz brīdim, kad jautājums sasniedz vadību, atbilde jau ir izkliedēta pa astoņām sistēmām un vienu cilvēku, kurš ir pārcēlies uz citu nodaļu.
Nopietnas komandas izturas pret cieņas parādu kā pret jebkuru citu operacionālo risku. Tās to reģistrē, novērtē, piešķir atbildīgos un izlemj, kuri lietojumi ir bloķēti, līdz parāds ir nomaksāts. Ja datu kopa nevar pierādīt izcelsmi, tai nevajadzētu nonākt augstas ietekmes apmācībā. Ja atsaukšanu nevar izplatīt, lietojums būtu jāierobežo. Ja atvasinātos artefaktus nevar izsekot, modelim nevajadzētu atbalstīt nozīmīgus lēmumus. Ja etiķetes tika izveidotas sliktas vadības apstākļos, novērtējumu nevajadzētu izmantot kā taisnīguma sertifikātu. Tas ir garlaicīgi vislabākajā nozīmē. Garlaicība ir tas, kā pieaugušie notur tiltus.
Pastāv kārdinājums atrisināt cieņas parādu ar grandiozu platformu. Platformas var palīdzēt, bet pirmais solis parasti ir mazāks un disciplinētāks: noraidīt nezināmos uzņemšanas brīdī, nošķirt mērķi no glabāšanas, reģistrēt izcelsmi transformācijas robežās, saglabāt tiesības piesaistītas atvasinājumiem un padarīt dzēšanu pārbaudāmu. Sistēma, kas nevar dzēst ar pārliecību, nevar godīgi apgalvot, ka tā ir ievērojusi atsaukšanu. Tā var tikai apgalvot, ka tā cer, ka dati ir kļuvuši kautrīgi.
Atvasinātie dati joprojām ir dati
Mākslīgais intelekts apgrūtina datu cieņas ievērošanu, jo tas rada atvasinājumus, kas izskatās nekaitīgi. Dokuments kļūst par fragmentu. Fragments kļūst par iegulšanu. Atbalsta saruna kļūst par kopsavilkumu. Klīniskā piezīme kļūst par etiķeti. Meklēšanas vaicājums kļūst par analītikas notikumu. Modeļa atbilde kļūst par jaunu ierakstu. Cilvēka labojums kļūst par pastiprināšanas datiem. Katrs artefakts var zaudēt oriģināla formu, vienlaikus saglabājot pietiekami daudz nozīmes, lai tam būtu nozīme. Maska mainās. Pienākums var palikt.
Iegulšanas ir labs piemērs, jo tās ir viegli pārprast. Tās nav lasāms teksts, tāpēc cilvēki izturas pret tām tā, it kā cieņa būtu iztvaikojusi. Taču iegulšana joprojām var atklāt līdzību, piederību, jutīgu grupējumu vai biznesa kontekstu. Tā var palīdzēt rekonstruēt vai secināt faktus. Tā var nest neobjektīvu etiķešu sekas. Tā var saglabāties pēc tam, kad avots ir dzēsts. To saukt par vektoru nepadara to sociāli bezsvara. Daudzas lietas dzīvē izskatās nekaitīgas, ja tās raksta kā decimāldaļas. Piemēram, bankas atlikumi.
Atvasinātajiem datiem ir nepieciešami mantojuma noteikumi. Kuri pienākumi seko no avota līdz fragmentam, vektoram, kešatmiņai, kopsavilkumam, pazīmei, uzvedņu žurnālam, novērtējuma paraugam un modeļa izvadei. Kuri atvasinājumi ir jādzēš, kad avots tiek dzēsts. Kuri var tikt saglabāti, jo tie ir pietiekami apkopoti vai juridiski neatkarīgi. Kuriem nepieciešama atsevišķa piekrišana. Kuri ir ieraksti paši par sevi. Bez mantojuma noteikumiem katra pakārtotā sistēma var improvizēt cieņu. Improvizācija ir burvīga džezā. Datu pārvaldībā tā bieži rada sanāksmju protokolus.
Šie mantojuma noteikumi būtu jāizstrādā pirms datu vākšanas, nevis pēc pirmās modeļa palaišanas. Mērķis nav iesaldēt inovāciju. Mērķis ir dot inovācijai pamatu. Inženieri var strādāt ātrāk, ja viņi zina, kuri atvasinājumi ir atļauti, kuras robežas prasa pārskatīšanu un kādiem metadatiem ir jāceļo līdzi. Pētnieki var izpētīt, nepārvēršot katru eksperimentu par juridisku seansu. Lietotāji un datu subjekti iegūst svarīgāku ieguvumu: iestāde var izskaidrot, kas noticis ar viņu datiem, nepaļaujoties uz folkloru.
Modelis ir vēlīns liecinieks
Kad MI sistēma uzvedas slikti, izmeklēšana bieži vispirms skatās uz modeli. Tas ir saprotami. Modelis ir redzams, dārgs un pārliecinoši nepareizs tādā veidā, kas rada labus ekrānuzņēmumus. Taču modelis bieži ir vēlīns liecinieks agrākiem lēmumiem. Tas atspoguļo vākšanas izvēles, marķēšanas izvēles, izslēgšanas izvēles, tīrīšanas izvēles, saglabāšanas izvēles un novērtēšanas izvēles. Prasīt tikai modelim kļūt cienīgam ir kā prasīt pēdējam cilvēkam stafetes skrējienā uzlabot stafetes kociņu.
Modeļu kartes, auditi, vērtējumi, sarkanās komandas vingrinājumi un izskaidrojamības rīki ir svarīgi. Tie ir daļa no cieņas stāsta, īpaši tad, ja sistēmas ietekmē cilvēkus. Taču tie nevar atgūt atļauju, kas nekad netika iegūta, kontekstu, kas tika izmests, vai izcelsmi, kas netika reģistrēta. Tie var atklāt plaisu. Tie nevar padarīt plaisu morāli sakoptu. Tāpēc agrīna kontrole nav birokrātija. Tā ir nosacījums, kas vēlāku atbildību padara par kaut ko vairāk nekā teātri.
Tas pats attiecas uz taisnīgumu. Taisnīguma pārskats pēc apmācības var atklāt nevienlīdzīgus kļūdu rādītājus, trūkstošas grupas, aizstājējmainīgos vai kaitīgus sliekšņus. Tas ne vienmēr var noteikt, vai datu kopa izslēdza cilvēkus jau vākšanas posmā, vai etiķetes atspoguļoja institucionālu aizspriedumu, vai lauks visās vietās nozīmēja vienu un to pašu, vai arī piekrišanas noteikums filtrēja izlasi tā, ka mainījās populācija. Taisnīgums bez datu cieņas ir darbs ar spoguli, kas, iespējams, tika saliekts jau ražošanas laikā.
Agrīnai sākšanai ir arī praktiska priekšrocība: jo agrāk cieņas noteikums nonāk cauruļvadā, jo lētāk to ievērot. Ieraksts, kas tiek atteikts ievades posmā, maksā maz. Datu kopa, kas tiek karantīnā pirms apmācības, maksā vairāk. Modelis, kas tiek izņemts no ražošanas, maksā daudz vairāk. Publisks uzticības zaudējums maksā tik, cik finanšu nodaļa noraksta pēc tam, kad visi pārstāj izlikties, ka tas ir tikai komunikācijas jautājums. Cieņa bieži tiek raksturota kā ētiskas pieskaitāmās izmaksas. Nopietnās sistēmās tā ir lētāka nekā tīrīšana.
Aizbildnība ir īsts darbs
Datu cieņai ir vajadzīgi aizbildņi, nevis talismani. Aizbildnis nav cilvēks, kura vārds parādās slaidā, lai pārvaldības diagrammai būtu cilvēka seja. Aizbildnim ir pilnvaras izlemt, vai datu kopu drīkst izmantot, bloķēt riskantu mērķi, pieprasīt metadatus, apstiprināt glabāšanu, veikt izņemšanu un izskaidrot lēmumu auditoriem un ietekmētajiem cilvēkiem. Bez pilnvarām aizbildnība kļūst dekoratīva. Dekoratīvu pārvaldību ir viegli pamanīt, jo tajā ir daudz komiteju un ļoti maz darbības vārdu.
Aizbildnim ir vajadzīga arī tehniskā svira. Viņiem ir vajadzīgi informācijas paneļi, kas parāda izcelsmi un lietojumu, nevis tikai glabāšanas apjomu. Viņiem ir vajadzīgi brīdinājumi, kad datu kopa tiek atkārtoti izmantota ārpus tās mērķa. Viņiem ir vajadzīgi līgumi ar inženieru komandām par obligātajiem metadatiem. Viņiem ir vajadzīgs dzēšanas ceļš, kas ir pārbaudīts. Viņiem ir vajadzīgs veids, kā atzīmēt nenoteiktību, neļaujot cauruļvadam to klusi pārvērst par apstiprinājumu. Viņiem ir vajadzīgs pietiekams budžets, lai novērstu cieņas parādu, pirms tas kļūst par virsrakstu. Tas ir darbs, nevis tikumu apliecinoša etiķete.
Laba aizbildnība ir sadarbīga. Juristi saprot pilnvaras. Drošība saprot piekļuvi. Datu inženieri saprot kustību. Nozares eksperti saprot nozīmi. Produktu komandas saprot paredzēto lietojumu. Pētnieki saprot nenoteiktību. Operatīvais dienests saprot, kas notiek trijos naktī. Datu cieņa cieš neveiksmi, kad viena no šīm perspektīvām tiek pasludināta par visas problēmas īpašnieci un visi pārējie atgriežas pie saviem paneļiem. Ieraksts ceļo pāri funkcijām; tāpat jāceļo arī atbildībai.
Šajā ziņā ir cilvēcisks pieticīgums. Datu cieņa neprasa, lai organizācija zinātu visu. Tā prasa, lai organizācija zinātu, ko tā zina, ko tā nezina, kam ir tiesības izlemt un kur tiek piemēroti ierobežojumi. Tas ir mazāk krāšņi nekā stratēģijas prezentācija par atbildīgu mākslīgo intelektu. Taču tas, visticamāk, izdzīvos saskarē ar īstu importēšanas darbu.
Kā cieņa izskatās infrastruktūrā
Datu cieņas infrastruktūra nav nekas mistisks. Tā izskatās kā avotu reģistri, mērķa birkas, piekrišanas stāvokļi, datu līgumi, izcelsmes notikumi, piekļuves tvērumi, saglabāšanas darbi, dzēšanas pierādījumi, birku vadlīnijas, datu kopu versijas, vērtēšanas reģistri un pārskatīšanas rindas. Ja šis saraksts izklausās vienkāršs, labi. Uzticamākās ētikas sistēmas bieži atgādina santehniku. Tās pamana tikai tad, kad kāds aizmirsis tās ierīkot.
Uzņemšanas brīdī ierakstam vajadzētu nonākt ar deklarētu avotu, mērķi, juridisko pamatu vai atļaujas stāvokli, jutīguma klasi un stewardu. Pārveidošanas laikā sistēmai vajadzētu ģenerēt izcelsmes notikumus un saglabāt būtiskos ierobežojumus. Lietošanas laikā izpildvidei vajadzētu pārbaudīt, vai mērķis sakrīt. Glabāšanas laikā saglabāšanai un dzēšanai jābūt izpildāmai, nevis tikai iecerētai. Vērtēšanas laikā piemēriem vajadzētu nest līdzi izcelsmi un atlases loģiku. Pārskatīšanas laikā skartajiem cilvēkiem un iekšējiem operatoriem vajadzētu būt ceļam, kā apstrīdēt ļaunprātīgu izmantošanu. Nekas no tā neprasa izlikties, ka visi dati ir svēti. Tas prasa atzīt, ka datiem ir dzīve.
Vissvarīgākais dizaina solis ir padarīt nezināmo par pirmšķirīgu stāvokli. Nezināmais nav jā. Nezināmais nav nekaitīgs. Nezināmais ir signāls jautāt, karantīnēt, ierobežot vai atteikt. Daudzas cieņas kļūmes notiek tāpēc, ka sistēmas nepanes nenoteiktību. Tās dod priekšroku kārtīgam Būla mainīgajam pat tad, ja reālā pasaule tādu nav sniegusi. Tā tukšas šūnas kļūst par atļaujām. Cienīga sistēma ļauj nenoteiktībai palēnināt procesu. Iekārta tiks galā. Tā netika aicināta pusdienās savu jūtu dēļ.
Ideālas cieņas arhitektūras nav. Ir labāki un sliktāki noklusējumi. Labāki noklusējumi tur kontekstu tuvu, izplata ierobežojumus, reģistrē kustību, pieprasa skaidru sekundāro izmantošanu un padara iespējamu atsaukšanu. Sliktāki noklusējumi saplacina mērķi, kopē brīvi, uzticas visiem, dzēš tikai saskaņā ar politiku un atklāj pienākumus tad, kad audits to paredz. Izvēle nav starp inovāciju un cieņu. Izvēle ir starp sistēmām, kas atceras, ko tās ir parādā, un sistēmām, kas cer, ka neviens nejautās.
Mācība
Par datu cieņu bieži runā kā par lielu principu, bet tā kļūst īsta mazos tehniskos lēmumos, kas pieņemti pirms modeļa parādīšanās. Kas jāzina uzņemšanas brīdī. Kuri nezināmie aptur plūsmu. Kuras tiesības ceļo līdzi atvasinājumiem. Kuri konteksti tiek saglabāti. Kuri mērķi ir atļauti. Kuri stewardi var pateikt nē. Kuras dzēšanas var pierādīt. Šīs izvēles nosaka, vai vēlāks modelis var būt atbildīgs vai tikai daiļrunīgs.
The respectful path is not anti-data and not anti-AI. It is pro-memory. It insists that records carry enough origin, permission, context, and obligation to remain connected to the people and institutions that produced them. A model trained on such data has a better chance of being useful without becoming extractive by accident. A model trained without those foundations may still be impressive. So is a building with no foundation for a short and exciting period.
Start before the model. Start at the form, the contract, the schema, the consent state, the label guideline, the retention rule, the derivative policy, and the steward with actual authority. That is where dignity enters the system. Everything after that is either preservation or damage control.