Rozdiel medzi súkromím a odstupom
Izba na konci chodby
Najjasnejšie ponaučenie o súkromí, aké som kedy videl, neprišlo z právneho memoranda. Prišlo z zdravotnej kliniky s dvoma čakárňami, jedným obyčajným stolom a chodbou, ktorá vyzerala, akoby ju navrhol niekto, kto veril, že rozpaky by sa mali šíriť v priamych líniách. Pacienti sa zaregistrovali na recepcii, prešli popri rade stoličiek a potom si sadli pred ordinačnú miestnosť s papiermi na kolenách. Záznamy neboli online. Klinika bola na to hrdá. Všetko dôležité bolo v skriniach, šanónoch a na lokálnom počítači, ktorý vydával zvuk ako unavená chladnička.
Na papieri boli údaje blízko. Zostali vo vnútri budovy. Žiadny zahraničný cloud, žiadny vzdialený dashboard, žiadny panel analytiky od dodávateľa. Napriek tomu bolo súkromie slabé na bežných miestach, kde ľudia skutočne žijú. Mená sa vyslovovali cez celú miestnosť. Odporúčacie listy ležali textom nahor vedľa tlačiarne. Sestra si požičala prihlasovacie údaje kolegu, pretože systém zmien bol pomalší ako chrípková sezóna. Dvere archívu boli zamknuté, okrem prípadov, keď boli podopreté škatuľou tonera, pretože niekto musel rýchlo presúvať súbory. Vzdialenosť bola dosiahnutá. Súkromie nie.
Toto je rozdiel, ktorý neustále mätie digitálnu politiku. Vzdialenosť sa týka toho, kde sa údaje, výpočtový výkon, ľudia, kľúče a systémy nachádzajú vo vzájomnom vzťahu. Súkromie sa týka toho, čo môže byť známe, komu, na aký účel, za akých obmedzení, s akým dôkazom, ako dlho a s akým nápravným opatrením, keď je odpoveď nesprávna. Vzdialenosť môže podporovať súkromie. Môže znížiť expozíciu, znížiť latenciu, zjednodušiť kontrolu a udržať niektoré právomoci blízko inštitúcie. Ale vzdialenosť je súradnica, nie morálna vlastnosť. Súbor v tej istej miestnosti môže byť zneužitý. Vzdialený proces môže byť prísne obmedzený. Ťažká práca spočíva v tom, vedieť, čo je čo, skôr než niekto povie lokálne, akoby to ukončilo vetu.
Vzdialenosť pôsobí upokojujúco, pretože je viditeľná
Vzdialenosť má oproti súkromiu priateľskú výhodu: dá sa odfotografovať. Môžete ukázať serverovňu. Môžete nakresliť hranicu siete. Môžete ukázať na krajinu, areál, zariadenie, rack, podsiete, skriňu. Nákupným oddeleniam sa to páči, pretože viditeľné kontroly sa pekne hodia do prezentácií. Správnym radám sa to páči, pretože vzdialenosť znie ako rozhodnutie. Používateľom sa to páči, pretože blízkosť pôsobí ľudsky. Na tomto inštinkte nie je nič smiešne. Ľudia sa naučili, často tvrdou cestou, že vzdialenú moc je ťažké spochybniť.
Chyba začína, keď sa viditeľná blízkosť považuje za úplnú ochranu. Databáza v rámci národných hraníc môže byť stále čitateľná správcami inde. Lokálna aplikácia môže stále odosielať telemetriu, ktorá odhaľuje citlivé vzorce. Laptop, ktorý nikdy neopustí kanceláriu, môže stále obsahovať exportované tabuľky v priečinku na stiahnuté súbory s disciplínou stoličky na prádlo tínedžera. Model bežiaci v priestoroch organizácie môže stále odhaliť tréningové údaje prostredníctvom výziev, protokolov, vyrovnávacích pamätí alebo výstupov. Blízkosť znižuje niektoré útočné plochy a zvyšuje niektorú zodpovednosť. Automaticky nerozhoduje o účele, nevyhnutnosti, prístupe, uchovávaní ani spravodlivosti.
Súkromie nie je len stena. Je to súbor fungujúcich povolení a odmietnutí. Pýta sa, či by systém mal pole vôbec zbierať, či je pole stále potrebné, či používateľ rozumie účelu, či sa odvodená funkcia stala citlivou, či ladiaci záznam obsahuje viac, než by mal operátor vidieť, či záloha uchováva údaje po vymazaní, či dotknutá osoba môže napadnúť výsledok a či niekto môže preukázať odpoveď bez prehrabávania sa v folklóre. Na žiadnu z týchto otázok neodpovedá meranie kilometrov.
Súkromie je súbor slovies
Praktickým testom súkromia nie je to, kde stojí server. Je to to, ktoré slovesá môže organizácia vykonávať a ktorým môže zabrániť. Môže odmietnuť žiadosť. Môže skryť pole pred operátorom. Môže oddeliť identitu od obsahu. Môže rotovať kľúče. Môže vymazať primárny záznam a kópie, na ktorých záleží. Môže odhaliť nezvyčajný prístup. Môže vysvetliť, prečo bola osoba zahrnutá do behu modelu. Môže zastaviť opätovné použitie, keď sa zmení súhlas. Môže dokázať, že dodávateľ nedostal viac, než bolo potrebné. Súkromie žije v týchto slovesách.
Preto sa programy súkromia postavené len na politických dokumentoch stávajú divadlom. Politika hovorí, že prístup je obmedzený na oprávnených zamestnancov. Systém hovorí, že všetci v oddelení zdieľajú rolu, pretože návrh rolí sa odložil až po spustení. Politika hovorí, že dáta sa uchovávajú počas stanoveného obdobia. Sklad hovorí, že staré exporty sú stále užitočné na analýzu a nikto nechce rozhnevať dashboard. Politika hovorí, že sa zbierajú len potrebné dáta. Formulár hovorí, že dátum narodenia, pohlavie, PSČ, telefónne číslo, identifikátor zariadenia a voľné textové pole, pretože budúca analytika môže byť zaujímavá. Budúca analytika je očarujúca fráza. Zožrala už nejednu skriňu.
Inžinierstvo súkromia znamená preklad právnych a etických limitov do správania systému. Účel sa stáva pravidlom na úrovni poľa, nie odsekom v PDF. Minimalizácia sa stáva návrhom schémy, predvolenou redakciou a odmietnutím pri vstupe. Prístup sa stáva identitou, rozsahmi, hranicami relácií a preskúmaním. Súhlas sa stáva stavom, ktorý ovplyvňuje smerovanie, oprávnenosť na školenie, analytiku a uchovávanie. Vymazanie sa stáva propagáciou a dôkazom. Súkromie nie je absencia pohybu dát. Je to riadený pohyb, riadený nepohyb a riadená pamäť.
Lokálne môže byť nedbalé
Lokálne systémy sa často obhajujú ako prirodzene súkromné, pretože znižujú závislosť od vzdialenej infraštruktúry. Niekedy je to pravda. Škola, ktorá si vedie poradenské poznámky v prísne spravovanom lokálnom systéme, s vyškoleným personálom, úzkym prístupom, krátkym uchovávaním a bez bežnej analytiky, môže ponúknuť silnejšie súkromie ako všeobecný externý pracovný postup. Továreň, ktorá spracúva údaje zo senzorov na mieste predtým, ako pošle len agregované signály údržby, môže znížiť expozíciu. Telefón, ktorý vykonáva rozpoznávanie reči lokálne, sa môže vyhnúť streamovaniu surového zvuku. Lokalita môže byť nástrojom súkromia, keď mení to, čo odchádza, kto môže kontrolovať a ako rýchlo sa zistí zneužitie.
Aj lokálne systémy majú svoje obľúbené katastrofy. Potichu hnijú. Získavajú spoločné heslá, pretože stará integrácia identít sa nikdy nedostala na rokovanie o rozpočte. Majú zálohy, ktoré nikto netestuje, a exporty, ktorým všetci dôverujú. Sú v kanceláriách, kde je fyzický prístup vyriešený návštevníckym preukazom a optimizmom. Bežia na zastaranom softvéri, pretože dodávateľ odišiel do dôchodku a jediný človek, ktorý databáze rozumie, teraz pracuje tri dni v týždni. Lokálne súkromie môže byť výborné. Lokálne zanedbávanie je stále zanedbávanie, len s kratšími káblami.
To isté platí pre AI pracovné záťaže. Spúšťanie modelu blízko dát môže udržať surové záznamy mimo centrálnej služby. Dobre. Môže však tiež vytvoriť nové odvodené dáta, protokoly, výzvy, vloženia, vyhodnocovacie sady a uložené výstupy, ktoré nikto neklasifikoval. Lokálny vektorový index môže odhaliť citlivé koncepty, aj keď sú pôvodné dokumenty uzamknuté. Malý model doladený na interných prípadoch môže reprodukovať nezvyčajné fakty, ak sú vyhodnocovanie a prístup slabé. Lokálny agent so širokými právami na nástroje môže byť invazívnejší ako vzdialený klasifikátor s prísnymi hranicami. Označenie lokálne by malo začať konverzáciu o súkromí, nie ju ukončiť.
Vzdialené môže byť disciplinované
Tiež je nesprávne tvrdiť, že vzdialenosť vždy ničí súkromie. Vzdialená služba môže byť starostlivo obmedzená. Môže prijímať iba pseudonymizované alebo agregované dáta. Môže spracúvať šifrované alebo tokenizované vstupy na úzky účel. Môže fungovať pod silnými zmluvnými, technickými a audítorskými kontrolami. Môže poskytovať exportovateľné protokoly, kľúče spravované zákazníkom, regionálne zámky, potvrdenia o vymazaní a nezávislé hodnotenia. Môže byť jednoduchšie opraviteľná, monitorovateľná a posilnená ako lokálny server udržiavaný hrdinským človekom so skrutkovačom a kalendárom plným incidentov.
Dôležité slovo je disciplinované. Vzdialené spracúvanie musí byť navrhnuté tak, aby sa vzdialenosť nestala bezmocnosťou. Kto drží kľúče. Ktorí správcovia môžu vidieť obsah. Aké metadáta sa zbierajú. Ktoré podporné cesty existujú. Dajú sa verzie ukotviť. Dajú sa dáta vymazať z odvodených úložísk. Dajú sa protokoly exportovať v užitočnej forme. Je trénovanie modelu povolené alebo zakázané. Môže regulátor alebo audítor preskúmať dôkazy bez toho, aby prijal snímku obrazovky ako sviatosť. Ak sú tieto odpovede vágne, vzdialenosť sa stane strojom na hmlu. Ak sú presné, vzdialenosť môže byť zvládnuteľná.
Ochrana súkromia preto odoláva obom heslám. „Cloud first“ je príliš lenivé. „Local first“ je tiež príliš lenivé, keď sa zastaví pri geografii. Užitočná otázka je „exposure first“: aké údaje sú vystavené, komu, na čo, akou cestou, s akým záložným riešením a s akými dôkazmi. Niekedy je odpoveďou lokálny výpočet. Niekedy je to vzdialený procesor so silnými kontrolami. Niekedy je to žiadny zber údajov, najviac podceňovaná architektúra vo výpočtovej technike a jediná, ktorá nikdy nepotrebuje oznámenie o narušení.
Metadáta sú malé dvere
Ľudia si zvyčajne predstavujú súkromie okolo obsahu: mená, správy, dokumenty, obrázky, klinické záznamy, finančné záznamy. Obsah záleží. Ale vzdialenosť často zlyháva kvôli metadátam, malým dverám, ktoré každý necháva pootvorené, pretože vyzerajú neškodne. Časy prístupu, vyhľadávacie výrazy, lokalizačné signály, identifikátory zariadení, referenčné cesty, názvy dokumentov, výzvy modelov, chybové kódy a počítadlá používania môžu prezradiť viac, než zdvorilý návrhár systému zamýšľal. Služba, ktorá nikdy nedostane úplný záznam, sa stále môže dozvedieť, kedy je človek chorý, úzkostlivý, insolventný, neprítomný, meškajúci, zainteresovaný, vyšetrovaný alebo sa snaží odísť.
Metadáta sú obzvlášť zákerné v systémoch umelej inteligencie, pretože práca vytvára stopy. Protokoly vyhľadávania ukazujú, o čo používateľ požiadal a ktoré dokumenty sa zdali relevantné. Vložené reprezentácie môžu zachovávať sémantické susedstvá. Výzvy môžu obsahovať vložené úryvky. Volania nástrojov odhaľujú zámer. Obmedzenia rýchlosti a záložné cesty odhaľujú vzorce pracovného zaťaženia. Vyhodnocovacie vzorky nesú príklady zo skutočných prípadov. Monitorovanie zhromažďuje zlyhania a zlyhania sú často bohaté na kontext, pretože systém sa snažil vysvetliť sám seba. Nič z toho nie je štandardne zlé. Slepota nie je súkromie. Ale každá stopa potrebuje účel, publikum, dobu uchovávania a stratégiu redakcie.
Vzdialenosť sama o sebe metadáta nerieši. Model bežiaci na lokálnom serveri môže zapisovať podrobné protokoly do centrálnej služby na pozorovanie. Údajne súkromná aplikácia môže posielať správy o zlyhaní so stavom obrazovky. Regionálne nasadenie môže závisieť od globálnej telemetrie identity. Lokálny analytický skript môže vytvárať kópie, ktoré žijú dlhšie ako údaje, ktoré opisujú. Hranica súkromia musí zahŕňať tiene vrhané spracovaním, nielen pôvodný objekt. Inak sú predné dvere zamknuté a denník je zverejnený v protokole prístupu.
Užitočná práca stále potrebuje fakty
Súkromie je niekedy karikované ako umenie povedať nie, kým nič nefunguje. To je zlý opis a, čo je dôležitejšie, nudný. Dobré súkromie udržiava užitočnú prácu možnú tým, že sprístupňuje minimálnu potrebnú cestu. Klinik potrebuje dostatok informácií na liečbu pacienta. Mesto potrebuje dostatok informácií na poskytovanie služby a prevenciu podvodov. Výskumník potrebuje dostatok informácií na zodpovedanie otázky bez toho, aby sa každá budúca otázka stala trvalým nárokom na údaje. Cieľom nie je hladovať systémy o kontext. Cieľom je prestať si mýliť chuť do jedla s nevyhnutnosťou.
Tu môžu vzdialenosť a súkromie spolupracovať. Citlivé údaje môžu zostať blízko zdroja, zatiaľ čo modely cestujú k nim. Surové udalosti môžu byť transformované na lokálne funkcie predtým, ako agregované signály opustia systém. Identifikátory môžu byť oddelené od meraní. Ľudská kontrola sa môže uskutočniť na hranici, kde je kontext potrebný, ale široká replikácia nie. Uchovávanie môže byť kratšie pre surové údaje a dlhšie pre neidentifikujúce dôkazy. Dátový produkt môže vystaviť úzky pohľad namiesto kľúča od skladu. Toto sú dizajnérske kroky, nie pocity. Môžu byť nakreslené, testované, monitorované a vysvetlené.
Vždy ide o kompromis. Ak je dát príliš málo, systémy sa stanú nepoužiteľnými alebo nespravodlivými, pretože nevidia relevantný kontext. Ak je dát príliš veľa, stanú sa rušivými, drahými a neriaditeľnými. Hranica súkromia nie je priamka od utajenia k užitočnosti. Je to súbor rozhodnutí o granularite, umiestnení, agregácii, načasovaní, prístupe a dôkazoch. Vyspelé tímy o tejto hranici diskutujú na príkladoch, nie heslách. Presne vedia, ktoré pole chcú, prečo ho chcú, čo sa stane, ak ho nedostanú, a kedy by malo zmiznúť. Toto je menej efektné ako manifest o súkromí, ale prežije kontakt s databázou.
Súhlas nie je miesto na ukladanie
Súhlas sa často ukladá do tej istej mentálnej zásuvky ako vzdialenosť. Ak používateľ klikol na áno a dáta zostali nablízku, systém pôsobí dôveryhodne. To je príliš málo. Súhlas nie je dekorácia umiestnená na zber dát. Je to trvalé obmedzenie ich používania. Mal by ovplyvňovať, kto dáta dostáva, či sa môžu znovu použiť na analýzy alebo trénovanie, ako dlho sa uchovávajú, ktoré odvodené artefakty sú povolené a čo sa stane, keď ich osoba odvolá alebo namieta. Záznam o súhlase, ktorý nemení správanie systému, nie je súhlas. Je to suvenír.
Skutočný súhlas tiež nie je vždy správnym právnym ani etickým základom. Verejné služby, zamestnanie, zdravotná starostlivosť, bezpečnosť a základná infraštruktúra často zahŕňajú mocenské rozdiely, kde je zaškrtávacie políčko slabou formou dôstojnosti. Otázka súkromia sa stáva ostrejšou: čo je nevyhnutné pre službu, aké alternatívy existujú, ako sa posudzuje proporcionalita a ako môže dotknutá osoba napadnúť zneužitie. Vzdialenosť je tu takmer irelevantná. Nútený miestny formulár je stále nútený. Vzdialený spracovateľ konajúci v rámci prísnych účelových a zákonných limitov môže byť menej invazívny ako miestna kancelária, ktorá žiada všetko, pretože formulár toto pole vždy mal.
Systémy by mali so súhlasom, účelom a právnym základom zaobchádzať ako s prevádzkovými dátami, nie ako s papierovačkou. Mali by byť verzované, pripojené k záznamom a kontrolované dátovými pipeline. Ak dátový súbor nie je oprávnený na trénovanie modelu, trénovacia úloha by mala zlyhať. Ak osoba odvolá voliteľné používanie na analýzy, analytické zobrazenie by ju malo prestať zahŕňať a zaznamenať zmenu. Ak účel vyprší, uchovávanie by si to malo všimnúť. Toto je zdĺhavé tak, ako sú zdĺhavé brzdy. Alternatíva je vzrušujúca len pre ľudí, ktorí si užívajú vyšetrovania.
Inferencia mení hranicu
Súkromie sa kedysi zameriavalo na zozbierané fakty. Systémy umelej inteligencie nás nútia všímať si aj odvodené fakty. Model môže odvodiť riziko tehotenstva, finančnú tieseň, politický záujem, zdravotný stav, pracovný stres, úmysel podať výpoveď alebo zraniteľnosť z údajov, ktoré pri zbere vyzerali menej citlivo. Systém sa nikdy nemusí opýtať na citlivé pole. Môže si ho vyrobiť zo správania. Preto sa minimalizácia nemôže zastaviť pri vstupnom formulári. Musí sledovať transformácie, funkcie, predikcie, rebríčky a vysvetlenia.
Vzdialenosť môže sťažiť rozpoznanie rizika odvodzovania. Miestny tím môže veriť, že nikdy nezdieľa citlivé údaje, pretože surové polia zostávajú interné. Ale ak exportuje skóre, segmenty, príznaky alebo zoradené zoznamy, môže exportovať citlivé závery. Vzdialená analytická služba nemusí nikdy dostať mená, ale ak dostáva stabilné identifikátory a dostatok detailov o správaní, rozdiel medzi anonymným a pacientom sa stáva právnou komédiou so slabým predajom vstupeniek. Hranice súkromia sa musia kresliť okolo významu, nielen okolo bajtov. Význam je nepríjemne prenosný.
Pri umelej inteligencii by sa mal preskúmať súkromia pýtať, aké nové fakty systém vytvára. Ktoré výstupy sa stávajú záznamami. Kto s nimi môže pracovať. Môže ich osoba vidieť alebo napadnúť. Používajú sa na sekundárne účely. Uchovávajú sa dlhšie ako vstupy. Sú spätne použité na trénovanie. Sú dostatočne presné na daný dôsledok. Predikcia môže byť invazívnejšia ako údaje použité na jej vytvorenie. Stroj informácie len nepresunul. Pridal tvrdenie.
Dôkazy sú tichá ochrana
Súkromie zlyháva dvakrát, keď chýbajú dôkazy. Po prvé, škoda môže nastať, pretože systém umožnil príliš veľa zberu, prístupu, opätovného použitia alebo uchovávania. Po druhé, organizácia nemôže dokázať, čo sa stalo, takže dotknutá osoba dostane hmlisté vysvetlenie a ospravedlnenie v tvare procesnej schémy. Dôkazy nie sú sledovanie pre sledovanie. Sú schopnosťou zrekonštruovať cestu od povolenia k činu bez odhalenia väčšieho množstva údajov, než je potrebné.
Dobré dôkazy sú zámerne malé. Zaznamenávajú účel, stav súhlasu alebo právny základ, zdroj, transformáciu, rozhodnutie o prístupe, verziu modelu alebo pravidla, výstup, triedu uchovávania a udalosti výmazu. Používajú haše, referencie, redakciu a oddelenie tam, kde by sa obsah nemal kopírovať. Zviditeľňujú nezvyčajný prístup. Ukazujú, ktorý spracovateľ dostal ktoré údaje za akých podmienok. Umožňujú audítorovi overiť, že žiadosť o výmaz dosiahla indexy a vyrovnávacie pamäte. Umožňujú používateľovi napadnúť rozhodnutie bez toho, aby zamestnanci museli prehrabávať súkromný materiál ako archeológovia s právami správcu.
Tu môže vzdialenosť buď pomôcť, alebo uškodiť. Miestne dôkazy sa môžu ľahšie kontrolovať, ale len ak sú úplné a dostatočne nezávislé. Vzdialené dôkazy môžu byť exportovateľné a štruktúrované, ale len ak dodávateľ nemôže potichu prepísať alebo skryť dôležité vrstvy. Dôležitou vlastnosťou nie je poštová adresa denníka. Je to, či sú dôkazy dôveryhodné, primerané, prístupné správnym ľuďom a prepojené s kontrolami, ktoré majú reprezentovať.
Skutočný rozdiel
Rozdiel medzi súkromím a vzdialenosťou nie je akademický. Mení nákupy, architektúru, audity aj každodenné návyky. Ak tím verí, že vzdialenosť je súkromie, presunie dáta bližšie a prestane premýšľať. Ak verí, že súkromie je pracovná disciplína, spýta sa, čo blízkosť vlastne mení. Znižuje to, kto môže vidieť obsah. Udržiava kľúče pod zodpovednou kontrolou. Obmedzuje to metadáta. Zjednodušuje to výmaz. Zachováva to užitočné dôkazy. Znižuje to závislosť bez zvyšovania miestneho zanedbania. Umožňuje to dotknutej osobe lepšie pochopiť a spochybniť použitie.
Neexistuje univerzálna odpoveď. Dedičná klinika, banka, univerzitné laboratórium, súd, výrobca a telefónna aplikácia majú rôzne riziká a rôzne praktické možnosti. Niektorí by mali počítať lokálne. Niektorí by mali využívať špecializované vzdialené procesory. Niektorí by mali agregovať. Niektorí by mali oddeliť identitu. Niektorí by mali prestať zbierať polia, ktoré nikto neobhájil od čias, keď bola tabuľka mladá. Čo majú spoločné, je potreba zaobchádzať so súkromím ako so správaním, nie ako s kulisou. Systém musí plniť svoje limity, keď nikto neprednáša.
Vzdialenosť stále záleží. Záleží, pretože moc často nasleduje infraštruktúru. Záleží, pretože jurisdikcie, prevádzkovatelia, kľúče, latencia, odolnosť a únikové cesty nie sú imaginárne. Ale vzdialenosť je užitočná len vtedy, keď je spojená s účelom, minimalizáciou, kontrolou prístupu, dôkazmi, výmazom a nápravou. Blízky neporiadok je stále neporiadok. Vzdialený systém s disciplinovanými limitmi môže byť súkromnejší ako miestna skrinka s hrdinským štítkom. Vážna otázka nie je, či sú dáta blízko. Vážna otázka je, či osoba alebo inštitúcia zodpovedná za dáta dokáže riadiť, čo sa s nimi deje, dokáže to riadenie preukázať a dokáže zastaviť, keď je zastavenie potrebné.