Dostop do jezika je varnostni nadzor

Jezik ni le podrobnost predstavitve, ko človek ne more razumeti obvestila, popraviti zapisa ali izpodbijati avtomatiziranega rezultata. Je del sistema, ki...

Dostop do jezika je varnostni nadzor

Zamujeno navodilo ni uporabnikova napaka

Digitalna storitev je lahko tehnično dostopna in vseeno nedosegljiva. Obvestilo se lahko naloži, obrazec se lahko odda, odločitev lahko prispe pravočasno in vsaka nadzorna plošča lahko kaže, da je postopek zaključen. Kljub temu oseba morda ne more ugotoviti, kaj obvestilo od nje zahteva, katere informacije so pomembne, kako jih popraviti ali kje ugovarjati. Če jezik storitve spremeni pravico v uganko, storitev ni le slabo komunicirala. Odstranila je eno od kontrol, ki preprečujejo, da bi se napačna odločitev uveljavila v svetu.

To je še posebej lahko spregledati v sistemih, ki uporabljajo avtomatizacijo. Avtomatizirana pot se pogosto začne z besedami: vloga, naložen dokument, vprašanje na okencu, klic, sporočilo, vneseno na telefonu. Konča se prav tako z besedami: klasifikacija, priporočilo, zavrnitev, pojasnilo, zahteva po dodatnih dokazih, pot za pritožbo. Jezik je prisoten v trenutku, ko informacije vstopijo, na točki, kjer sistem pripiše pomen, in v trenutku, ko se od osebe pričakuje ukrepanje. Če ga obravnavamo kot plast barve okoli sicer popolnega sistema, je to zelo učinkovit način za neenakomerno porazdelitev napak.

Evropa že dolgo obravnava jezikovno raznolikost kot več kot le kulturni okras. 22. člen Listine o temeljnih pravicah določa, da Unija spoštuje kulturno, versko in jezikovno raznolikost. Evropska komisija opisuje jezike, ki se govorijo v državah članicah, kot bistveni del evropske kulturne dediščine in podpira večjezičnost pri delu svojih institucij. Listina Sveta Evrope o regionalnih ali manjšinskih jezikih obstaja, ker se jezik lahko uveljavlja v javnem življenju, ne le zasebno uživa doma. Noben od teh instrumentov programski ekipi ne daje že pripravljene specifikacije vmesnika. Vendar otežujejo zagovor ene premise: da je jezikovno pot mogoče pustiti ob strani, dokler ni opravljeno pomembnejše delo.

Poimenovati jezikovni dostop varnostna kontrola ne pomeni, da je vsaka nerodna poved varnostni incident ali da mora vsaka javna storitev ponujati vse možne jezike v vsaki interakciji. Obveznosti se razlikujejo glede na institucijo, jurisdikcijo, storitev in osebo. Pomeni nekaj bolj praktičnega. Kjer je razumevanje potrebno za preprečitev, popravek, izpodbijanje, zavrnitev ali odpravo posledic pomembnega dejanja, je treba jezik načrtovati in preizkusiti kot del nadzornega sistema. Vprašanje ni zgolj, ali je bilo besedilo prevedeno. Vprašanje je, ali lahko oseba še vedno prepreči, da bi se napaka razširila naprej.

Ta razlika postane ostrejša z umetno inteligenco. Jezikovni model lahko pot naredi bolj prijazno z ustvarjanjem besedila v številnih jezikih. Prav tako lahko pot naredi bolj nevarno z ustvarjanjem verjetnega odgovora v jeziku, za katerega ima organizacija malo dokazov, šibek pregled ali nobene varne predaje. Tečnost je prepričljiva. Prav zato potrebuje meje. Dodelan prevod lahko negotovost prikrije učinkoviteje, kot bi to kdaj koli lahko prazno polje.

Jezikovni dostop ne stoji ob strani storitve. Osebo vodi skozi točke, na katerih je napako še mogoče ustaviti.

Dostop ima smer

V navadi je govoriti o dostopu kot o funkciji, ki jo storitev bodisi ima bodisi nima. To je preveč plosko. Dostop ima smer. Oseba mora biti sposobna prejeti informacijo, razumeti njen praktični pomen, podati odziv, prejeti odgovor, ki je smiseln, in narediti naslednji korak, če se ne strinja. Prekinitev katerega koli dela tega zaporedja spremeni odnos med institucijo in osebo. Institucija ima še vedno svoje zapise, svoje roke in svoj notranji besednjak. Oseba ima nepopoln zemljevid.

Vzemimo obvestilo, ki nekoga obvesti, da se je zapis spremenil. Če se obvestilo pojavi le v jeziku, ki ga oseba ne obvlada, je prvi neuspeh očiten. Toda enaka težava lahko ostane tudi po tem, ko je zagotovljen prevod. Prevod morda ne razlikuje med prošnjo za informacije in zahtevo. Morda ne ohrani roka. Morda spremeni natančen izraz v ohlapno vsakdanjo besedo. Morda se sklicuje na portal, ki sam ni uporaben v istem jeziku. Ali pa morda pojasni odločitev, ne pa tudi načina za popravek podatkov, ki so jo ustvarili. Vsaka različica je drugačna vrsta neuspeha dostopa in vsaka ustvari drugačno breme za prizadeto osebo.

Breme ni enakomerno porazdeljeno. Organizacija lahko pogosto nadaljuje z uporabo svojega običajnega postopka. Oseba mora opraviti dodatno delo: poiskati nekoga, ki lahko razloži sporočilo, ugotoviti, ali je ta oseba vredna zaupanja, znova pojasniti zasebne okoliščine, prevesti dokumente, čakati, potovati, poklicati številko ali se odločiti, da trud ni vreden možnega izida. Sistem lahko to opiše kot neodzivnost, nepopolne dokaze ali neupoštevanje navodil. S strani osebe je to lahko jezikovna ovira, ki jo je sistem naredil nevidno, ker beleži le svoje lastne korake.

Zato je treba z izrazom napaka uporabnika ravnati previdno. Ljudje se seveda zmotijo. Tudi institucije se. Toda storitev ne bi smela neuspeha imenovati napaka uporabnika zgolj zato, ker je stroške razumevanja postavila zunaj svojih meja. Obrazec, ki predpostavlja neznano pravno kategorijo, chatbot, ki ne prepozna vprašanja v lokalni različici jezika, ali odločba, katere pot pritožbe je berljiva le samozavestnemu bralcu, lahko delujejo natanko tako, kot so zasnovani. Še vedno ustvarjajo izogibno asimetrijo.

Dostopnost isto stališče pokaže z druge strani. Direktiva o dostopnosti spletišč zahteva, da so spletišča in mobilne aplikacije organov javnega sektorja bolj dostopna, delo pa opredeljuje z zahtevami glede dostopnosti, spremljanjem in izjavami. Dostopnost ni enaka jezikovni dostopnosti. Bralnik zaslona, jasna struktura, zadosten kontrast, podnapisi in tipkovniško krmarjenje odgovarjajo na druge potrebe. A oboje sodi skupaj, ker jih človek ne doživlja kot ločene predale skladnosti. Besedilo, ki je tehnično na voljo, a nerazumljivo, ne naredi pravice uporabne. Jasnega jezika prek nedostopnega vmesnika prav tako ne.

Varnejša zasnova se začne z izrisom celotne poti. Kaj mora človek razumeti, preden lahko ukrepa? Kateri izrazi imajo pravne, finančne, zdravstvene ali postopkovne posledice? Na katera vprašanja je mogoče odgovoriti v več kot enem jeziku ali obliki? Kaj se zgodi, ko sistem ni prepričan o jeziku, namenu ali prevodu? Kako lahko človek popravi pomen, ki je bil pripisan njegovim besedam? Katera pot vodi do človeka s pooblastilom za pomoč? To so običajna vprašanja oblikovanja storitev. Postanejo vprašanja varnosti, ko odgovor določa, ali je mogoče napako ujeti, preden vpliva na človekov dohodek, status, oskrbo, mobilnost, izobrazbo ali dostojanstvo.

Prevajanje ni enakovrednost

Prevajanje je dragoceno. Ne bi smelo nositi obljube, ki je ne more izpolniti samo. Prevod lahko poustvari besede, a izgubi razmerje med temi besedami in institucijo, ki jih uporablja. Lahko je dovolj natančen za turistični napis, a nevaren za obrazložitev odločitve. Lahko zajame slovarski pomen stavka, a zgreši njegov register, njegovo omejitev, njegovo sklicevanje na prejšnji dokument ali njegovo vlogo v postopku. To ni argument proti prevajanju. To je argument proti obravnavanju rezultata prevajanja kot dokaza, da je storitev postala enakovredna.

Komisija sama opozarja, da se kakovost in natančnost strojnega prevajanja lahko znatno razlikujeta med besedili in jezikovnimi pari. To je koristno izhodišče, ker se upira znani lažni izbiri. Izbira ni med popolnim človeškim prevodom in nesprejemljivim strojnim prevodom. Prave izbire vključujejo nalogo, posledice, jezikovni par, kakovost izvora, pregled, časovni pritisk, populacijo uporabnikov in pot okrevanja. Strojno pripravljen osnutek je lahko primeren za orientacijo. Pregledan prevod je lahko primeren za standardno obvestilo. Razlaga z visokimi posledicami lahko zahteva povsem drugo pot, vključno s kvalificiranim človekom, preverjeno predlogo ali možnostjo premora, namesto da se pretvarjamo, da je samozavestna proza varna.

Enakovrednost ima več kot eno razsežnost. Pomenska enakovrednost zadeva, ali so navedene informacije ohranjene. Postopkovna enakovrednost zadeva, ali lahko človek dejansko opravi isti naslednji korak. Časovna enakovrednost zadeva, ali informacije prejme pravočasno, da jih lahko uporabi. Dokazna enakovrednost zadeva, ali lahko zagotovi informacije, ki jih storitev razume in pravilno zabeleži. Popravljalna enakovrednost zadeva, ali lahko izpodbija ali popravi izid. Prevedena domača stran lahko izboljša pomenski dostop, medtem ko ostale štiri razsežnosti pusti nespremenjene.

Tu avtomatizirani jezikovni sistemi zahtevajo kanček institucionalne ponižnosti. Sistem je lahko zelo dober pri ustvarjanju proze, a še vedno nima dokazov za določeno terminologijo, narečje, pisavo, področje ali nalogo. Lahko napačno prebere ime, izravna omejitev ali izbere znan pomen tam, kjer je potreben specializiran. Ekipa, ki to ve, lahko vzpostavi preverjanja in predaje. Ekipa, ki to skriva za jezikovnim izbirnikom, je dala močnejšo obljubo, kot jo njeni dokazi podpirajo.

Predstavljajte si aplikacijsko pot, na kateri lahko oseba izjemne okoliščine pojasni v prostem besedilu. Storitev sprejema vnose v več jezikih. Za dva od njih so usposobljeno osebje in pregledana navodila zagotovljena za celotno pot. Za tretjega sistem zagotovi strojni prevod za delavca, ki obravnava primer, vendar nihče ni preizkusil prevoda na terminologiji same storitve niti ni ustvaril načina, da bi vlagatelj videl in popravil prevedeni zapis. Scenarij je hipotetičen. Njegovo sporočilo je preprosto: tri jezikovne možnosti niso ista storitev zgolj zato, ker obrazec sprejema tri pisave. Ena ima povratno zanko. Druga ima skrito transformacijo na sredini. Razlika je pomembna, ko transformirano besedilo postane dokaz.

Prav zato povratni prevod, ocene zaupanja in splošne oznake kakovosti sami po sebi niso zadostna zaščita. So lahko uporabni signali. Ne dokazujejo pa, da je pomen osebe preživel pot ali da ima oseba pošteno priložnost izpodbijati prikazano različico. Ustrezni nadzor je pogosto preprostejši in manj privlačen: prikažite izvirnik, kjer je to pomembno, zabeležite transformacijo, naredite pot povratno, omogočite usposobljeni osebi, da posreduje, in zagotovite jasen način, kako sporočiti, da je sistem napačno razumel. Da, to je papirologija. Prav tako kot zavore.

Neenakomerna porazdelitev bremena napak

Vsak avtomatiziran sistem ima proračun za napake, ne glede na to, ali ga kdo tako imenuje ali ne. Nekateri vnosi bodo nepopolni. Nekatere klasifikacije bodo napačne. Nekateri ljudje bodo potrebovali pomoč. Ključno vprašanje upravljanja je, kam sistem postavi stroške teh napak. Pot lahko breme zadrži blizu institucije z označevanjem negotovosti, ponudbo človeške alternative in ponovnim obravnavanjem odločitve. Lahko pa breme prenese navzven s predpostavko, da bodo ljudje prevajali, poskušali znova, dokumentirali, klicali, čakali in se pojasnjevali, dokler ne postane na voljo oblika, ki jo sistem preferira.

Jezikovne napake so izjemno dobre pri prikrivanju te porazdelitve, ker organizacija morda ne vidi ljudi, ki odidejo. Vidi izpolnjene obrazce, odgovorjene klice, poslano e-pošto in vložene pritožbe. Ne vidi samodejno osebe, ki ni razumela prvega pisma, družinskega člana, ki je nosil breme prevajanja, skupnostne organizacije, ki je zapolnila vrzel, ali osebe, ki je sklenila, da pot ni namenjena njej. Odsotnost je na nadzorni plošči videti urejena. To pa ni dokaz enake dostopnosti.

Evropsko gradivo o pravicah manjšin daje tej temi javno obliko. Svet Evrope opisuje Okvirno konvencijo o varstvu narodnih manjšin kot pogodbenice zavezujočo k spodbujanju polne in učinkovite enakosti v gospodarskem, socialnem, političnem, javnem in kulturnem življenju. Njegov informativni list ugotavlja, da konvencija zajema uporabo manjšinskega jezika v zasebnem in javnem življenju ter pod določenimi pogoji stike z upravnimi organi. Listina o regionalnih ali manjšinskih jezikih je zasnovana za zaščito in spodbujanje tradicionalnih regionalnih ali manjšinskih jezikov na področjih javnega življenja. Teh določb ne bi smeli mimogrede spremeniti v trditev o vsaki posamezni vlogi ali vsakem avtomatiziranem vmesniku. Vendar pa otežujejo označevanje jezika zgolj kot preference, kadar je vpletena javna oblast.

Enaka previdnost velja za migracije in učenje jezikov. Prvi jezik osebe, njen najmočnejši jezik, jezik šolanja, jezik družinskega člana in jezik, uporabljen v določenem pravnem ali zdravstvenem okolju, morda niso isti. Storitev, osredotočena na varnost, ne bi smela ugibati o identiteti na podlagi izbire v meniju, priimka ali poštne številke. Vprašati bi morala le tisto, kar potrebuje, pojasniti zakaj, se izogniti temu, da bi izbira jezika postala trajna oznaka, in zagotoviti način za njeno spremembo. Cilj ni bolj samozavestno razvrščanje ljudi. Cilj je, da ljudje nadzorujejo komunikacijsko pot, ki vpliva nanje.

Neenakomerno breme napak se pojavlja tudi znotraj organizacij. Zaposleni na prvi liniji pogosto postanejo človeški popravek za jezikovno pot, ki je bila zasnovana drugje. Razlagajo nejasna sporočila, ponovno vnašajo informacije, prepričujejo vmesnik, da sprejme ime, pojasnjujejo, zakaj prevedenemu odgovoru ni mogoče zaupati, in pomirjajo ljudi, ki so že prejeli obvestilo, da je postopek zaključen. To delo je le redko vidno pri vrednotenju modela ali oceni pri nabavi. A je dokaz. Če zaposleni znova in znova popravljajo isto jezikovno napako, sistem organizaciji sporoča, kje je njena varnostna zaščita šibka.

Napačen odziv je, da zaposleni tiho prevzamejo vrzel. Boljši odziv je, da se vrsta napake zabeleži brez beleženja več osebnih podatkov, kot je nujno, da se pot pregleda z ljudmi, ki poznajo jezik in storitev, ter da se odloči, ali naloga potrebuje drugačno zasnovo. Včasih je pravi rezultat boljša predloga. Včasih je to jezikovno specifično vrednotenje. Včasih je to človeška pot. Včasih je to jasna izjava, da avtomatizirana pot ni pooblaščena za ta jezik ali nalogo. Vidna meja je bolj spoštljiva kot lažna enakovrednost.

Zaključek ni edini izid, ki ga je vredno meriti. Zasnova tudi odloča, kdo mora opraviti delo, ko pomen odpove.

Javne storitve potrebujejo pošteno jezikovno mejo

Javna storitev ima poseben razlog, da je pri jeziku natančna. Lahko zahteva informacije, določa roke, dodeljuje podporo, nalaga pogoje, vodi evidenco in sprejema odločitve, ki jih oseba ne more preprosto prezreti. Ta pooblastila ne pomenijo, da je vsaka interakcija visoko tvegana. Pomenijo pa, da storitev uspeha ne more meriti le s svoje strani pulta. Oseba mora biti sposobna razumeti, kaj storitev počne, in ohraniti izvedljivo pot do odgovora.

Prva naloga zasnove je razvrstiti interakcijo, ne osebe. Splošna objava, opomnik za termin, postopkovna zahteva, pojasnilo odločitve, zdravstveno navodilo in pot do pritožbe nimajo enakih posledic. Storitev mora prepoznati, kje bi napačno razumevanje lahko vodilo do zamujene priložnosti, napačnega zapisa, izgube časa, napačne odločitve ali nezmožnosti pritožbe. Nato mora izbrati ukrepe, sorazmerne s temi posledicami. To je bolj uporabno kot pavšalna trditev, da je vsaka stran večjezična ali da je vsak izhod pregledan.

Druga naloga je razlikovati jezikovno podporo od jezikovne avtoritete. Sistem lahko pripravi osnutek odgovora v jeziku, ne da bi bil pooblaščen za razlago pravne odločitve v tem jeziku. Lahko prevede dokument za orientacijo, ne da bi lahko določil uradno različico. Lahko prepozna, da je sporočilo verjetno napisano v določenem jeziku, ne da bi lahko ugotovil, kaj oseba misli. To niso priznanja tehnološkega poraza. To so meje, ki preprečujejo, da bi uporabno orodje postalo neodgovorni odločevalec.

Tretja naloga je oblikovati zaustavitev. Kaj se zgodi, ko sistem ne ve dovolj? Dobra pot lahko pove, da naloge v izbranem jeziku ne more varno dokončati, ohrani prvotno vsebino, ponudi pričakovani naslednji korak in delo posreduje osebi ali službi, ki lahko prevzame odgovornost. Ne bi smel izmišljati gotovosti, ker je prazen odgovor videti neprijazen. Vljudna negotovost je lahko bolj uporabna kot gladka, a nepodprta razlaga, še posebej, ko ima oseba rok.

Četrta naloga je ohraniti popravljalno pot simetrično. Če sistem za notranji postopek prevaja ali povzema besede osebe, mora imeti oseba realno možnost, da si predstavitev ogleda in jo popravi tam, kjer bo vplivala nanjo. Če institucija pošlje prevedeno odločbo, se pot do pojasnila ali pritožbe ne sme skrčiti nazaj na en prevladujoč jezik. Če človek po interpretaciji spremeni zapis, mora biti sprememba pripisljiva in preverljiva. Simetrija ne pomeni enakih vmesnikov. Pomeni, da je sposobnost institucije, da deluje na podlagi jezika, uravnotežena s sposobnostjo osebe, da izpodbija njene posledice.

Peta naloga je preizkusiti storitev, kot se uporablja. Preizkušanje samo izhoda jezikovnega modela ni dovolj. Preizkusite obvestila, obrazce, stanja napak, telefonske scenarije, poti eskalacije, nalaganje dokumentov, navodila za osebje in navodila za pritožbo. Preizkusite jih z ustrezno pravno ali postopkovno terminologijo. Preizkusite, ali vmesnik še vedno deluje z imeni, pisavami in načini vnosa, ki jih sistem morda ni pričakoval. Preizkusite, ali lahko oseba popravi napačen prevod, preden ta postane odločba. Preizkusite pot, ko prevajalec ni na voljo, ko je sistem negotov in ko mora operater pojasniti zavrnitev. Bistvo ni ustvariti popoln rezultat. Bistvo je najti točko, kjer storitev preneha biti iskrena glede tega, kaj zmore.

AI naj mejo razjasni, ne zabriše

AI lahko zmanjša trenja v večjezičnih storitvah. Lahko pomaga osebju najti ustrezne informacije, pripraviti osnutek, prepoznati, da zahteva morda potrebuje specialistično obravnavo, prevajati rutinsko gradivo in olajšati krmarjenje po obsežnem naboru smernic. To so uporabne zmožnosti. Varnejše postanejo, ko sistem pokaže svojo delovno mejo, namesto da za vsak jezik in nalogo kaže enako samozavesten obraz.

Za model mora biti trditvi o jeziku priložen dokaz. Kateri jezik ali različica je bil ovrednoten? Za katero nalogo? S katerim izvornim gradivom, terminologijo in načini vnosa? Kdo je pregledal izhode in kako so bili obravnavani nesporazumi? Kakšen je bil prag za predajo? Kaj se zgodi, ko sistem naleti na mešanojezikovno sporočilo, regionalno obliko, neznano pisavo ali besedno zvezo, ki je ne more zanesljivo razložiti? Oznaka jezika v vmesniku ne odgovori na nobeno od teh vprašanj. Kompakten zapis o storitvi lahko odgovori na dovolj njih, da kupcu, operaterju in uporabniku ni treba ugibati.

Jezikovnotehnološka politika Komisije je tu v pomoč, ker jezikovne tehnologije ne opisuje zgolj kot zadevo modelov. Kot ključne elemente navaja jezikovne podatke, algoritme in modele, računsko moč ter človeško strokovnost. Delo povezuje tudi z jezikovno raznolikostjo, nepristransko uporabo in jeziki z malo viri. To je boljši miselni model za javne in pomembne storitve. Več računske moči ne more nadomestiti odsotnega strokovnega pregleda na področju. Posodobitev modela ne more dokazati, da je terminologija skupnosti pošteno zastopana. Dolg seznam podprtih jezikov ne more dokazati, da pritožbena pot v vsakem od njih ostaja uporabna.

Za tem stoji preprosta operativna disciplina. Izvirni vnos ohranite tam, kjer to dopuščata zakon in politika zasebnosti. Zabeležite, kdaj je prišlo do preoblikovanja in katera različica ga je izvedla. Označite, ali je rezultat namenjen orientaciji, osnutku, notranji pomoči ali uradnemu koraku. Ohranite dovolj konteksta za preiskavo pritožbe, ne da bi vsako komunikacijo spremenili v trajno nadzorovanje. Operaterjem omogočite, da izpostavijo negotovost, namesto da jih nagrajujete za to, da odgovor čim prej oddajo. In javni jezik storitve naj se ujema z dokazi, ki stojijo za njo.

To ne zahteva melodramatičnega pogleda na umetno inteligenco. Orodje za prevajanje ni zlobnež, ker ima omejitve. Institucija ni malomarna, ker ne more takoj vsakega jezika in formata obravnavati enako poglobljeno. Težava se začne, ko sistem z videzom tekoče avtomatizacije izbriše razliko med pomočjo in zagotovilom. Oseba, ki prejme rezultat, ima pravico vedeti, na katero od teh se zanaša.

Merite popravila, ne le dokončanja

Organizacije običajno merijo tisto, kar njihovi sistemi zlahka vidijo. Ogled strani, oddan obrazec, rešena zahtevek in povprečni čas obravnave so priročni. Niso brez vrednosti. A lahko prikažejo jezikovno pot kot zdravo, medtem ko prikrivajo delo, potrebno za njeno uporabnost. Izpolnjen obrazec ne dokazuje, da je oseba razumela vprašanja. Nizka stopnja eskalacije ne dokazuje, da so ljudje eskalacijo lahko našli. Kratek klic lahko pomeni, da je bil odgovor jasen. Lahko pa tudi, da je klicatelj obupal.

Boljši nabor meritev se začne s popravili. Kako pogosto mora osebje popraviti razlago ali prevod sistema? Katere kategorije dosledno zahtevajo pojasnila? Katere jezikovne poti vodijo do drugega stika, posredovanja človeka ali uradnega popravka? Kako dolgo oseba čaka, ko je negotovost prepoznana? Ali imajo ljudje nadomestno pot, ko avtomatizirana ne more nadaljevati? Ali so popravki vidni tistim, ki so jih naredili? To so merila storitve, ne univerzalni kazalniki jezikovne enakosti. Njihova vrednost je v tem, da pokažejo, kje breme pada.

Pomembni so tudi kvalitativni dokazi. Organizacija v skupnosti, tolmač, delavec za podporo ali sodelavec na prvi liniji lahko opazi napako, preden se pojavi na nadzorni plošči. Njihovo opažanje ne sme postati anekdota, ki kroži brez posledic, niti dovoljenje za zbiranje nepotrebnih jezikovnih podatkov ali podatkov o identiteti. Lahko postane opredeljena povratna pot: ponavljajoča se težava, prizadeta naloga, opažena ovira, začasni nadzor, odgovorna oseba, datum pregleda. To je nevsiljivo upravljanje. In tako se organizacija nauči, da je urejena metrika izpustila ljudi, ki opravljajo popravila.

Nekatere metrike bodo dvoumne, in to je v redu. Povečanje posredovanj človeka lahko pomeni, da model odpoveduje. Lahko pa tudi pomeni, da je model postal boljši pri prepoznavanju, kdaj ne sme nadaljevati. Povečanje popravkov lahko odraža novo težavo ali na novo dostopno pot za popravke. Odgovor ni zavreči signala. Odgovor je, da ga interpretiramo s kontekstom storitve, zgodovino sprememb in ljudmi, ki pot poznajo. Metrika postane nevarna, ko ji dovolimo, da govori sama.

Obstaja tudi meja zasebnosti. Jezikovni podatki so lahko v določenem kontekstu občutljivi. Lahko razkrijejo ali spodbudijo sklepanje o narodnosti, etnični pripadnosti, migracijah, zdravju, veri ali družinskem življenju. Storitev ne bi smela zbirati jezikovne nastavitve zgolj zato, ker bi nadzorna plošča želela še en stolpec. Smernice EDPB za majhne organizacije ponavljajo zahtevo GDPR, da morajo biti informacije o obdelavi jedrnate, pregledne, razumljive, lahko dostopne ter zapisane v jasnem in preprostem jeziku. Ista etika velja tudi tukaj: zberite le tisto, kar je potrebno za uporabno pot, pojasnite namen, omogočite smiselno izbiro in ne spreminjajte podporne funkcije v nepreverjen sistem profiliranja.

Dobro merjenje ima zato dve nalogi. Pokazati mora, ali storitev resnično omogoča jezikovni dostop, in omejiti skušnjavo institucije, da bi ljudi še natančneje opazovala, da bi dokazala, da se trudi. Ta napetost ni nadloga. To je oblikovalski problem. Sistem, ki odstrani eno oviro, hkrati pa ustvari drugo, ni postal varnejši. Le spremenil je papirologijo.

Najprej zgradite nadzor, šele nato trditev

Smiseln vrstni red dela je preprost. Začnite pri pomembnih postopkih, ne pri katalogu jezikov. Določite točko, na kateri mora oseba razumeti, odgovoriti, popraviti, privoliti, zavrniti ali izpodbijati. Preučite besede in formate, ki nosijo posledice. Odločite se, katere naloge je mogoče varno avtomatizirati, katere zahtevajo pregled, katere potrebujejo verodostojno človeško pot in katerih ne bi smeli ponuditi, dokler ni dovolj dokazov. Nato te meje naredite vidne v sami storitvi.

Za vsako podprto pot vodite skromno evidenco. Zapišite namen, jezikovni in nalogni obseg, pomembno izvorno gradivo ali terminologijo, obliko pregleda, znane omejitve, pot predaje ter odgovorno osebo, ki lahko spremeni odločitev. Vodite zgodovino sprememb. Spremenjena predloga, nova različica modela, spremenjena politika, nov vmesnik ali spremenjen dobavitelj lahko vplivajo na pomen poti. Evidenca ni treba, da je spomenik. Mora biti uporabna za ljudi, ki storitev upravljajo, pregledujejo in izboljšujejo.

Oblikujte za nestrinjanje. Najbolj pomirjujoč jezikovni vmesnik ni tisti, ki vedno zveni prepričljivo. Je tisti, ki osebi omogoči, da reče: to nisem mislil; tega ne razumem; to potrebujem v drugi obliki; ta prevod je napačen; ta zapis je netočen; potrebujem, da to še enkrat pregleda oseba. Te izjave niso izjemni primeri za službo za stranke. So vložki v varen sistem. Če vmesnik zanje nima prostora, se je organizacija odločila, da bo njena lastna razlaga zmagala po privzetku.

Zaposlenim dajte pooblastila, ki ustrezajo njihovi odgovornosti. Delavec na prvi liniji ne bi smel potrebovati verige odobritev, da začasno ustavi jezikovno pot, ki osebo očitno zavaja. Strokovnjak bi moral lahko posodobiti terminologijo, ne da bi čakal na četrtletno izdajo modela, če je storitev od tega odvisna. Ekipa bi morala vedeti, kdo je odgovoren za odločitev o umiku jezikovne trditve. In vsaka začasna rešitev bi morala imeti datum pregleda, saj imajo začasne rešitve znano lastnost, da postanejo arhitektura.

Nazadnje objavljajte le trditve, ki jih storitev lahko podpre. Povsem v redu je reči, da je pot na voljo za splošno orientacijo, ne pa za avtoritativne nasvete. Povsem v redu je navesti, da nekatere jezikovne naloge vključujejo človeški pregled, druge pa ne. Povsem v redu je reči, da storitev še vedno gradi zmogljivosti za določen jezik. Ni pa v redu, da okrasni izbirnik predstavljate kot enak dostop, če dokazi, pot za popravke in pooblastila ne spremljajo tega. Skromnost tukaj ni izguba ambicij. To je pogoj, ki omogoča, da zaupanje preživi stik z resnično osebo.

Jezikovni dostop je varnostni nadzor, ker ljudem omogoča, da ustavijo napako, dokler jo je še mogoče ustaviti. Omogoča jim, da prepoznajo odločitev, razumejo njene razloge, zagotovijo manjkajoča dejstva, izpodbijajo preoblikovanje in dosežejo nekoga, ki lahko ukrepa. Brez te poti ima institucija morda še vedno postopek. Nima pa poštenega načina, da bi se z njim lahko srečal vsak. Sistem je opravil svoje delo. Oseba je bila zaprošena, da opravi preostanek.

Pravica do razumevanja je operativna

Besedna zveza jezikovni dostop se lahko sliši dovolj nežno, da jo uvrstimo v komunikacijski načrt. V storitvi z velikimi posledicami je bližje operativni lastnosti. Določa, ali informacije pravočasno dosežejo pravo osebo, ali lahko ta oseba prepozna napako, ali organizacija prejme dejstva, potrebna za popravek zapisa, in ali lahko nesoglasje doseže nekoga s pooblastili. To so ista vprašanja, ki se pojavijo v vsakem resnem pregledu varnosti ali odpornosti. Edina razlika je, da se okvara pojavi kot stavek, obrazec ali neodgovorjen klic namesto utripajočega alarma.

Zato bi se moralo delo začeti, preden je model izbran. Organizacija lahko kupi odličen prevajalski sistem in še vedno zgradi slabo jezikovno pot, če ni odločila, katera sporočila imajo posledice, kaj mora ostati vidno v izvirni obliki, kdo lahko potrjuje strokovno terminologijo in kako lahko oseba dobi odgovor, ko avtomatizacija ne more nadaljevati. Nasprotno pa je lahko preprosto orodje uporabno, če je nameščeno znotraj poti z jasnimi mejami, pregledom in obnovitvijo. Zmogljivost je pomembna. Oblikovanje storitve odloča, kaj zmogljivost sploh pomeni.

Evropski pristop je dragocen prav zato, ker pušča prostor za te razlike. Jezikovna raznolikost, varstvo manjšin, dostopnost javnega sektorja in jasne informacije niso en sam pravilnik. Gre za različne zaveze, ki se srečajo v resnični storitvi. Ekipa ne bi smela navajati listine, direktive ali smernic kot nadomestila za trdo oblikovalsko delo. Uporabiti bi jih morala za boljša vprašanja o pooblastilih, enakosti, preglednosti in sodelovanju, preden pot postane težko spremenljiva.

Za javna naročila to spremeni razpis. Vprašajte ponudnike, katere jezikovne in nalogovne trditve imajo neposredne dokaze, katere so odvisne od splošne zmogljivosti in katere sploh nimajo podporne meje. Vprašajte, kako je mogoče zabeležiti izvirni vnos, prevedeni izhod, različico in človeške spremembe. Vprašajte, kaj operater vidi, ko je zaupanje nizko ali ko vnosa ni mogoče varno interpretirati. Vprašajte, ali lahko storitev osebo preusmeri na drugo pot, ne da bi izgubila svoje mesto. Vprašajte, kdo posodablja terminologijo, kdo jo pregleduje in kdo plača to delo po koncu predstavitve. Število jezikov je slab nadomestek za te odgovore.

Za operaterje to spremeni vsakodnevno navado. Ponavljajoča pojasnila, popravke in predaje obravnavajte kot signale o storitvi in ne kot nevšečnost, ki jo povzroča oseba, ki išče pomoč. Hranite dovolj dokazov za razumevanje poti, ne da bi ljudi obravnavali kot vire podatkov za neskončno optimizacijo. Omogočite začasno ustavitev avtomatiziranega odziva, kadar so njegovo besedilo, kontekst ali pooblastila dvomljivi. Cilj ni sistem, ki nikoli ne prosi za pomoč. Cilj je sistem, ki ve, kdaj je pomoč varnejši odgovor.

Za javne organe to spremeni standard dokončanja. Zadeva ni nujno končana, ker je sistem poslal sporočilo. Končana je, ko je imela oseba pošteno in izvedljivo priložnost razumeti ustrezne informacije in narediti naslednji dovoljeni korak. To lahko vključuje jasno digitalno pot; lahko vključuje dokument v drugi obliki; lahko vključuje človeški pogovor. Pravilna izbira je odvisna od storitve. Kar ne bi smelo biti odvisno od sreče, je, ali jezikovna ovira tiho odloči o izidu.

In za ljudi, ki razvijajo umetno inteligenco, to spremeni, kaj sploh šteje kot vrednotenje. Večjezično merilo je lahko informativno, vendar samo po sebi storitvi ne more povedati, ali rok, pritožbena pot ali zdravniško navodilo ostane uporabno v določenem jeziku. Vrednotenje mora ustrezati nalogi, terminologiji, vmesniku, prizadetim ljudem in poti do odprave težave. Povedati mora, kje je model uporaben in kje bi morala organizacija prenehati trditi, da je enakovreden. To je počasneje kot dodajanje vrstice zastavic na zaslon izdelka. A prav to daje zastavicam pomen.

Pri Dweve to obravnavamo kot mejo v našem lastnem oblikovalskem delu. Prevedena oznaka ni dokaz, da lahko človek opravi nalogo, izpodbija rezultat ali poišče odgovorno osebo. Želimo, da te poti, njihovi dokazi in njihove omejitve ostanejo vidni v katerem koli jeziku, ki ga mora človek uporabljati. To je oblikovalsko stališče, ne trditev, da je izdelek Dweve rešil večjezični dostop.

Jezikovni dostop zato ni naknadna misel k pravičnosti, varnosti ali upravljanju. Je eno od mest, kjer te ambicije postanejo vidne. Storitev postane varnejša, ko človeku omogoči, da razume, kaj se dogaja, prispeva, kar manjka, popravi, kar je narobe, in doseže odgovorno osebo, preden se postopek okoli njega zaključi. Nadzor ni samo prevod. Je celotna pot, ki človeka obdrži znotraj odločitve.

Viri