Tekoäly tarvitsee vähemmän taikaa ja enemmän huolenpitoa
Vastaus, joka saapui ilman matkatavaroita
Ensimmäinen vastaus vaikutti vaikuttavalta. Se tiivisti pitkän asiakirjan, tunnisti todennäköisen toimintatavan, laati vastauksen ja kuulosti siltä, kuin se olisi viettänyt aamun siistissä toimistossa puhtaalla omallatunnolla. Esimies piti siitä. Arvioija piti siitä vähemmän. Hän kysyi, mistä lähdekohta oli peräisin, mitä politiikan versiota oli käytetty, oliko asiakkaan huomautus näkyvissä mallille ja miksi suositus ohitti poikkeuksen, jolla oli yleensä merkitystä. Huoneessa oli vastaus. Sillä ei ollut matkatavaroitaan.
Tuo puuttuva matkatavara on ongelma. Tekoälyn tuotos oli kulkenut kehotteiden, haun, luokittelun, mallin päättelyn, jälkikäsittelyn ja käyttöliittymän läpi. Matkan varrella se kosketti asiakirjoja, käyttöoikeuksia, välimuistissa olevia katkelmia, työkalujen käyttöoikeuksia, järjestelmäohjeita ja ihmisen työnkulkua. Kun vastaus saavutti näytön, suurin osa matkasta oli näkymätöntä. Organisaatio saattoi ihailla tulosta, mutta se ei voinut kunnolla pitää sitä hallussaan. Se ei voinut sanoa, mitkä tosiasiat oli tuotu mukana, mitkä oli jätetty pois, mikä sääntö sitoi tuotosta, kuka henkilö hyväksyi sen tai mikä tietue säilyisi kokouksen jälkeen.
Tästä syystä tekoäly tarvitsee vähemmän taikaa ja enemmän huoltajuutta. Taika-ajattelu kohtelee mallia tapahtumana. Kysymys menee sisään, älykkyys tapahtuu, vastaus tulee ulos. Huoltajuusajattelu kohtelee mallia yhtenä käsittelijänä ketjussa. Ketjussa on syötteitä, oikeuksia, muunnoksia, vastuita, tallennuspäätöksiä ja poistumia. Se kysyy, kuka saa pitää jotakin hallussaan, mihin tarkoitukseen, millä rajoituksilla, kuinka kauan, millä todisteella ja millä korjauskeinolla, kun ketju katkeaa.
Huoltajuus ei ole kylmempi sana kontrollille. Se on huolenpitoa kuitin kanssa. Museo ei omista jokaista esinettä, jota se suojelee. Arkisto ei keksi jokaista tietuetta, jota se säilyttää. Laboratorio ei tee näytteestä todenmukaisempaa merkitsemällä sen, mutta merkintä ratkaisee, voidaanko tulokseen luottaa myöhemmin. Tekoälyjärjestelmät tarvitsevat samat aikuisen tavat. Ne käsittelevät muiden ihmisten tietoja, institutionaalista auktoriteettia, mallin tuotoksia ja päätöksiä, jotka voivat elää käyttöliittymää pidempään. Hieman vähemmän säihkettä, hieman enemmän huoltajuusketjua. Se ei tee parempaa avauspuhetta. Se tekee paremman järjestelmän.
Taika on kallis toimintamalli
Taika on viehättävää, koska se poistaa kitkaa tarinasta. Hankalasta työnkulusta tulee kehote. Heikosta tietopohjasta tulee mallin ominaisuusongelma. Puuttuvasta omistajasta tulee automaatio. Epäselvästä säännöstä tulee kehotus olla varovainen. Järjestelmä näyttää toimivan, koska malli tuottaa sujuvaa kieltä sellaisten aukkojen yli, jotka pysäyttäisivät tavallisen ohjelmiston. Sujuvuus on hyödyllistä. Se on myös lahjakas keskeneräisen hallinnon peittelijä.
Tavallisessa toiminnassa aukoilla on reunat. Puuttuva kenttä rikkoo lomakkeen. Virheellinen koodi ei läpäise validointia. Käyttöoikeusvirhe estää pääsyn. Tekoälytoiminnassa aukko voi muuttua proosaksi. Malli voi vastata puuttuvan todistusaineiston ympäriltä, päätellä tarkoitusta monitulkintaisesta kielestä, pehmentää ristiriitoja ja palauttaa kappaleen, joka näyttää täydelliseltä. Tämä on voimakasta, kun tehtävä on vähäriskistä ja käyttäjä voi arvioida sen. Se on vaarallista, kun kappaleesta tulee päätöspinta, auditointitietue, asiakaslupaus, kliininen merkintä, oikeudellinen suositus tai reitti työkaluun.
Taika on myös kallista, koska se siirtää vastuuta myöhemmäksi. Jos kukaan ei tiedä, mitä lähdettä käytettiin, kustannus syntyy korjausvaiheessa. Jos kukaan ei tiedä, mikä keoteversio muokkasi vastauksen, kustannus syntyy arviointivaiheessa. Jos kukaan ei tiedä, mikä työkalu kutsu muutti tilan, kustannus syntyy häiriötilanteen hoidossa. Jos kukaan ei tiedä, mitä johdettua dataa säilytettiin, kustannus syntyy poistossa, tietojen luovutuksessa tai oikeudenkäynnissä. Malli oli nopea. Organisaatiosta tulee hidas myöhemmin, yleensä useamman ihmisen kanssa samassa huoneessa ja huonomman kahvin äärellä.
Huoltajuus tekee piilokustannuksista näkyviä aiemmin. Se edellyttää, että järjestelmän on tiedettävä, mitä se hallussaan pitää. Sen on sidottava data tarkoitukseen. Sen on säilytettävä todisteet hamstraamatta kaikkea. Sen on erotettava luonnos päätöksestä. Sen on kirjattava, kuka julkaisi tuotoksen maailmaan. Sen on osattava korjata tai poistaa artefakteja. Tämä kuulostaa tylsältä, koska se on se osa, joka estää glamourin muuttumisen vastuuksi. On olemassa pahempiakin asioita kuin tylsyys. Yksi niistä on itsevarma vastaus, jota kukaan ei pysty jäljittämään.
Datan huoltajuus ei ole datan omistajuusteatteria
Monet organisaatiot puhuvat datansa omistamisesta. Omistajuus ei ole hyödytöntä, mutta se on liian karkea työkalu tekoälyn hallintaan. Tiimi voi omistaa datajoukon ja silti hoitaa huoltajuutta huonosti. Se ei välttämättä tiedä, missä kopiot sijaitsevat, mitkä upotukset on johdettu, mitkä keotteet sisälsivät arkaluonteisia otteita, mitkä tiivistelmät säilyvät tapaustietoihin tallennettuina, mitkä lokit sisältävät henkilötietoja tai mikä myöhempi mallin tuotos sisältää nyt faktan lähteestä, joka korjattiin myöhemmin. Omistajuus kertoo, kenen omaisuus jokin on. Huoltajuus kysyy, mitä sille tapahtui.
Tekoäly luo enemmän huoltajuusobjekteja kuin perinteiset sovellukset. On alkuperäinen asiakirja. On jäsenneltyjä paloja. On upotuksia. On haettuja katkelmia. On keotekokoonpanoja. On luotuja luonnoksia. On arvioijan muokkauksia. On työkalu kutsujen argumentteja. On selityksiä, pisteytyksiä, luokitteluja ja auditointitapahtumia. Jotkut ovat väliaikaisia. Joistakin tulee tietueita. Jotkut pitäisi poistaa nopeasti. Jotkut on säilytettävä. Jotkut on erotettava mallin palvelupolusta. Kaiken tämän kohteleminen yhtenä datamöykkynä on kätevä tapa menettää hallinta kohteliaasti.
Hyvä huoltajuus erottaa toisistaan hallussapidon, käytön, johdannon, julkaisun ja säilytyksen. Järjestelmä voi pitää hallussaan tietuetta mutta olla käyttämättä sitä johonkin tarkoitukseen. Se voi käyttää lähdettä hakua varten mutta olla tallentamatta katkelmaa tuotokseen. Se voi tuottaa tiivistelmän mutta merkitä sen ei-viralliseksi. Se voi julkaista lopullisen vastauksen ja säilyttää todisteita varten vain tunnisteita ja tiivisteitä. Se voi pitää auditointipolkua rajoitetun pääsyn takana ja poistaa samalla työkontekstin. Nämä erottelut eivät ole juridista koristelua. Ne ovat tapa, jolla tekoälyjärjestelmät pysyvät vastuullisina muuttumatta valvontakoneiksi, joilla on parempi typografia.
Vaikea osuus on se, että säilytysvastuu ylittää organisaatiorajat. Datavastaavat, mallitiimit, alustatiimit, lakitiimit, operaattorit, toimittajat ja auditoijat käsittelevät kaikki osia ketjusta. Jos säilytysvastuu elää vain yhden tiimin dokumentaatiossa, se pettää luovutuksessa. Tallenteessa tarvitaan yhteisiä tunnisteita, roolimääritelmiä, säilytyssääntöjä ja todistepolkuja, jotka säilyvät tiimirajojen yli. Muuten jokaisesta poikkeamasta tulee aarteenmetsästys kalenterikutsujen kera.
Myös kehotteet tarvitsevat säilytysvastuuta
Kehotteita kohdellaan usein kertakäyttöisenä tekstinä, jossain määrin konfiguraation ja toimistopuheen välissä. Se on ymmärrettävää kokeiluissa. Tuotannossa se on vaarallista. Kehote voi sisältää politiikkatulkintoja, piilotettuja esimerkkejä, sävyohjeita, kieltäytymisehtoja, työkaluoikeuksia, eskalaatiologiikkaa ja arkaluonteista kontekstia. Se voi muuttaa sitä, miten malli käyttää todisteita. Se voi muuttaa sitä, kuulostaako tuotos alustavalta vai lopulliselta. Se voi muuttaa sitä, näkeekö ihmistarkastaja epävarmuuden. Kehote ei ole vain sanamuoto. Se on operatiivinen ohje.
Kehotteiden säilytysvastuu tarkoittaa kehotteiden versiointia, niiden tarkoituksen nimeämistä, sen tallentamista, mihin tuotoksiin ne ovat vaikuttaneet, muutosoikeuksien rajaamista, muutosten testaamista tunnettuja tapauksia vasten sekä riittävän historian säilyttämistä aiemman käyttäytymisen selittämiseksi. Se tarkoittaa myös pysyvän politiikan erottamista kehotteen sanamuodosta. Jos liiketoimintasääntö elää vain kehotteen sisällä, organisaatio on muuttanut hallinnon kappaleeksi, jolla on käyttöönottokäyttöoikeudet. Kappaleet ovat hyödyllisiä. Ne eivät ole loistava paikka piilottaa auktoriteettia.
Kehotteiden säilytysvastuu edellyttää myös nöyryyttä kehotevuotojen ja kehoteajautuman suhteen. Kehote voidaan kopioida tikettiin, muokata hyvää tarkoittavan tiimin toimesta, upottaa toimittajan asetuksiin tai paikata poikkeaman aikana. Pienet muutokset voivat muuttaa kieltäytymistä, sävyä, lähteiden käyttöä ja työkalujen kutsumista. Ilman säilytysvastuuta organisaatio ei voi kertoa, onko malli huonontunut, lähde muuttunut vai ohje siirtynyt. Se suorittaa sitten perinteisen rituaalin väitelläkseen tunnelmista, kun perimmäinen syy odottaa huoneen ulkopuolella.
Tämä ei tarkoita, että jokaiseen kehotemuokkaukseen tarvitaan komitea. Hallinnon tulee vastata riskiä. Matalan riskin kirjoitusavustajalla voi olla kevyemmät kontrollit kuin kehotteella, joka muokkaa kelpoisuussuosituksia. Mutta myös kevyet kontrollit tarvitsevat tallenteen. Kuka muutti. Miksi. Mitkä testit ajettiin. Mikä reitti sitä käyttää. Milloin se tulisi tarkistaa. Kehotteiden säilytysvastuu ei ole byrokratiaa byrokratian vuoksi. Se on ero operatiivisen oppimisen ja kehotteiden arkeologian välillä.
Työkalut muuttavat säilytysvastuun toiminnaksi
Kysymys säilytysvastuusta terävöityy, kun mallit voivat kutsua työkaluja. Luotu kappale voi harhauttaa. Työkalukutsu voi muuttaa maailmaa. Se voi päivittää tietueen, lähettää sähköpostin, luoda tiketin, hyväksyä tapahtuman, avata käyttöoikeuden, poistaa sisältöä tai käynnistää työnkulun. Kun malli siirtyy ehdotuksesta toimintaan, säilytysvastuun on katettava käyttöoikeudet, argumenttien validointi, tilasiirtymät, idempotenssi, kuitit ja peruutus. Mallin tuotos ei ole enää pelkkää sisältöä. Se on ehdotettu teko.
Työkalujen säilytysvastuu alkaa kapeasta toimivallasta. Mallille ei pidä antaa laajoja kirjoitusoikeuksia vain siksi, että kehote lupaa sen käyttäytyvän hyvin. Yhdyskäytävän on tiedettävä, mitä työkalua saa kutsua, kenen toimesta, mihin tehtävään, millä argumenteilla ja millä näyttöehdoilla. Jotkin kutsut edellyttävät ihmisen hyväksyntää. Jotkin ovat vain luku -tyyppisiä. Jotkin ovat mahdottomia. Tyypitetty työkalujen raja on vähemmän näyttävä kuin demonstraatio autonomisesta työstä. Se on myös paljon helpompi selittää viranomaiselle, asiakkaalle tai väsyneelle insinöörille kello 02:00.
Työkalujen säilytysvastuu tarkoittaa myös sitä, että järjestelmä pystyy rekonstruoimaan, mitä tapahtui. Mikä tuotos ehdotti kutsua. Mikä näyttö tuki sitä. Mikä käyttäjä tai rooli hyväksyi sen. Mikä tila muuttui. Mikä ulkoinen järjestelmä vahvisti sen. Mikä korjaava toimenpide on olemassa, jos se oli väärä. Ilman tätä kirjausta autonomisesta toiminnasta tulee institutionaalista muistinmenetystä koneen nopeudella. Toiminta tapahtui. Selityksestä tulee ryhmäprojekti.
On olemassa yksinkertainen sääntö, joka kannattaa pitää mielessä: mitä enemmän tekoälyjärjestelmä voi muuttaa, sitä vahvemman säilytysvastuun on oltava. Luonnoksen kirjoittaminen vaatii lähde- ja kehotesäilytystä. Jonon järjestäminen vaatii data-, politiikka- ja valitussäilytystä. Kirjoittavan työkalun kutsuminen vaatii tapahtumasäilytystä. Oikeuksiin, rahaan, terveyteen, käyttöoikeuksiin tai turvallisuuteen vaikuttaminen vaatii vakavaa säilytysvastuuta koko ketjun läpi. Sanaa autonomia ei pidä antaa leijua näiden erojen yläpuolella kuin ilmapalloa hankintamessuilla.
Säilytys on osa älykkyyttä
Tekoälytiimit keskittyvät usein siihen, mitä järjestelmät tietävät. Säilytysvastuu kysyy myös, mitä järjestelmien pitäisi unohtaa. Säilytys ei ole hallinnollinen jälkiajatus. Se muokkaa riskiä, vastuullisuutta, yksityisyyttä ja oppimista. Jos työkonteksti poistetaan liian nopeasti, organisaatio ei pysty selittämään päätöksiään. Jos sitä säilytetään liian kauan, organisaatio kerää arkaluonteista materiaalia ilman elävää tarkoitusta. Jos johdettuja artefakteja ei seurata, poistamisesta tulee teatteria. Jos lopullisista tietueista puuttuu alkuperä, säilyttämisestä tulee laatikollinen varmoja katkelmia.
Oikea säilytyssuunnittelu erottaa kerrokset toisistaan. Raakapromptit voivat olla lyhytikäisiä tai ne voidaan poistaa. Lähdetunnisteita voidaan säilyttää pidempään kuin lähdetekstiä. Lopullisia päätöstietoja voidaan säilyttää lakisääteisten sääntöjen mukaisesti. Audit-hajautusarvot voivat säilyä, vaikka sisältö poistetaan. Arviointiesimerkit voidaan anonymisoida. Työkalukuitit voivat vaatia tapahtumatason säilytystä. Suunnittelu riippuu riskistä ja tarkoituksesta. Tärkeintä on, että säilytys on tarkoituksellista, ei sitä, mitä lokijärjestelmä sattui tekemään käynnistyspäivänä.
Tekoälyn kohdalla unohtaminen on teknisesti hankalaa, koska tietoja voidaan kopioida tiivistelmiin, upotuksiin, välimuisteihin, tiketteihin, kuvakaappauksiin, vientitiedostoihin ja koulutusaineistoihin. Custody ei ratkaise tätä teeskentelemällä, että poistaminen on helppoa. Se ratkaisee sen tietämällä, missä johdettuja artefakteja luodaan, mitkä niistä sisältävät henkilö- tai arkaluonteista sisältöä, miten ne voidaan mitätöidä ja mitkä tietueet on osoitettava mitätöinnin tapahtuneen. Lause "poista tiedot" ei ole suunnitelma. Se on avauslause.
On myös oppimiseen liittyvä jännite. Organisaatiot haluavat säilyttää esimerkkejä järjestelmän parantamiseksi. Ihmisillä on oikeus korjaukseen, poistoon, luottamuksellisuuteen ja oikeudenmukaiseen kohteluun. Custody on tapa, jolla nämä intressit sovitetaan yhteen ilman ympäripyöreitä lupauksia. Säilytä riittävästi oppimista ja tilivelvollisuutta varten. Poista tai erota se, mitä ei tarvita. Säilytä todisteet korjauksesta. Poista käytöstä vanhentuneet esimerkit. Älä kouluta materiaalilla vain siksi, että se sattui lojumaan opettavaisen näköisenä. Tämä viimeinen tapa on aiheuttanut enemmän hallinnointiongelmia kuin monet strategia-asiakirjat koskaan myöntävät.
Custody tekee ihmisistä muutakin kuin leimasimia
Ihmisten valvonta on heikkoa, kun he saavat vastauksen ilman custody-kontekstia. Arvioija näkee viimeistellyn tekstin ja vihreän luottamusindikaattorin. Hän ei näe lähteen tuoreutta, pois suljettuja asiakirjoja, promptin versiota, hakuristiriitaa, työkalun auktoriteettia tai aiempia korjauksia. Häntä pyydetään hyväksymään vastaus, mutta hänelle ei anneta ketjua. Se ei ole valvontaa. Se on seremonia painikkeella.
Custody antaa ihmisille arviointiin tarvittavat materiaalit. Se näyttää, mitä järjestelmä käytti, mitä se ei käyttänyt, mitä sen oli sallittu tehdä, mitä epävarmuutta on jäljellä, mitä toimenpidettä ehdotetaan ja mitä tallennetaan, jos ihminen hyväksyy. Se antaa arvioijalle mahdollisuuden olla eri mieltä tavalla, josta järjestelmä voi oppia. Se antaa esihenkilölle mahdollisuuden tarkastella kaavoja. Se antaa asianomaiselle mahdollisuuden riitauttaa lopputuloksen. Se antaa auditoijalle mahdollisuuden rekonstruoida toimintaa haastattelematta puolta organisaatiota ja yhtä eläkkeellä olevaa konsulttia.
Se myös suojaa ihmisiä siltä, että heitä syytetään järjestelmän epäselvyyksistä. Jos arvioija hyväksyi tuotoksen ilman pääsyä lähteeseen, koska käyttöliittymä piilotti sen, se on suunnitteluvirhe. Jos tiimi luotti malliin, koska järjestelmä merkitsi luonnoksen valmiiksi, se on custody-virhe. Jos käyttäjä ei voinut poistaa johdettua materiaalia, koska kukaan ei seurannut sitä, se ei ole käyttäjän moraalinen heikkous. Custody kohdistaa vastuun ketjuun, ei vain lähimpään henkilöön, joka pitää tulosta käsissään, kun jotain menee pieleen.
Hyvä custody siis tekee ihmisen auktoriteetista todellisempaa. Se ei hautaa ihmisiä lokien alle. Se paketoi todisteet oikealla tasolla. Etulinjan käyttäjä voi tarvita lähdenimet, tuoreuden ja kieltäytymisen syyn. Asiantuntija voi tarvita syvemmän jäljityksen. Auditoija voi tarvita allekirjoitettuja tietueita. Tietosuojavastaava voi tarvita säilytys- ja käyttöhistorian. Custody on kerroksellista, koska vastuu on kerroksellista. Kaikkien lokien kaataminen kaikille ei ole läpinäkyvyyttä. Se on asiakirjakonfettia.
Custody on toimintasilmukka
Custody ei ole kertaluonteinen arkkitehtuurikaavio. Se on silmukka. Uusi käyttötapaus luokitellaan. Sen käsittelemät tiedot ja artefaktit nimetään. Oikeudet ja tarkoitukset sidotaan. Järjestelmä toimii näiden rajojen sisällä. Tuotokset ja toimet vahvistetaan. Poikkeukset käydään läpi. Korjaukset päivittävät ketjun. Artefaktit säilytetään, poistetaan tai poistetaan käytöstä. Silmukka toistuu, kun käytännöt, mallit, toimittajat, tiedot tai työ muuttuvat.
Tämä silmukka on tärkeä, koska tekoälyjärjestelmät liikkuvat. Mallin versio muuttuu. Hakemisto rakennetaan uudelleen. Käytäntöä päivitetään. Toimittaja muuttaa säilytysasetuksia. Uusi tiimi kopioi kehotteen. Työkalu saa uuden käyttöoikeuden. Matalan riskin avustajasta tulee osa päätöksentekoprosessia. Ilman säilytysvastuun silmukkaa jokainen muutos on pieni kirjaamaton karkaaminen. Vuoden kuluttua organisaatiolla on järjestelmä, joka toimii mutta ei enää vastaa hallintokertomusta. Tämä on yleistä. Se ei kuitenkaan ole kohtalo.
Säilytysvastuun hoitaminen vaatii omistajia. Joku omistaa lähdeauktoriteetin. Joku omistaa kehoteversiot. Joku omistaa mallin hyväksynnän. Joku omistaa työkaluyhdyskäytävät. Joku omistaa tietueet ja säilytyksen. Joku omistaa korjausreitit. Näiden omistajien ei tarvitse istua samassa osastossa, mutta heidän vastuidensa on kohdattava. Muuten säilytysvastuusta tulee seinäkaavio, jonka nuolet osoittavat sumuun, genre joka on jo yliedustettu digitaalisessa muutoksessa.
Opetus
Tekoäly tarvitsee vähemmän taikaa ja enemmän säilytysvastuuta, koska organisaatiot eivät hallitse ihmettä. Ne hallitsevat tietueita, oikeuksia, työkaluja, ihmisiä, tarkoituksia ja muutoksia. Malli voi olla merkittävä, mutta instituutio on edelleen vastuussa siitä, mitä järjestelmä piti, muunsi, julkaisi, tallensi, korjasi ja unohti. Vastauksen kohteleminen suorituksena ei riitä. Vastaus tarvitsee ketjun.
Säilytysvastuu ei tarkoita tekoälyn jäädyttämistä byrokratian alle. Se tarkoittaa vakavan käytön mahdollistamista. Se antaa tiimeille luottamuksen siihen, että dataa käytetään oikeaan tarkoitukseen, kehotteet ovat versioituja, työkalut ovat rajattuja, ihmiset saavat todisteita, tietueet säilyvät ja artefaktit siirtyvät eläkkeelle, kun niiden tarkoitus päättyy. Se antaa organisaatioille mahdollisuuden automatisoida teeskentelemättä, että automaatio hajottaa vastuun. Se antaa niille mahdollisuuden oppia hamstraamatta. Se antaa niille mahdollisuuden selittää penkomatta.
Käytännön muutos on vaatimaton ja vaativa. Lopeta kysymästä vain, voiko malli vastata. Kysy, mitä järjestelmä piti tuottaakseen vastauksen, kenellä oli lupa käsitellä sitä, mikä muuttui, mikä kirjattiin, mitä voidaan haastaa ja milloin artefaktien tulisi poistua säilytysvastuusta. Se on vähemmän maagista. Hyvä. Taika on huono valvontakehys. Säilytysvastuu on hiljaisempi, raskaampi ja paljon todennäköisemmin edelleen toimiva, kun joku kysyy, mitä tapahtui.