Tekoälyn vastuullisuus alkaa syötteen kurinalaisuudesta
Virhe oli jo ylävirrassa
Kiistanalainen vastaus näytti malliongelmalta. Järjestelmä oli tuottanut suosituksen, joka oli väärä pienellä mutta merkityksellisellä tavalla. Se viittasi käytäntöön, joka oli korvattu, käytti asiakastietuetta, josta puuttui lisäys, ja jätti huomiotta asiantuntijan muistiinpanon, koska muistiinpano oli kansiossa, jota hakutyö ei indeksoinut. Katselmuskokous alkoi tutuilla kysymyksillä mallin laadusta, kehotteen sanamuodosta ja siitä, oliko lämpötila-asetus ollut holtiton. Teknologia saa ihmiset mielellään puhumaan lämpötilasta huoneissa, joissa ei ole ikkunoita.
Tunnin kuluttua epämiellyttävä tosiasia tuli esiin. Malli oli tehnyt sen, mihin syöteympäristö antoi mahdollisuuden. Nykyinen käytäntö ja vanhentunut käytäntö olivat molemmat saatavilla. Lisätty tietue ja lisäämätön tietue olivat samannimisiä. Asiantuntijan muistiinpano oli soveltamisalan ulkopuolella, koska kukaan ei ollut nimennyt kansiota auktoritatiiviseksi. Kehote pyysi perusteltua suositusta, mutta järjestelmälle ei ollut annettu kurinalaista tapaa tietää, mitkä lähteet saivat osallistua päättelyyn. Tuotos oli väärä, mutta virhe oli alkanut ennen kuin malli näki ensimmäistäkään merkkiä.
Tekoälyn vastuullisuudesta keskustellaan usein ketjun päässä: selitä vastaus, tarkasta päätös, lokita tuotos, lisää ihmistarkistus, tuota raportti. Kaikki tämä on tärkeää. Mutta vastuullisuus alkaa aikaisemmin, syötteen vastaanotossa. Mitkä tiedot tulivat mukaan. Mitkä tiedot jätettiin pois. Mikä lähde oli auktoritatiivinen. Mitkä muunnokset tapahtuivat. Mitkä käyttöoikeudet olivat voimassa. Mikä konteksti oli liian vanha, liian arkaluonteinen, liian puutteellinen tai liian heikko käytettäväksi. Ilman syötekuria tuotoksen vastuullisuudesta tulee puhdas paita sähkövikaongelman päällä.
Syötekuri on operatiivinen tapa kohdella syötteitä hallittuna aineistona eikä vain kätevänä kontekstina. Se edellyttää luokittelua, alkuperää, käyttötarkoitusta, ajantasaisuutta, lupia, laaturajoja, muunnosmerkintöjä, kieltäytymissääntöjä ja omistajia. Se kuulostaa vähemmän jännittävältä kuin mallin arviointi. Se johtuu siitä, että se on lähempänä putkistoa. Putkisto on kuuluisan tylsää, kunnes se tulee olohuoneeseen.
Roskaa sisään on liian lempeä ilmaus
Vanha sanonta roskaa sisään, roskaa ulos on hyödyllinen mutta liian lempeä nykyaikaisille tekoälyjärjestelmille. Syötteet eivät ole vain puhtaita tai likaisia. Ne voivat olla luvattomia, vanhentuneita, monitulkintaisia, liian laajoja, päällekkäisiä, puolueellisia, luottamuksellisia, puutteellisia, johdettuja väärään tarkoitukseen tai vakuuttavia mutta epäolennaisia. Malli voi muuttaa tällaiset syötteet sujuvaksi tuotokseksi, mikä tekee ongelmasta vaikeamman. Tavallisella roskalla on ainakin kohteliaisuus haista. Huono tekoälykonteksti voi saapua solmio kaulassa.
Syötteen laatuun kuuluu asiasisällön laatu, mutta myös hallinnollinen laatu. Onko tämä lähde sallittu tähän tehtävään. Onko se edelleen ajantasainen. Onko se kerätty yhteensopivaan tarkoitukseen. Sisältääkö se henkilötietoja, jotka pitäisi poistaa. Edustaako se lopullista päätöstä vai luonnosta. Onko se ensisijainen asiakirja vai yhteenveto yhteenvedosta. Onko se ristiriidassa toisen lähteen kanssa. Kuka sen omistaa. Milloin se vanhenee. Mikä muunnos on muuttanut sitä. Nämä kysymykset ratkaisevat, onko mallin konteksti vastuullinen.
Tiimit usein ohittavat tämän, koska mallit vaikuttavat suvaitsevaisilta. Ne pystyvät lukemaan sekavaa tekstiä, päättelemään puuttuvan rakenteen, tiivistämään ristiriitaisia lähteitä ja tuottamaan varman vastauksen. Tämä suvaitsevaisuus on hyödyllistä käyttäjän rajapinnassa ja vaarallista hallinnon rajalla. Jos järjestelmä hyväksyy jokaisen uskottavan lähteen, se muuttaa vastuullisuuden arvauspeliksi. Kun tuotosta myöhemmin haastetaan, organisaatio huomaa, että malli ei hallusinoinut yksin. Sillä oli rikoskumppaneita nimeltä oletusindeksi ja jaettu asema.
Kuri ei tarkoita, että mallille syötetään vain täydellistä dataa. Täydellinen data on ihastuttava myytti, kuten tyhjä sähköpostilaatikko tai kokous, joka päättyy, koska asialista on valmis. Kuri tarkoittaa, että tiedetään, mikä laatutaso riittää mihinkin tehtävään, mikä epävarmuus on merkittävä, mikä data on kieltäydyttävä vastaanottamasta ja mikä ihmisen tekemä reitti on olemassa, kun syöte ei sovellu automaatioon. Sotku voidaan käsitellä. Nimetöntä sotkua ei voi.
Syötteen laajuus on päätös
Jokaisella tekoälyjärjestelmällä on syötteen laajuus, vaikka kukaan ei kirjoittaisi sitä ylös. Laajuus määrää, mitkä asiakirjat, tietokannat, viestit, lokit, kuvat, tietueet, verkkosivustot, käyttäjän muistit, työkalujen tulokset ja aiemmat tuotokset saavat muokata vastausta. Kun laajuus on epäsuora, järjestelmä perii sen oletuksista: mitä yhdistin näkee, mitä indeksi sisältää, mitä kehote sisältää, mitä käyttäjä on liittänyt, mitä viimeinen kokeilu on jättänyt jälkeensä. Oletukset ovat nopeita. Ne ovat myös perinteinen tapa salakuljettaa politiikkaa arkkitehtuurin kautta.
Laajuuden tulisi olla nimenomainen tehtävän tasolla. Asiakaspalvelun avustaja voi käyttää tuotedokumentaatiota, tilaustietoja, tunnettua politiikkaa ja asiakkaan nykyistä tukipyyntöä, mutta ei asiaan liittymättömiä tilitietoja. Lääketieteellinen tiivistäjä voi käyttää tietueita ilmoitetusta hoitojaksosta, mutta ei jokaista koskaan kirjoitettua muistiinpanoa, koska enemmän kontekstia tuntuu turvallisemmalta. Hankintatyökalu voi käyttää toimittajien toimituksia ja hyväksyttyjä arviointikriteerejä, mutta ei huhuja aiemmista neuvotteluista. Koodiavustaja voi lukea säilytyspaikan, mutta ei salaisuuksia tai asiaan liittymättömiä projekteja. Laajuus ei ole vain tekninen suodatin. Se on lupaus siitä, mikä on merkityksellistä.
Nimenomainen laajuus auttaa myös kieltäytymisessä. Järjestelmän tulisi pystyä sanomaan, että vastaus edellyttää lähdettä sallitun laajuuden ulkopuolelta, tai että saatavilla oleva lähde on liian vanha, tai että pyydetty toimenpide käyttää dataa yhteensopimattomaan tarkoitukseen. Tämä ei ole epäonnistumista. Se on vastuullisuutta, joka tekee hyödyllistä työtä ennen vahinkoa. Malli, joka kieltäytyy, koska syöttösäännöt ovat selkeät, on vähemmän loistokas kuin malli, joka improvisoi, mutta loistokkuudella on vaihteleva maine vaatimustenmukaisuudessa.
Syötteen laajuus tulisi versioida. Kun lähde lisätään, poistetaan, luokitellaan uudelleen tai merkitään vanhentuneeksi, muutos voi muuttaa tuotoksia. Kiistetty vastaus tulisi voida toistaa sellaista lähdejoukkoa vasten, joka oli olemassa kyseisenä ajankohtana. Muuten tutkinta ajaa tapauksen uudelleen tämän päivän kontekstilla ja ihmettelee, miksi eilistä tulosta ei voida toistaa. Aikamatkustus on riittävän vaikeaa ilman, että indeksit kirjoittavat historiaa uudelleen.
Alkuperä ei ole alaviite
Alkuperään suhtaudutaan usein dokumentaationa, joka liitetään dataan vasta kun mielenkiintoinen työ on jo tehty. Tekoälyjärjestelmissä alkuperä on osa suoritusaikaa. Järjestelmän on tiedettävä, mistä syöte tuli, kuka sen loi, milloin se muuttui, mitä versiota käytettiin, miten sitä muunnettiin, mitkä käyttöoikeudet olivat voimassa ja oliko se virallinen. Ilman tätä malli vastaanottaa kontekstin ikään kuin kaikki teksti olisi samanarvoista. Kaikki teksti ei ole samanarvoista. Poliittinen luonnos, allekirjoitettu käytäntö, asiakkaan valitus, puhelun tallenne ja mallin tuottama yhteenveto voivat kaikki kuulostaa virallisilta, kun ne on asetettu samaan kehotteeseen. Maailmankaikkeus on tässä suhteessa avuton.
Hyvä alkuperä parantaa vastauksia ja tutkimuksia. Se antaa haun nostaa viralliset lähteet arkisten muistiinpanojen yläpuolelle. Se antaa käyttöliittymän merkitä luonnosmaterialin. Se antaa arvioijien nähdä, tuliko väite ensisijaisesta asiakirjasta vai yhteenvedosta. Se antaa tilintarkastajien rekonstruoida päätöksen. Se antaa tietovastaavien korjata oikean lähteen. Se antaa järjestelmän kieltäytyä vanhentuneesta tai luvattomasta kontekstista. Alkuperä ei koske vain syyllisyyden osoittamista epäonnistumisen jälkeen. Se koskee ohjaamista ennen tuotosta.
Alkuperän on säilyttävä muunnosten läpi. PDF:n jäsentäminen, tekstin pilkkominen, upotusten luominen, kenttien poiminta, henkilötietojen peukalointi, sisällön kääntäminen, asiakirjojen tiivistäminen ja kehotteiden välimuistitus muuttavat kaikki syötteen muotoa. Jokainen vaihe voi pudottaa merkitystä, lisätä harhaa tai luoda uuden tietueen. Jos järjestelmä säilyttää vain lopullisen palan, se menettää kyvyn selittää, miten palasta tuli kontekstia. Pala voi olla tarkka. Se voi myös olla lause, jonka vanhemmat puuttuvat.
Tässä on käytännön kurinalaisuus: syöteartefakteille tarvitaan tunnisteet. Lähdetunnisteet, versiotunnisteet, muunnostunnisteet, käytäntötunnisteet, kehote tunnisteet ja jäljitystunnisteet. Se kuulostaa paperityöltä, kunnes kiistanalainen tapaus saapuu. Sitten siitä tulee ero toiston ja kansanperinteen välillä. Kansanperinteellä on kulttuurista arvoa. Se on vähemmän vakuuttava sääntelijän sähköpostissa.
Kehotesyöte on silti syöte
Monet organisaatiot hallinnoivat asiakirjoja ja tietokantoja, mutta antavat kehotteiden muodostua sivuovesta. Käyttäjä voi liittää luottamuksellista tekstiä yleiseen avustajaan. Työnkulku voi lisätä ohjeita epäluotettavasta lähteestä. Malli voi vastaanottaa järjestelmäkehotteita, jotka sisältävät käytäntöjä, joita kukaan ei ole versioinut. Agentti voi välittää työkalun tuotoksen suoraan toiseen vaiheeseen. Kehotemateriaali tuntuu väliaikaiselta, koska se on keskustelevaa. Se voi silti kantaa arkaluonteista dataa, päätöksiä, velvoitteita ja hyökkäyspinta-alaa.
Syötteenä annettu kehote vaatii samat kysymykset kuin mikä tahansa muu syöte. Kuka sen toimitti. Mihin tarkoitukseen se on. Onko se sallittu tässä tehtävässä. Onko se luottamuksellinen. Sisältääkö se ohjeita vai vain sisältöä. Pitääkö se poistaa tai muokata. Pitääkö se kirjata lokiin. Ohittaako se käytännöt. Sisältääkö se käyttäjän mieltymyksiä tai organisaation sääntöjä. Onko se luotettu. Milloin se vanhenee. Jos se tuntuu raskaalta jokaista kehotetta kohden, vastaus ei ole jättää sitä huomiotta. Vastaus on luokitella kehotekanavat niin, että tavalliset tapaukset ovat yksinkertaisia ja riskialttiit tapaukset estetään tai ohjataan eteenpäin.
Kehoteinjektio on yksi syy, miksi tämä on tärkeää, mutta ei ainoa. Jopa ilman hyökkääjää keotesyöte voi hämärtää vastuullisuutta. Käyttäjä voi liittää luonnospolitiikan ja pyytää neuvoa ikään kuin se olisi voimassa oleva käytäntö. Myyntimuistio voi sisältää lupauksen, jota lakiosasto ei ole koskaan hyväksynyt. Tukipalvelun keskustelutallenne voi sisältää asiakkaan arvailua. Eilinen mallin tuotos voidaan syöttää takaisin faktana tänään. Järjestelmän tulisi erottaa sisältö, ohje, mieltymys, käytäntö ja näyttö. Ihmiset kamppailevat tämän kanssa kokouksissa. Koneet ansaitsevat eksplisiittistä apua.
Rakenteellinen keotesyötteen vastaanotto voi olla vaatimatonta. Erota käyttäjän pyyntö lähdemateriaalista. Merkitse luotettu ja luottamaton sisältö. Kieltäydy noudattamasta haettujen dokumenttien ohjeita, ellei sitä ole erikseen sallittu. Tee poistot ja muokkaukset ennen mallin kontekstia. Säilytä keotepohjat versioituina resursseina. Kirjaa, mikä pohja ja mitkä syötteet tuottivat tuloksen. Tämä ei ole ylisuunnittelua. Se on sivuoven sulkemista, jota kaikki käyttävät, koska etuovessa on lomake.
Johdettu data perii vastuun
AI-järjestelmät luovat johdettuja syötteitä toimiessaan. Dokumenteista tulee paloja. Paloista tulee upotuksia. Vuorovaikutuksista tulee jälkiä. Tuotoksista tulee esimerkkejä. Arvioinneista tulee merkintöjä. Yhteenvedoista tulee lähdemateriaalia myöhempiin kysymyksiin. Jokainen johdannainen voi kantaa merkitystä alkuperäisestä, vaikka se ei enää näyttäisi arkaluontoiselta. Upotus ei ole dokumentti, mutta se voi paljastaa dokumentista tarpeeksi ollakseen merkityksellinen. Yhteenveto ei ole lähde, mutta siitä voi tulla lähde, jos järjestelmä on laiska. Laiskuus on yllättävän aktiivinen arkkitehtoninen voima.
Syötediscipliinin on määriteltävä periytyminen. Mitkä johdetut artefaktit perivät arkaluontoisuuden lähteestä. Mitä voidaan käyttää uudelleen. Mitkä vanhenevat. Mitä voidaan käyttää arviointiin. Mitkä voivat kouluttaa mallia. Mitkä on pidettävä paikallisina. Mitkä on poistettava, kun lähde poistetaan. Mitkä voidaan näyttää arvioijalle. Mitä ei tulisi koskaan kirjata lokiin. Ilman periytymissääntöjä johdetusta datasta tulee juridinen ja operatiivinen kompostikasa. Se voi olla hedelmällistä. Se voi myös haista oikeudenkäynnin selvitysvaiheessa.
Johdetut syötteet luovat myös takaisinkytkentäsilmukoita. Mallin tuottama yhteenveto voidaan indeksoida ja hakea myöhemmin ikään kuin se olisi ensisijainen lähde. Väärä luokitus voi muuttua koulutusmerkinnäksi. Arvioijan huomautusta voidaan käyttää muuhun kuin sen alkuperäiseen tarkoitukseen. Välimuistiin tallennettu vastaus voi säilyä käytössä politiikan muututtua. Nämä silmukat eivät ole eksoottisia. Ne ovat tavallisia sivuvaikutuksia järjestelmistä, jotka yrittävät olla avuliaita. Vastuullisuus edellyttää ensisijaisten lähteiden erottamista johdetuista käytännöllisyyksistä.
Yksinkertainen sääntö auttaa: johdannaisten tulisi kantaa alkuperätieto. Jos upotus, pala, yhteenveto, merkintä, välimuistimerkintä tai arviointiesimerkki on olemassa, järjestelmän tulisi tietää, mikä lähde, versio, muunnos ja tarkoitus sen loi. Johdannainen ei saisi kulkea arkkitehtuurin läpi kuin salaperäinen serkku häissä. Sen tulisi saapua nimilapun ja olemassaolonsa syyn kanssa.
Syötteen kieltäytyminen on ominaisuus
Tiimit pitävät järjestelmistä, jotka vastaavat. Käyttäjät pitävät järjestelmistä, jotka vastaavat. Johtajat pitävät järjestelmistä, jotka vastaavat, koska vastatut pyynnöt näyttävät tuottavilta kojelaudoissa. Syotediscipliini vaatii joskus, että järjestelmä ei vastaa tai vastaa rajatulla seuraavalla askeleella. Saatavilla oleva näyttö on liian vanha. Pyydetty lähde on soveltamisalan ulkopuolella. Käyttäjältä puuttuu oikeus. Asiakirja on luonnos. Tieto on puutteellista. Tehtävä vaatii ihmisen harkintaa. Tämä kieltäytyminen ei ole älykkyyden puutetta. Se on älykkyyttä jarruilla.
Kieltäytymisestä tulee hyödyllistä, kun se on täsmällistä. Ei: En voi auttaa siinä. Sen sijaan: nykyinen lähdejoukko ei sisällä hyväksyttyä politiikkaa maaliskuun 2026 jälkeen, tai tämä pyyntö käyttäisi työntekijöiden terveystietoja tarkoitukseen, jota ei ole ilmoitettu työnkulussa, tai saatavilla olevassa tietueessa on ratkaisemattomia päällekkäisiä tunnisteita. Kieltäytymisen tulisi nimetä puuttuva syotediscipliini ja tarjota oikea reitti: pyydä hyväksyntää, lisää lähde, nosta tarkistettavaksi, korjaa tietue, rajaa tehtävä tai jatka merkityllä rajoituksella.
Täsmällinen kieltäytyminen parantaa myös kulttuuria. Se opettaa käyttäjille, että järjestelmä ei ole hankala viihteen vuoksi. Se osoittaa, että rajoilla on syynsä. Se luo painetta korjata lähteiden laatua ja politiikan aukkoja. Se estää tutun kaavan, jossa käyttäjät oppivat muotoilemaan pyyntöjä uudelleen, kunnes malli sanoo jotain riittävän hyödyllistä. Uudelleenmuotoilu hallintojen ympärillä on urheilulaji, jota organisaatioiden tulisi välttää isännöimästä.
Kieltäytymismittarit ovat arvokkaita. Seuraa, miksi syötteistä kieltäydytään. Vanhentunut lähde. Puuttuva oikeus. Soveltamisalan ristiriita. Puutteellinen tietue. Epäselvä tarkoitus. Arkaluonteinen sisältö. Tuettu toiminto puuttuu. Jokainen luokka osoittaa korjaukseen tai poliittiseen valintaan. Jos kieltäytymisasteet ovat korkeita, järjestelmä voi olla liian tiukka, dataomaisuus voi olla sekavaa tai tehtävä ei ehkä ole valmis automatisoitavaksi. Kaikki ovat hyödyllisiä tosiasioita, vaikka vain yksi olisi miellyttävä.
Vastuullisuus on toimintasilmukka
Syotediscipliini ei voi olla kertaluonteinen siivous. Tieto muuttuu, politiikat muuttuvat, liittimet muuttuvat, käyttäjät keksivät uusia tehtäviä, mallit muuttuvat ja organisaatiot löytävät uusia tapoja nimetä sama asiakas. Vastuullisuus vaatii toimintasilmukan. Luokittele syötteet. Salli ne. Valmistele ne. Käytä ne. Tallenna ne. Arvioi tulokset. Korjaa lähteet ja säännöt. Toista. Tämä silmukka ei ole loistokas, mutta ei hammashygieniakaan. Molemmat huomataan enimmäkseen silloin, kun niitä laiminlyödään.
Silmukan tulisi yhdistää datan hallinta, tietoturva, tuote, lakiasiat, operatiivinen toiminta ja alan asiantuntijat. Syotediscipliini ei ole yhden sankarillisen data-asiantuntijan omistuksessa, joka piiloutuu laskentataulukon taakse. Data-asiantuntijat tuntevat lähteiden laadun. Tietoturva tuntee pääsyn ja vuodot. Lakiasiat tuntevat tarkoituksen ja säilytyksen. Tuote tuntee tehtävien suunnittelun. Operatiivinen toiminta tietää, mikä hajoaa mittakaavassa. Alan asiantuntijat tietävät, milloin saatavilla oleva syöte on merkityksellistä. Mallitiimi on osa silmukkaa, ei koko silmukkaa.
Arvioinnin pitäisi testata syötteen ehtoja, ei vain tuotoksen laatua. Mitä tapahtuu, kun lähde on vanhentunut. Mitä tapahtuu, kun kaksi lähdettä ovat ristiriidassa. Mitä tapahtuu, kun arkaluonteista sisältöä ilmenee. Mitä tapahtuu, kun käyttäjä yrittää ujuttaa ohjeita dokumentin kautta. Mitä tapahtuu, kun pakollinen kenttä puuttuu. Mitä tapahtuu, kun järjestelmällä on korkea luottamus mutta heikko alkuperäketju. Nämä testit mittaavat vastuullisuutta ennen kuin vastaus kirjoitetaan.
Hyvät kojelaudat näyttävät syötteen kunnon: lähteiden tuoreuden, käyttöoikeusvirheet, poistojen määrät, puuttuvat kentät, kaksoiskappaleet, muunnosvirheet, kieltäytymisen syyt, alkuperäketjun kattavuuden ja johdettujen artefaktien määrät. Tämä kuulostaa operatiiviselta, koska sitä se on. Tekoälyn vastuullisuus, joka ei näe syötteitään, on vastuullisuutta optimismin varassa. Optimismilla on paikkansa. Sen ei pitäisi olla valvonnan strategia.
Malli ei ole vapautettu vastuusta
Mikään tästä ei vapauta malleja vastuusta. Mallit tarvitsevat edelleen arviointia, turvallisuusohjauksia, kalibroitua epävarmuutta, luotettavaa hakua, rajattua työkalujen käyttöä ja rehellisiä tuotosrekistereitä. Kurinalainen syötepolku ei tee mallista täydellistä. Se tekee mallin työstä tarkasteltavaa. Se vähentää vältettävissä olevien virheiden määrää ja tekee väistämättömästä epävarmuudesta helpommin käsiteltävää.
Syötteen kurinalaisuus paljastaa myös mallin heikkoudet selvemmin. Jos lähteet ovat puhtaita, rajattuja, ajantasaisia ja sallittuja, ja malli silti tulkitsee ne väärin, mallin ongelma on näkyvä. Jos syötteet ovat kaoottisia, jokaisesta virheestä tulee monitulkintainen. Oliko malli väärässä. Oliko lähde vanhentunut. Valitsiko haku luonnoksen. Puuttuiko käyttöoikeus. Poistiko redaktointi kriittisen lauseen. Korvasiko yhteenveto asiakirjan. Monitulkintaisuus voi suojella egoja viikon ajan. Se vahingoittaa toimintaa vuosia.
Siksi syötteen kurinalaisuus ei ole vähemmän kehittynyttä kuin mallin työ. Se on perusta, joka tekee kehittyneestä työstä luottamuksen arvoista. Hakuavusteinen generointi, agenttipohjaiset työnkulut, monimuotoinen analyysi, automatisoitu luokittelu, päätöksenteon tuki ja tekoälyavusteinen toiminta ovat kaikki riippuvaisia kontekstista. Jos kontekstia ei hallita, järjestelmä ei ole vastuullinen, koska se ei voi sanoa, mistä maailmasta se vastasi.
Käytännön johtopäätös on ankara mutta hyödyllinen. Ennen kuin kysyt, miten malli selitetään, kysy, miten syötteestä tuli mallin konteksti. Ennen kuin kysyt, miksi vastaus oli väärä, kysy, tiesikö järjestelmä, mitkä lähteet saivat olla oikeassa. Ennen kuin perustat arviointilautakunnan, rakenna tulorekisteri. Ennen kuin juhlit autonomiaa, määrittele kieltäytyminen. Tuotos on se, missä vastuullisuus tulee näkyväksi. Syöte on se, missä se voitetaan tai hävitään.
Opetus
AI:n vastuullisuus alkaa syötteen hallinnasta, koska AI-järjestelmät toimivat kontekstin perusteella. Jos konteksti on luokittelematon, luvaton, vanhentunut, liian laaja, muunnettu ilman kirjausta tai sekoitettu luottamattomiin ohjeisiin, organisaatio on jo heikentänyt kykynsä selittää, haastaa, korjata ja parantaa tulosta. Viimeistelty vastaus ei voi korvata kuritonta lähdepolkua. Se voi vain tehdä ongelmasta luettavamman.
Työ on konkreettista: luokittele lähteet, aseta laajuus, kirjaa alkuperä, hallitse kehotteen syötettä, seuraa muunnoksia, määrittele johdannaisten periytyminen, tee kieltäytymisestä täsmällinen ja ylläpidä syöttösilmukkaa, joka korjaa toistuvat viat. Tämä ei ole tekoälyvastaisuutta. Näin AI-järjestelmät ansaitsevat oikeuden käsitellä merkityksellistä työtä. Vastuullisuus ei ala, kun malli puhuu. Se alkaa, kun organisaatio päättää, mitä malli saa kuulla.