Tulevaisuus on paikallista, varmennettua ja tylsää
Tulevaisuus saapui huoltoikkunassa
Tulevaisuus ei saapunut loistokkaan pääpuheen myötä. Se saapui huoltoikkunassa kello 22:30, kun käyttötiimi siirsi kriittisen työnkulun ulkoisesta riippuvuudesta alueelliseen suoritusympäristöön, varmisti että samat tietueet tuottivat samat päätökset, tarkisti auditointikuittaukset, vaihtoi avaimen, palautti varmuuskopion ja lähti kotiin ennen keskiyötä. Kukaan ei taputtanut. Käyttäjät eivät huomanneet mitään muuta kuin että palvelu toimi edelleen aamulla. Tämä ei ole se kohtaus, jonka useimmat ihmiset kuvittelevat puhuessaan tekoälyn tulevaisuudesta. Se on todennäköisesti lähempänä sitä, jolla on merkitystä.
Tekoälyn julkinen tarina on koulittu spektaakkelilla: suuremmat mallit, oudommat demot, sujuvammat agentit, synteettinen media, vertailuarvojen harppaukset, hallintapaneelit jotka vihjaavat että organisaatiosta on tullut avaruusalus. Spektaakkelilla on paikkansa. Se voi näyttää mikä on mahdollista. Se voi laajentaa mielikuvitusta. Se voi myös viedä huomion kysymyksestä, joka ratkaisee tuleeko tekoälystä luotettavaa infrastruktuuria: voiko tämä järjestelmä toimia siellä missä sen täytyy toimia, todistaa mitä se teki, ja tulla tarpeeksi tylsäksi että ihmiset voivat luottaa siihen muuttamatta jokaista tuotosta pieneksi teologiseksi tapahtumaksi.
Tekoälyn seuraava hyödyllinen vaihe on paikallinen, varmennettu ja tylsä. Paikallinen ei tarkoita että kaiken täytyy toimia työpöydän alla sankarillisella tuulettimella. Se tarkoittaa että laskenta, data, avaimet ja valtuudet ovat riittävän lähellä ihmisiä ja instituutioita, jotka ovat niistä vastuussa. Varmennettu ei tarkoita että jokaisesta vastauksesta tulee matemaattinen todiste. Se tarkoittaa että tärkeät väitteet kantavat mukanaan todisteita, toistopolkuja, versioitua tilaa ja testattavia rajoja. Tylsä ei tarkoita mielikuvituksetonta. Se tarkoittaa että järjestelmä on lakannut aiheuttamasta vältettävää draamaa.
Tämä tulevaisuus on vähemmän muodikas, koska se on vähemmän teatraalinen. Se edellyttää datakontakteja, vientimuotoja, deterministisiä tietueita, arviointijoukkoja, roolisuunnittelua, palautusharjoituksia, energiatietoisuutta, kieltäytymispolkuja, paikallisia suoritusympäristöjä, avoimia rajapintoja, tapahtumaoikeuksia ja riittävästi operatiivista nöyryyttä myöntää että hyvä tekoälyjärjestelmä on sellainen, joka voi tuottaa pettymyksen pääpuheyhteisölle ja ilahduttaa auditoijaa. Se ei ole pieni kunnianhimo. Se vain sopii huonosti konfettien kanssa.
Paikallinen ei ole postinumero
Paikallinen tekoäly ymmärretään usein väärin postinumerokysymyksenä. Kun palvelin sijoitetaan tänne, järjestelmästä tulee vastuullinen. Sijainnilla on merkitystä, mutta paikallisuus on rikkaampi käsite kuin maantiede. Työkuorma on riittävän paikallinen, kun vastuullinen toimija voi hallita tiedon liikkumista, suoritusympäristöä, avaimia, pääsyä, lokitietoja, palautusta ja todisteita kysymättä lupaa etäiseltä riippuvuudelta pahimmalla mahdollisella hetkellä. Joskus se tarkoittaa omia tiloja. Joskus suvereenia aluetta. Joskus reunalaitteita. Joskus hybridimallia. Kartta on hyödyllinen vain, kun se seuraa toimivaltaa, ei markkinointimaantiedettä.
Työn siirtämiseen lähemmäs on käytännön syitä. Arkaluonteinen tieto ei välttämättä saa liikkua. Vasteaika voi olla merkittävä. Energiakustannukset voivat olla selvempiä paikallisesti. Katkottu toiminta voi olla välttämätöntä. Organisaatio voi joutua tarkastamaan mallin toimintaa omilla lokitiedoillaan. Julkinen viranomainen voi joutua turvaamaan oikeuksia kansallisen tai eurooppalaisen lainsäädännön mukaisesti. Valmistaja voi tarvita päättelyä koneen lähellä. Sairaala voi tarvita potilastietojen pysymistä luottamusrajan sisällä. Nämä eivät ole ideologisia syitä. Ne ovat toiminnan rajoitteita.
Paikallisuus muuttaa myös taloutta. Jokaisen pienen tehtävän lähettäminen etäiselle jättiläiselle vain siksi, että rajapinta on kätevä, voi muuttua kalliiksi, hauraaksi ja vaikeasti selitettäväksi. Jokaisen tehtävän suorittaminen paikallisesti vain siksi, että se kuulostaa suvereenilta, voi muuttua tuhlailevaksi, alitehoiseksi ja vaikeasti ylläpidettäväksi. Tulevaisuus ei ole yksi käyttöönottouskonto. Se on sijoittelun kurinalaisuutta. Sijoita työ sinne, missä data, hallinta, vasteaika, kustannus, osaaminen ja riski ovat järkeviä. Todista sitten, että sijoittelu toimii edelleen, kun helppo polku pettää.
Mielenkiintoisimmat paikalliset järjestelmät ovat tavallisia. Ne käyttävät pienempiä malleja silloin, kun pienemmät mallit riittävät. Ne yhdistävät hakua, sääntöjä, lokitietoja ja ihmisen tarkistusta. Ne välimuistittavat huolellisesti, päivittävät harkiten ja kieltäytyvät, kun konteksti puuttuu. Ne kohtelevat kaistanleveyttä, sähköä ja henkilöstön huomiota rajallisina resursseina. Ne eivät pyydä anteeksi sitä, etteivät ole yhtä maagisia, jos ne ovat luotettavampia. Taikuudella on ollut antelias koeaika.
Varmennettu tarkoittaa, että vastaus tuo mukanaan todisteet
Varmentaminen ei ole yksi asia. Se voi tarkoittaa matemaattista todistusta, allekirjoitettuja lokitietoja, determinististä toistoa, vertailuarvoarviointia, lähdeviittausta, käytäntöjen noudattamista, ihmisen hyväksyntää, auditointilokia, regressiotestejä, riippumatonta tarkastelua tai yksinkertaista tarkistusta siitä, että ruudulla oleva luku vastaa lähteen lukua. Sana on laaja, koska vastuullisuus on laajaa. Hyödyllinen kysymys ei ole se, onko järjestelmä varmennettu abstraktisti. Se on se, mikä väite on varmennettu, millä todisteilla ja mihin seuraukseen.
Tekoälyn vastaus, joka ehdottaa lounaspaikkaa, ei tarvitse samanlaisia todisteita kuin vastaus, joka tukee etuuspäätöstä, kunnossapito-ohjetta, luottopäätöstä, kliinistä merkintää tai turvallisuusarviointia. Vakavien järjestelmien tulisi mitoittaa varmentaminen seurauksen mukaan. Vähäriskistä työtä voi viedä kevyesti. Suuren vaikutuksen työ vaatii lähteen tilaa, mallin tilaa, sääntöjen tilaa, ihmisen roolia, aikaleimoja, korjauspolkuja ja toistoa silloin, kun se on mahdollista. Tämä ei ole byrokratiaa. Se on oikeasuhtaista muistia.
Varmentaminen muuttaa myös tekoälyn tunnemaailmaa. Ilman todisteita jokainen itsevarma vastaus pyytää uskoa. Todisteiden kanssa vastausta voidaan tarkastella. Lähteitä voidaan tarkistaa. Versioita voidaan verrata. Korjauksia voidaan tehdä. Arvioijat voivat olla eri mieltä joutumatta kerettiläisiksi. Järjestelmästä tulee vähemmän oraakkeli ja enemmän kollega, joka tuo muistiinpanot mukanaan. Kollegat, jotka tuovat muistiinpanot, ovat harvoin kokouksen glamourimpia henkilöitä. He ovat usein syy siihen, ettei kokouksesta tule legendaa.
Vaikein osuus on kieltäytyä väärennetystä vahvistuksesta. Lähdeviite, joka osoittaa väärään lähteeseen, ei ole vahvistus. Hallintapaneelin mittari ilman toistettavia tapauksia ei ole vahvistus. Yleisluontoinen selitys, jonka mukaan olennaisia tekijöitä on harkittu, ei ole vahvistus. Luottamusluku ilman kalibrointia ei ole vahvistus. Allekirjoitettu tietue, joka jättää syötteen tilan pois, on vain osittain hyödyllinen. Vahvistuksen pitäisi kestää epäystävällinen lukija. Ystävällisiä lukijoita on halvalla.
Tylsyys on muotoilun saavutus
Tylsät järjestelmät ymmärretään usein väärin yksinkertaisiksi järjestelmiksi. Monet eivät ole yksinkertaisia. Ne ovat kurinalaisia. Ne hoitavat rutiinityöt ilman yllätyksiä, paljastavat rajansa selvästi, epäonnistuvat tunnetuilla tavoilla, toipuvat ilman seremonioita ja pitävät riittävästi tietoja, ettei kenenkään tarvitse rekonstruoida todellisuutta keskusteluviesteistä. Tylsyys on sitä, miltä monimutkaiset järjestelmät näyttävät, kun niihin on tehty riittävästi suunnittelutyötä, etteivät käyttäjät koe monimutkaisuutta henkilökohtaisena rangaistuksena.
Tekoäly tarvitsee lisää tylsyyttä. Se tarvitsee tylsää kieltäytymistä, kun lähteet puuttuvat. Tylsiä lokeja, jotka vastaavat oikeisiin kysymyksiin. Tylsää versiointia. Tylsiä arviointijoukkoja. Tylsiä käyttöönottoportteja. Tylsää vientiä. Tylsää roolisuunnittelua. Tylsiä hälytyksiä, joiden tulkitseminen ei vaadi pappiskuntaa. Tylsää kustannuslaskentaa. Tylsää dokumentaatiota, joka kertoo, kuka omistaa minkäkin. Tylsää palautusta. Tylsyys ei ole älykkyyden vihollinen. Se on säiliö, joka estää älykkyyttä valumasta käytävään.
Jännityksen nälkä on tuottanut liian monta järjestelmää, jotka suoriutuvat vaikuttavasti mutta toimivat huonosti. Ne vastaavat demokysymykseen, mutta eivät osaa selittää tuotantohäiriötä. Ne tiivistävät asiakirjan, mutta eivät säilytä lähteen tilaa. Ne automatisoivat työnkulun, mutta eivät esitä epävarmuutta. Ne skaalaavat käytön, mutta eivät korjaa haittaa. Nämä järjestelmät eivät ole kehittyneitä. Ne ovat teini-ikäisiä. Paljon energiaa, vähän askareita.
Tylsä muotoilu kysyy epäromanttisia kysymyksiä varhain. Mitä tapahtuu, kun malli ei ole käytettävissä. Mitä tapahtuu, kun vastauksen luottamus on matala. Mitä tapahtuu, kun lähde on vanhentunut. Mitä tapahtuu, kun käyttäjä on eri mieltä. Mitä tapahtuu, kun toimintatapa muuttuu. Mitä tapahtuu, kun järjestelmä on korvattava. Mitä tapahtuu, kun tilintarkastus saapuu. Järjestelmä, joka osaa vastata näihin kysymyksiin, voi näyttää vähemmän jännittävältä. Hyvä. Jännitys on sitä, mitä riskiksi kutsutaan ennen kuin lasku saapuu.
Toimintaympäristö pienenee ja muuttuu monimuotoisemmaksi
Tulevaisuus ei ole yksi malli, joka hoitaa kaikki tehtävät. Se on mallien, sääntöjen, hakujärjestelmien, ratkaisijoiden, tietokantojen, symbolisten tarkistusten, ihmisten tekemän arvioinnin ja toimialakohtaisten työkalujen maisema. Jotkin tehtävät tarvitsevat suuria yleismalleja. Monet tarvitsevat pienempiä erikoistuneita malleja. Jotkin eivät tarvitse mallia lainkaan, vaan ainoastaan parempia tietoja ja deterministisiä sääntöjä. Jotkin tarvitsevat hakua, jossa on lähdetiedot. Jotkin tarvitsevat muodollisia tarkistuksia. Jotkin tarvitsevat ihmisen, jolla on parempi käyttöliittymä ja mahdollisuus sanoa ei.
Tämä monimuotoinen maisema on terveempi kuin unelma täydellisestä automatisoinnista. Se antaa organisaatioille mahdollisuuden valita vähiten tehokkaan työkalun, joka hoitaa tehtävän vastuullisesti. Se kuulostaa alisuoriutumiselta, kunnes lasketaan mukaan sähkölasku, viivebudjetti, auditoinnin taakka ja datariski. Vähiten tehokas riittävä työkalu on usein kaikkein itsenäisin, ylläpidettävin ja ymmärrettävin. Se on myös sellainen, jonka voi yleensä korjata ennen lounasta.
Paikallinen, varmennettu ja tylsä tekoäly suosii siksi koostamista. Pieni malli luonnostelee. Haku toimittaa lähteet. Säännöt pakottavat kovat rajoitteet. Deterministiset tietueet säilyttävät tilan. Varmennus tarkistaa väitteet. Ihminen hoitaa arvioinnin. Seuranta tarkkailee ajautumista. Vienti pitää poistumisen todellisena. Jokaisella osalla on tehtävänsä. Järjestelmästä tulee vähemmän salaperäinen, koska vastuu on jaettu tarkoituksella eikä liuotettu yhteen sujuvaan vastaukseen.
Vaarana on, että koostamisesta tulee sekavaa, jos kukaan ei omista kokonaisuutta. Tylsä arkkitehtuuri tarvitsee selkeät rajat, sopimukset ja testit. Tavoite ei ole komponenttien kasa. Se on toimiva järjestelmä, jossa jokainen komponentti voidaan korvata, tarkastaa ja asettaa vastuuseen vain siitä työstä, jonka se todella tekee. Vastuurajat ovat aliarvostettuja. Niiden ansiosta häiriöistä tulee korjauksia eikä esitystaidetta.
Energiasta tulee hallintokysymys
Tekoälykeskusteluissa laskenta käsitellään usein taustalla toimivana apuaineena. Se ei ole sitä. Laskenta kuluttaa rahaa, sähköä, jäähdytystä, laitteistotoimituksia, henkilöstön huomiota ja poliittista pääomaa. Kun tekoälystä tulee tavallista infrastruktuuria, energiasta tulee osa hallintoa. Mitkä tehtävät oikeuttavat etäisen suuren mallin kutsun. Mitkä voivat toimia pienemmillä paikallisilla malleilla. Mitkä pitäisi ajaa erissä. Mitkä pitäisi tallentaa välimuistiin. Mitkä pitäisi kieltäytyä, koska arvo ei oikeuta kustannuksia. Mitkä työkuormat on pidettävä käynnissä rajoitteiden aikana. Nämä eivät ole vain insinöörityön kysymyksiä. Ne ovat kohdentamisen kysymyksiä.
Paikallinen tekoäly voi tehdä energiankulutuksesta näkyvää. Paikallinen tai alueellinen suoritusympäristö pakottaa tiimit näkemään kapasiteetin, lämmön, jonotuksen ja kustannukset suoremmin. Se näkyvyys voi olla epämukavaa. Hyvä. Näkymätön kulutus on se tapa, jolla organisaatiot huomaavat, että konseptitodistuksesta on tullut uuni, jossa on käyttöliittymä. Etäpalvelut voivat edelleen olla tehokkaita ja sopivia, mutta ostajan tulisi ymmärtää, mitä kulutetaan, missä ja kenen hyväksi.
Energiatietoisuus kannustaa myös oikean kokoiseen mitoitukseen. Jokainen sähköpostiluonnos ei tarvitse suurinta saatavilla olevaa mallia. Jokainen poimintatehtävä ei tarvitse agenttiketjua. Jokainen luokittelu ei tarvitse reaaliaikaista päättelyä, jos sääntö riittäisi. Tulevaisuus palkitsee järjestelmiä, jotka kohtelevat laskentaa suunnittelumateriaalina eivätkä taianomaisena pilvisumuna. Tämä kuulostaa arkiselta, kunnes budjetit kiristyvät, sähköverkot rasittuvat tai hankinta kysyy, miksi palvelu maksaa enemmän, kun käyttäjät vihdoin pitävät siitä.
Mukana on myös suvereniteettinäkökulma. Energia on paikallista, vaikka ohjelmisto teeskentelisi muuta. Datakeskukset sijaitsevat sähköverkoissa. Laitteisto sijaitsee toimitusketjuissa. Jäähdytys sijaitsee vedessä ja säässä. Jos kriittinen tekoäly riippuu laskentakapasiteetista, jota instituutio ei voi priorisoida, tarkastaa tai maksaa stressitilanteessa, riippuvuus on strateginen. Tulevaisuus on paikallinen osin siksi, että fysiikka pysyy itsepintaisesti välinpitämättömänä brändäyksestä.
Instituutiot tarvitsevat järjestelmiä, jotka osaavat sanoa ei
Paikallisen, varmennetun ja tylsän tekoälyjärjestelmän on osattava sanoa ei. Ei lähdettä. Ei auktoriteettia. Ei tuoreutta. Ei luottamusta. Ei roolia. Ei laillista tarkoitusta. Ei turvallista toimintaa. Ei käytettävissä olevaa kapasiteettia. Kyky kieltäytyä on yksi selkeimmistä merkeistä siitä, että järjestelmä on kypsynyt. Kypsymättömät järjestelmät vastaavat kaikkeen, koska vastaaminen näyttää arvokkaalta. Kypsät järjestelmät tietävät, että jotkut vastaukset ovat velkoja, joilla on hyvä kielioppi.
Kieltäytyminen on helpompaa, kun tietueet ja auktoriteetti ovat riittävän paikallisia tarkastettaviksi ja kun varmennuksella on todellinen todistepolku. Järjestelmä voi sanoa ei, koska se tietää, mikä ehto epäonnistui. Se voi kertoa ihmiselle, miten tapaus korjataan. Se voi eskaloida, kun kieltäytymisellä itsellään on seurauksia. Se voi tallentaa kieltäytymisen, jotta toistuvista epäonnistumisista tulee suunnittelunäyttöä. Kieltäytyminen ilman selitystä on estämistä. Kieltäytyminen todisteineen on hallintaa.
Kieltäytyminen suojaa myös luottamusta. Käyttäjät oppivat, että järjestelmällä on rajat. Arvioijat oppivat, että puuttuvalla todisteella on merkitystä. Johtajat oppivat, että läpimeno ei ole ainoa mittari. Järjestelmä, joka kieltäytyy oikein, voi näyttää vähemmän tuottavalta naiivissa kojelaudassa ja arvokkaammalta poikkeamakatselmuksessa. Kojelauta kestää. Sillä on ollut helppo elämä.
Kieltäytymisen suunnittelu vaatii rohkeutta, koska se paljastaa ratkaisemattomia organisatorisia kysymyksiä. Kenellä on valtuudet ohittaa. Mitkä puuttuvat kentät käyttäjä voi toimittaa. Mitkä on saatava lähdejärjestelmistä. Mitkä päätökset pysähtyvät. Mitkä jatkuvat varoituksella. Mitkä vaativat ilmoituksen. Kieltäytyminen tekee politiikasta toiminnallista. Juuri siksi se kuuluu tulevaisuuteen eikä liitteeseen.
Paikallinen ei tarkoita yksinäistä
Paikallinen tulevaisuus ei ole eristetty tulevaisuus. Instituutiot tekevät edelleen yhteistyötä, vaihtavat tietoja, käyttävät jaettuja malleja, luottavat toimittajiin, liittyvät alustojen alustoille, osallistuvat tutkimukseen ja oppivat globaalista infrastruktuurista. Kysymys ei ole siitä, onko riippuvuuksia. Niitä tulee olemaan. Kysymys on siitä, ovatko riippuvuudet valittuja, näkyviä, testattuja ja rajattuja oikeuksilla, joita instituutio voi käyttää.
Avoimet standardit, siirrettävät tietueet, jaetut arviointimenetelmät, yhteentoimiva identiteetti, allekirjoitetut artefaktit, yhteiset auditointimuodot ja läpinäkyvä hankinta voivat saada paikalliset järjestelmät toimimaan yhdessä hallintaa menettämättä. Tässä tylsästä työstä tulee poliittista. Vakiokentän nimi, vientiluettelo, testivaljaat, säilytyssääntö, roolikartoitus, poikkeamaprotokolla: nämä eivät ole loistokkaita suvereniteetin välineitä, mutta ne antavat instituutioille mahdollisuuden työskennellä yhdessä luovuttamatta muistiaan.
Paikallisuus tarkoittaa myös paikallista asiantuntemusta. Toimialojen työntekijät, datan haltijat, insinöörit, lakitiimit, operaattorit ja vaikutuspiirissä olevat yhteisöt tarvitsevat äänen järjestelmän lähelle. Tekoäly, joka on teknisesti vaikuttava mutta sosiaalisesti etäinen, menettää kontekstin. Kontekstissa piilee monia virheitä. Järjestelmä, joka toimii lähellä työtä, tulee todennäköisemmin korjatuksi ennen kuin virheestä tulee käytäntö. Se antaa myös ihmisille keinon muokata automaatiota, joka muokkaa heitä. Tämä ei ole tunnepuhetta. Se on legitimiteetin ylläpitoa.
Yksinäinen versio paikallisuudesta on hauras. Yhteistyöhön perustuva versio on joustava. Se käyttää yhteisiä työkaluja menettämättä vastuullisia rajoja. Se antaa organisaatioille mahdollisuuden oppia yhdessä pitäen samalla omat tietonsa, avaimensa, käytäntönsä ja vastuunsa selkeinä. Hyvin tylsää. Hyvin hyödyllistä.
Hiljainen suunta
Seuraavan vuosikymmenen tärkeimmät tekoälyjärjestelmät voivat olla vähemmän näkyviä kuin demot, jotka saivat ihmiset uskomaan alaan. Ne elävät julkisten palvelujen, sairaaloiden, tehtaiden, koulujen, energiajärjestelmien, lakiprosessien, tutkimusympäristöjen, suunnitteluprosessien ja asiakastoimintojen sisällä. Ne eivät aina puhu. Joskus ne hakevat, tarkistavat, vertailevat, reitittävät, kieltäytyvät, säilyttävät tai pyytävät ihmistä päättämään. Niiden arvoa mitataan vähemmän yllätyksellä ja enemmän vältetyllä uudelleentyöllä, selkeämmillä tietueilla, turvallisemmilla päätöksillä, pienemmällä riippuvuudella ja sillä, että harvemman on pakko väitellä läpinäkymättömän ruudun kanssa.
Tämä tulevaisuus vaatii muutosta maussa. Meidän täytyy ihailla järjestelmiä, jotka pitävät lupauksensa, emmekä järjestelmiä, jotka vain tekevät uusia. Meidän täytyy kunnioittaa paikallista hallintaa, kun vastuu on paikallista. Meidän täytyy vaatia varmennusta, kun seuraukset ovat todellisia. Meidän täytyy lopettaa tylsän toiminnan kohteleminen innovaation jälkeisenä vaiheena ja alkaa kohdella sitä todisteena siitä, että innovaatio on kasvanut aikuiseksi.
Läpimurtoja tulee edelleen. Jotkut ovat näyttäviä. Hyvä. Mutta kestävä arvo syntyy siitä, että nämä läpimurrot kiinnitetään instituutioihin tavoilla, jotka säilyttävät muistin, toimivallan ja korjauskyvyn. Maailma ei tarvitse tekoälyä, joka vain kuulostaa älykkäämmältä. Se tarvitsee tekoälyä, jolle voi uskoa tavallisia tehtäviä poikkeuksellisessa paineessa. Tavalliset tehtävät ovat sitä, missä yhteiskunnat enimmäkseen elävät.
Tulevaisuus on paikallinen, varmennettu ja tylsä, koska nämä ovat ominaisuuksia, jotka tekevät kyvykkyydestä vastuullista. Paikallisuus asettaa hallinnan vastuun lähelle. Varmennus tekee väitteistä tarkastettavia. Tylsyys tekee järjestelmästä tarpeeksi toistettavan, jotta siihen voi luottaa. Se ei ole äänekkäin tulevaisuus. Se on sellainen, joka kestää käyttöä. Se on edelleen vaikein demo kaikista.