Tulevik on kohalik, tõendatud ja igav
Tulevik saabus hooldusaknas
Tulevik ei saabunud särava avakõnega. See saabus hooldusaknas, kell 22:30, kui operatsioonimeeskond viis kriitilise töövoo välisest sõltuvusest üle piirkondlikku käituskeskkonda, kontrollis, et samad kirjed andsid samu otsuseid, vaatas üle auditi kviitungid, vahetas võtit, taastas varukoopia ja läks enne keskööd koju. Keegi ei plaksutanud. Kasutajad ei märganud midagi peale selle, et teenus töötas hommikul endiselt. See ei ole stseen, mida enamik inimesi ette kujutab, kui nad räägivad AI tulevikust. Tõenäoliselt on see aga see, mis tegelikult loeb.
AI avalik lugu on treenitud vaatemängule: suuremad mudelid, kummalisemad demod, ladusamad agendid, sünteetiline meedia, võrdlusnäitajate hüpped, juhtpaneelid, mis viitavad sellele, et organisatsioon on muutunud kosmoselaevaks. Vaatemängul on oma koht. See võib näidata, mis on võimalik. See võib avardada kujutlusvõimet. See võib ka tähelepanu kõrvale juhtida küsimuselt, mis otsustab, kas AI-st saab usaldusväärne infrastruktuur: kas see süsteem suudab töötada seal, kus ta peab töötama, tõendada, mida ta tegi, ja muutuda piisavalt igavaks, et inimesed saaksid talle loota ilma, et iga väljund muutuks väikeseks teoloogiliseks sündmuseks.
AI järgmine kasulik faas on lokaalne, kontrollitud ja igav. Lokaalne ei tähenda, et kõik peab töötama laua all kangelasliku ventilaatoriga. See tähendab, et arvutus, andmed, võtmed ja volitus peaksid olema piisavalt lähedal inimestele ja institutsioonidele, kes nende eest vastutavad. Kontrollitud ei tähenda, et iga vastus muutub matemaatiliseks tõestuseks. See tähendab, et olulised väited kannavad endas tõendeid, taasesitusteid, versioonitud olekut ja testitavaid piire. Igav ei tähenda kujutlusvõimetut. See tähendab, et süsteem on lõpetanud välditava draama tekitamise.
See tulevik on vähem moekas, sest see on vähem teatraalne. See nõuab andmelepinguid, ekspordiformaate, deterministlikke kirjeid, hindamiskomplekte, rollikujundust, taastumisharjutusi, energiateadlikkust, keeldumisteid, lokaalseid käituskeskkondi, avatud liideseid, intsidentide õigusi ja piisavalt operatiivset alandlikkust, et tunnistada: hea AI-süsteem on see, mis suudab pettumust valmistada avakõne publikule ja rõõmustada audiitorit. See ei ole väike ambitsioon. See lihtsalt ei sobi konfettidega.
Lokaalne ei ole sihtnumber
Kohalikku tehisaru mõistetakse sageli valesti kui asukohapõhist argumenti. Pane server siia ja süsteem muutub vastutavaks. Asukoht on oluline, kuid kohalik on rikkam mõiste kui geograafia. Töökoormus on piisavalt kohalik, kui vastutav asutus saab teostada kontrolli andmete liikumise, käitusaja, võtmete, juurdepääsu, andmete, taaste ja tõendusmaterjali üle ilma, et peaks kõige halvemal hetkel kaugelt sõltuvuselt luba küsima. Mõnikord tähendab see kohapealset süsteemi. Mõnikord suveräänset regiooni. Mõnikord äärearvuteid. Mõnikord hübriidmustrit. Kaart on kasulik ainult siis, kui see järgib autoriteeti, mitte turundusgeograafiat.
Töö lähemale toomiseks on praktilisi põhjuseid. Tundlikke andmeid ei pruugita lubada liigutada. Latentsusaeg võib olla oluline. Energiakulud võivad olla kohalikult selgemad. Katkestusteta töö võib olla vajalik. Organisatsioon võib vajada mudeli käitumise kontrollimist oma andmetega. Avalik asutus võib vajada õiguste säilitamist riikliku või Euroopa õiguse alusel. Tootja võib vajada järelduste tegemist masina lähedal. Haigla võib vajada patsiendi konteksti usalduspiiri sees hoidmist. Need ei ole ideoloogilised põhjused. Need on tööpiirangud.
Kohalik muudab ka majandust. Iga väikese ülesande saatmine kaugesse hiidsüsteemi, sest API on mugav, võib muutuda kalliks, hapraks ja raskesti põhjendatavaks. Iga ülesande kohalik käitamine, sest see kõlab suveräänsena, võib muutuda raiskavaks, nõrgaks ja raskesti hooldatavaks. Tulevik ei ole üksainus juurutamisusk. See on paigutuse distsipliin. Pane töö sinna, kus andmed, kontroll, latentsusaeg, kulu, oskused ja risk seda õigustavad. Seejärel tõesta, et paigutus käitub endiselt õigesti, kui lihtne tee ebaõnnestub.
Kõige huvitavamad kohalikud süsteemid on tavalised. Nad kasutavad väiksemaid mudeleid seal, kus väiksematest mudelitest piisab. Nad ühendavad otsingu, reeglid, andmed ja inimese ülevaate. Nad vahemälustavad hoolikalt, uuendavad kaalutletult ja keelduvad, kui kontekst puudub. Nad kohtlevad ribalaiust, energiat ja töötajate tähelepanu piiratud ressurssidena. Nad ei vabanda, et on vähem maagilised, kui nad on usaldusväärsemad. Maagial on olnud helde prooviaeg.
Kontrollitud tähendab, et vastusel on tõendid
Kontrollimine ei ole üks asi. See võib tähendada matemaatilist tõestust, allkirjastatud andmeid, deterministlikku taasesitust, hindamist võrdlusandmete põhjal, allikaviidet, poliitikale vastavust, inimese kinnitust, auditilogimist, regressiooniteste, sõltumatut ülevaadet või lihtsat kontrolli, et ekraanil olev number vastab allikas olevale numbrile. Sõna on suur, sest vastutus on suur. Kasulik küsimus ei ole see, kas süsteem on abstraktselt kontrollitud. See on see, milline väide on kontrollitud, milliste tõenditega ja milliste tagajärgede jaoks.
Tehisaru vastus, mis soovitab lõunakohta, ei vaja sama tõendusmaterjali kui vastus, mis toetab hüvitise otsust, hooldusjuhist, krediidiülevaadet, kliinilist märkust või ohutushinnangut. Tõsised süsteemid peaksid kohandama kontrollimise tagajärgedega. Madala riskiga tööd saab teha kergemalt. Suure mõjuga töö vajab allika olekut, mudeli olekut, reeglite olekut, inimese rolli, ajatempleid, parandusradu ja võimaluse korral taasesitust. See ei ole bürokraatia. See on proportsionaalne mälu.
Kontrollimine muudab ka tehisaru emotsionaalset elu. Ilma tõenditeta nõuab iga enesekindel vastus usku. Tõenditega saab vastust kontrollida. Allikaid saab kontrollida. Versioone saab võrrelda. Parandusi saab teha. Ülevaatajad võivad eriarvamusele jääda ilma, et neist saaksid ketserid. Süsteem muutub vähem oraakliks ja rohkem kolleegiks, kes toob märkmeid. Kolleegid, kes toovad märkmeid, on harva kõige glamuursemad inimesed koosolekul. Tihti on nemad põhjus, miks koosolekust ei saa folkloori.
Kõige raskem osa on võltsitud kinnituse tagasilükkamine. Tsitaat, mis viitab valele allikale, ei ole kinnitus. Armatuurlaua mõõdik ilma korratavate juhtumiteta ei ole kinnitus. Üldsõnaline selgitus, et asjakohaseid tegureid kaaluti, ei ole kinnitus. Usaldusväärsuse skoor ilma kalibreerimiseta ei ole kinnitus. Allkirjastatud kirje, mis jätab sisendi oleku välja, on vaid osaliselt kasulik. Kinnitus peaks vastu pidama ka ebasõbralikule lugejale. Sõbralikud lugejad on odavad.
Igavus on disainisaavutus
Igavaid süsteeme mõistetakse sageli valesti kui lihtsaid süsteeme. Paljud neist ei ole lihtsad. Nad on distsiplineeritud. Nad tegelevad rutiinse tööga üllatusteta, näitavad piiranguid selgelt, ebaõnnestuvad teadaolevatel viisidel, taastuvad ilma suurema kära ja hoiavad piisavalt arvestust, et keegi ei peaks vestlussõnumitest reaalsust rekonstrueerima. Igavus on see, kuidas keerulised süsteemid välja näevad pärast seda, kui piisavalt inseneritööd on tehtud, et kasutajad ei kogeks keerukust isikliku karistusena.
AI vajab rohkem igavust. See vajab igavat keeldumist, kui allikad puuduvad. Igavaid logisid, mis vastavad reaalsetele küsimustele. Igavat versioonihaldust. Igavaid hindamiskomplekte. Igavaid juurutamise väravaid. Igavat eksporti. Igavat rollikujundust. Igavaid hoiatusi, mille tõlgendamiseks ei ole vaja preesterkonda. Igavat kuluarvestust. Igavat dokumentatsiooni, mis ütleb, kes mille omanik on. Igavat tagasipööramist. Igavus ei ole intelligentsuse vaenlane. See on anum, mis hoiab intelligentsust koridori valgumast.
Isu põnevuse järele on toonud kaasa liiga palju süsteeme, mis esinevad muljetavaldavalt, kuid töötavad halvasti. Nad suudavad vastata demoküsimusele, kuid ei suuda selgitada tootmisintsidenti. Nad suudavad dokumenti kokku võtta, kuid mitte säilitada allika olekut. Nad suudavad töövoogu automatiseerida, kuid mitte esitada ebakindlust. Nad suudavad kasutust skaleerida, kuid mitte kahju parandada. Need süsteemid ei ole arenenud. Nad on noorukieas. Palju energiat, vähe kohustusi.
Igav disain küsib varakult ebahariliku küsimusi. Mis juhtub, kui mudel pole saadaval. Mis juhtub, kui vastus on madala usaldusväärsusega. Mis juhtub, kui allikas on aegunud. Mis juhtub, kui kasutaja ei nõustu. Mis juhtub, kui poliitika muutub. Mis juhtub, kui süsteem tuleb välja vahetada. Mis juhtub, kui audit saabub. Süsteem, mis suudab neile küsimustele vastata, võib tunduda vähem põnev. Hea küll. Põnevus on see, mida inimesed nimetavad riskiks enne arve saabumist.
Maastik muutub väiksemaks ja segasemaks
Tulevik ei ole üks mudel, mis valitseks kõiki ülesandeid. See on maastik, kus koos töötavad mudelid, reeglid, otsingusüsteemid, lahendajad, andmebaasid, sümboolsed kontrollid, inimese ülevaade ja valdkonnapõhised tööriistad. Mõned ülesanded vajavad suuri üldmudeleid. Paljud vajavad väiksemaid spetsialiseeritud mudeleid. Mõned ei vaja üldse mudelit, vaid ainult paremaid andmeid ja deterministlikke reegleid. Mõned vajavad otsingut koos päritoluteabega. Mõned vajavad formaalseid kontrolle. Mõned vajavad inimest, kellel on parem liides ja võimalus öelda ei.
See segamaastik on tervislikum kui universaalse automatiseerimise fantaasia. See võimaldab organisatsioonidel valida kõige vähem võimas tööriist, mis suudab tööd vastutustundlikult teha. See fraas kõlab alasaavutusena, kuni arvesse võetakse elektriarve, latentsuseelarve, auditeerimiskoormus ja andmerisk. Kõige vähem võimas piisav tööriist on sageli kõige suveräänsem, hooldatavam ja arusaadavam tööriist. See kipub olema ka see, mida inimesed jõuavad enne lõunat siluda.
Kohalik kontrollitud igav tehisintellekt eelistab seetõttu kompositsiooni. Väike mudel koostab mustandi. Otsing pakub allikaid. Reeglid jõustavad rangeid piiranguid. Deterministlikud andmed säilitavad oleku. Kontrollimine kontrollib väiteid. Inimese ülevaade tegeleb otsustusega. Jälgimine jälgib kõrvalekaldeid. Eksport hoiab väljumise reaalsena. Igal osal on oma töö. Süsteem muutub vähem salapäraseks, sest vastutus on jaotatud tahtlikult, mitte lahustatud ühte sujuvasse vastusesse.
Oht on, et kompositsioon võib muutuda segaseks, kui keegi ei oma tervikut. Igav arhitektuur vajab selgeid piire, lepinguid ja teste. Eesmärk ei ole komponentide hunnik. See on töötav süsteem, kus iga komponenti saab asendada, kontrollida ja süüdistada ainult selles töös, mida see tegelikult teeb. Süüdistuse piirid on alahinnatud. Need on see, kuidas intsidendid muutuvad parandusteks, mitte etenduseks.
Energiast saab valitsemise küsimus
Tehisintellekti aruteludes käsitletakse arvutusvõimsust sageli taustateenusena. See ei ole nii. Arvutusvõimsus tarbib raha, elektrit, jahutust, riistvara tarneid, töötajate tähelepanu ja poliitilist kapitali. Kui tehisintellektist saab tavaline infrastruktuur, saab energiast osa valitsemisest. Millised ülesanded õigustavad kaugsuurte mudelite kasutamist. Millised saavad töötada väiksemate kohalike mudelitega. Milliseid tuleks pakkida. Milliseid vahemällu salvestada. Millised peaksid keelduma, sest väärtus ei õigusta kulu. Millised töökoormused peavad piirangute ajal töös püsima. Need ei ole ainult inseneriküsimused. Need on jaotusküsimused.
Kohalik tehisintellekt võib muuta energia nähtavaks. Kohalik või piirkondlik käituskeskkond sunnib meeskondi nägema otsesemalt võimsust, soojust, järjekordi ja kulusid. See nähtavus võib olla ebamugav. Hästi. Nähtamatu tarbimine on see, kuidas organisatsioonid avastavad, et kontseptsiooni tõestusest on saanud kasutajaliidesega ahi. Kaugteenused võivad endiselt olla tõhusad ja asjakohased, kuid ostja peaks mõistma, mida tarbitakse, kus ja kelle kasuks.
Energiateadlikkus soodustab ka õiget mõõtu valimist. Mitte iga meili mustand ei vaja suurimat saadaolevat mudelit. Mitte iga ekstraheerimisülesanne ei vaja agentide ahelat. Mitte iga klassifitseerimine ei vaja reaalajas inferentsi, kui piisab reeglist. Tulevik premeerib süsteeme, mis kohtlevad arvutust kui disainimaterjali, mitte kui maagilist pilveudu. See kõlab proosaliselt, kuni eelarved pingulduvad, elektrivõrgud koormuvad või hanked küsivad, miks teenus maksab rohkem, kui kasutajad selle lõpuks meeldivaks peavad.
On ka suveräänsuse mõõde. Energia on kohalik isegi siis, kui tarkvara teeskleb, et see pole nii. Andmekeskused asuvad elektrivõrkudes. Riistvara asub tarneahelates. Jahutus sõltub veest ja ilmast. Kui kriitiline tehisintellekt sõltub arvutusvõimsusest, mida institutsioon ei suuda stressiolukorras prioriseerida, kontrollida ega eest maksta, on see sõltuvus strateegiline. Tulevik on osaliselt kohalik, sest füüsika ei hooli brändingust.
Institutsioonid vajavad süsteeme, mis oskavad öelda ei
Kohalik, kontrollitud ja igav tehisintellektisüsteem peab suutma öelda ei. Puudub allikas. Puudub volitus. Puudub värskus. Puudub kindlus. Puudub roll. Puudub seaduslik eesmärk. Puudub ohutu tegevus. Puudub vaba võimsus. Keeldumisvõime on üks selgemaid märke, et süsteem on küpseks saanud. Ebaküpsed süsteemid vastavad kõigele, sest vastamine näeb välja nagu väärtus. Küpsed süsteemid teavad, et mõned vastused on hea grammatikaga varjatud kohustused.
Keeldumine on lihtsam, kui andmed ja volitused on piisavalt kohalikud, et neid kontrollida, ning kui kontrollimisel on tõeline tõendusrada. Süsteem saab öelda ei, sest see teab, milline tingimus ebaõnnestus. See saab inimesele öelda, kuidas juhtumit parandada. See saab eskaleerida, kui keeldumisel endal on tagajärjed. See saab keeldumise salvestada, nii et korduvatest ebaõnnestumistest saab disaini tõendusmaterjal. Keeldumine ilma selgituseta on takistamine. Keeldumine tõenditega on kontroll.
Keeldumine kaitseb ka usaldust. Kasutajad õpivad, et süsteemil on piirid. Kontrollijad õpivad, et puuduvad tõendid on olulised. Juhid õpivad, et läbilaskevõime pole ainus mõõdik. Süsteem, mis keeldub õigesti, võib naïiivses juhtimislaual tunduda vähem tootlik ja juhtumiülevaates väärtuslikum. Juhtimislaud saab hakkama. Tal on olnud kerge elu.
Keeldumise kavandamine nõuab julgust, sest see toob esile lahendamata organisatsioonilised küsimused. Kellel on volitus üle kirjutada. Milliseid puuduvaid välju saab kasutaja ise esitada. Millised peavad tulema lähtesüsteemidest. Millised otsused peatuvad. Millised jätkuvad hoiatusega. Millised nõuavad teatamist. Keeldumine muudab poliitika toimivaks. Just seepärast kuulub see tulevikku, mitte lisasse.
Kohalik ei tähenda üksildast
Kohalik tulevik pole isoleeritud tulevik. Institutsioonid teevad endiselt koostööd, vahetavad andmeid, kasutavad ühiseid mudeleid, tuginevad tarnijatele, liituvad sektoriplatvormidega, osalevad teadustöös ja õpivad ülemaailmsest taristust. Küsimus pole selles, kas sõltuvusi on. Neid tuleb. Küsimus on selles, kas sõltuvused on valitud, nähtavad, testitud ja piiratud õigustega, mida institutsioon saab kasutada.
Avatud standardid, kaasaskantavad andmed, ühised hindamismeetodid, koostalitlusvõimeline identiteet, allkirjastatud artefaktid, ühised auditeerimisvormingud ja läbipaistev hankimine võimaldavad kohalikel süsteemidel teha koostööd ilma kontrolli kaotamata. Siin muutub igav töö poliitiliseks. Standardne väljanimi, ekspordimanifest, testikeskkond, säilitusreegel, rollimapping, intsidentiprotokoll: need pole glamuurse suveräänsuse vahendid, kuid need võimaldavad institutsioonidel koos töötada ilma mälu loovutamata.
Lokaalsus tähendab ka lokaalset asjatundlikkust. Valdkonna töötajad, andmehaldurid, insenerid, õigusmeeskonnad, operaatorid ja mõjutatud kogukonnad vajavad süsteemi lähedal oma häält. AI, mis on tehniliselt muljetavaldav, kuid sotsiaalselt kauge, jääb kontekstist ilma. Kontekst on koht, kus peituvad paljud vead. Süsteemil, mis töötab tehtava töö lähedal, on paremad võimalused saada parandatud enne, kui veast saab poliitika. See annab ka inimestele võimaluse kujundada automatiseerimist, mis kujundab neid. See ei ole sentiment. See on legitiimsuse hoidmine.
Üksildane lokaalsuse versioon on habras. Koostööpõhine versioon on vastupidav. See kasutab ühiseid tööriistu, kaotamata vastutuse piire. See võimaldab organisatsioonidel koos õppida, hoides samal ajal selgena oma andmed, võtmed, poliitikad ja kohustused. Väga igav. Väga kasulik.
Vaikne suund
Järgmise kümnendi kõige olulisemad AI-süsteemid võivad olla vähem nähtavad kui demod, mis panid inimesed valdkonda uskuma. Need paiknevad avalikes teenustes, haiglates, tehastes, koolides, energiasüsteemides, õigusvaldkonna töövoogudes, teaduskeskkondades, planeerimisprotsessides ja klienditeeninduses. Need ei räägi alati. Mõnikord nad otsivad, kontrollivad, võrdlevad, suunavad, keelduvad, säilitavad või paluvad inimesel otsustada. Nende väärtust mõõdetakse vähem üllatuse ja rohkem välditud ümbertöö, selgemate andmete, ohutumate otsuste, väiksema sõltuvuse ja vähemate inimeste kaudu, kes on sunnitud vaidlema ekraaniga, mida nad ei saa kontrollida.
See tulevik nõuab maitse muutust. Peame imetlema süsteeme, mis peavad lubadusi, mitte süsteeme, mis ainult uusi lubadusi annavad. Peame austama lokaalset kontrolli, kui vastutus on lokaalne. Peame nõudma kontrollimist, kui tagajärjed on reaalsed. Peame lõpetama igava toimimise käsitlemise innovatsioonijärgse faasina ja hakkama seda käsitlema tõendina, et innovatsioon on täiskasvanuks saanud.
Läbimurdeid tuleb ikka. Mõned on suurejoonelised. Hästi. Kuid püsiv väärtus tuleb nende läbimurrete sidumisest institutsioonidega viisil, mis säilitab mälu, autoriteedi ja parandamise võime. Maailm ei vaja AI-d, mis lihtsalt kõlab intelligentsemalt. Ta vajab AI-d, mida saab usaldada tavaliste kohustuste täitmisel erakorralise surve all. Tavalised kohustused on need, mille juures ühiskond enamasti elab.
Tulevik on lokaalne, kontrollitud ja igav, sest need on omadused, mis muudavad võimekuse vastutustundlikuks. Lokaalsus toob kontrolli vastutuse lähedale. Kontrollimine muudab väited läbipaistvaks. Igavus muudab süsteemi piisavalt korratavaks, et sellele loota. See ei ole kõige valjem tulevik. See on see, mis suudab ellu jääda, kui teda kasutatakse. See on endiselt kõige raskem demo.