Prihodnost je lokalna, preverjena in dolgočasna
Prihodnost je prišla v vzdrževalnem oknu
Prihodnost ni prišla z bleščečim uvodnim nagovorom. Prišla je v vzdrževalnem oknu, ob 22:30, ko je operativna ekipa preselila kritični potek dela z zunanje odvisnosti na regionalno izvajalno okolje, preverila, da so isti zapisi privedli do istih odločitev, pregledala revizijska potrdila, zamenjala ključ, obnovila varnostno kopijo in odšla domov pred polnočjo. Nihče ni ploskal. Uporabniki niso opazili ničesar, razen tega, da je storitev zjutraj še vedno delovala. To ni prizor, ki si ga večina ljudi predstavlja, ko govori o prihodnosti umetne inteligence. Verjetno pa je bližje tistemu, ki je pomemben.
Javna zgodba o umetni inteligenci je bila vzgajana na spektaklu: večji modeli, čudnejše predstavitve, bolj tekoči agenti, sintetični mediji, preskoki na merilih uspešnosti, nadzorne plošče, ki namigujejo, da je organizacija postala vesoljska ladja. Spektakel ima svoje mesto. Lahko pokaže, kaj je mogoče. Lahko razširi domišljijo. Lahko pa tudi odvrne pozornost od vprašanja, ki odloča, ali umetna inteligenca postane zanesljiva infrastruktura: ali lahko ta sistem deluje tam, kjer mora delovati, dokaže, kaj je naredil, in postane dovolj vsakdanji, da se ljudje nanj zanesejo, ne da bi vsak rezultat spremenili v majhen teološki dogodek.
Naslednja uporabna faza umetne inteligence bo lokalna, preverjena in vsakdanja. Lokalno ne pomeni, da mora vse delovati pod mizo s herojskim ventilatorjem. Pomeni, da so računanje, podatki, ključi in pooblastila dovolj blizu ljudem in institucijam, ki so zanje odgovorni. Preverjeno ne pomeni, da vsak odgovor postane matematični dokaz. Pomeni, da pomembne trditve nosijo dokaze, poti za ponovitev, različice stanja in preverljive meje. Vsakdanje ne pomeni brez domišljije. Pomeni, da je sistem prenehal ustvarjati izogibljivo dramo.
Ta prihodnost je manj modna, ker je manj teatralna. Zahteva podatkovne pogodbe, izvozne formate, deterministične zapise, nabore za vrednotenje, načrtovanje vlog, vaje za obnovitev, energetsko ozaveščenost, poti zavrnitve, lokalna izvajalna okolja, odprte vmesnike, pravice ob incidentih in dovolj operativne ponižnosti, da priznamo, da je dober sistem umetne inteligence tisti, ki lahko razočara občinstvo na uvodnem nagovoru in navduši revizorja. To ni majhna ambicija. Le slabo se poda k konfetom.
Lokalno ni poštna številka
Lokalna umetna inteligenca je pogosto napačno razumljena kot argument o poštni številki. Postavite strežnik sem, in sistem postane odgovoren. Lokacija je pomembna, a lokalno je bogatejše od geografije. Delovna obremenitev je dovolj lokalna, kadar lahko odgovorna institucija izvaja nadzor nad premikanjem podatkov, izvajanjem, ključi, dostopom, zapisi, obnovitvijo in dokazi, ne da bi morala v najslabšem možnem trenutku prositi oddaljeno odvisnost za dovoljenje. Včasih to pomeni lastno lokacijo. Včasih suvereno regijo. Včasih robne naprave. Včasih hibridni vzorec. Zemljevid je uporaben le, kadar sledi avtoriteti, ne marketinški geografiji.
Obstajajo praktični razlogi za približevanje dela. Občutljivim podatkom morda ni dovoljeno potovati. Zakasnitev je lahko pomembna. Stroški energije so lahko lokalno jasnejši. Delovanje brez povezave je lahko zahtevano. Organizacija bo morda morala pregledati vedenje modela s svojimi zapisi. Javna agencija bo morda morala ohraniti pravice po nacionalnem ali evropskem pravu. Proizvajalec bo morda potreboval sklepanje blizu stroja. Bolnišnica bo morda morala zagotoviti, da kontekst pacienta ostane znotraj meja zaupanja. To niso ideološki razlogi. To so operativne omejitve.
Lokalno spreminja tudi ekonomiko. Pošiljanje vsake majhne naloge oddaljenemu velikanu, ker je API priročen, je lahko drago, krhko in težko pojasnljivo. Izvajanje vsake naloge lokalno, ker zveni suvereno, je lahko potratno, šibko in težko vzdrževati. Prihodnost ni ena sama religija uvajanja. Je disciplina umestitve. Postavite delo tja, kjer so podatki, nadzor, zakasnitev, stroški, znanje in tveganje smiselni. Nato dokažite, da umestitev še vedno deluje, ko lahka pot odpove.
Najzanimivejši lokalni sistemi bodo običajni. Uporabljali bodo manjše modele, kjer so manjši modeli dovolj. Združevali bodo iskanje, pravila, zapise in človeški pregled. Previdno bodo predpomnili, namensko posodabljali in zavrnili, kadar kontekst manjka. Pasovno širino, energijo in pozornost osebja bodo obravnavali kot končne vire. Ne bodo se opravičevali, da so manj čarobni, če so bolj zanesljivi. Čarobnost je imela velikodušno poskusno obdobje.
Preverjeno pomeni, da odgovor prinaša dokaze
Preverjanje ni ena stvar. Lahko pomeni matematični dokaz, podpisane zapise, deterministično ponovitev, vrednotenje meril uspešnosti, navedbo virov, skladnost s politikami, odobritev ljudi, revizijsko beleženje, regresijske teste, neodvisen pregled ali preprosto preverjanje, da se številka na zaslonu ujema s številko v viru. Beseda je velika, ker je odgovornost velika. Uporabno vprašanje ni, ali je sistem preverjen v abstraktnem smislu. Je, katera trditev je preverjena, s kakšnimi dokazi in za kakšno posledico.
Odgovor umetne inteligence, ki predlaga kraj za kosilo, ne potrebuje enakih dokazov kot odgovor, ki podpira odločitev o prejemkih, navodila za vzdrževanje, pregled kreditne sposobnosti, klinično beležko ali oceno varnosti. Resni sistemi morajo preverjanje prilagoditi posledicam. Delo z nizkim tveganjem se lahko odvija lahkotno. Delo z velikim vplivom potrebuje stanje vira, stanje modela, stanje pravil, vlogo ljudi, časovne žige, poti popravkov in ponovitev, kjer je to izvedljivo. To ni birokracija. To je sorazmeren spomin.
Preverjanje spreminja tudi čustveno življenje umetne inteligence. Brez dokazov vsak samozavesten odgovor zahteva vero. Z dokazi je odgovor mogoče pregledati. Vire je mogoče preveriti. Različice je mogoče primerjati. Popravki so mogoči. Pregledovalci se lahko ne strinjajo, ne da bi postali heretiki. Sistem postane manj podoben oraklju in bolj podoben sodelavcu, ki prinaša zapiske. Sodelavci, ki prinašajo zapiske, so redko najbolj glamurozni ljudje na sestanku. Pogosto so razlog, da sestanek ne postane legenda.
Najtežji del je zavrniti lažno preverjanje. Navedba, ki kaže na napačen vir, ni preverjanje. Metrika na nadzorni plošči brez ponovljivih primerov ni preverjanje. Splošna razlaga, ki pravi, da so bili upoštevani ustrezni dejavniki, ni preverjanje. Ocena zaupanja brez umerjanja ni preverjanje. Podpisan zapis, ki izpušča vhodno stanje, je le delno uporaben. Preverjanje bi moralo preživeti neprijaznega bralca. Prijazni bralci so poceni.
Dolgočasnost je oblikovalski dosežek
Dolgočasne sisteme pogosto razumemo kot preproste sisteme. Mnogi niso preprosti. So disciplinirani. Rutinsko delo opravljajo brez presenečenj, jasno razkrivajo omejitve, odpovedujejo na znane načine, si opomorejo brez slovesnosti in hranijo dovolj zapisov, da ni treba nikomur rekonstruirati resničnosti iz sporočil v klepetu. Dolgočasnost je videti kot kompleksni sistemi po tem, ko je bilo opravljenega dovolj inženiringa, da uporabniki kompleksnosti ne doživljajo kot osebno kazen.
UI potrebuje več dolgočasnosti. Potrebuje dolgočasno zavrnitev, ko viri manjkajo. Dolgočasne dnevnike, ki odgovarjajo na resnična vprašanja. Dolgočasno različčenje. Dolgočasne nize za vrednotenje. Dolgočasna vrata za uvajanje. Dolgočasen izvoz. Dolgočasno načrtovanje vlog. Dolgočasne alarme, ki za razlago ne zahtevajo duhovništva. Dolgočasno obračunavanje stroškov. Dolgočasno dokumentacijo, ki pove, kdo je lastnik česa. Dolgočasen umik. Dolgočasnost ni sovražnik inteligence. Je posoda, ki preprečuje, da bi inteligenca polzela na hodnik.
Tek po vznemirljivosti je ustvaril preveč sistemov, ki delujejo impresivno in obratujejo slabo. Znajo odgovoriti na demo vprašanje, ne znajo pa pojasniti incidenta v produkciji. Znajo povzeti dokument, ne znajo pa ohraniti stanja vira. Znajo avtomatizirati potek dela, ne znajo pa predstaviti negotovosti. Znajo povečati uporabo, ne znajo pa popraviti škode. Ti sistemi niso napredni. So mladostniški. Veliko energije, malo opravil.
Dolgočasno oblikovanje zgodaj postavlja neromantična vprašanja. Kaj se zgodi, ko model ni na voljo. Kaj se zgodi, ko je odgovor nizko samozavesten. Kaj se zgodi, ko je vir zastarel. Kaj se zgodi, ko se uporabnik ne strinja. Kaj se zgodi, ko se politika spremeni. Kaj se zgodi, ko je treba sistem zamenjati. Kaj se zgodi, ko pride revizija. Sistem, ki zna odgovoriti na ta vprašanja, je morda videti manj vznemirljiv. Dobro. Vznemirljivost je tisto, kar ljudje imenujejo tveganje, preden prispe račun.
Pokrajina bo postala manjša in bolj mešana
Prihodnost ne bo en sam model, ki bi obvladoval vsako nalogo. To bo pokrajina modelov, pravil, sistemov za iskanje, reševalcev, podatkovnih zbirk, simboličnih preverjanj, človeškega pregleda in domensko specifičnih orodij. Nekatere naloge potrebujejo velike splošne modele. Mnoge potrebujejo manjše specializirane modele. Nekatere ne potrebujejo nobenega modela, ampak le boljše evidence in deterministična pravila. Nekatere potrebujejo iskanje z izvorom. Nekatere potrebujejo formalna preverjanja. Nekatere potrebujejo človeka z boljšim vmesnikom in možnostjo, da reče ne.
Ta mešana pokrajina je bolj zdrava kot fantazija o univerzalni avtomatizaciji. Organizacijam omogoča, da izberejo najmanj zmogljivo orodje, ki lahko nalogo opravi odgovorno. Ta stavek zveni kot podhranjenost, dokler ne vključimo računa za elektriko, proračuna za zakasnitve, bremena revizij in tveganja za podatke. Najmanj zmogljivo ustrezno orodje je pogosto najbolj suvereno, vzdržljivo in razumljivo orodje. Prav tako je ponavadi tisto, ki ga ljudje lahko odpravijo pred kosilom.
Lokalna preverjena dolgočasna umetna inteligenca zato daje prednost sestavljanju. Majhen model pripravi osnutek. Iskanje zagotovi vire. Pravila uveljavljajo trde omejitve. Deterministične evidence ohranjajo stanje. Preverjanje preverja trditve. Človeški pregled obravnava presojo. Spremljanje opazuje odmike. Izvoz ohranja izhod resničen. Vsak del ima svojo nalogo. Sistem postane manj skrivnosten, ker je odgovornost namerno porazdeljena in ne raztopljena v en sam tekoč odgovor.
Nevarnost je, da lahko sestavljanje postane zmedeno, če nihče ne skrbi za celoto. Dolgočasna arhitektura potrebuje jasne meje, pogodbe in teste. Cilj ni kup komponent. Cilj je delujoč sistem, kjer je vsako komponento mogoče zamenjati, pregledati in ji pripisati krivdo le za delo, ki ga dejansko opravi. Meje krivde so podcenjene. Prav te spremenijo incidente v popravke namesto v performans.
Energija bo postala vprašanje upravljanja
Pogovori o umetni inteligenci pogosto obravnavajo računalniško moč kot ozadje. Ni tako. Računalniška moč porablja denar, elektriko, hlajenje, dobavo strojne opreme, pozornost osebja in politični kapital. Ko umetna inteligenca postane običajna infrastruktura, bo energija postala del upravljanja. Katere naloge upravičujejo oddaljene klice velikih modelov. Katere lahko tečejo na manjših lokalnih modelih. Katere bi morale biti paketne. Katere bi morale biti predpomnjene. Katere bi morale zavrniti, ker vrednost ne upravičuje stroškov. Katere delovne obremenitve morajo ostati delujoče med omejitvami. To niso le inženirska vprašanja. To so vprašanja razporejanja.
Lokalna umetna inteligenca lahko naredi energijo vidno. Lokalno ali regionalno izvajanje sili ekipe, da bolj neposredno vidijo zmogljivost, toploto, čakalne vrste in stroške. Ta vidnost je lahko neprijetna. Dobro. Nevidna poraba je tisto, kako organizacije odkrijejo, da je dokaz koncepta postal peč z uporabniškim vmesnikom. Oddaljene storitve so lahko še vedno učinkovite in primerne, vendar mora kupec razumeti, kaj se porablja, kje in v čigavo korist.
Ozaveščenost o energiji spodbuja tudi ustrezno dimenzioniranje. Ni vsak osnutek e-pošte potreben največjega razpoložljivega modela. Ni vsaka naloga ekstrakcije potrebna verige agentov. Ni vsaka klasifikacija potrebna živega sklepanja, če zadostuje pravilo. Prihodnost bo nagradila sisteme, ki obravnavajo računanje kot oblikovalski material in ne kot čarobni oblak megle. To bo zvenelo prozaično, dokler se proračuni ne zaostrijo, omrežja ne obremenijo ali nabava ne vpraša, zakaj storitev stane več, ko jo uporabniki končno vzljubijo.
Obstaja tudi vidik suverenosti. Energija je lokalna, tudi ko se programska oprema pretvarja, da ni. Podatkovni centri so na omrežjih. Strojna oprema je v dobavnih verigah. Hlajenje je v vodi in vremenu. Če je kritična umetna inteligenca odvisna od računske zmogljivosti, ki je institucija ne more prednostno obravnavati, pregledovati ali plačevati pod pritiskom, potem je ta odvisnost strateška. Prihodnost je lokalna deloma zato, ker fizika trmasto ne zanima blagovnih znamk.
Institucije potrebujejo sisteme, ki znajo reči ne
Lokalni, preverjeni in dolgočasni sistem umetne inteligence mora znati reči ne. Ni vira. Ni pooblastila. Ni svežine. Ni zaupanja. Ni vloge. Ni zakonitega namena. Ni varnega dejanja. Ni razpoložljive zmogljivosti. Sposobnost zavrnitve je eden najjasnejših znakov, da je sistem dozorel. Nezreli sistemi odgovorijo na vse, ker odgovarjanje izgleda kot vrednost. Zreli sistemi vedo, da so nekateri odgovori obveznosti z lepo slovnico.
Zavrnitev je lažja, kadar so zapisi in pooblastila dovolj lokalni za pregled in kadar ima preverjanje resnično pot dokazov. Sistem lahko reče ne, ker ve, kateri pogoj ni bil izpolnjen. Človeku lahko pove, kako popraviti primer. Lahko eskalira, kadar ima zavrnitev sama posledice. Zavrnitev lahko zabeleži, tako da ponavljajoče se napake postanejo dokaz za oblikovanje. Zavrnitev brez pojasnila je oviranje. Zavrnitev z dokazi je nadzor.
Zavrnitev varuje tudi zaupanje. Uporabniki se naučijo, da ima sistem meje. Pregledovalci se naučijo, da manjkajoči dokazi štejejo. Vodje se naučijo, da pretok ni edina metrika. Sistem, ki pravilno zavrača, je lahko na naivni nadzorni plošči videti manj produktiven in pri pregledu incidentov bolj dragocen. Nadzorna plošča bo prenesla. Imela je lahko življenje.
Oblikovanje zavrnitve zahteva pogum, ker razkriva nerešena organizacijska vprašanja. Kdo ima pooblastilo za razveljavitev. Katera manjkajoča polja lahko dopolni uporabnik. Katera morajo priti iz izvornih sistemov. Katere odločitve se prekinejo. Katere se nadaljujejo z opozorilom. Katere zahtevajo obvestilo. Zavrnitev naredi politiko operativno. Prav zato sodi v prihodnost in ne v prilogo.
Lokalno ne pomeni osamljeno
Lokalna prihodnost ni izolirana prihodnost. Institucije bodo še vedno sodelovale, izmenjevale podatke, uporabljale skupne modele, se zanašale na dobavitelje, se vključevale v sektorske platforme, sodelovale v raziskavah in se učile iz globalne infrastrukture. Vprašanje ni, ali obstajajo odvisnosti. Obstajale bodo. Vprašanje je, ali so odvisnosti izbrane, vidne, preizkušene in omejene s pravicami, ki jih institucija lahko uveljavlja.
Odprti standardi, prenosljivi zapisi, skupne metode vrednotenja, interoperabilna identiteta, podpisani artefakti, skupni formati revizije in transparentna nabava lahko omogočijo sodelovanje lokalnih sistemov brez razpustitve nadzora. Tu dolgočasno delo postane politično. Standardno ime polja, izvozni manifest, testno okolje, pravilo hrambe, preslikava vlog, protokol za incidente: to niso glamurozni instrumenti suverenosti, vendar institucijam omogočajo sodelovanje brez predaje spomina.
Lokalno pomeni tudi lokalno strokovno znanje. Delavci na področju, skrbniki podatkov, inženirji, pravne ekipe, operaterji in prizadete skupnosti potrebujejo glas v bližini sistema. AI, ki je tehnično impresiven, a družbeno oddaljen, bo spregledal kontekst. Kontekst je tam, kjer se skriva veliko napak. Sistem, ki deluje blizu dela, ima večjo možnost, da bo popravljen, preden napaka postane politika. Ljudem tudi omogoča, da oblikujejo avtomatizacijo, ki oblikuje njih. To ni čustvovanje. To je vzdrževanje legitimnosti.
Osamljena različica lokalnega je krhka. Sodelovalna različica je odporna. Uporablja skupna orodja, ne da bi izgubila odgovorne meje. Organizacijam omogoča, da se učijo skupaj, hkrati pa ohranjajo jasne evidence, ključe, politike in odgovornosti. Zelo dolgočasno. Zelo uporabno.
Tiho usmerjanje
Najpomembnejši sistemi AI v naslednjem desetletju bodo morda manj vidni kot predstavitve, zaradi katerih so ljudje verjeli v to področje. Delovali bodo znotraj javnih služb, bolnišnic, tovarn, šol, energetskih sistemov, pravnih delovnih tokov, raziskovalnih okolij, načrtovalnih procesov in operacij s strankami. Ne bodo vedno govorili. Včasih bodo pridobivali, preverjali, primerjali, usmerjali, zavračali, ohranjali ali prosili človeka, naj se odloči. Njihova vrednost se bo merila manj s presenečenjem in bolj z izogibanjem ponovnemu delu, jasnejšimi evidencami, varnejšimi odločitvami, manjšo odvisnostjo in manj ljudmi, ki so prisiljeni v prepir z nezaznavnim zaslonom.
Ta prihodnost zahteva spremembo okusa. Občudovati moramo sisteme, ki izpolnjujejo obljube, ne le sisteme, ki dajejo nove. Spoštovati moramo lokalni nadzor, kadar je odgovornost lokalna. Zahtevati moramo preverjanje, kadar so posledice resnične. Nehati moramo obravnavati dolgočasno delovanje kot fazo po inovacijah in ga začeti obravnavati kot dokaz, da so inovacije dozorele.
Preboji bodo še vedno obstajali. Nekateri bodo spektakularni. Dobro. Toda trajna vrednost bo prišla iz povezovanja teh prebojev z institucijami na načine, ki ohranjajo spomin, avtoriteto in popravila. Svet ne potrebuje AI, ki zgolj zveni bolj inteligentno. Potrebuje AI, ki mu je mogoče zaupati običajne dolžnosti pod izjemnim pritiskom. Običajne dolžnosti so tam, kjer družbe večinoma živijo.
Prihodnost je lokalna, preverjena in dolgočasna, ker so to lastnosti, zaradi katerih je sposobnost odgovorna. Lokalno postavlja nadzor blizu odgovornosti. Preverjeno naredi trditve pregledne. Dolgočasno naredi sistem dovolj ponovljiv, da se nanj lahko zanesemo. To ni najglasnejša prihodnost. To je tista, ki lahko preživi uporabo. To ostaja najtežja predstavitev od vseh.