Budućnost je lokalna, provjerena i dosadna
Budućnost je stigla u prozoru održavanja
Budućnost nije stigla uz blještavu uvodnu prezentaciju. Stigla je u prozoru održavanja, u 22:30, kada je operativni tim premjestio kritični tijek rada s vanjske ovisnosti na regionalno izvođenje, provjerio da iste evidencije proizvode iste odluke, pregledao revizijske potvrde, rotirao ključ, vratio sigurnosnu kopiju i otišao kući prije ponoći. Nitko nije pljeskao. Korisnici nisu primijetili ništa osim da je usluga i dalje radila ujutro. Ovo nije prizor koji većina ljudi zamišlja kada govori o budućnosti umjetne inteligencije. Vjerojatno je bliži onome što je doista važno.
Javna priča o umjetnoj inteligenciji oblikovana je spektaklom: veći modeli, neobičnije demonstracije, tečniji agenti, sintetički mediji, skokovi na ljestvicama, nadzorne ploče koje sugeriraju da je organizacija postala svemirski brod. Spektakl ima svoje mjesto. Može pokazati što je moguće. Može proširiti maštu. Može i odvratiti pozornost od pitanja koje odlučuje hoće li umjetna inteligencija postati pouzdana infrastruktura: može li taj sustav raditi tamo gdje treba raditi, dokazati što je učinio i postati dovoljno običan da se ljudi na njega mogu osloniti bez pretvaranja svakog rezultata u maleni teološki događaj.
Sljedeća korisna faza umjetne inteligencije bit će lokalna, provjerena i obična. Lokalno ne znači da sve mora raditi pod stolom uz herojski ventilator. Znači da računalstvo, podaci, ključevi i ovlasti trebaju biti dovoljno blizu ljudima i institucijama koje su za njih odgovorne. Provjereno ne znači da svaki odgovor postaje matematički dokaz. Znači da važne tvrdnje nose dokaze, putove ponovnog izvođenja, verzionirano stanje i testabilne granice. Obično ne znači bez mašte. Znači da je sustav prestao stvarati nepotrebnu dramu.
Ta je budućnost manje moderna jer je manje teatralna. Traži ugovore o podacima, formate izvoza, determinističke zapise, skupove za vrednovanje, dizajn uloga, vježbe oporavka, svijest o energiji, putove odbijanja, lokalna izvođenja, otvorena sučelja, prava na incidente i dovoljno operativne poniznosti da prizna kako je dobar sustav umjetne inteligencije onaj koji može razočarati publiku na uvodnoj prezentaciji, a oduševiti revizora. To nije mala ambicija. Jednostavno nije prikladna za konfete.
Lokalno nije poštanski broj
Lokalni AI često se pogrešno shvaća kao pitanje geografske lokacije. Stavite poslužitelj ovdje i sustav postaje odgovoran. Lokacija je važna, ali lokalno je bogatije od geografije. Radno opterećenje dovoljno je lokalno kada odgovorna institucija može ostvarivati nadzor nad kretanjem podataka, izvođenjem, ključevima, pristupom, zapisima, oporavkom i dokazima bez traženja dopuštenja od udaljene ovisnosti u najgorem mogućem trenutku. Ponekad to znači na lokaciji. Ponekad suverena regija. Ponekad rubni uređaji. Ponekad hibridni obrazac. Karta je korisna samo kada prati ovlasti, a ne marketinšku geografiju.
Postoje praktični razlozi za približavanje posla. Osjetljivi podaci možda ne smiju putovati. Kašnjenje može biti važno. Troškovi energije mogu biti jasniji lokalno. Može biti potreban rad bez veze. Organizacija može trebati ispitati ponašanje modela uz vlastite zapise. Javno tijelo može trebati očuvati prava prema nacionalnom ili europskom pravu. Proizvođač može trebati zaključivanje u blizini stroja. Bolnica može trebati da kontekst pacijenta ostane unutar granice povjerenja. To nisu ideološki razlozi. To su operativna ograničenja.
Lokalno također mijenja ekonomiku. Slanje svakog malog zadatka udaljenom divu jer je API prikladan može postati skupo, krhko i teško objašnjivo. Izvođenje svakog zadatka lokalno jer zvuči suvereno može postati rasipno, nedovoljno snažno i teško za održavanje. Budućnost nije jedna religija implementacije. To je disciplina postavljanja. Postavite posao tamo gdje podaci, kontrola, kašnjenje, trošak, vještina i rizik imaju smisla. Zatim dokažite da se postavljanje i dalje ponaša ispravno kada jednostavan put zakaže.
Najzanimljiviji lokalni sustavi bit će obični. Koristit će manje modele tamo gdje su manji modeli dovoljni. Kombinirat će pretraživanje, pravila, zapise i ljudski pregled. Predmemorirat će pažljivo, ažurirati promišljeno i odbiti kada kontekst nedostaje. Tretirat će propusnost, snagu i pažnju osoblja kao ograničene resurse. Neće se ispričavati što su manje čarobni ako su pouzdaniji. Čarolija je imala velikodušno probno razdoblje.
Provjereno znači da odgovor donosi dokaze
Provjera nije jedna stvar. Može značiti matematički dokaz, potpisane zapise, determinističku reprodukciju, procjenu mjerila, citiranje izvora, usklađenost s politikama, ljudsko odobrenje, zapisnike revizije, regresijske testove, neovisni pregled ili jednostavnu provjeru da broj na zaslonu odgovara broju u izvoru. Riječ je velika jer je odgovornost velika. Korisno pitanje nije je li sustav provjeren u apstraktnom smislu. Pitanje je koja je tvrdnja provjerena, kojim dokazima i za koju posljedicu.
Odgovor umjetne inteligencije koji predlaže mjesto za ručak ne treba iste dokaze kao odgovor koji podupire odluku o naknadi, uputu za održavanje, pregled kredita, kliničku bilješku ili procjenu sigurnosti. Ozbiljni sustavi trebaju skalirati provjeru s posljedicom. Posao niskog rizika može se odvijati lagano. Posao visokog utjecaja treba stanje izvora, stanje modela, stanje pravila, ljudsku ulogu, vremenske oznake, putove ispravaka i reprodukciju gdje je to izvedivo. To nije birokracija. To je proporcionalno pamćenje.
Provjera također mijenja emocionalni život umjetne inteligencije. Bez dokaza, svaki samouvjeren odgovor traži vjerovanje. S dokazima, odgovor se može ispitati. Izvori se mogu provjeriti. Verzije se mogu usporediti. Ispravci se mogu napraviti. Recenzenti se mogu ne slagati bez da postanu heretici. Sustav postaje manje poput proročišta, a više poput kolege koji donosi bilješke. Kolege koji donose bilješke rijetko su najglamurozniji ljudi na sastanku. Često su razlog zašto sastanak ne postane legenda.
Najteži je dio odbijanje lažne provjere. Navod koji upućuje na pogrešan izvor nije provjera. Metrika na nadzornoj ploči bez ponovljivih slučajeva nije provjera. Generičko objašnjenje koje kaže da su razmotreni relevantni čimbenici nije provjera. Ocjena pouzdanosti bez kalibracije nije provjera. Potpisani zapis koji izostavlja ulazno stanje samo je djelomično koristan. Provjera bi trebala preživjeti neprijateljskog čitatelja. Prijateljski čitatelji su jeftini.
Dosadno je dizajnersko postignuće
Dosadni sustavi često se pogrešno shvaćaju kao jednostavni sustavi. Mnogi nisu jednostavni. Oni su disciplinirani. Obavljaju rutinski posao bez iznenađenja, jasno pokazuju ograničenja, otkazuju na poznate načine, oporavljaju se bez ceremonije i vode dovoljno zapisa da nitko ne mora rekonstruirati stvarnost iz poruka u chatu. Dosadno je ono kako složeni sustavi izgledaju nakon što je učinjeno dovoljno inženjerskog rada da korisnici ne doživljavaju složenost kao osobnu kaznu.
AI treba više dosade. Treba dosadno odbijanje kada izvori nedostaju. Dosadne zapisnike koji odgovaraju na stvarna pitanja. Dosadno upravljanje verzijama. Dosadne skupove za evaluaciju. Dosadna vrata implementacije. Dosadan izvoz. Dosadno oblikovanje uloga. Dosadna upozorenja koja ne zahtijevaju svećenički red za tumačenje. Dosadno obračunavanje troškova. Dosadnu dokumentaciju koja kaže tko je vlasnik čega. Dosadan povratak na prethodno stanje. Dosada nije neprijatelj inteligencije. Ona je spremnik koji sprječava da se inteligencija prolije u hodnik.
Glad za uzbuđenjem proizvela je previše sustava koji impresivno nastupaju, a loše rade. Mogu odgovoriti na demonstracijsko pitanje, ali ne mogu objasniti incident u produkciji. Mogu sažeti dokument, ali ne mogu sačuvati stanje izvora. Mogu automatizirati tijek rada, ali ne mogu prikazati nesigurnost. Mogu povećati upotrebu, ali ne mogu popraviti štetu. Ti sustavi nisu napredni. Oni su adolescentski. Puno energije, malo obaveza.
Dosadan dizajn postavlja neromantična pitanja rano. Što se događa kada model nije dostupan. Što se događa kada je odgovor niske pouzdanosti. Što se događa kada je izvor zastario. Što se događa kada se korisnik ne slaže. Što se događa kada se politika promijeni. Što se događa kada sustav treba zamijeniti. Što se događa kada stigne revizija. Sustav koji može odgovoriti na ta pitanja možda izgleda manje uzbudljivo. Dobro. Uzbuđenje je ono što ljudi nazivaju rizikom prije nego što stigne račun.
Pejzaž će postati manji i raznolikiji
Budućnost neće biti jedan model koji vlada svakim zadatkom. Bit će to krajolik modela, pravila, sustava za pronalaženje informacija, rješavača, baza podataka, simboličkih provjera, ljudskog pregleda i alata specifičnih za pojedino područje. Neki zadaci trebaju velike opće modele. Mnogi trebaju manje specijalizirane modele. Neki ne trebaju nikakav model, već samo bolje zapise i deterministička pravila. Neki trebaju pretraživanje s podrijetlom informacija. Neki trebaju formalne provjere. Neki trebaju čovjeka s boljim sučeljem i mogućnošću da kaže ne.
Taj mješoviti krajolik zdraviji je od fantazije o potpunoj automatizaciji. Organizacijama omogućuje odabir najmanje moćnog alata koji posao može obaviti odgovorno. Ta fraza zvuči kao podbacivanje sve dok se ne uključe račun za struju, proračun latencije, teret revizije i rizik za podatke. Najmanje moćan dovoljan alat često je najsuvereniji, najodrživiji i najrazumljiviji alat. Uz to je obično onaj koji ljudi mogu popraviti prije ručka.
Lokalna provjerena dosadna umjetna inteligencija stoga preferira kompoziciju. Mali model piše nacrt. Pretraživanje osigurava izvore. Pravila provode stroga ograničenja. Deterministički zapisi čuvaju stanje. Provjera ispituje tvrdnje. Ljudski pregled nosi se s prosudbom. Nadzor prati odstupanja. Izvoz osigurava stvaran izlaz. Svaki dio ima svoju ulogu. Sustav postaje manje tajanstven jer je odgovornost raspoređena namjerno, a ne otopljena u jedan tečan odgovor.
Opasnost je da kompozicija može postati neuredna ako nitko ne upravlja cjelinom. Dosadna arhitektura treba jasne granice, ugovore i testove. Cilj nije hrpa komponenti. Cilj je radni sustav u kojem se svaka komponenta može zamijeniti, pregledati i okriviti samo za posao koji doista obavlja. Granice odgovornosti podcijenjene su. One su način na koji incidenti postaju popravci umjesto predstava.
Energija će postati pitanje upravljanja
Razgovori o umjetnoj inteligenciji često tretiraju računalnu snagu kao pozadinski resurs. Ona to nije. Računalna snaga troši novac, struju, hlađenje, opskrbu hardverom, pažnju osoblja i politički kapital. Kako umjetna inteligencija postaje obična infrastruktura, energija će postati dio upravljanja. Koji zadaci opravdavaju pozive udaljenim velikim modelima. Koji mogu raditi na manjim lokalnim modelima. Koji bi se trebali obrađivati u serijama. Koji bi se trebali predmemorirati. Koji bi trebali odbiti jer vrijednost ne opravdava trošak. Koja opterećenja moraju nastaviti raditi tijekom ograničenja. To nisu samo inženjerska pitanja. To su pitanja raspodjele resursa.
Lokalna umjetna inteligencija može učiniti energiju vidljivom. Lokalno ili regionalno izvođenje prisiljava timove da izravnije vide kapacitet, toplinu, čekanje i trošak. Ta vidljivost može biti neugodna. I dobro je da jest. Nevidljiva potrošnja način je na koji organizacije otkriju da je probni koncept postao peć s korisničkim sučeljem. Udaljene usluge i dalje mogu biti učinkovite i primjerene, ali kupac bi trebao razumjeti što se troši, gdje i u čiju korist.
Svijest o energiji također potiče pravilno dimenzioniranje. Ne treba svakom nacrtu e-pošte najveći dostupni model. Ne treba svaki zadatak izdvajanja lanac agenata. Ne treba svaka klasifikacija izvoditi zaključke uživo ako bi pravilo bilo dovoljno. Budućnost će nagraditi sustave koji računalstvo tretiraju kao dizajnerski materijal, a ne kao čarobnu oblačnu maglu. To će zvučati prozaično sve dok se proračuni ne zategnu, mreže ne opterete ili nabava ne upita zašto usluga košta više kad je korisnici napokon zavole.
Postoji i aspekt suvereniteta. Energija je lokalna čak i kad se softver pretvara da nije. Podatkovni centri stoje na mrežama. Hardver stoji u lancima opskrbe. Hlađenje stoji u vodi i vremenu. Ako kritična umjetna inteligencija ovisi o računalnom kapacitetu koji institucija ne može prioritizirati, nadzirati ni platiti pod pritiskom, onda je ta ovisnost strateška. Budućnost je lokalna dijelom zato što je fizika tvrdoglavo nezainteresirana za brendiranje.
Institucije trebaju sustave koji znaju reći ne
Lokalni, provjereni i dosadni sustav umjetne inteligencije mora znati reći ne. Nema izvora. Nema ovlasti. Nema svježine. Nema pouzdanosti. Nema uloge. Nema zakonite svrhe. Nema sigurne radnje. Nema dostupnog kapaciteta. Sposobnost odbijanja jedan je od najjasnijih znakova da je sustav sazrio. Nezreli sustavi odgovaraju na sve jer odgovaranje izgleda kao vrijednost. Zreli sustavi znaju da su neki odgovori obveze odjevene u dobru gramatiku.
Odbijanje je lakše kad su zapisi i ovlasti dovoljno lokalni za nadzor i kad provjera ima stvaran put dokaza. Sustav može reći ne jer zna koji je uvjet podbacio. Čovjeku može reći kako popraviti slučaj. Može eskalirati kad samo odbijanje ima posljedice. Može zabilježiti odbijanje tako da ponovljeni neuspjesi postanu dokaz za dizajn. Odbijanje bez objašnjenja opstrukcija je. Odbijanje s dokazom kontrola je.
Odbijanje također štiti povjerenje. Korisnici nauče da sustav ima granice. Recenzenti nauče da nedostatak dokaza ima značenje. Voditelji nauče da propusnost nije jedina mjera. Sustav koji ispravno odbija može na naivnoj nadzornoj ploči izgledati manje produktivno, a u analizi incidenta vrijednije. Nadzorna ploča će to podnijeti. Imala je lagan život.
Oblikovanje odbijanja zahtijeva hrabrost jer otkriva neriješena organizacijska pitanja. Tko ima ovlast nadjačati. Koja polja koja nedostaju korisnik može dostaviti. Koja moraju doći iz izvornih sustava. Koje odluke zastaju. Koje se nastavljaju uz upozorenje. Koje zahtijevaju obavijest. Odbijanje pretvara politiku u operativu. Upravo zato pripada budućnosti, a ne dodatku.
Lokalno ne znači usamljeno
Lokalna budućnost nije izolirana budućnost. Institucije će i dalje surađivati, razmjenjivati podatke, koristiti zajedničke modele, oslanjati se na dobavljače, sudjelovati u sektorskim platformama, istraživati i učiti od globalne infrastrukture. Pitanje nije hoće li postojati ovisnosti. Hoće. Pitanje je jesu li ovisnosti odabrane, vidljive, testirane i ograničene pravima koja institucija može ostvariti.
Otvoreni standardi, prenosivi zapisi, zajedničke metode evaluacije, interoperabilan identitet, potpisani artefakti, zajednički formati revizije i transparentna nabava mogu omogućiti lokalnim sustavima suradnju bez gubitka kontrole. Tu dosadan posao postaje političan. Standardno ime polja, manifest izvoza, testni okvir, pravilo zadržavanja, mapiranje uloga, protokol za incidente: to nisu glamurozni instrumenti suvereniteta, ali institucijama omogućuju zajednički rad bez predaje sjećanja.
Lokalno također znači i lokalna stručnost. Radnici u domeni, skrbnici podataka, inženjeri, pravni timovi, operateri i pogođene zajednice trebaju glas blizu sustava. AI koji je tehnički impresivan, ali društveno udaljen, propustit će kontekst. Kontekst je mjesto gdje se skriva mnogo pogrešaka. Sustav koji radi blizu posla ima veće šanse da bude ispravljen prije nego pogreška postane politika. Također daje ljudima način da oblikuju automatizaciju koja oblikuje njih. To nije osjećaj. To je održavanje legitimnosti.
Uskamljena verzija lokalnog je krhka. Suradnička verzija je otporna. Koristi zajedničke alate bez gubitka jasnih granica odgovornosti. Omogućuje organizacijama da uče zajedno, a pritom zadržavaju jasne zapise, ključeve, politike i odgovornosti. Vrlo dosadno. Vrlo korisno.
Tihi smjer
Najvažniji AI sustavi sljedećeg desetljeća možda će biti manje vidljivi od demonstracija koje su natjerale ljude da povjeruju u to područje. Nalazit će se unutar javnih službi, bolnica, tvornica, škola, energetskih sustava, pravnih tijekova rada, istraživačkih okruženja, procesa planiranja i operacija s korisnicima. Neće uvijek govoriti. Ponekad će dohvaćati, provjeravati, uspoređivati, usmjeravati, odbijati, čuvati ili tražiti od čovjeka da odluči. Njihova vrijednost mjerit će se manje iznenađenjem, a više izbjegnutim ponovnim radom, jasnijim zapisima, sigurnijim odlukama, manjom ovisnošću i manjim brojem ljudi prisiljenih raspravljati se s ekranom koji se ne može nadzirati.
Ta budućnost zahtijeva promjenu ukusa. Moramo se diviti sustavima koji održavaju obećanja, a ne samo sustavima koji daju nova. Moramo poštivati lokalnu kontrolu kada je odgovornost lokalna. Moramo zahtijevati provjeru kada su posljedice stvarne. Moramo prestati tretirati dosadan rad kao fazu nakon inovacije i početi ga tretirati kao dokaz da je inovacija odrasla.
Proboja će i dalje biti. Neki će biti spektakularni. Dobro. Ali trajna vrijednost dolazi od povezivanja tih proboja s institucijama na načine koji čuvaju pamćenje, autoritet i popravak. Svijetu ne treba AI koji samo zvuči inteligentnije. Treba mu AI kojem se može vjerovati s običnim dužnostima pod izvanrednim pritiskom. Obične dužnosti su mjesta gdje društva najviše žive.
Budućnost je lokalna, provjerena i dosadna jer su to svojstva koja čine sposobnost odgovornom. Lokalno stavlja kontrolu blizu odgovornosti. Provjereno čini tvrdnje nadziranima. Dosadno čini sustav dovoljno ponovljivim da se na njega može osloniti. To nije najglasnija budućnost. To je ona koja može preživjeti upotrebu. To i dalje ostaje najteža demonstracija od svih.