Zakaj dolgočasna infrastruktura zmaga pri resni umetni inteligenci
Predstavitev, ki je do kosila izgledala kot prihodnost
Najbolj prepričljiva predstavitev umetne inteligence, kar sem jih kdaj videl, je spodletela zaradi čakalne vrste. Ne model, ne poziv, ne vektorsko iskanje, ne eleganten graf agentov, zaradi katerega so se vsi v prostoru nagnili naprej. Čakalna vrsta. Čez dopoldne je sistem sprejemal podporne e-pošte, poiskal ustrezne dokumente, pripravljal osnutke odgovorov, označeval negotovost in zahtevnejše primere preusmerjal na človeka. Deloval je umirjeno in skoraj nepošteno pametno. Ob kosilu se je uvoz podvojil, nadaljnji poštni sistem je upočasnil, ponovni poskusi so se kopičili drug na drugem in čakalna vrsta se je začela obnašati kot vljuden prometni zastoj z računi.
Do treh popoldne je bil model še vedno sposoben. To je bilo žaljivo. Inteligenca ni izginila. Odpadla je infrastruktura. Sporočila so se obdelovala izven vrstnega reda. Nekatera opravila so poskušala znova s starim kontekstom. Nekaj podvojenih odgovorov je čakalo na odobritev. Nadzorna plošča je kazala zeleno, ker je merila končno točko modela, ne dela. Incident ni bil kinematografski. Nihče ni brcnil strežnika. Sistem je preprosto razkril, da je bil pametni del postavljen na tla iz kartona in optimizma.
Zato v resni umetni inteligenci zmaguje dolgočasna infrastruktura. Resna umetna inteligenca ni različica, ki navduši sobo za petnajst minut. Je različica, ki preživi slabe vnose, zamude pri odvisnostih, delne izpade, potekla poverila, preobremenjene indekse, čakalne vrste za človeški pregled, skoke stroškov, spremembe shem, regionalno zakasnitev, zahteve za revizijo in ponedeljkova jutra. Model je pomemben. Seveda je pomemben. Toda model je le ena komponenta v sistemu, ki mora premikati delo skozi čas, ne da bi lagal o tem, kaj se je zgodilo.
Industrija rada razpravlja o inteligenci, kot da bi bil model izdelek, vse okoli njega pa le oder. V produkciji je oder pogosto izdelek. Identiteta odloča, kdo sme spraševati. Podatkovne pogodbe odločajo, kaj sistem sme vedeti. Pridobivanje odloča, kateri dokazi dosežejo model. Čakalne vrste odločajo, ali delo prispe v obnovljivem vrstnem redu. Dnevniki odločajo, ali je napako mogoče preiskati. Vrednotenje odloča, ali je izboljšava resnična. Vrnitev na prejšnjo različico odloča, ali slaba izdaja postane incident ali opomba pod črto. Nič od tega v predstavitvenem videoposnetku ne izgleda impresivno. To govori v njihovo korist.
Dolgočasno ni preprosto
Dolgočasna infrastruktura se pogosto zamenjuje z osnovno infrastrukturo. A ni. Je infrastruktura, ki smo ji s snovanjem, ponavljanjem in dokazi odstranili presenečenja. Dobra čakalna vrsta je dolgočasna, ker ima jasno razvrščanje, politiko ponovnih poskusov, razpoznavanje podvojenih vnosov, časovno omejitev vidnosti, obravnavo neuspešnih sporočil in povratni pritisk. Dobra shema je dolgočasna, ker je različicana, preizkušena, dokumentirana in zavrnjena, kadar je napačna. Dober dnevnik je dolgočasen, ker pove, kaj se je zgodilo, na način, ki ga je mogoče povezati z drugimi dokazi. Dolgočasnost ni odsotnost misli. Je misel, ki je že plačala najemnino.
Sistemi z umetno inteligenco to potrebujejo bolj kot običajna programska oprema, ker vnašajo negotovost v središče. Tradicionalno storitev je pogosto mogoče opisati z determinističnimi prehodi. Komponenta umetne inteligence lahko vrne verjetnostni odgovor, razvrščen niz možnosti, ustvarjeno besedilo, izluščeno polje, klic orodja ali zavrnitev. Ta izhod mora nato vstopiti v potek dela, ki pričakuje stanja, dovoljenja, roke, ravni storitev in odgovornost. Če je infrastruktura okoli modela nejasna, negotovost modela pronica v delovanje. Potem ljudje to imenujejo tveganje umetne inteligence, čeprav je velik del tega pravzaprav napeljava s težavami z zaupanjem.
Dolgočasna infrastruktura daje verjetnostnim komponentam varno obliko. Zajema pozive, vnose, pridobljene dokaze, različice modelov, politike, klice orodij, izhode, človeške odločitve in nadaljnje učinke. Omejuje pooblastila z identiteto in obsegi. Obravnava neuspeh kot stanje, ne kot presenečenje. Ločuje osnutek od dejanja. Zahteva dokaze, preden avtomatizacija poseže v pomemben potek dela. Ohranja dovolj konteksta za pregled. Model je še vedno lahko ustvarjalen, negotov in občasno napačen. Sistem okoli njega pa mu ni treba vsakič improvizirati.
To ni proti inovacijam. To je tisto, kar omogoča, da inovacije preživijo. Najhitrejše ekipe, ki jih poznam, niso tiste z najmanj postopki. So tiste, katerih postopki živijo v uporabnih tirnicah: lokalni testni nizi, ponovljive uvedbe, jasen umik, znani podatkovni dogovori, preprosto opazovanje in poti pregleda, ki ne zahtevajo odbora, da poišče pravo preglednico. Hitro se premikajo, ker je običajno tveganje dobilo prostor, kamor lahko gre. Mi ostali temu rečemo dolgočasno samo zato, ker se zanesljive stvari ne trudijo pritegniti pozornosti.
Model ni operacijski sistem
Obstaja ponavljajoča se domišljija, da lahko zmogljiv model nadomesti infrastrukturo okoli sebe. Dajte mu dovolj konteksta in bo usmerjal, preverjal, odločal, spremljal, pojasnjeval, popravljal in morda posodobil priročnik, medtem ko kuha čaj. Domišljija je razumljiva, ker so modeli prilagodljivi. Prilagodljivost je zapeljiva. Je pa tudi slab nadomestek za jasne sistemske meje. Model lahko pomaga izbrati pot. Ne bi smel biti edino mesto, kjer pot obstaja.
Ko ekipe dovolijo modelu, da prevzame odgovornosti infrastrukture, ustvarijo skrito politiko. Poziv pove, kateri viri so prednostni. Poziv pove, kdaj zavrniti. Poziv pove, katero orodje uporabiti. Poziv pove, kako ravnati z manjkajočimi polji. Poziv pove, kaj šteje kot tveganje. Del tega je lahko v redu za raziskovanje. V produkciji skrito politiko postane težko preizkusiti, različicati, revidirati in izpodbijati. Dolg poziv lahko postane ustava, napisana na prtičku in shranjena v okoljski spremenljivki. To je živahen pristop k upravljanju, a ne zrel.
Resna umetna inteligenca loči sklepanje od avtoritete. Model lahko predlaga. Delovni tok odloči, ali ima predlog dovolj dokazov, ali ima uporabnik dovoljenje, ali je dejanje povratno, ali mora človek odobriti in ali stroški ustrezajo proračunu. Model lahko povzame primer. Sistem primerov odloči, ali povzetek postane zapis. Model lahko pokliče orodje. Prehod orodij odloči, ali je klic dovoljen. To ločevanje ni birokracija. Je način, kako sistem ostaja pregleden, ko je inteligenca napačna, nepopolna ali prepričljiva.
Bolj ko je model zmogljiv, pomembnejše postajajo meje. Šibek model odpove glasno in pogosto. Močan model lahko odpove tiho, verjetno in v velikem obsegu. Lahko napiše samozavestno razlago za napačen vir. Lahko pokliče orodje z odlično slovnico. Lahko prikrije manjkajoče dokaze na način, ki pomiri operaterja. Infrastruktura mora biti zato bolj trmasta kot model. Zahtevati mora dokazila, preverjati obseg, uveljavljati omejitve hitrosti in voditi zapise, tudi ko se odgovor sliši čudovito razumno.
Podatkovne pogodbe premagajo dobre namene
Številni incidenti z umetno inteligenco se začnejo z majhnim neskladjem. Polje, ki je bilo nekoč neobvezno, postane obvezno. Časovni žig spremeni časovni pas. Razčlenjevalnik dokumentov začne oddajati oznake razdelkov drugače. Statusna koda dobi novo vrednost. Oznaka jezika manjka. Identifikator stranke pride v enem toku z zgoščeno vrednostjo, v drugem pa navaden. Model prejme nekaj, kar je dovolj verjetno za obdelavo in dovolj napačno, da zastrupi rezultat. Dobri nameni tega ne ujamejo. Podatkovne pogodbe ga ujamejo.
Podatkovna pogodba ni velik filozofski objekt. Navaja, kakšno obliko imajo podatki, katera polja so obvezna, kaj pomenijo vrednosti, kako se spreminjajo različice, kateri pragovi kakovosti veljajo, kdo je lastnik vira in kaj se zgodi, ko je pogodba kršena. V sistemih z umetno inteligenco bi morale pogodbe opisovati tudi svežino, izvor, dovoljenja, pomen oznak, politiko razdeljevanja na dele, model vdelave, obseg iskanja in pravila za redakcijo. Pogodba je mesto, kjer podatki prenehajo biti občutek in postanejo dogovor.
Pogodbe so pomembne, ker so modeli tolerantni. Znajo osmisliti neurejene vnose. Ta toleranca je uporabna na robu in nevarna na meji. Če človek pošlje nenavadno vprašanje, toleranca pomaga. Če vir tiho spremeni pomen, toleranca skrije okvaro. Sistem mora biti strog na integracijskih mejah in prilagodljiv v plasti sklepanja. Obratni vzorec vam da krhke uporabnike in sproščene cevovode, kar je učinkovita metoda za zbiranje opravičil.
Enako velja za izpis. Ustvarjen odgovor ni dovolj. Nadaljnji sistemi potrebujejo strukturirano stanje: sprejeto, zavrnjeno, potreben pregled, manjkajoči dokazi, blokirano zaradi pravilnika, napaka orodja, presežen strošek. Potrebujejo kode razlogov, mere zaupanja, sklice na vire, različice modelov in identifikatorje sledenja. Če komponenta umetne inteligence oddaja samo prozo, vsak nadaljnji porabnik postane literarni kritik. To je nepošteno do programske opreme in običajno tudi do literature.
Dnevniki niso stranski proizvod
Pri resni umetni inteligenci dnevniki niso izpuh. So del živčnega sistema izdelka. Uporaben dnevnik povezuje namen uporabnika, dovoljenja, predlogo poziva, pridobljene dokaze, različico modela, parametre, klice orodij, zakasnitev, stroške, izpis, človeški poseg in nadaljnje dejanje. Ni mu treba široko razkrivati skrivnosti ali osebnih podatkov. Mora pa ohraniti dovolj za odgovore na odrasla vprašanja: zakaj se je to zgodilo, kdo je to dovolil, kaj je videlo, kaj se je spremenilo in kako preprečimo, da se ponovi.
Brez dnevnikov vsak incident z umetno inteligenco postane seansa. Ljudje se zberejo okoli posnetka zaslona. Nekdo se spomni, da se je poziv prejšnji teden spremenil. Nekdo drug reče, da je bil indeks osvežen. Tretja oseba meni, da je imel uporabnik morda drugo vlogo. Stran s statusom ponudnika modela se posvetuje z obredno resnostjo. Na koncu ekipa napiše verjetno zgodbo. Verjetne zgodbe so uporabne v romanih. V operacijah so davek na manjkajoče dokaze.
Dnevnike je treba načrtovati z zasebnostjo in varnostjo, ne dodajati kot neselektivno snemanje. Občutljive pozive bo morda treba preoblikovati ali zgoščevati. Dostop do sledi naj bo omejen. Hramba naj ustreza tveganju. Nekateri podatki sploh ne smejo priti v dnevnike. Toda zavrniti beleženje, ker je tvegano, je kot zavrniti zavore, ker je hitrost nevarna. Pravilen odgovor je nadzorovano beleženje, ne operativna slepota.
Dobri dnevniki omogočajo tudi pošteno izboljševanje. Če nov poziv zmanjša napake pri ročno izbranem naboru primerov, a poveča človeške posege v produkciji, naj sistem to pokaže. Če sprememba pridobivanja zniža zakasnitev, a poveča zastarele navedbe, naj sistem to pokaže. Če nadgradnja modela zniža stroške, a poveča zavrnitve za določen jezik, naj sistem to pokaže. Resna umetna inteligenca potrebuje manj diapozitivov o zmagah in več povezanih sledi.
Vrednotenje je infrastruktura
Vrednotenje se prepogosto obravnava kot raziskovalna dejavnost, ki poteka pred uvedbo. Pri resni umetni inteligenci je infrastruktura. Deluje neprekinjeno, se veže na izdaje, vzorči produkcijo, primerja različice modelov, preizkuša pridobivanje, meri človeške posege in spremlja nazadovanje v skupinah, jezikih, domenah in delovnih tokovih. Vrednotenje je spomin sistema na to, kaj pomeni dobro. Brez njega izboljševanje postane stvar okusa, okus pa ima navado, da se strinja s tistim, ki predstavlja predstavitev.
Ocenjevalni nabor ne sme biti statična trofeja. Vključevati mora običajne primere, zahtevne primere, nedavne napake, nasprotniške pozive, meje politik, jezike z malo viri, robne dokumente, zastarele zapise, dvoumna vprašanja in primere, kjer je pravilen odgovor zavrnitev. Vedeti mora, katera metrika je pomembna za kateri potek dela. Povzemalnik, klasifikator, pomočnik za kodo, sistem za triažo in iskalni agent ne odpovedo na enak način. Če jih obravnavamo kot eno merilo uspešnosti, dobimo številko in ne veliko modrosti.
Ocenjevanje potrebuje tudi upravljanje podatkov. Od kod prihajajo primeri. Ali so dovoljeni za to uporabo. Ali vsebujejo občutljive informacije. Ali so še vedno reprezentativni. Kdo jih je označil. Kako je bilo obravnavano nestrinjanje. Kaj se je spremenilo od prejšnjega meseca. Testni nabor lahko postane zastarel ali pristranski kot katerikoli drug nabor podatkov. Če ocenjevalni korpus obravnavamo kot svetinjo, sčasoma postane svetišče starih predpostavk. Svetišča redko ujamejo odmik produkcije.
Najpomembneje je, da je ocenjevanje povezano z nadzorom izdaj. Model, poziv, iskalni indeks, razčlenjevalnik, prehod orodij ali sprememba politik ne smejo priti v produkcijo zgolj zato, ker se zdijo boljši. Prestati morajo ustrezne teste, navesti znane kompromise in pustiti zapis. Nekatere spremembe bodo vredne uvedbe kljub poslabšanjem, ker se izboljšajo stroški, zakasnitev, varnost ali pokritost. To je v redu. Resno inženirstvo ni odsotnost kompromisov. Je zavračanje, da bi jih odkrivali po naključju.
Nadzor stroškov je zanesljivost
O stroških umetne inteligence finance pogosto razpravljajo šele, ko je bila arhitektura že čustveno sprejeta. To je prepozno. Stroški so lastnost delovanja. Vplivajo na zanesljivost, ker se dragi sistemi pod pritiskom obnašajo nenavadno. Ekipe onemogočijo beleženje, da bi prihranile denar. Znižajo kakovost konteksta. Izpustijo ocenjevanja. Izogibajo se ponovnim poskusom. Pakete obdelujejo preveč agresivno. Dovolijo rast zaostankov. Skrivajo uporabo. Stroški tako prenehajo biti račun in postanejo konstrukcijska omejitev, ki se pretvarja, da je presenečenje.
Resna infrastruktura umetne inteligence naredi stroške vidne na enaki ravni kot zakasnitev in napake. Vsaka zahteva mora imeti proračun. Drage klice orodij je treba omejiti. Iskanje se mora izogibati temu, da bi za odgovor na vprašanje o enem odstavku prineslo pol knjižnice. Dolg kontekst mora biti utemeljen. Paketna opravila morajo imeti kvote in preklic. Agenti morajo imeti omejitve korakov. Ocenjevanje mora meriti stroške na sprejemljiv rezultat, ne le stroške na žeton. Enota, ki je pomembna, je koristno delo, ne računalniški konfeti.
Nadzor stroškov ščiti tudi varnost. Ubežna zanka agenta ni le draga. Lahko ponavlja dejanja, pošilja podvojena sporočila, zaklepa zapise ali obremenjuje sistem tretje osebe. Postopek iskanja, ki indeksira vse, lahko razkrije podatke prek svojega namena. Opravilo povzemanja, ki teče čez vse dokumente, lahko ustvari izpeljane zapise z novimi obveznostmi hrambe. Proračunske meje silijo k jasnosti zasnove. Sprašujejo, zakaj sistem nekaj počne in kdaj naj neha. Stroji potrebujejo to pomoč. Niso znani po prostovoljni zmernosti.
Ni sramote pri optimizaciji za običajno strojno opremo, manjše modele, predpomnjenje, paketno obdelavo, vnaprejšnje računanje in lokalno sklepanje, kjer je to primerno. Resna umetna inteligenca se ne meri po tem, kako veličastno zveni strojna oprema. Meri se po tem, ali sistem lahko zagotovi zahtevano kakovost v stroškovnem okviru, ki mu omogoča, da deluje naprej. Sjajen model, ki je predrag za opazovanje, ocenjevanje in obnovitev, ni produkcijski sistem. Je predlog za nepovratna sredstva z vmesnikom API.
Človeški pregled ni obliž za slabo infrastrukturo
Človeški pregled je nujen v številnih sistemih umetne inteligence, zlasti kadar odločitve vplivajo na pravice, denar, zdravje, varnost ali zaupanje. A pregled se pogosto uporablja kot koš za vse, česar infrastruktura ni obdelala: manjkajoči dokazi, nejasna politika, slaba zanesljivost, pokvarjeno usmerjanje, podvojena opravila, slabe oznake in nejasna odgovornost. Nato vodje rečejo, da je v zanki človek, kot da bi bil človek čarobno topilo. Človek je običajno oseba z vrsto čakajočih opravil, rokom in stolom dvomljive ergonomske vrednosti.
Tudi pregled potrebuje infrastrukturo. Pregledovalci potrebujejo dokaze, ki jih je model videl, dokaze, ki jih ni videl, politiko, ki je veljala, različico modela, kode zanesljivosti in razlogov, izvorne dokumente, možnost popravljanja strukturiranih polj in način za vračanje popravkov v podatke za vrednotenje in usposabljanje. Potrebujejo omejitve delovne obremenitve. Potrebujejo eskalacijo. Potrebujejo revizijske sledi. Potrebujejo zaščito pred pristranskostjo avtomatizacije, kjer tekoč odgovor tiho postane namig.
Dober sistem pregleda razlikuje tudi negotovost od tveganja. Nekateri primeri so negotovi, a imajo majhen vpliv in jih je mogoče odgovoriti s pridržki. Nekateri so gotovi, a imajo velik vpliv in še vedno zahtevajo odobritev. Nekateri imajo nizko zanesljivost, ker manjkajo podatki. Nekateri so blokirani s politiko ne glede na zanesljivost. Če infrastruktura vse to skrči na vprašaj človeka, pregledovalec postane obrat za sortiranje odpadkov sistema. Ljudje to zmorejo nekaj časa. Nato kakovost postane kadrovski načrt s prijaznim imenom.
Bistvo ni odstraniti ljudi. Bistvo je dati jim delo, ki si zasluži presojo. Naj infrastruktura poskrbi za urejanje, pakiranje dokazov, preverjanje politik, podvajanje, spremljanje rokov, zajemanje povratnih informacij in ponovno predvajanje. Naj ljudje obravnavajo sporna pomena, izjeme, sočutje, pogajanja in odgovornost. Ta delitev je bolj spoštljiva do človeka in varnejša za sistem. Prav tako zmanjšuje starodavni poslovni obred reševanja arhitekture s številom zaposlenih.
Tiha arhitektura zaupanja
Zaupanje v umetno inteligenco je pogosto predstavljeno kot komunikacijski problem. Bolje razložite sistem. Dodajte obvestilo. Objavite načela. Naredite vmesnik prijaznejši. Te stvari lahko pomagajo, a uporabniki se zaupanja naučijo skozi vedenje. Ali si sistem zapomni svoje meje. Ali zavrne, kadar manjkajo dokazi. Ali prikazuje vire. Ali si opomore brez težav. Ali ustavi podvojena dela. Ali ljudem omogoča izpodbijanje. Ali se po napakah izboljša. To so vedenja infrastrukture, preden postanejo vedenja blagovne znamke.
The quiet architecture of trust is made from stable identifiers, clear permissions, explicit states, durable logs, tested restore, representative evaluation, understandable review, and honest refusal. The user may never see most of it. They will feel it when the system does not lose their case, when an appeal has evidence, when a correction sticks, when a bad release is rolled back, or when the answer says it cannot know instead of fabricating a small opera.
This is why serious AI teams should spend more time praising the unglamorous pieces. The person who made idempotency work saved the product from duplicate actions. The engineer who insisted on trace IDs saved the incident review. The data steward who blocked an unversioned feed saved the model from a quiet lie. The operations lead who rehearsed rollback saved the weekend. None of them will appear in the keynote. Production owes them anyway.
Boring infrastructure is not a lack of ambition. It is ambition that expects to be used by real people in real organisations under real constraints. The model can remain the most intellectually interesting component. It should not be the only serious one. Intelligence that cannot be queued, bounded, observed, evaluated, explained, and recovered is not ready for serious work. It is ready for a demo, which is a different and much shorter season.
The lesson
Boring infrastructure wins in serious AI because serious AI is mostly about keeping promises after the novelty has left the room. The promise is not that every answer will be perfect. The promise is that the system will know its inputs, respect its limits, preserve evidence, route uncertainty, recover from failure, control cost, and improve from experience. That promise is delivered by queues, schemas, logs, contracts, identities, evaluations, runbooks, and rollback plans.
The clever model is important. It is also needy. It needs clean boundaries, fresh evidence, scoped tools, patient evaluation, controlled cost, and humans who receive meaningful work rather than leftovers. Give it those things and it can become useful. Deny it those things and the organisation will eventually discover that intelligence without infrastructure is just a faster way to create work for operations.
The demo that failed at lunch did not fail because the future was impossible. It failed because the future had been balanced on a queue nobody had treated as part of the future. That is the quiet lesson. In serious AI, the boring pieces are not supporting actors. They are the stage.