Dobavna veriga za vsakim odgovorom umetne inteligence
Odgovor pride preveč čist
Najbolj sumljiva stvar pri sodobnem odgovoru umetne inteligence je, kako urejen je videti. Uporabnik zastavi vprašanje, vmesnik za trenutek premolkne, nato pa se pojavi odstavek s samozavestjo uradnika, ki še nikoli ni izgubil obrazca. Na njem ni prahu. Ni prstnih odtisov. V ozadju ni piska viličarja. Zdi se, kot da se je odgovor rodil cel, kot uradni dopis, najden pod steklenim zvonom.
Ta čistoča je uporabniku v pomoč, operaterju pa nevarna. Za odgovorom stoji veriga vnosov, pretvorb, kontrol, odločitev o shranjevanju, človeških izbir in strojnih predpostavk. Nekje obstaja izvorni dokument, ali spomin, ali pridobljeni delček, ali sled iz učenja, ali pravilo politike, ali predpomnjena izračunana vrednost. Obstaja model za vdelane predstavitve, ki je določil, kaj je podobno, indeks, ki je določil, kaj je mogoče najti, model, ki je določil, katere besede sledijo, ovojnica poziva, ki je določila, kaj sme uporabnik vprašati, in plast beleženja, ki je določila, kaj si bo sistem zapomnil, ko bodo vsi odšli domov.
Pri običajnih dobavnih verigah smo se naučili spraševati, od kod prihajajo deli. Bolnišnica želi vedeti, ali je pripomoček sterilen. Graditelj mostu želi vedeti, katera serija jekla je šla v kateri nosilec. Trgovina želi vedeti, katera kmetija je poslala solato, ko se solata začne obnašati kot majhen pravni oddelek. Umetna inteligenca si zasluži enako operativno sumničavost. Odgovor ni čudež. Je sestavljen izdelek.
Težava je v tem, da so dobavne verige umetne inteligence v trenutku uporabe večinoma nevidne. Uporabnik vidi stavek. Institucija prejme odločitev, priporočilo, povzetek ali osnutek. Pogosto pa ne prejme seznama sestavin za odgovor. Kateri podatki so bili upoštevani. Katera različica modela je spregovorila. Katere nastavitve pridobivanja so bile aktivne. Katero pravilo politike je blokiralo ali oblikovalo odziv. Kateri predpomnilnik je vrnil zastarelo gradivo. Kateri človek je prejšnji teden spremenil sistem, ker se je sestanek zavlekel in je bilo okno za spremembe še vedno odprto.
Odgovor je pošiljka, ne iskra
Poimenovati to dobavna veriga ni metafora za okras. To spremeni vprašanja. Če je odgovor pošiljka, potem obstajajo dobavitelji, sestavni deli, poti, pregledi, zamenjave, zamude, izgube, odpoklici in odgovornosti. Poziv ni zgolj stavek. Je naročilo. Plast pridobivanja ni zgolj iskanje. Je pobiranje zaloge s polic. Model ni zgolj inteligenca. Je obrat za pretvorbo, ki izbrano gradivo spremeni v izhod. Plast politike je kontrola kakovosti. Dnevnik je dobavnica, če obstaja in ni bil napisan z izginjajočim črnilom, ker je nekdo menil, da je telemetrija predraga.
Večina organizacij že bolje razume fizične dobavne verige kot digitalne. Vedo, da lahko majhna sprememba pri dobavitelju povzroči velike učinke navzdol po verigi. Vijak z drugačno toleranco morda ni pomemben, dokler stroj ne zavibrira. Nalepka s spremenjeno obliko morda ni pomembna, dokler carina ne zavrne škatle. Hladna veriga, ki se prekine za dvajset minut, morda ni pomembna, dokler vzorec ne postane medicinsko zanimiv. Pri umetni inteligenci se isti vzorec pojavi z manj šuma. Spremeni se pravilo za razdeljevanje na dele. Posodobi se različica modela. Osveži se nabor podatkov. Premakne se prag za razvrščanje. Odgovor je še vedno videti tekoč, in prav zato lahko sprememba ostane neopažena.
To je pomembno, ker je tekoča napaka operativno nerodna. Ko se ustavi tekoči trak, ljudje to opazijo. Ko model da verjeten odgovor iz napačnega vira, lahko organizacija mesece deluje naprej z vljudno napako. Ta se bo pokazala kot nedosledni nasveti, počasna podpora, šibka revizijska sled ali odločitve, ki jih ni mogoče zagovarjati, ko deležnik končno zastavi staromodno vprašanje: zakaj.
Pogled z vidika dobavne verige ekipam omogoča bolj utemeljen način obvladovanja tega tveganja. Zahteva poimenovane vnose, različice komponent, nadzorovane zamenjave, merljive kontrolne točke kakovosti in potrdila. Ne zahteva mistične gotovosti. Zahteva dovolj strukture za odgovore na osnovna operativna vprašanja, ne da bi se pregled incidenta spremenil v seanso s posnetki zaslona.
Skriti seznam sestavin
Prvi manjkajoči artefakt v številnih sistemih umetne inteligence je seznam sestavin. Programske ekipe to idejo poznajo iz upravljanja odvisnosti. Varnostne ekipe jo poznajo iz seznamov sestavin programske opreme. Proizvodne ekipe jo poznajo s seznamov delov. Umetna inteligenca potrebuje svojo operativno različico, ker je odgovor lahko odvisen od več kot le knjižnic kode. Odvisen je lahko od javnih korpusov, licenciranih podatkov, zasebnih dokumentov, vdelav, funkcijskih shramb, predlog, sistemskih sporočil, orodij, pravilnikov, človeških povratnih informacij, naborov za vrednotenje, strojnih pospeševalnikov, nastavitev izvajanja in včasih tihega optimizma tistega, ki je odločil, da bo privzeta temperatura verjetno v redu.
Uporaben seznam sestavin ni tridesetstransko potrdilo, ki ga nihče ne bere, dokler nabava ne zahteva logotipa. Je živi zemljevid komponent, ki lahko vplivajo na rezultat. Pri sistemu za iskanje naj bi opredelil zbirke virov, različice dokumentov, postopek izločanja, strategijo razdeljevanja na dele, model vdelav, datum izdelave indeksa, pravila razvrščanja, filtre dostopa, jamstva svežine in pot izbrisa. Pri storitvi modela naj bi opredelil uteži, plasti prilagoditev, izbire kvantizacije, nastavitve dekodiranja, varnostne filtre, dovoljenja za orodja, hrambo dnevnikov in vedenje ob izpadu. Pri agentskem poteku dela naj bi vključeval orodja, obsege, poverilnice, stanje, pravila ponavljanja in točke človeškega pregleda.
Seznam sestavin mora biti dovolj blizu operativi, da ostane resničen. Če živi samo v mapi za skladnost, se bo postaral kot jogurt v predalu za rokavice. Inženirji bodo spreminjali nastavitve, produktne ekipe bodo dodajale vire, dobavitelji bodo posodabljali storitve, uradni dokument pa bo ostal samozavestno napačen. Zemljevid mora biti povezan z uvajanji, spremembami vira, izdelavami indeksov, izdajami pravilnikov in obvestili dobaviteljev. V nasprotnem primeru ima organizacija muzejsko etiketo, ne nadzorne plošče.
Tu infrastruktura umetne inteligence postane manj glamurozna in bolj uporabna. Delo ni le hitrejše sklepanje ali večji kontekstni okviri. Je dolgočasna disciplina vedenja, kaj je vstopilo v sistem, kaj ga je preoblikovalo, kaj ga je blokiralo, kaj je izstopilo in kateri dokazi ostajajo. Dolgočasno je žaljivka samo, dokler regulator, stranka, klinik ali sodnik ne zahteva podrobnosti. Potem dolgočasno postane najlepša beseda v prostoru.
Tudi podatki imajo dobavitelje
Ljudje pogosto obravnavajo podatke, kot da preprosto obstajajo, kakor vreme ali pisarniški prah. V resnici imajo podatki dobavitelje. Nekdo jih je zbral, oblikoval, označil, izvozil, popravil, pozabil popraviti ali jih podedoval iz prejšnjega sistema, katerega shema podatkovne baze je videti, kot da je nastala med požarno vajo. Izvor teh podatkov je pomemben, ker sistemi umetne inteligence stopnjujejo predpostavke, ki bi jih običajno poročanje morda le prikazalo.
Zapis o stranki, javni predpis, dnevnik vzdrževanja, zdravniški zapis, priročnik za izdelek in znanstveni povzetek nimajo enake dobavne verige. Nosijo različne pravice, ritme posodabljanja, težave s kakovostjo in profile škode. Odgovor modela, ki se opira na zastarel priročnik za izdelek, lahko povzroči nadležnost. Odgovor modela, ki se opira na zastarel klinični protokol, lahko povzroči veliko več kot nadležnost, nadležnost pa je v upravi zdravstva že povzročila dovolj škode.
Dobra oskrba s podatki postavlja preprosta, a neprijetna vprašanja. Kdo je lastnik tega vira. Katera različica je avtoritativna. Kako hitro prihajajo posodobitve. Kako se popravki prenašajo v vdelave in predpomnilnike. Kateri deli so licencirani za ta namen. Katera polja so občutljiva tudi po transformaciji. Kateri vir naj zmaga, kadar si dva vira nasprotujeta. Kateri vir sme prestopiti mejo. Kateri vir mora ob uporabi pustiti potrdilo o prejemu.
Odgovor ne more biti eno univerzalno pravilo. Nekateri viri potrebujejo svežino v realnem času. Nekateri potrebujejo stabilne zgodovinske posnetke. Nekateri potrebujejo odobritev človeka pred vnosom. Nekateri potrebujejo samodejni potek. Nekateri potrebujejo redakcijo pred indeksiranjem. Nekateri ne bi smeli biti nikoli indeksirani. Razmišljanje o dobavni verigi sprejema to neenakomernost. Neha se pretvarjati, da so vsi podatki generično gorivo, in jih začne obravnavati kot zalogo z navodili za ravnanje.
Uteži modela so uvožene komponente
O utežeh modela se pogosto razpravlja, kot da bi bile en sam kupljen predmet. V praksi se obnašajo bolj kot uvožena komponenta z neznano notranjo strukturo. Osnovni model pride z zgodovino usposabljanja, arhitekturnimi odločitvami, merilnim vedenjem, licencami, varnostnim uglaševanjem, znanimi šibkostmi in neznanimi šibkostmi. Plast prilagodnikov, fino uglaševanje, kvantizacija in uvajalni ovoji nato spremenijo, kako se ta komponenta obnaša v lokalnem sistemu.
To ne pomeni, da so modeli privzeto nezanesljivi. Pomeni, da je treba z njimi ravnati kot s pomembnimi komponentami. Preizkusite jih glede na svoj primer uporabe. Zabeležite različice. Razumete licenčne omejitve. Izmerite obnašanje po kvantizaciji. Preverite, ali varnostno uravnavanje ni v nasprotju z zahtevami domene. Prejšnje različice imejte na voljo za primerjavo. Motorja v javnem avtobusu ne zamenjate zato, ker je bil rezultat na dirkalni stezi videti obetaven.
Prav tako model ni celotna rešitev. To je pomembno, ker se pogovori o nabavi in upravljanju lahko osredotočijo zgolj na model. Ljudje sprašujejo, kateri model je najboljši, kot da bo odgovor rešil arhitekturo. Šibkejši model s čistimi viri, jasnimi dovoljenji, preglednim pridobivanjem, dobrimi sledmi in znanimi načini odpovedi je lahko operativno močnejši od zmogljivejšega modela, ki ga napaja močvirje. Zmogljivost brez discipline v dobavni verigi je le hitrost z lepšo tipografijo.
Upravljanje dobavne verige zato ločuje zmogljivost komponente od odgovornosti sistema. Dobavitelj modela lahko zagotovi zmogljiv motor, vendar ostaja institucija odgovorna za to, kako je ta motor pridobljen, konfiguriran, povezan, spremljan in pojasnjen. Oddaja komponente zunanjemu izvajalcu ne pomeni oddaje dolžnosti razumevanja poti od vprašanja do odgovora. Na tej poti se skriva veliko napak, ki nosijo napis z imenom integracija.
Sklepanje je logistika pod pritiskom
Sklepanje je videti kot računanje in tudi je, vendar se operativno obnaša kot logistika. Delo prihaja nepredvidljivo. Nekatera vprašanja so majhni paketi. Druga so zabojniki, polni konteksta. Zahteve je treba usmeriti k pravemu modelu, zagotoviti dostop do pravih virov, zadostno zmogljivost, sprejemljivo zakasnitev, preverjanje politik, omejitve stroškov in obnovo, kadar je odvisnost počasna. Uporabnika ne zanima, da je bila čakalna vrsta elegantna. Uporabnika zanima, da je odgovor prišel pred koncem sestanka.
Ta pritisk je razlog za bližnjice. Ekipe predpomnijo rezultate. Znižajo pragove pridobivanja. Drage zahteve usmerjajo k cenejšim modelom. Krajšajo kontekst. Združujejo zahteve. Degradirajo elegantno ali manj elegantno, odvisno od tedna. Te odločitve niso napačne. So operacije. Toda operacije potrebujejo sledi, ker vsaka bližnjica spremeni dobavno verigo. Predpomnjen odgovor lahko uporablja včerajšnjo politiko. Nadomestni model je lahko šibkejši pri nišni nalogi. Skrajšan kontekst lahko izpusti klavzulo, ki je bila pomembna. Omejitev stroškov lahko spremeni natančen odgovor v nekaj, kar z zanesljive razdalje zveni natančno.
Odločitve o infrastrukturi oblikujejo tudi institucionalno moč. Če so indeksi daleč od podatkov, vsaka poizvedba postane premikanje. Če so ključi zunaj lokalnega nadzora, je vsako občutljivo pridobivanje odvisno od oddaljene obljube. Če so dnevniki centralizirani brez konteksta vira, postane revizija arheologija. Če ena upravljana storitev obvladuje usmerjanje, politike in dokaze, lahko institucija ugotovi, da je njena zmogljivost umetne inteligence v resnici najemna pogodba z vrstico napredka.
Odgovor ni, da vse spravite v eno klet in to imenujete strategija. Odgovor je, da komponente namestite premišljeno. Nekatera dela sodijo blizu podatkov. Nekatera dela sodijo blizu uporabnikov. Nekatera dela sodijo tja, kjer je na voljo specializirana strojna oprema. Nekateri dokazi morajo biti neodvisni od poti strežbe. Logistično vprašanje ni, kje stoji najbolj impresiven stroj. Je, kako se veriga obnaša, ko povpraševanje naraste, ko se spremeni dobavitelj, ko se vir popravi ali ko uporabnik zahteva dokaz.
Dokazi so sprejemna rampa
V fizični dobavni verigi je sprejemna rampa pomembna, ker je tam, kjer se trditve srečajo z resničnostjo. Dobavnica pravi, da je prispelo dvanajst zabojev. Na rampi jih preštejejo enajst. Razlika ni filozofska. Nekdo bo moral telefonirati. Umetna inteligenca potrebuje enako navado. Ko je odgovor dostavljen, mora sistem ohraniti dovolj dokazov, da lahko primerja, kaj je bilo zatrjevano, s tem, kaj se je dejansko zgodilo.
Dokazi ne pomenijo beleženja vsake zasebne podrobnosti za vedno. To bi bilo leno upravljanje z računom za shranjevanje. Pomeni hraniti prave dokaze na pravi ravni podrobnosti: različico modela, različico predloge poziva, identifikatorje virov, rezultate iskanja, odločitve politik, klice orodij, redakcije, časovne žige in zgoščene vrednosti izhodov, kjer je to koristno. Občutljive vsebine bodo morda zahtevale zgoščevanje, ločevanje ali hrambo, vezano na namen. Bistvo ni nadzor. Bistvo je možnost rekonstrukcije.
Možnost rekonstrukcije je razlika med odpravljanjem napak in pripovedovanjem zgodb. Brez dokazov ekipa incident razloži tako, da sprašuje ljudi in preiskuje nadzorne plošče, dokler zgodba ne zveni dovolj verjetno, da jo lahko vnese v predstavitev. Z dokazi lahko ekipa poustvari verigo, poišče spremenjeno komponento, izmeri vpliv in se odloči, ali je potreben odpoklic. Odpoklici zvenijo dramatično, a so običajen znak zrelosti. Če je bil indeks zgrajen iz napačnega vira, boste morda morali identificirati prizadete odgovore. Če so bila vrata politike okvarjena, boste morda morali obvestiti uporabnike. Če se je različica modela slabo obnašala, boste morda morali ponoviti odločitve. Pretvarjanje, da se izhodi umetne inteligence po uporabi razblinijo, je priročno samo za tistega, ki ne bo odgovarjal na pritožbo.
Sprejemna rampa pomaga tudi pri izboljšavah. Če uporabniki pogosto izpodbijajo odgovore zaradi istega manjkajočega vira, je treba urediti verigo virov. Če iskanje vedno znova izbira staro gradivo, je treba urediti pravila svežine. Če model pod določenim besedilom ignorira navodilo politike, je treba urediti vrednotenje. Dokazi niso le ščit za revizije. So povratni sistem, ki preprečuje, da bi veriga postala govorica z dodano računalniško močjo.
Ko se spremeni en člen
Dobavne verige odpovedujejo na zanimive načine, ker členi medsebojno delujejo. Enako velja za umetno inteligenco. Nadgradnja modela lahko bolj izpostavi pomanjkljivosti iskanja, ker novi model piše samozavestneje. Nov model za vdelane predstavitve lahko spremeni, kateri dokumenti so najdeni, tudi če se izvorni dokumenti niso spremenili. Posodobitev politike lahko blokira klic orodja in povzroči, da model improvizira. Omejitev stroškov lahko spremeni usmerjanje in naredi redka vprašanja manj zanesljiva. Popravek vira lahko začne veljati v podatkovni zbirki, ne pa tudi v indeksu, kar ustvari dve resnici, kar je ena več, kot si jih večina institucij lahko privošči.
Zato upravljanje sprememb za umetno inteligenco ne more biti omejeno na uvajanje aplikacij. Vključevati mora osveževanje podatkov, gradnjo indeksov, spremembe pozivov, zamenjave modelov, spremembe dovoljenj za orodja in izdaje pravilnikov. Vsaka sprememba mora imeti obseg, nabor testov, pot vračanja in načrt dokazov. Nabor testov mora vključevati običajne primere, robne primere, nasprotovalno formulirane pozive, preverjanja zastarelih virov, preverjanja nadzora dostopa ter majhne dolgočasne primere, ki predstavljajo večino dejanske uporabe. Produkcija ima kruto naklonjenost do dolgočasnih primerov.
Analiza vpliva je pomembna. Če se vir spremeni, kateri indeksi so odvisni od njega. Če se indeks spremeni, kateri poteki dela so odvisni od njega. Če se model spremeni, katere pravilnike in vrednotenja je treba ponovno zagnati. Če se orodje spremeni, katera poverila in dnevniki so prizadeti. Ta graf odvisnosti je del infrastrukture umetne inteligence, ki se redko pojavi na diapozitivih uvodnih predstavitev. Naj bo uvodna predstavitev v svoji luči. Graf odvisnosti pripelje organizacijo skozi četrtek.
Ekipe potrebujejo tudi jezik za delno zaupanje. Komponenta je lahko odobrena za eno nalogo in ne za drugo. Model je lahko sprejemljiv za povzemanje javnih zapisnikov in nesprejemljiv za pripravo osnutkov odločitev o ugodnostih. Vir je lahko uporaben za iskanje, ne pa za avtomatizirana priporočila. Veriga pridobivanja je lahko dovolj dobra za pomoč ljudem in ne dovolj dobra za avtonomno delovanje. Razmišljanje o dobavni verigi naredi te razlike običajne, namesto da vsako komponento sili v gledališče zaupanja ali nezaupanja.
Nabava mora odrasti
Nakup umetne inteligence kot funkcije skriva dobavno verigo. Nakup umetne inteligence kot zmogljivosti infrastrukture jo razkrije. To razkritje je lahko sprva videti počasnejše, ker se pojavijo resna vprašanja. Kje so pravice do virov. Kako se indeksi znova zgradijo. Ali je dnevnike mogoče izvoziti. Ali je mogoče pregledati odločitve o pravilnikih. Kaj se zgodi, ko dobavitelj spremeni model. Ali lahko zaklenemo različice. Ali lahko testiramo pred uvedbo. Kdo je lastnik izpeljanih podatkov. Kako izbrišemo. Kako prekličemo. Kako odidemo. Nabavni oddelki lahko na tej točki zavzdihnejo, kar je pošteno. Vzdihovanje je tradicionalni del odraslosti.
Ta vprašanja niso proti inovacijam. So način, kako inovacije preživijo stik z odgovornostjo. Organizacija, ki nanje ne more odgovoriti, lahko še vedno izvede pilotni projekt. Morda celo osvoji majhno interno nagrado s fotografijo ljudi, ki kažejo na zaslon. Toda ko pilotni projekt postane storitev, dobavna veriga postane resnična. Uporabniki se nanjo zanesejo. Stroški rastejo. Napake so pomembne. Zahtevajo se dokazi. Dobavitelji spreminjajo pogoje. Sistem potrebuje operacije, ne navdušenja na naprsnici.
Dobra nabava zato zahteva operativne pravice, ne le trditve o izdelku. Zaklepanje različic, izvozljivi dnevniki, sledljivost na ravni vira, podpora za brisanje, obvestilo o spremembi modela, kljuke za vrednotenje, možnosti lokalnih ključev, preglednost nadomestnih rešitev in izhodni formati bi morali postati običajne zahteve. Instituciji ni treba neposredno nadzorovati vsake komponente. Potrebuje dovolj vzvodov za pregled, zamenjavo, začasno ustavitev in razlago verige.
Tu gre za kulturni premik. Ekipe za umetno inteligenco morajo prenehati obravnavati upravljanje kot papirologijo po zanimivem delu. Upravljanje je del mehanizma. Pravne ekipe morajo prenehati obravnavati tehnično sledljivost kot eksotičen hobi. Tam obveznosti postanejo pregledne. Kupci morajo prenehati obravnavati predstavitve kot dokaze. Predstavitve so gledališče s prijavo. Dokazi so tisto, kar ostane, ko aplavz najde izhod.
Sporočilo
Vsak odgovor umetne inteligence ima dobavno verigo. Veriga je lahko kratka ali dolga, lokalna ali razpršena, odprta ali lastniška, dokumentirana ali ugibana. A obstaja. Stavek na zaslonu je končni sestav virov, indeksov, modelov, politik, infrastrukture, ljudi in dokazov. Če ga obravnavamo kot čarovnijo, je to vodstvena odločitev. Če ga obravnavamo kot dobavno verigo, je to operativna odločitev.
Praktični cilj ni, da bi bil vsak odgovor obremenjen z birokracijo. Cilj je, da so pomembni odgovori dovolj sledljivi za pregled in spremembo. Poimenujte sestavne dele. Določite različice virov. Nadzorujte zamenjave. Delo razporedite premišljeno. Vodite evidenco. Preizkusite pot, ne le model. Ohranite zmožnost umika rezultatov, ko povezava odpove. Ohranite dovolj institucionalnega znanja, da postavljate boljša vprašanja, kot je zgolj to, ali je bil demo videti prepričljiv.
Umetna inteligenca bo postajala vedno bolj tekoča. To je uporabno. Pomeni pa tudi, da bo vidni rezultat postal še slabše merilo kakovosti verige za njim. Organizacije, ki se naučijo upravljati to verigo, bodo mirnejše, ko se sistemi spremenijo, dobavitelji zamenjajo, zakonodaja zaostri, stroški narastejo ali uporabniki zahtevajo dokaze. Odgovor lahko pride v sekundi. Zaupanje za njim se gradi veliko prej, po ena neugledna povezava naenkrat.