Iga AI-vastuse taga olev tarneahel
Vastus jõuab kohale liiga puhtana
Kõige kahtlasem asi tänapäevase tehisintellekti vastuse juures on see, kui korralik see välja näeb. Kasutaja esitab küsimuse, liides teeb hingetõmbeks pausi ja ekraanile ilmub lõik, mille enesekindlus meenutab ametnikku, kes pole kunagi ühtegi vormi valesse kohta pannud. Sellel pole tolmu. Sellel pole sõrmejälgi. Taustal ei piiksu ükski tõstuk. Vastus näib olevat sündinud tervikuna, nagu poliitika memorandum, mis leiti klaaskupli alt.
See puhtus on kasutajale kasulik ja operaatorile ohtlik. Vastuse taga on ahel sisendeid, teisendusi, kontrolle, salvestusotsuseid, inimvalikuid ja masinaeeldusi. Kuskil on lähtedokument, mälu, allalaaditud tükk, koolitusjälg, poliitikareegel või vahemällu salvestatud arvutus. On olemas manustusmudel, mis otsustas, mis on sarnane, indeks, mis otsustas, mida on võimalik leida, mudel, mis otsustas, millised sõnad järgnevad, viipade ümbris, mis otsustas, mida kasutajal on lubatud küsida, ja logikiht, mis otsustas, mida mäletatakse pärast seda, kui kõik on koju läinud.
Tavapärastes tarneahelates oleme õppinud küsima, kust osad pärinevad. Haigla tahab teada, kas seade on steriilne. Sillaehitaja tahab teada, milline terasepartii läks millisesse tala. Supermarket tahab teada, milline talu saatis salati, kui salat hakkab käituma nagu väike õigusosakond. Tehisintellekt väärib sama operatiivset kahtlust. Vastus ei ole ime. See on kokkupandud kaup.
Raskus seisneb selles, et tehisintellekti tarneahelad on kasutushetkel enamasti nähtamatud. Kasutaja näeb lauset. Asutus saab otsuse, soovituse, kokkuvõtte või mustandi. Mida ta sageli ei saa, on vastuse materjalide nimekiri. Milliseid andmeid kasutati. Milline mudeliversioon rääkis. Millised otsinguseaded olid aktiivsed. Milline poliitikareegel blokeeris või kujundas vastust. Milline vahemälu tagastas aegunud materjali. Milline inimene muutis süsteemi eelmisel nädalal, sest koosolek venis üle ja muudatuste aken oli veel lahti.
Vastus on saadetis, mitte säde
Selle tarneahelaks nimetamine ei ole pelgalt dekoratiivne metafoor. See muudab küsimusi. Kui vastus on saadetis, siis on olemas tarnijad, komponendid, marsruudid, kontrollid, asendused, viivitused, kaod, tagasikutsumised ja vastutused. Viip ei ole lihtsalt lause. See on tellimus. Otsingukiht ei ole lihtsalt otsing. See on kauba riiulitelt korjamine. Mudel ei ole lihtsalt intelligentsus. See on teisendustehased, mis muudab valitud materjali väljundiks. Poliitikakiht on kvaliteedikontroll. Logi on saateleht, eeldusel, et see on olemas ja seda pole kirjutatud kaduvat värvi tindiga, sest keegi arvas, et telemeetria on kallis.
Enamik organisatsioone mõistab füüsilisi tarneahelaid juba paremini kui digitaalseid. Nad teavad, et väike muudatus tarnija juures võib tekitada suuri mõjusid allavoolu. Erineva tolerantsiga kruvi ei pruugi olla oluline enne, kui masin hakkab vibreerima. Muudetud vorminguga silt ei pruugi olla oluline enne, kui toll keeldub kasti vastu võtmast. Kahekümneks minutiks katkenud külmahel ei pruugi olla oluline enne, kui proov muutub meditsiiniliselt huvipakkuvaks. Tehisintellekti puhul ilmneb sama muster vähema mürata. Muutub tükeldamisreegel. Uuendatakse mudeliversiooni. Värskendatakse andmestikku. Reastuslävi liigub. Vastus näeb endiselt sujuv välja, mis ongi põhjus, miks muutus võib märkamatuks jääda.
See on oluline, sest sujuv viga on operatiivselt ebamugav. Kui konveierilint seiskub, märkavad inimesed seda. Kui mudel annab usutava vastuse valest allikast, võib organisatsioon kuude kaupa edasi töötada viisaka veaga. See ilmneb vastuoluliste nõuannete, aeglase toena, nõrga auditeeritavuse või otsustena, mida ei saa kaitsta, kui sidusrühm lõpuks vanamoodsa küsimuse esitab: miks.
Tarneahela vaatenurk annab meeskondadele maalähedasema viisi selle riski juhtimiseks. See nõuab nimetatud sisendeid, versioonitud komponente, kontrollitud asendusi, mõõdetavaid kvaliteediväravaid ja kviitungeid. See ei nõua müstilist kindlust. See nõuab piisavalt struktuuri, et vastata põhilistele operatiivküsimustele, ilma et juhtumi ülevaade muutuks seansiks ekraanipiltidega.
Varjatud materjalide nimekiri
Esimene puuduv artefakt paljudes tehisintellektisüsteemides on materjalide nimekiri. Tarkvarameeskonnad tunnevad seda ideed sõltuvushaldusest. Turbemeeskonnad tunnevad seda tarkvara materjalide nimekirjadest. Tootmismeeskonnad tunnevad seda osade nimekirjadest. Tehisintellekt vajab oma operatiivset versiooni, sest vastus võib sõltuda enamast kui ainult kooditeekidest. See võib sõltuda avalikest korpustest, litsentsitud andmetest, eradokumentidest, manustustest, funktsioonipoodidest, viipamallidest, süsteemiteadetest, tööriistadest, poliitikatest, inimtagasisidest, hindamiskomplektidest, riistvarakiirenditest, käitusaja seadetest ja mõnikord ka vaiksest optimismist sellel, kes otsustas, et vaikimisi temperatuur on ilmselt piisav.
Kasulik materjalide nimekiri ei ole kolmekümne leheküljeline sertifikaat, mida keegi ei loe enne, kui hanked küsivad logo. See on elav kaart komponentidest, mis võivad väljundit mõjutada. Otsingusüsteemi puhul peaks see tuvastama allikakogumid, dokumendiversioonid, ekstraheerimisprotsessi, tükeldamisstrateegia, manustusmudeli, indeksi koostamise kuupäeva, reastusreeglid, juurdepääsufiltrid, värskusgarantiid ja kustutamistee. Mudeliteenuse puhul peaks see tuvastama kaalud, kohanduskihid, kvantimisvalikud, dekodeerimisseaded, turvafiltrid, tööriistaload, logide säilitusaja ja varukäitumise. Agentse töövoo puhul peaks see hõlmama tööriistu, ulatusi, mandaate, olekut, uuesti proovimise reegleid ja inimese ülevaatuspunkte.
Materjalide nimekiri peab olema operatsioonidele piisavalt lähedal, et tõeseks jääda. Kui see elab ainult vastavuskaustas, vananeb see nagu jogurt kindalaekas. Insenerid muudavad seadeid, tootemeeskonnad lisavad allikaid, tarnijad uuendavad teenuseid ja ametlik dokument jääb enesekindlalt valeks. Kaart peab olema seotud juurutuste, lähtemuudatuste, indeksi koostamiste, poliitikaväljaannete ja tarnijateadetega. Vastasel juhul on organisatsioonil muuseumisilt, mitte juhtimispind.
Siin muutub tehisintellekti infrastruktuur vähem glamuursemaks ja kasulikumaks. Töö ei seisne ainult kiiremas järelduste tegemises või suuremates kontekstiakendes. See on igav distsipliin teada, mis süsteemi sisenes, mis seda muutis, mis seda blokeeris, mis sealt väljus ja millised tõendid alles jäävad. Igav on solvang ainult seni, kuni regulaator, klient, kliinik või kohtunik üksikasju küsib. Siis saab igavast ruumi kõige ilusam sõna.
Ka andmetel on tarnijad
Inimesed kohtlevad andmeid sageli nii, nagu need lihtsalt eksisteeriksid, nagu ilm või kontoritolm. Tegelikkuses on andmetel tarnijad. Keegi kogus need, kujundas, märgistas, eksportis, parandas, unustas parandada või päris need eelmisest süsteemist, mille andmebaasi skeem näeb välja nagu oleks see loodud tuleõppuse ajal. Nende andmete päritolu on oluline, sest AI-süsteemid võimendavad eeldusi, mida tavapärane aruandlus võib lihtsalt kuvada.
Kliendikirje, avalik määrus, hoolduslogi, meditsiiniline märkus, tootejuhend ja teaduslik kokkuvõte ei oma sama tarneahelat. Nendega kaasnevad erinevad õigused, uuendusrütmid, kvaliteediprobleemid ja kahjuprofiilid. Mudeli vastus, mis tugineb aegunud tootejuhendile, võib põhjustada tüütust. Mudeli vastus, mis tugineb vananenud kliinilisele protokollile, võib põhjustada palju enamat kui tüütust, ja tüütus on tervishoiu halduses juba piisavalt kahju teinud.
Hea andmehange esitab lihtsaid, kuid ebamugavaid küsimusi. Kes selle allika omanik on. Mis on autoriteetne versioon. Kui kiiresti uuendused saabuvad. Kuidas parandused levivad manustustesse ja vahemäludesse. Millised osad on selleks otstarbeks litsentseeritud. Millised väljad on tundlikud ka pärast teisendust. Milline allikas peaks võitma, kui kaks allikat on vastuolus. Millisel allikal on luba ületada piiri. Milline allikas peab kasutamisel jätma kviitungi.
Vastus ei saa olla üks universaalne reegel. Mõned allikad vajavad reaalajas värskust. Mõned vajavad stabiilseid ajaloolisi hetktõmmiseid. Mõned vajavad enne sisenemist inimese kinnitust. Mõned vajavad automaatset aegumist. Mõned vajavad enne indekseerimist redigeerimist. Mõnda ei tohiks üldse indekseerida. Tarneahela mõtlemine aktsepteerib seda ebaühtlust. See lõpetab teeskluse, et kõik andmed on universaalne kütus, ja hakkab neid kohtlema nagu varu, millel on käsitsemisjuhised.
Mudeli kaalud on imporditud komponendid
Mudeli kaaludest räägitakse sageli nii, nagu oleks tegemist ühe ostetud objektiga. Praktikas käituvad need pigem nagu imporditud komponent, mille sisemine struktuur on teadmata. Alusmudel saabub koos koolitusajalooga, arhitektuuriliste valikutega, etalonkäitumisega, litsentsidega, ohutuse häälestusega, teadaolevate nõrkustega ja teadmata nõrkustega. Adapterikihid, peenhäälestus, kvantimine ja juurutamise ümbrised muudavad seejärel seda, kuidas see komponent kohalikus süsteemis käitub.
See ei muuda mudeleid vaikimisi ebausaldusväärseks. See tähendab, et nendesse tuleb suhtuda kui olulistesse komponentidesse. Testite neid oma kasutusjuhtumi vastu. Salvestate versioonid. Mõistate litsentsipiiranguid. Mõõdate käitumist pärast kvantiseerimist. Kontrollite, kas ohutuse häälestamine on vastuolus domeeninõuetega. Hoiate eelmised versioonid võrdluseks kättesaadavad. Te ei vaheta bussimootorit välja sellepärast, et võidusõiduraja pingerea tulemus tundus elav.
Mudel ei ole ka kogu vastus. See on oluline, sest hanke- ja juhtimisvestlused võivad muutuda mudelikeskseteks. Inimesed küsivad, milline mudel on parim, justkui lahendaks vastus arhitektuuri. Nõrgem mudel, millel on puhtad allikad, ranged õigused, selge otsing, head tõendid ja teadaolevad tõrkerežiimid, võib olla operatiivselt tugevam kui võimekam mudel, mida toidetakse soost. Võimekus ilma tarneahela distsipliinita on lihtsalt kiirus ilusama tüpograafiaga.
Tarneahela juhtimine eraldab seega komponendi jõudluse süsteemi vastutusest. Mudelitarnija võib pakkuda võimekat mootorit, kuid asutus jääb vastutavaks selle eest, kuidas seda mootorit hangitakse, konfigureeritakse, ühendatakse, jälgitakse ja selgitatakse. Komponendi allhange ei anna edasi kohustust mõista teed küsimusest vastuseni. See tee on koht, kus elavad paljud tõrked, kandes nimesilti „integratsioon".
Inferents on logistika surve all
Inferents tundub arvutusena ja seda see ongi, kuid operatiivselt käitub see nagu logistika. Töö saabub ettearvamatult. Mõned küsimused on väikesed pakitsejad. Teised on konteinerid täis konteksti. Päringud vajavad suunamist õigele mudelile, juurdepääsu õigetele allikatele, piisavat võimsust, vastuvõetavat latentsust, poliitikakontrolli, kulupiiranguid ja taastumist, kui sõltuvus on aeglane. Kasutajat ei huvita, et järjekord oli elegantne. Kasutajat huvitab, et vastus jõudis kohale enne koosoleku lõppu.
See surve on põhjus, miks otseteed ilmuvad. Meeskonnad vahemällu salvestavad väljundeid. Nad alandavad otsingulävesid. Nad suunavad kallid päringud odavamatele mudelitele. Nad kärbivad konteksti. Nad pakendavad. Nad degradeeruvad graatsiliselt või vähem graatsiliselt, olenevalt nädalast. Need valikud ei ole valed. Need on operatsioonid. Kuid operatsioonid vajavad tõendeid, sest iga otsetee muudab tarneahelat. Vahemällu salvestatud vastus võib kasutada eilset poliitikat. Varumudel võib olla nõrgem nišitöös. Kärbitud kontekst võib jätta välja klausli, mis oli oluline. Kulukaitse võib muuta täpse vastuse millekski, mis kõlab täpselt lugupidaval kaugusel.
Infrastruktuuri valikud kujundavad ka institutsionaalset võimu. Kui indeksid asuvad andmetest kaugel, muutub iga päring liikumiseks. Kui võtmed asuvad väljaspool kohalikku kontrolli, sõltub iga tundlik otsing kaugest lubadusest. Kui logid on tsentraliseeritud ilma allikakontekstita, muutub audit arheoloogiaks. Kui üks hallatud teenus omab suunamist, poliitikat ja tõendeid, võib asutus avastada, et tema AI-võimekus on tegelikult üürileping edenemisribaga.
Vastus ei ole tuua kõik ühte keldrisse ja nimetada seda strateegiaks. Vastus on paigutada komponendid tahtlikult. Osa tööst kuulub andmete lähedale. Osa tööst kuulub kasutajate lähedale. Osa tööst kuulub sinna, kus on spetsiaalne riistvara. Osa tõendeid peab olema sõltumatu teenindamistee. Logistikaküsimus ei ole see, kus kõige muljetavaldavam masin asub. See on see, kuidas ahel käitub, kui nõudlus tõuseb, üks tarnija muutub, allikat parandatakse või kasutaja küsib tõestust.
Tõendid on vastuvõtulava
Füüsilises tarneahelas on vastuvõtulava oluline, sest seal kohtuvad väited reaalsusega. Saateleht ütleb, et saabus kaksteist kasti. Lava loeb üksteist. Erinevus ei ole filosoofiline. Keegi helistab. AI vajab sama harjumust. Kui vastus on edastatud, peaks süsteem säilitama piisavalt tõendeid, et võrrelda, mida väideti, sellega, mis tegelikult juhtus.
Tõendid ei tähenda iga privaatse üksikasja igavesti salvestamist. See oleks laisk haldus koos salvestusarvega. See tähendab õige tõendi hoidmist õiges detailsuses: mudeliversioon, viipamalli versioon, allika identifikaatorid, otsingutulemuste skoorid, poliitikaotsused, tööriistakutsed, redigeerimised, ajatemplid ja väljundräsiväärtused, kus see on kasulik. Tundlik sisu võib vajada räsimist, eraldamist või eesmärgiga piiratud säilitust. Asi ei ole järelevalves. Asi on rekonstrueeritavuses.
Rekonstrueeritavus on erinevus silumise ja jutustamise vahel. Ilma tõenditeta selgitab meeskond juhtumit, intervjueerides inimesi ja otsides juhtpaneelidelt, kuni lugu kõlab piisavalt usutavalt, et slaidile jõuda. Tõenditega saab meeskond ahela taasesitada, leida muutunud komponendi, mõõta mõju ja otsustada, kas tagasikutsumine on vajalik. Tagasikutsed kõlavad dramaatiliselt, kuid need on küpsuse tavaline märk. Kui indeks ehitati valest allikast, võib osutuda vajalikuks mõjutatud vastuste tuvastamine. Kui poliitikavärav ebaõnnestus, võib osutuda vajalikuks kasutajate teavitamine. Kui mudeliversioon käitus halvasti, võib osutuda vajalikuks otsuste uuesti tegemine. Teeselda, et AI väljundid pärast kasutamist haihtuvad, on mugav ainult sellele, kes kaebusele ei vasta.
Vastuvõtulava aitab ka parendamisele kaasa. Kui kasutajad vaidlustavad sageli vastuseid sama puuduva allika tõttu, vajab allikaahel tööd. Kui otsing valib korduvalt vana materjali, vajavad värskusreeglid tööd. Kui mudel ignoreerib teatud sõnastuse korral poliitikajuhist, vajab hindamine tööd. Tõendid ei ole ainult kaitse auditite eest. Need on tagasisidesüsteem, mis hoiab ära selle, et ahelast saaks kuulujutt, mille külge on arvutusvõimsus kinnitatud.
Kui üks lüli muutub
Tarneahelad ebaõnnestuvad huvitavatel viisidel, sest lülid mõjutavad üksteist. Sama kehtib AI kohta. Mudeliuuendus võib muuta otsingu nõrkused nähtavamaks, sest uus mudel kirjutab enesekindlamalt. Uus manustusmudel võib muuta seda, millised dokumendid leitakse, isegi kui lähtedokumendid ei muutunud. Poliitikauuendus võib blokeerida tööriistakutse ja panna mudeli improviseerima. Kululimiit võib muuta marsruutimist ja muuta haruldased küsimused vähem usaldusväärseks. Allikaparandus võib jõustuda andmebaasis, kuid mitte indeksis, luues kaks tõde, mis on ühe võrra rohkem, kui enamik institutsioone endale lubada saab.
Seepärast ei saa AI muudatuste haldus piirduda ainult rakenduste juurutamisega. See peab hõlmama andmevärskendusi, indeksite ülesehitust, viipade muudatusi, mudelite asendamist, tööriistaõiguste muudatusi ja poliitikaversioone. Igal muudatusel peaks olema ulatus, testikomplekt, tagasipööramise tee ja tõendusplaan. Testikomplekt peaks sisaldama tavalisi juhtumeid, äärejuhtumeid, vastandlikke sõnastusi, aegunud allika kontrolle, juurdepääsukontrolli kontrolle ja neid väikseid igavaid juhtumeid, mis moodustavad enamiku tegelikust kasutusest. Tootmiskeskkonnal on julm nõrkus igavate juhtumite vastu.
Mõjuanalüüs on oluline. Kui allikas muutub, siis millised indeksid sellest sõltuvad. Kui indeks muutub, siis millised töövood sellest sõltuvad. Kui mudel muutub, siis milliseid poliitikaid ja hinnanguid tuleb uuesti käivitada. Kui tööriist muutub, siis milliseid mandaate ja logisid see mõjutab. See sõltuvusgraaf on see osa AI infrastruktuurist, mis põhiettekannete slaididel harva ilmub. Olgu pealegi. Las põhiettekanne saab oma valgustuse. Sõltuvusgraaf viib organisatsiooni läbi neljapäeva.
Meeskonnad vajavad ka keelt osalise usalduse jaoks. Komponent võib olla heaks kiidetud ühe ülesande jaoks, kuid mitte teise jaoks. Mudel võib olla vastuvõetav avalike protokollide kokkuvõtete tegemiseks, kuid vastuvõetamatu hüvitiste otsuste koostamiseks. Allikas võib olla kasulik otsinguks, kuid mitte automatiseeritud soovituste jaoks. Otsinguahel võib olla piisavalt hea inimese abistamiseks, kuid mitte piisavalt hea autonoomseks tegutsemiseks. Tarneahela mõtlemine muudab need eristused tavaliseks, selle asemel et suruda iga komponent usaldatud või usaldamata teatri rolli.
Hanked peavad täiskasvanuks saama
AI ostmine funktsioonina peidab tarneahela. AI ostmine infrastruktuuri võimekusena toob selle nähtavale. See nähtavus võib alguses tunduda aeglasem, sest ilmuvad tõsised küsimused. Kus asuvad allikaõigused. Kuidas indekseid uuesti üles ehitatakse. Kas logisid saab eksportida. Kas poliitikaotsuseid saab kontrollida. Mis juhtub, kui tarnija muudab mudelit. Kas saame versioone kinnitada. Kas saame enne kasutuselevõttu testida. Kes omab tuletatud andmeid. Kuidas me kustutame. Kuidas me tagasi kutsume. Kuidas me lahkume. Hankeosakonnad võivad siinkohal ohata, mis on õiglane. Ohkamine on täiskasvanuea traditsiooniline osa.
Need küsimused ei ole innovatsioonivastased. Need on see, kuidas innovatsioon ellu jääb, kui see puutub kokku vastutusega. Organisatsioon, kes ei suuda neile vastata, võib siiski käivitada pilootprojekti. See võib isegi võita väikese sisemise auhinna koos fotoga, kus inimesed ekraanile osutavad. Kuid kui pilootprojektist saab teenus, muutub tarneahel reaalseks. Kasutajad loodavad sellele. Kulud kasvavad. Vead loevad. Tõendeid küsitakse. Tarnijad muudavad tingimusi. Süsteem vajab toimimist, mitte meeleolu kaelapaelas.
Hea hange küsib seetõttu operatiivseid õigusi, mitte ainult tooteväiteid. Versiooni kinnitamine, eksporditavad logid, allikatasandi päritolu, kustutamise tugi, mudelimuudatuste teavitamine, hindamiskonksud, kohalike võtmete valikud, läbipaistvus varuvariantide osas ja väljumisvormingud peaksid muutuma tavalisteks nõueteks. Asutus ei pea iga komponenti otseselt kontrollima. Küll aga peab tal olema piisavalt mõjuvõimu, et ahelat kontrollida, asendada, peatada ja selgitada.
Siin on kultuuriline nihe. AI meeskonnad peavad lõpetama valitsemise kohtlemise paberitööna pärast huvitavat osa. Valitsemine on masinavärgi osa. Õigusmeeskonnad peavad lõpetama tehnilise päritolu kohtlemise eksootilise hobina. See on koht, kus kohustused muutuvad kontrollitavaks. Ostjad peavad lõpetama demode kohtlemise tõendusmaterjalina. Demod on teater sisselogimisega. Tõendus on see, mis jääb alles pärast seda, kui aplaus on lifti leidnud.
Õppetund
Iga AI-vastuse taga on tarneahel. See võib olla lühike või pikk, kohalik või hajutatud, avatud või patenteeritud, dokumenteeritud või oletatud. Aga see on olemas. Ekraanil kuvatav lause on allikate, indeksite, mudelite, poliitikate, taristu, inimeste ja tõendusmaterjali lõplik koost. Selle käsitlemine maagiana on juhtimisotsus. Selle käsitlemine tarneahelana on tegevusotsus.
Praktiline eesmärk ei ole muuta iga vastus bürokraatiast raskeks. See on muuta olulised vastused piisavalt jälgitavaks, et neid saaks kontrollida ja muuta. Nimetage komponendid. Versioneerige allikad. Kontrollige asendusi. Paigutage töö teadlikult. Hoidke tõendid alles. Testige teed, mitte ainult mudelit. Säilitage võime välja kutsuda tulemusi, kui lüli ebaõnnestub. Hoidke piisavalt organisatsioonilist teadmist, et küsida paremaid küsimusi kui see, kas demo tundus nutikas.
AI muutub üha sujuvamaks. See on kasulik. See tähendab ka seda, et nähtav väljund muutub veelgi halvemaks juhendiks selle taga oleva ahela kvaliteedi kohta. Organisatsioonid, mis õpivad seda ahelat juhtima, on rahulikumad, kui süsteemid muutuvad, tarnijad vahetuvad, seadused karmistuvad, kulud kasvavad või kasutajad tõendeid küsivad. Vastus võib tulla sekundiga. Selle taga olev usaldus ehitatakse üles palju varem, üks ebameeldiv lüli korraga.