Kodėl pakartojamumas svarbiau nei demonstracijos
Antrasis paleidimas yra tiesa
Pirmasis paleidimas sulaukė plojimų. Modelis rado sąlygą, valdymo skydelis įsišvietė, atsakyme buvo nurodytas teisingas dokumentas, ir kambarys atsipalaidavo taip tiksliai, kaip atsipalaiduoja kambariai, kai biudžeto eilutę ką tik tapo lengviau apginti. Komanda buvo kruopščiai pasirengusi. Duomenys buvo pakankamai švarūs, klausimai protingi, tinklas veikė, pardavėjo nešiojamasis kompiuteris nenusprendė virsti mažu radiatoriumi, ir niekas nepaklausė apie tą vienintelį kraštinį atvejį, kuris buvo mandagiai perkeltas į vėlesnį etapą. Tai buvo gera demonstracija. Geros demonstracijos yra naudingos. Jos parodo galimybes. Jos suteikia žmonėms bendrą objektą aptarimui. Jos padaro abstraktų gebėjimą matomą.
Paskui atėjo antrasis paleidimas. Tas pats naudojimo atvejis, bet dabar su praėjusios savaitės duomenimis, kitu operatoriumi, šaltinio dokumentu su keista lentele, politikos atnaujinimu, kuris nepasiekė raginimo, ir vadovu, kuris stebėjo, nes rezultatas turėjo įtakos realiam sprendimui. Atsakymas vis dar buvo sklandus. Tai nebuvo problema. Problema buvo ta, kad niekas negalėjo pasakyti, ar tai tas pats atsakymas dėl tų pačių priežasčių, ar kitoks atsakymas, vilkintis tą patį toną. Demonstracija įrodė, kad sistema gali veikti. Ji neįrodė, kad organizacija gali pakartoti tą veikimą.
Čia rimtas dirbtinio intelekto darbas keičia savo pobūdį. Demonstracija klausia, ar galime priversti tai veikti vieną kartą. Eksploatacija klausia, ar galime priversti tai veikti vėl, paaiškinti, kodėl tai veikė, žinoti, kada neveikė, ir išsaugoti įrodymus, kai kas nors paklaus po šešių mėnesių. Pakartojamumas nėra inovacijų priešingybė. Tai ta inovacijų dalis, kuri išgyvena susidūrimą su darbo užmokesčiu, teise, sauga, klientais, piliečiais, auditoriais, pavargusiais darbuotojais ir tyliu tikrų duomenų priešiškumu.
Dauguma dirbtinio intelekto eksploatacijos nesėkmių neateina kaip kinematografiškas žlugimas. Jos ateina kaip maži skirtumai, kurių niekas negali atkartoti. Paieškos rezultatas pasikeičia. Raginimo atnaujinimas ištaiso vieną atvejį ir susilpnina kitą. Modelio atnaujinimas perkelia sprendimo ribą. Šaltinio duomenų srautas praranda lauką. Žmogaus pakeitimas užfiksuojamas vienoje sistemoje, bet ne kitoje. Organizacija vis dar turi veikiančią sistemą teatrine prasme. Ji nebeturi sistemos, kuri galėtų papasakoti tą pačią istoriją du kartus.
Demonstracija paslepia nuobodžią sutartį
Demonstracinė versija gali būti atranki. Ji turi istoriją, pradžią, patenkinamą paspaudimą ir paprastai pavyzdinį duomenų rinkinį, kuris buvo iššukuotas kaip vaikas prieš mokyklos fotografiją. Tai ne apgaulė. Tai bendravimas. Bėdos prasideda, kai organizacija supainioja bendravimą su veiklos sutartimi. Demonstracinė versija neapibrėžia duomenų šaltinio naujumo, versijų ribų, atsarginio kelio, žmogiškos peržiūros teisių, klaidos aprašymo, duomenų saugojimo trukmės ar tikslios sąlygos, kuriomis sistema privalo atsisakyti atsakyti. Šios detalės dažnai lieka už ekrano ribų, atrodo nemadingos ir laukia, kol vėliau visiems išrašys sąskaitas.
Pakartojamumas daro sutartį matomą. Jis klausia, kuris įvesties duomuo yra įvestis, o ne artimiausia kopija. Jis klausia, kuri taisyklių versija apribojo atsakymą, o ne kuri politikos svetainė atrodė pažįstama. Jis klausia, ar paieškos rezultatų tvarka yra stabili, ar lygiosios sprendžiamos deterministiškai, ar raginimų versijos yra žymimos, ar modelio parametrus galima įvardyti, ar įrankio iškvietimai yra užfiksuojami, ar operatorius gali pakartoti atvejį ir ar pakeitimas keičia darbo eigą ar tik papuošia žurnalą. Tai ne filosofiniai klausimai. Tai laidai, užtikrinantys patikimą darbą.
Sunkiausia tai, kad pakartojamumas pradžioje atrodo lėtesnis. Komanda, kuri siekia demonstracinės versijos, gali naudoti greičiausią kelią per sodą. Komanda, kuri kuria pakartojamumą, turi pakloti grindinio akmenis, pažymėti vartus ir nuspręsti, kam priklauso sandėliuko raktas. Žmonėms, kurie mato tik pirmąją savaitę, tai gali atrodyti biurokratiška. Po trečiojo incidento tai pradeda atrodyti kaip malonė.
Dirbtinio intelekto sistemos didina tos malonės poreikį, nes įveda teisėtą kintamumą. Kalbos modelius galima imti pavyzdžius. Paieška gali pateikti artimus kandidatus. Žmogaus sprendimas gali skirtis. Dokumentai gali būti dviprasmiški. Pakartojama sistema neapsimeta, kad pasaulis yra deterministinis kiekviena detale. Ji skiria leistiną kintamumą nuo nevaldomo kintamumo. Ji sako, kad šis laukas gali keistis, nes vartotojas klausia natūralia kalba, bet šis šaltinių rinkinys negali keistis be užfiksuoto korpuso pakeitimo. Ši santraukos formuluotė gali skirtis, bet tinkamumo pagrindas negali. Šis balas gali pasikeisti po modelio atnaujinimo, bet atnaujinimas turi būti atsekamas.
Tas pats įvesties duomuo nėra paprasta frazė
Žmonės sako tas pats įvesties duomuo, tarsi frazė būtų akivaizdi. Realiose sistemose ji retai būna akivaizdi. Matomas vartotojo klausimas yra tik viena dalis. Tikrasis įvesties duomuo gali apimti rastus dokumentus, paslėptus nurodymus, sistemos raginimus, įrankio schemas, politikos taisykles, vartotojo vaidmenį, laiką, lokalę, prieigos teises, talpykloje saugomus įrašus, funkcijų vėliavėles, modelio versiją, įterpimų indeksą, slenksčio nustatymus ir tylią prielaidą, kad vakarykštis duomenų sandėlio atnaujinimas pavyko. Tas pats įvesties duomuo gali tapti stebėtinai perpildytu kambariu.
Štai kodėl pakartojamumas prasideda nuo įvesties tapatybės. Sistema turėtų žinoti, kurie įrašai buvo prieinami, kurie įrašai buvo pasirinkti, kuri korpuso versija buvo ieškoma, kuris raginimo šablonas buvo naudotas, kuris politikos rinkinys buvo taikomas, kuris modelis veikė, kurie įrankiai buvo leisti ir kuris žmogaus vaidmuo priėmė rezultatą. Jei tai skamba kaip daug, tai todėl, kad sprendimo kelias jau buvo didelis. Vienintelis klausimas, ar organizacija tai pripažįsta.
Šis skirtumas svarbiausias, kai dėl rezultatų ginčijamasi. Jei klientas klausia, kodėl pretenzija buvo atmesta, ligoninė klausia, kodėl atsirado rizikos vėliavėlė, bankas klausia, kodėl atvejis buvo perduotas aukštesniam lygiui, arba valstybinė įstaiga klausia, kodėl pilietis gavo tam tikrą nurodymą, organizacija negali atsakyti vien matomu klausimu. Jai reikia veiklos konteksto. Be jo incidentų peržiūra tampa mandagiu seansu, kuriame visi šaukia žurnalus, atmintį ir ekrano kopijas, apsimesdami, kad tai metodas.
Įvesties tapatybė taip pat apsaugo komandas nuo nepagrįstos kaltės. Jei rezultatas pasikeitė, nes pasikeitė šaltinio dokumentas, tai turinio problema. Jei jis pasikeitė, nes indeksas buvo atkurtas su kitais parametrais, tai paieškos problema. Jei jis pasikeitė, nes modelis buvo atnaujintas, tai diegimo problema. Jei jis pasikeitė, nes operatorius naudojo kitokį darbo srautą, tai proceso problema. Visus tuos atvejus vadinti modelio elgesiu yra patogu ir neteisinga, o tai pavojingas derinys organizacijose, kuriose kalendoriai pilni.
Pakartojamumas nereiškia visko įšaldymo
Egzistuoja tingus prieštaravimas, kad pakartojamumas naikina prisitaikymą. Jis jo nenaikina. Jis naikina paslaptingumą. Pakartojama operacija vis tiek gali tobulinti modelius, keisti raginimus, atnaujinti taisykles, valyti duomenis, pridėti šaltinių, derinti slenksčius ir pertvarkyti darbo srautus. Skirtumas tas, kad pokyčiai tampa įvardytais įvykiais, o ne oru. Kai rezultatas pasikeičia, komanda gali paklausti, kuris kontroliuojamas pokytis jį lėmė. Taip tobulėjimas tampa mokymusi, o ne prietaru su leidimo pastaba.
Geriausios veiklos komandos pokyčius traktuoja kaip eksperimentus su ribomis. Jos išlaiko bazinius atvejus. Jos vykdo šešėlinius vertinimus. Jos lygina senus ir naujus paieškos rezultatus. Jos tikrina didelio poveikio pavyzdžius prieš išleidimą. Jos fiksuoja, kas patvirtino pokytį ir kodėl. Jos apibrėžia atšaukimo sąlygas prieš paleidimo skambutį, o ne tada, kai palaikymo kanalas jau dega. Tai ne teatrališkas atsargumas. Taip komandos juda greičiau, kai pirmoji sistema pradeda turėti reikšmės.
Taip pat yra moralinis aspektas, nors geriau jį išsakyti tiesiai. Jei sistema įtakoja pinigus, darbą, priežiūrą, prioritetus, vykdymą ar prieigą, jos paveikti žmonės nusipelno daugiau nei spektaklio. Jie nusipelno proceso, kuris gali paaiškinti save. Pakartojamumas sukuria prielaidą tam paaiškinimui. Negali audituoti dingimo triuko. Gali tik ploti arba skųstis.
Geras pakartojamumas todėl atskiria stabilų nuo lankstaus. Stabilūs yra įvykių įrašai, versijos identifikatoriai, vertinimo rinkinys, šaltinio kilmė, taisyklės savininkas, tvirtinimo kelias ir atsisakymo sąlygos. Lankstūs yra metodai, naudojami tobulėti šiose ribose. Meistriškumas yra žinoti, kas yra kas. Daugelis organizacijų tai apverčia. Jos įšaldo procesą, nes niekas nepasitiki sistema, o tada leidžia paslėptus techninius pokyčius, nes niekas jų nemato. Tai valdymas užuolaida.
Vertinimo rinkinys yra darbinė atmintis
Kiekvienai brandžiai veiklai reikia nedidelio rinkinio atvejų, kurių ji neatsisako pamiršti. Ne sintetinio etalono, parinkto todėl, kad atrodo įspūdingai ataskaitoje, o gyvo vertinimo rinkinio, sudaryto iš keblių atvejų, išmokiusių komandą ko nors naujo. Dokumentas su prieštaringomis datomis. Kliento prašymas, sumaišantis dvi politikas. Sąskaita faktūra, kurioje lentelės ištraukimas beveik veikia. Medicininė pastaba su dviprasmiška santrumpa. Viešųjų pirkimų atvejis, kuriame teisinis pagrindas svarbesnis už akivaizdų atsakymą. Šie atvejai tampa institucine atmintimi.
Pasikartojanti sistema paleidžia tuos atvejus, kai kas nors pasikeičia. Tikslas nėra garbinti senus rezultatus. Kartais senas rezultatas buvo klaidingas. Tikslas yra suprasti pokyčius. Ar naujoji versija pagerino atvejį dėl teisingos priežasties. Ar ji sugadino trapų, bet svarbų elgesį. Ar ji tapo labiau pasitikinti savimi, prarasdama įrodymus. Ar ji pasirinko kitą šaltinį. Ar ji pateikė tą pačią išvadą silpnesniu keliu. Rimtame darbe kelias svarbus, nes tas pats atsakymas dėl neteisingos priežasties nėra tas pats atsakymas.
Čia daugelis demonstracijomis paremtų programų praranda kontrolę. Jos matuoja vartotojų pasitenkinimą, delsą ir bendrą tikslumą, bet nelaiko skausmingų atvejų arti. Rezultatas yra sistema, kuri gali atrodyti geresnė apskritai, tuo pat metu tapdama prastesnė svarbiuose pakraščiuose. Vidurkiai naudingi. Pakraščiuose ateina skundas su priedais.
Vertinimo rinkinys taip pat turėtų apimti atsisakymo atvejus. Sistema, kuri visada atsako, nėra naudinga. Ji yra įkyri. Pasikartojamumas reikalauja, kad sistema nuosekliai atsisakytų, kai trūksta šaltinių, nėra įgaliojimų, pasitikėjimas per silpnas, vartotojas klausia ne savo vaidmens ribose arba užduotis reikalauja žmogaus sprendimo. Atsisakymo elgsena yra kokybės dalis. Aiškus ne dažnai vertingesnis už žavų galbūt, apsirengusį tikrumu.
Žmogaus sprendimas taip pat turi būti pasikartojamas
Pasikartojamumas nėra tik mašinų savybė. Žmogiškieji žingsniai taip pat reikalauja pasikartojamumo. Jei vienas vertintojas modelio rezultatą traktuoja kaip juodraštį, kitas kaip sprendimą, o trečias kaip erzinantį kolegą, darbo eiga nukryps, kad ir kokia stabili būtų modelio elgsena. Organizacija turi apibrėžti, ką reiškia peržiūra. Ar žmogus tikrina šaltinius, tikrina politiką, ima įrodymų pavyzdžius, tvirtina, redaguoja kalbą ar atsako už išvadą. Kiekvienas veiksmažodis sukuria skirtingą pareigą.
Operatoriams reikia sąsajų, kurios palaiko tas pareigas. Jei jie turi tikrinti šaltinius, šaltiniai turi būti matomi. Jei jie turi tikrinti politiką, taisyklių pagrindas turi būti šalia rezultato. Jei jie turi perrašyti sprendimą, perrašymo kelias turi būti įprastas, ne paslėptas už mygtuko, kuris jaučiasi kaip išdavystės prisipažinimas. Jei jie vėliau turės paaiškinti sprendimą, sistema turi išsaugoti tai, ką jie matė tuo metu. Priešingu atveju žmogaus priežiūra tampa dekoratyvine fraze su darbuotojo ID.
Mokymai taip pat svarbūs, bet ne tokie, kurie moko žmones žavėtis sistema. Naudingi mokymai rodo ribas. Jie suteikia vertintojams stiprių rezultatų, silpnų rezultatų, trūkstamų įrodymų, pasenusių šaltinių, raginimo įterpimo, politikos konfliktų ir atvejų, kai modelį reikia ramiai ignoruoti, pavyzdžių. Jie pasako žmonėms, kurių nesutarimų tikimasi. Jie pasako, kad geri perrašymai yra kontrolės sistemos dalis. Jei kiekvienas perrašymas traktuojamas kaip įdiegimo nesėkmė, žmonės išmoks nustoti pastebėti. Žmonės yra prisitaikantys, kartais nepatogiai.
Yra sausos paguodos užrašant procedūrą. Ne todėl, kad dokumentai yra stebuklingi. Jie nėra, kaip žino kiekvienas, susidūręs su bendru disku. Paguoda kyla iš to, kad organizacija priversta pasirinkti. Pasikartojantis žmogiškasis žingsnis sako, kad šis vaidmuo turi atlikti šį patikrinimą, su šiais įrodymais, per šį terminą, ir štai kas atsitinka, kai patikrinimas nepavyksta. Staiga priežiūra įgauna kaulus.
Atsitiktinumui reikia namų adreso
Kai kurios AI sistemos pagal dizainą apima atsitiktinumą. Atranka gali pagerinti kalbą. Paieška gali tyrinėti alternatyvas. Agentai gali išbandyti skirtingus įrankių kelius. Žmogaus grįžtamasis ryšys laikui bėgant gali keisti elgseną. Nė vienas iš šių dalykų savaime nėra blogas. Veiklos klaida yra leisti atsitiktinumui gyventi visur ir niekur. Jei kintamumas naudingas, pasakykite, kur jis leidžiamas. Jei jis rizikingas, apribokite jį. Jei jis atsiranda, užfiksuokite pakankamai, kad jį suprastumėte. Atsitiktinumas be adreso yra tai, kaip komandos baigia derinti rūko mašiną.
Yra praktinių metodų. Naudokite deterministinius nustatymus ten, kur rezultatas yra reikšmingas, o užduotis apibrėžta. Įtvirtinkite versijas ir šablonus. Laikykite korpuso momentines kopijas. Registruokite paieškos kandidatus. Atskirkite kūrybinį juodraštį nuo sprendimų palaikymo. Generatyviniam tekstui, kuris gali kisti, vertinkite teiginius ir šaltinius, o ne paviršinę formuluotę. Agentiniams darbo srautams fiksuokite įrankių planus, įrankių rezultatus ir atsisakymo kelius. Modelio atnaujinimams prieš perkeliant srautą atlikite suporuotus palyginimus. Nė vienas iš šių dalykų nepašalina neapibrėžtumo. Jis suteikia neapibrėžtumui kėdę prie stalo ir neleidžia jam klaidžioti per lubų plyteles.
Pakartojamumas taip pat keičia incidentų kalbą. Užuot sakę, kad AI pateikė blogą atsakymą, komanda gali pasakyti, kad atsakymas naudojo korpuso momentinę kopiją 18, politikos rinkinį 12, modelio versiją 4, raginimo šabloną 31, gautus dokumentus A, C ir F, praleido dokumentą B dėl prieigos apimties ir buvo priimtas X vaidmens be eskalavimo. Šis sakinys mažiau įdomus nei sistema išėjo iš rikiuotės. Jis taip pat naudingesnis, o tai yra pasikartojantis nusivylimas dramatiškiems žmonėms.
Kai sistema negali pateikti tokio sakinio, organizacija nevaldo AI. Ji lanko AI. Ji stebi, reaguoja, guodžia ir tikisi, kad kita pamaina bus geresnė. Tai gali būti priimtina prototipui. Tai nepriimtina darbui, nuo kurio priklauso žmonės.
Pirkimo klaida
Pakartojamumą reikia ne tik sukurti, bet ir nusipirkti. Daugelis pirkimo procesų vis dar apdovanoja geriausią demonstraciją. Sistema, kuri atrodo sklandi, greitai atsako ir vadovybei suteikia malonų modernumo jausmą, renka taškus. Sistema, kuri paaiškina įrodymų saugojimą, eksporto formatą, regresijos testavimą, deterministinę paiešką, modelio versijų įtvirtinimą, pagal vaidmenis grįstą peržiūrą ir atšaukimo politiką, gali skambėti mažiau įdomiai. Taip organizacijos perka būsimus susitikimus.
Gerai pirkimo klausimai yra tiesūs. Ar galime atkartoti atvejį. Ar galime eksportuoti įrodymų kelią. Ar galime prisegti arba įvardyti kiekvieną modelį ir užklausą, turinčius įtakos atsakymui. Ar paieška gali būti atkurta po indekso atkūrimo. Ar galime palyginti dabartinį elgesį su pradiniu lygmeniu, nustatytu prieš priimant atnaujinimą. Ar galima analizuoti žmogaus įsikišimus nebausiant už naudingą sprendimą. Ar galime išeiti su savo įrašais. Ar galime auditoriui pasakyti, kas įvyko, neatidarę pagalbos bilieto ir neuždegę žvakės.
Šie klausimai nereiškia priešiškumo tiekėjams. Jie reiškia brandą. Geras tiekėjas turėtų sugebėti pasakyti, kurios dalys yra atkartojamos, kurios yra tikimybinės, kurie įrodymai yra prieinami, kurių nėra, ir ką pirkėjas turi valdyti pats. Pirkėjas, kuris negali užduoti šių klausimų, galiausiai atsakymus sužinos gamyboje, kur atsakymai yra brangesni ir ateina su ausinėmis ant galvos.
Ta pati pirkimo logika galioja ir viduje. Platformų komandos neturėtų parduoti demonstracijos operacijų komandoms be atkartojamumo sutarties. Duomenų komandos neturėtų perduoti šaltinių be kilmės istorijos. Modelių komandos neturėtų išleisti patobulinimų be pradinių palyginimų. Valdymo komandos neturėtų tvirtinti principų neišbandžiusios įrašų. Visi nori paleidimo. Atkartojamumas yra disciplina rūpintis antradieniu po paleidimo.
Atkartojamumas yra gerumas būsimoms komandoms
Yra žmogiška priežastis rūpintis atkartojamumu, kuri retai pasirodo strategijos pristatymuose. Tai yra geriau. Tai geriau operatoriams, kurie neturėtų spėlioti, kodėl sistema pasikeitė. Tai geriau inžinieriams, kurie neturėtų rekonstruoti incidentų iš prietaisų skydelių trupinių. Tai geriau vadovams, kurie turi priimti sprendimus būdami stebimi. Tai geriau klientams, piliečiams, pacientams ir kolegoms, kurie nusipelno atsakymų, nesukuriamų improvizuotai po fakto. Atkartojama sistema sumažina institucinio apsimetinėjimo kiekį, reikalingą išgyventi savaitę.
Atkartojamumas taip pat palengvina sąžiningumą. Kai įrodymai yra prieinami, komandos gali pasakyti, kad modelis čia sugedo, duomenys ten buvo pasenę, politika buvo dviprasmiška, recenzentas turėjo per mažai konteksto arba šaltinio trūko. Be įrodymų kiekvienas prisipažinimas atrodo rizikingas, nes niekas nežino, kur kris kaltė. Todėl žmonės švelnina kalbą, atideda sprendimus ir sukuria tirštą rūką, vadinamą suderinimu. Įrodymai nepadaro organizacijų drąsių, bet jie sumažina tikslumo kainą.
There will still be surprises. Repeatability is not a spell against reality. New cases will break assumptions. Users will ask strange questions. Documents will arrive with formatting that looks like it was negotiated during a power cut. Models will improve in one direction and regress in another. The point is not to remove surprise. It is to make surprise informative rather than contagious.
That is why repeatability matters more than demos. Demos create belief that a capability exists. Repeatability creates the ability to rely on it. The first is useful for starting a conversation. The second is necessary for doing work. When an AI system becomes part of an institution, the question stops being whether it can impress a room. The question becomes whether it can produce, preserve, and explain its work on an ordinary day, under ordinary pressure, with ordinary humans involved. Ordinary days are where serious systems earn their keep.