AI kasutab lahendajaid kui vaikset mootorit
Vastus, mis vajas sõiduplaani
Esimene muljetavaldav asi oli vastus. Klient küsis, kas tarne võiks jõuda kohale enne lõunat, kui üks ladu on alamehitatud, kaks sõidukit on juba hõivatud ja tarnija on saatnud hilinenud uuenduse enesekindlusega, mis iseloomustab kedagi, kes ise veokit ei juhiks. Assistendi vastus oli korralik lõik: jah, see on võimalik, muudetud marsruudiga, muudetud laadimisjärjekorraga ja märkusega, et ühte lubatud ajavahemikku tuleks nihutada kahekümne minuti võrra.
See lõik nägi välja nagu AI-hetk. See polnud see. Kasulik töö toimus allpool, kus ajastamisprobleem oli muudetud muutujateks, piiranguteks, karistusteks ja otsinguks. Juhtidel olid tööaja piirangud. Kaupadel olid temperatuuripiirangud. Sõidukitel olid mahupiirangud. Klientidel olid ajaknad. Ladudel olid dokipiirangud. Süsteem suutis lause kirjutada alles pärast seda, kui midagi rangemat oli leidnud teostatava kuju. Ilma selle mehhanismita oleks assistent olnud enesekindel ametnik, hoides kalendrit tagurpidi.
See on AI osa, mis jääb avalikus arutelus imelikult vaikseks. Me räägime mudelitest, sest mudelid on nähtavad. Nad kirjutavad, klassifitseerivad, järjestavad, kokkuvõtavad, joonistavad, tuvastavad ja soovitavad. Kuid paljud kasulikud AI-süsteemid muutuvad kasulikuks alles siis, kui lahendaja on lähedal. Lahendaja võtab segase soovi ja küsib, mis saab tegelikult korraga tõene olla. See otsib võimalusi, lükkab tagasi võimatud kombinatsioonid, optimeerib kompromisse ja tõestab mõnikord, et antud tingimustel vastust ei eksisteeri.
See viimane lause on oluline. Võime öelda, et teostatavat vastust pole, ei ole viga. See on sageli erinevus abi ja mõttetuse vahel. Süsteem, mis suudab toota ainult usutava vastuse, muutub lõpuks kalliks teatriks. Süsteem, mis suudab lahendada, ebaõnnestuda, selgitada oma ebaõnnestumist ja näidata, milline piirang tulemuse blokeeris, on lähemal inseneritööle. Vähem glamuurne, tõenäolisemalt vastu peab neljapäevani.
Keel ei ole sama mis teostatavus
Keelemudelid on väga head vastusekujulise objekti tootmisel. See ei ole solvang. See on tohutu võimekus. Nad mõistavad päringut, leiavad asjakohase konteksti, genereerivad mustandi, kohandavad tooni, tõlgivad terminoloogiat ja aitavad inimestel infos kiiremini liikuda. Kuid sujuvus ei muuda vastust teostatavaks. See võib kirjeldada ajakava, mis rikub tööseadust. See võib pakkuda ravikuuri, mis on vastuolus vastunäidustusega. See võib teha kokkuvõtte lepingust, jättes vahele klausli, mis tegevuse blokeerib. Lause võib olla viimistletud, samal ajal kui maailm keeldub koostööst.
Lahendajad hoolivad koostööst maailmaga. Nad töötavad selge struktuuriga: Boole'i muutujad, lineaarsed kitsendused, graafi servad, ajaaknad, ressursipiirangud, tüübireeglid, hulgakuuluvus, tõenäosuslikud piirid või loogilised valemid. Vorm varieerub, kuid harjumus on sama. Esita tingimused. Otsi ruumist. Lükkä tagasi see, mis tingimusi rikub. Paranda seda, mis alles jääb. Tagasta tulemus piisava tõendusmaterjaliga, et mõni teine süsteemi osa saaks seda õigel eesmärgil usaldada.
Sellepärast klassikaline tehisintellekt tegelikult kunagi ei kadunud. Sellest sai infrastruktuur. Otsing, planeerimine, rahuldatavus, piirangute programmeerimine, teoreemi tõestamine, täisarvuline programmeerimine, dünaamiline programmeerimine, graafialgoritmid, verifitseerimine ja juhtimisteooria ei kadunud, kui närvivõrgud muutusid suurejooneliseks. Nad tegid edasi seda tööd, mis vajab selget struktuuri. Kaasaegne tehisintellekti inseneritöö ei ole võistlus sujuvate mudelite ja rangete lahendajate vahel. See on küsimus, kuidas panna neid koostööd tegema, ilma et kumbki peaks teist matkima.
Mudel suudab tõlkida inimese päringu struktureeritud probleemiks. Lahendaja suudab otsustada, kas struktuuril on kehtiv lahendus. Mudel suudab tulemust selgitada inimkeeles. Verifitseerija suudab tõestust kontrollida. Seiresüsteem suudab jälgida, kas eeldused kehtivad endiselt. Kasulik süsteem on kombinatsioon, mitte kõige valjem komponent demos.
Kitsendused on koht, kus kavatsus muutub ausaks
Iga tõsine ülesanne sisaldab kitsendusi, isegi kui keegi pole neid kirja pannud. Meditsiinitöövoog sisaldab ohutus-, ulatus-, nõusoleku-, privaatsus- ja personalikitsendusi. Logistikatöövoog sisaldab mahu-, aja-, asukoha-, kütuse-, hooldus- ja lepingukitsendusi. Avaliku otsustusprotsessi töövoog sisaldab seaduse, tõendite, edasikaebamise, õigluse ja dokumentatsiooni kitsendusi. Finantstöövoog sisaldab riski-, likviidsus-, vastavus- ja ajastuskitsendusi. Inimesed haldavad paljusid neist harjumusest. Tarkvara vajab, et need oleksid piisavalt selgesõnalised, et toimida.
Kitsenduste kirjutamine on ebamugav, sest see paljastab, mida organisatsioon tegelikult mõtleb. Kas me tahame kiireimat marsruuti või kiireimat marsruuti, mis arvestab puhkeaegadega. Kas me tahame odavaimat plaani või odavaimat plaani, mis säilitab varuvariandi. Kas me tahame kõrgeimat konversiooni või kõrgeimat konversiooni ilma inimesi eksitamata. Kas me tahame, et mudel vastaks, või tahame, et see keelduks, kui andmestik on puudulik. Kitsendus on väike moraalne intervjuu, mis on maskeeritud inseneritööks.
Head kitsendused ei muuda süsteeme halvas mõttes jäigaks. Nad muudavad paindlikkuse ohutuks. Kui lahendaja teab kõvasid piire, saab ta nende sees agressiivselt otsida. Ta suudab leida kombinatsioone, mis inimesel jääksid märkamata. Ta suudab kohaneda häiretega. Ta suudab vahetada kulusid aja vastu või kvaliteeti energia vastu, säilitades samal ajal läbirääkimatud asjad. Ilma kitsendusteta muutub paindlikkus improvisatsiooniks armatuurlaual.
Selles on oma oskus. Mõned kitsendused on kõvad ja neid ei tohi kunagi rikkuda. Mõned on pehmed ja neist saavad karistused. Mõned on ebakindlad ja vajavad puhvreid. Mõned on juriidilised. Mõned on füüsilised. Mõned on eetilised. Mõned on lihtsalt eelistused, mis kannavad tõsist ülikonda. Kui insenerimeeskond need segamini ajab, võib lahendaja optimeerida valet asja muljetavaldava distsipliiniga. Arvutid ei ole kangekaelsed, sest nad on pahatahtlikud. Nad on kangekaelsed, sest me küsisime halvasti.
Eesmärgid ei ole väärtused
Eesmärgifunktsioon on see osa, mis ütleb, mida parem tähendab teostatavate vastuste hulgas. Minimeeri reisiaega. Maksimeeri katvust. Vähenda energiat. Tasakaalusta koormust. Paranda meeldetuletust. Alanda kulusid. Hoida järjekorrad ühtlased. Need on kasulikud eesmärgid. Need ei ole iseenesest väärtused. Väärtused asuvad kitsenduste, karistuste, lävendite, ülevaatusradade ja otsuse valikus, millal optimeerimine üldse ei peaks käima.
Üks vanemaid vigu tehisintellekti operatsioonides on anda lahendajale kitsas eesmärk ja siis imestada, kui see järgib seda eesmärki otse vastu seina. Kui haigla optimeerib vastuvõtuaegade kasutust ilma piisavate piiranguteta patsientide reisimisele, kliinilisele kiireloomulisusele ja personali taastumisele, võib see luua kauni ajakava, mis muudab kõigi olukorra halvemaks. Kui klienditeeninduse töövoog optimeerib sulgemismäära, võib see õppida kiiresti sulgema valesid asju. Kui pettusemudel optimeerib ainult täpsust, võib see ignoreerida juhtumeid, kus kahju on ebaühtlaselt jaotunud. Lahendaja teeb oma tööd. Küsimus polnud piisavalt aus.
Kasulik tehisintellekt käsitleb seetõttu eesmärke osana juhtimisest. Kes eesmärgi valis. Milliseid alternatiive kaaluti. Milliseid rühmi see mõjutab. Millised piirangud on kõvad. Millised kompromissid on nähtavad. Millised väljundid nõuavad inimese otsustusvõimet. Millised mõõdikud paljastaksid kahju. See kõlab juhtimislikult, kuid on ka tehniline. Eesmärgid on kood, kui need on kasutusele võetud. Nad väärivad enamat kui motiveerivat lauset.
Lahendajad aitavad just seetõttu, et nad suudavad kompromisse nähtavaks teha. Nad suudavad näidata, et ühtegi ajakava pole olemas ilma ületundideta, et kulud langevad ainult siis, kui varuvariant kaob, et kõrgem tundlikkuse eesmärk suurendab läbivaatamise koormust või et poliitika loob võimatuid kombinatsioone. Sujuv mudel võib selle ebamugavuse siluda. Hea lahendaja muudab ebamugavuse loetavaks.
Mõnikord on parim vastus mitte vastata
Kasulikel süsteemidel peab olema väärikas viis ebaõnnestumiseks. Marsruuti ei saa lõpetada. Tõendid on ebapiisavad. Poliitikareeglid on vastuolus. Taotletud ajakava rikub võimekust. Optimeerimine ületaks riskiläve. Piirangud on rahuldamatud. Need ei ole piinlikud väljundid. Need on väärtuslik teave, eeldusel et süsteem suudab öelda, mis vastuse blokeeris ja mis peaks muutuma.
Ainult keelepõhine liides kipub rääkimist jätkama. See võib pakkuda alternatiive, pehmendada ebakindlust või toota parima pingutuse, mis näeb abivalmis välja. Mõnikord on see okei. Mõnikord on see ohtlik. Lahendaja suudab vestluse ankurdada, eraldades teostatava, teostamatu, teadmata ja ulatusest välja jääva. See suudab liidesele öelda, et lõpetaks mittevastuse kaunistamise. See on hea komme reaalsuse suhtes.
Inseneriterminites on see vahe oluline, sest iga olek vajab erinevat töövoogu. Teostatav saab edasi minna. Teostamatu võib käivitada läbirääkimised või eskaleerimise. Teadmata võib käivitada rohkem andmeid, pikema otsingu või inimese ülevaate. Väljaspool ulatust võib käivitada keeldumise. Kui kõik muutub lõiguks, kaotab operatsioon olekud, mida ta tegutsemiseks vajab. Liides muutub sujuvamaks, samal ajal kui organisatsioon muutub pimedamaks.
Võime ebaõnnestumist selgitada on eriti kasulik. Milline piirang blokeeris plaani. Milline puuduv väli takistas hindamist. Milline reegel on vastuolus millise teise reegliga. Millist ressurssi oleks vaja suurendada. Milline eeldus muutus. Selline selgitus on vähem poeetiline kui genereeritud põhjendus, kuid palju rohkem teostatav. See ütleb inimestele, mida saab muuta ja mida ei tohiks muuta ainult sellepärast, et koosolek tahab jaatust.
Tõendid muudavad lahendaja töötavaks komponendiks
Lahendaja tulemus muutub väärtuslikumaks, kui see kannab endas tõendeid. Mõne valdkonna puhul on see tõend tõestussertifikaat. Teiste puhul on see optimeerimisjälg, siduvate piirangute hulk, teostatavusaruanne, tundlikkusanalüüs või korratav käitusprotokoll. Ühine omadus on see, et tulemust saab hiljem kontrollida ilma, et kõik peaksid usaldama sama masinat samas meeleolus.
Siin kohtuvad lahendajad valitsemisega. Otsustussüsteem ei peaks ütlema ainult, et plaan on optimaalne või teostatav. See peaks säilitama sisendid, versioonid, piirangud, eesmärgi, lahendaja konfiguratsiooni, peatamiskriteeriumid, valitud tulemuse, tagasilükatud alternatiivid, kui need on asjakohased, ja inimtegevuse, mis järgnes. Kui klient, patsient, regulaator, operaator või tulevane insener küsib, miks, ei peaks organisatsioon otsust rekonstrueerima kolmest armatuurlauast ja ühe kolleegi mälust.
Tõendid aitavad ka silumisel. Kui plaan on halb, kas eesmärk oli vale, piirangud puudulikud, andmed aegunud, lahendaja valesti konfigureeritud, mudeli tõlge vigane või inimese taotlus võimatu. Ilma kirjeteta muutub iga ebaõnnestumine folklooriks. Kirjetega saab meeskond parandada õige kihi. See on vähem põnev kui AI üldiselt süüdistamine, kuid sellel on parem parandamise määr.
Lahendajat tuleks seetõttu käsitleda esmaklassilise töötava komponendina. See vajab jälgitavust, teste, versioonihaldust, jõudluse eelarveid, varukäitumist ja ülevaatusradu. See vajab sisendi valideerimist. See vajab ajalõppe. See vajab viisi, kuidas osalisi tulemusi ausalt tagastada. See vajab jälgimist juhtudeks, kus tootmisprobleemid kalduvad kõrvale võrdluskomplektist. Lahendaja, mis on peidetud rõõmsa liidese taha, on siiski infrastruktuur. Infrastruktuur naudib ignoreerimist, kuni sellel on piisavalt mõjuvõimu.
Mudelid ja lahendajad vajavad erinevat alandlikkust
Mudel peaks olema alandlik tõe suhtes. See võib olla vale, mittetäielik, liiga enesekindel, alaspetsifitseeritud või väljaspool oma treeningjaotust. Lahendaja peaks olema alandlik formuleerimise suhtes. See võib lahendada püstitatud probleemi täiuslikult, samal ajal kui püstitatud probleem on tegeliku probleemi kehv kirjeldus. Need on erinevad rikkeviisid ja kasulik AI austab mõlemat.
Mudel võib taotlust valesti mõista. Lahendaja võib optimeerida vale eesmärgi. Andmed võivad olla aegunud. Piirangud võivad jätta välja sotsiaalse reegli, mida kõik pidasid iseenesestmõistetavaks. Eesmärk võib kodeerida asendusnäitaja, mis meeldib juhtkonnale rohkem kui kasutajatele. Väljund võib olla matemaatiliselt õige ja operatiivselt vastuvõetamatu. Küps süsteem ei teeskle, et üks komponent suudab kõik need riskid endasse võtta. See hoiab piirid nähtavana.
Seetõttu väärib tõlge keele ja struktuuri vahel tähelepanu. Kui mudel muudab juhi taotluse lahendaja probleemiks, peaks tõlge olema kontrollitav. Millised muutujad loodi. Millised piirangud tuletati. Millised piirangud puudusid. Milline eesmärk valiti. Milline mitmetähenduslikkus lahendati vaikselt. Varjatud tõlkekiht on lihtsalt veel üks must kast parema grammatikaga.
Inimeksperdid on siin endiselt olulised, kuid mitte dekoratiivsete kinnitajatena. Nemad teavad, millised piirangud on reaalsed, millised reeglid painduvad, millised erandid on ohtlikud ja millised eesmärgid loovad perverssed stiimulid. Hea lahendajapõhine süsteem annab ekspertidele mõjuvõimu. See ei palu neil vastust õnnistada pärast seda, kui masinavärk on olulised valikud juba nähtamatuks muutnud.
Vana masinavärk pole vanamoodne
Tehnoloogias on komme kohelda vanemaid meetodeid aegununa, kui uuem meetod muutub moekaks. See on lapsik, aga ilusamate fontidega. SAT-lahendajad, SMT-lahendajad, segatäisarvuline optimeerimine, piirangute programmeerimine, planeerimissüsteemid, graafotsing, teoreemitõestus ja juhtimismeetodid jäävad keskseteks, sest paljudel probleemidel on endiselt struktuur. Struktuur võib olla peidetud vestlusliidese alla, kuid see pole kadunud.
Tegelikult muudab kaasaegne AI lahendajad olulisemaks. Kui mudelid genereerivad rohkem kandidaattegevusi, peab keegi neid kontrollima. Kui agendid kutsuvad tööriistu, peab keegi otsustama, millised jadad on lubatud. Kui otsing toodab allikaid, peab keegi lahendama konfliktid. Kui automatiseeritud töövoogud puudutavad poliitikat, peab keegi jõustama piiranguid. Kui sünteetilised plaanid näevad usutavad välja, peab keegi küsima, kas need vastavad tegelikule maailmale. Lahendajad pole nostalgia. Need on täiskasvanud järelevalvekiht süsteemidele, mis suudavad nüüd kiiresti palju asju välja pakkuda.
Mõte pole asendada närvivõrke sümboolse masinavärgiga. Mõte on komponeerida. Las mudelid tegelevad mitmetähenduslikkuse, keele, taju ja segase kontekstiga. Las lahendajad tegelevad selgesõnalise teostatavuse, optimeerimise, tõestuse ja piiratud otsinguga. Las reeglid kannavad poliitikat seal, kus poliitika peab olema täpne. Las inimesed omavad eesmärki, otsustusvõimet ja erandeid. Piir varieerub valdkonniti, kuid põhimõte on stabiilne: ärge paluge sujuvatel masinatel teha ranget tööd ilma range partnerita.
Meeskonnad, kes seda mõistavad, ehitavad vaiksemaid süsteeme. Demo võib tunduda vähem maagiline, sest vastus ütleb mõnikord võimatu. Operatsioonid on paremad, sest võimatu on täpselt see, mida meeskond pidi teadma enne lõunase kohaletoimetamise, automaatse kinnituse või riskiskoori lubamist, mida keegi kohtleb saatusena.
Latentsus, kulu ja lahendamise igapäevasus
Lahendajad muudavad AI praktiliseks ka pisidetailides. Lahendaja, mis võtab neli tundi, võib olla suurepärane strateegiliseks planeerimiseks ja kasutu reaalajas dispetšiekraani jaoks. Heuristika, mis annab piisavalt hea marsruudi kahe sekundiga, võib operatsioonides lüüa täpset lahendajat. Tõestust genereeriv lahendaja võib olla hädavajalik suure panusega otsuste puhul ja tarbetu lõunatellimuste puhul, isegi organisatsioonides, mis suhtuvad võileibadesse väga tõsiselt.
Inseneritöö on täis selliseid valikuid. Täpsus, kiirus, mälukasutus, selgitatavus, energiakulu ja juurutamise keerukus tõmbavad üksteisega vastassuunas. Õige lahendaja partiipõhise auditi jaoks ei pruugi olla õige lahendaja reaalajas marsruutimise jaoks. Kohalik otsingumeetod võib sobida, kui mitteoptimaalse vastuse hind on väike. Täielik meetod võib olla vajalik, kui keeldumisel on õiguslikud või ohutusega seotud tagajärjed. Kasulikku tehisintellekti ei ehitata ühte tehnikat kummardades. Seda ehitatakse, sobitades tehnika tagajärgedega.
Siin vajavad võrdlusnäitajad ausust. Lahendaja võrdlusnäitaja peaks kajastama tegelikku probleemijaotust, mitte ainult korralikke näiteid. See peaks hõlmama teostamatuid juhtumeid, määrdunud sisendeid, ajalõppe, servatingimusi ja muutuvaid andmeid. See peaks teatama mitte ainult keskmisest kiirusest, vaid ka rikkerežiimidest. Süsteem, mis on sõbralike juhtumite puhul kiire ja inetute puhul vait, pole võrdlusnäitajaga hinnatud. Seda on meelitatud.
Ka kulud loevad. Lahendaja saab arvutuskoormust vähendada, kärpides otsingut enne, kui suurelt mudelilt palutakse arutleda. See saab korduvat järeldamist vältida, vahemällu salvestades struktureeritud tulemusi. See saab valida, millal piisab väikesest mudelist ja millal on õigustatud suurem mudel. Vaikne masinavärk kasuliku tehisintellekti taga on sageli ka masinavärk taskukohase tehisintellekti taga. Rahandusosakonnad aplodeerivad harva, kuid arveid nad märkavad.
Silmus pärast juurutamist
Lahendajal põhinev tehisintellektisüsteem pole valmis, kui see annab esimese õige vastuse. Päris töö muutub. Ilmuvad uued piirangud. Vanad piirangud muutuvad valeks. Inimesed kohanevad süsteemiga. Andmevood triivivad. Poliitikad muudavad nimesid, sest keegi avastas malli. Lahendaja lahendab endiselt, kuid probleemipüstitus võib olla vaikselt aegunud.
Operatiivsed silmused hoiavad süsteemi ausana. Jälgige teostamatute juhtumite määra, ajalõpu määra, ülekirjutamise põhjuseid, siduvaid piiranguid, eesmärgi skoore, andmete värskust, mõjutatud kasutajate lõike ja juhtumeid, kus inimesed tulemuse tagasi lükkavad. Vaadake üle, kas piirangud on endiselt täielikud. Vaadake eesmärgid uuesti läbi, kui stiimulid muutuvad. Testige, kas mudeli ja lahendaja vaheline tõlge kajastab endiselt taotlust. Võrrelge prognoositud kompromisse tegelike tulemustega. Lahendaja võib olla matemaatiliselt tõsine ja operatiivselt aegunud. Mõlemad võivad olla tõesed, sest reaalsusel on ulatus.
Silmus peaks säilitama ka keeldumisest õppimise. Kui süsteem ütleb, et teostatavat ajakava pole olemas, mis juhtus järgmiseks. Kas inimesed lisasid võimekust, muutsid poliitikat, lõdvendasid eelistust, avastasid halbu andmeid või avaldasid kellelegi survet piirangut eirata. Need tulemused õpetavad, kas süsteem väljendab tegelikkust või lihtsalt blokeerib tööd. Keeldumine ilma ülevaatuseta muutub takistuseks. Keeldumine tõenditega muutub juhtimisinfoks.
Nagu iga tõsise süsteemi puhul, loeb omandus. Keegi peab omama formuleeringut, keegi andmeid, keegi lahendaja jõudlust, keegi liidest ja keegi tegevuspoliitikat. Kui kõik omavad kasulikku tehisintellekti üldiselt, ei oma keegi piirangut, mis teisipäeval ebaõnnestus. Teisipäev on see, kus süsteemid muutuvad ausaks.
Vaikne järeldus
Populaarne ettekujutus tehisintellektist on mudel, mis räägib. Kasulik ettekujutus on sageli süsteem, mis otsustab, mis võib olla tõene, mis on eelistatud, mis on võimatu ja milline tõendusmaterjal peaks vastusega kaasas käima. Lahendajad on osa sellest ettekujutusest. Nad ei ole glamuursed, kuid nad on erakordselt head süsteemide vähem ebamääraseks muutmisel.
Nad sunnivad meeskondi nimetama piiranguid, eesmärke, kompromisse ja rikkeolekuid. Nad annavad keelemudelitele rangema partneri. Nad lasevad süsteemidel keelduda põhjustega, mitte improviseerida enesekindlusega. Nad toovad esile, kui soovitud tulemus ei saa eksisteerida koos kehtestatud reeglitega. Nad loovad andmeid, mida tulevased inimesed saavad uurida. See ei ole kogu kasulik tehisintellekt, kuid see on üks osa, mis kõige tõenäolisemalt takistab kasulikust tehisintellektist saamas kasuliku välimusega tehisintellekti.
Enne lõunat toimetamine võib siiski ebaõnnestuda. Liiklusõnnetus võib rikkuda hea plaani. Muul võib sulguda. Klient võib tellimust muuta. Kuid lahendajapõhine süsteem ebaõnnestub teisiti. See suudab öelda, milline eeldus purunes, milline piirang muutus siduvaks ja millised võimalused alles jäävad. Sellise rikkega saab operatsioon töötada.
Vaikne masinavärk väärib rohkem tähelepanu just seetõttu, et see on vaikne. See ei kirjuta alati lauset ekraanile. See otsustab, kas lause peaks seal üldse olema.