Rješavači su tiha pokretačka snaga iza korisne umjetne inteligencije.
Odgovor kojem je trebao raspored
Prva impresivna stvar bio je odgovor. Kupac je pitao može li dostava stići prije podneva ako je jedno skladište podkapacitirano, dva vozila već imaju obveze, a dobavljač je poslao zakašnjelo ažuriranje s povjerenjem nekoga tko neće voziti kombi. Asistent je proizveo uredan odlomak: da, moguće je, uz izmijenjenu rutu, promijenjen redoslijed utovara i napomenu da jedan obećani termin treba pomaknuti za dvadeset minuta.
Odlomak je izgledao kao AI trenutak. Nije bio. Koristan posao dogodio se u pozadini, gdje je problem raspoređivanja pretvoren u varijable, ograničenja, kazne i pretragu. Vozači su imali ograničenja radnog vremena. Roba je imala ograničenja temperature. Vozila su imala ograničenja kapaciteta. Kupci su imali vremenske prozore. Skladišta su imala ograničenja na dokovima. Sustav je mogao napisati rečenicu tek nakon što je nešto strože pronašlo izvediv oblik. Bez te mehanike, asistent bi bio samouvjereni službenik koji drži kalendar naopako.
To je dio AI-ja koji ostaje čudno tih u javnoj raspravi. Govorimo o modelima jer su modeli vidljivi. Oni pišu, klasificiraju, rangiraju, sažimaju, crtaju, otkrivaju i preporučuju. No mnogi korisni AI sustavi postaju korisni tek kad je u blizini rješavač. Rješavač uzima neurednu želju i pita što zapravo može biti istinito u isto vrijeme. Pretražuje mogućnosti, odbacuje nemoguće kombinacije, optimizira kompromise i ponekad dokazuje da pod zadanim uvjetima odgovor ne postoji.
Ta posljednja rečenica je važna. Sposobnost da se kaže da izvediv odgovor ne postoji nije mana. Često je to razlika između pomoći i besmisla. Sustav koji može proizvesti samo uvjerljiv odgovor s vremenom će postati skupa predstava. Sustav koji može riješiti, zakazati, objasniti svoj neuspjeh i pokazati koje je ograničenje blokiralo ishod bliži je inženjerstvu. Manje glamurozan, vjerojatnije da će preživjeti četvrtak.
Jezik nije isto što i izvedivost
Jezični modeli vrlo su dobri u proizvodnji objekta koji ima oblik odgovora. To nije uvreda. To je golema sposobnost. Oni mogu razumjeti zahtjev, pronaći relevantan kontekst, generirati nacrt, prilagoditi ton, prevesti terminologiju i pomoći ljudima da brže prolaze kroz informacije. No tečnost ne čini odgovor izvedivim. Može opisati raspored koji krši zakon o radu. Može predložiti plan liječenja koji je u sukobu s kontraindikacijom. Može sažeti ugovor dok preskače klauzulu koja blokira radnju. Rečenica može biti uglađena dok svijet odbija surađivati.
Rješavači brinu o suradnji sa svijetom. Rade s eksplicitnom strukturom: Booleove varijable, linearna ograničenja, bridovi grafa, vremenski prozori, ograničenja resursa, pravila tipova, pripadnost skupu, probabilističke granice ili logičke formule. Oblik se mijenja, ali navika je ista. Navedi uvjete. Pretraži prostor. Odbaci ono što krši uvjete. Poboljšaj ono što ostane. Vrati rezultat s dovoljno dokaza da drugi dio sustava može vjerovati u njega za pravu svrhu.
Zato klasična umjetna inteligencija zapravo nikada nije otišla. Postala je infrastruktura. Pretraživanje, planiranje, zadovoljivost, programiranje s ograničenjima, dokazivanje teorema, cjelobrojno programiranje, dinamičko programiranje, algoritmi na grafovima, verifikacija i teorija upravljanja nisu nestali kada su neuronske mreže postale spektakularne. Nastavili su obavljati posao koji zahtijeva eksplicitnu strukturu. Moderno inženjerstvo umjetne inteligencije nije natjecanje između tečnih modela i strogih rješavača. To je pitanje kako ih natjerati na suradnju bez traženja da se jedno pretvara u drugo.
Model može prevesti ljudski zahtjev u strukturirani problem. Rješavač može odlučiti ima li struktura valjano rješenje. Model može objasniti rezultat ljudskim jezikom. Verifikator može provjeriti dokaz. Sustav za praćenje može nadzirati vrijede li pretpostavke i dalje. Koristan sustav je kombinacija, a ne najglasnija komponenta u demonstraciji.
Ograničenja su mjesto gdje namjera postaje iskrena
Svaki ozbiljan zadatak sadrži ograničenja, čak i kada ih nitko nije zapisao. Medicinski tijek rada ima sigurnosna ograničenja, ograničenja opsega, ograničenja pristanka, ograničenja privatnosti i ograničenja osoblja. Logistički tijek rada ima ograničenja kapaciteta, vremena, lokacije, goriva, održavanja i ugovora. Javni tijek odlučivanja ima ograničenja zakona, dokaza, žalbe, pravednosti i dokumentacije. Financijski tijek rada ima ograničenja rizika, likvidnosti, usklađenosti i vremenskog rasporeda. Ljudi se s mnogima od njih nose po navici. Softver ih treba učiniti dovoljno eksplicitnima za rad.
Čin zapisivanja ograničenja neugodan je jer otkriva što organizacija zapravo misli. Želimo li najbržu rutu ili najbržu rutu koja poštuje vrijeme odmora. Želimo li najjeftiniji plan ili najjeftiniji plan koji zadržava rezervnu opciju. Želimo li najveću konverziju ili najveću konverziju bez zavaravanja ljudi. Želimo li da model odgovori ili želimo da odbije kada je zapis nepotpun. Ograničenje je mali moralni intervju prerušen u inženjerstvo.
Dobra ograničenja ne čine sustave krutima u lošem smislu. Ona čine fleksibilnost sigurnom. Kada rješavač zna tvrde granice, može agresivno pretraživati unutar njih. Može pronaći kombinacije koje bi čovjek propustio. Može se prilagoditi poremećajima. Može mijenjati trošak za vrijeme ili kvalitetu za energiju, čuvajući pritom ono što se ne smije pregovarati. Bez ograničenja, fleksibilnost postaje improvizacija s nadzornom pločom.
U tome postoji umijeće. Neka su ograničenja tvrda i nikada se ne smiju prekršiti. Neka su mekana i postaju kazne. Neka su nesigurna i trebaju međuspremnike. Neka su pravna. Neka su fizička. Neka su etička. Neka su tek preferencije u ozbiljnom odijelu. Ako inženjerski tim pomiješa sve to, rješavač može optimizirati pogrešnu stvar s impresivnom disciplinom. Računala nisu tvrdoglava zato što su zlonamjerna. Tvrdoglava su jer smo loše postavili pitanje.
Ciljevi nisu vrijednosti
Funkcija cilja dio je koji govori što bolje znači među izvedivim odgovorima. Minimiziraj vrijeme putovanja. Maksimiziraj pokrivenost. Smanji energiju. Uravnoteži opterećenje. Poboljšaj odziv. Smanji trošak. Održi redove ravnomjernima. To su korisni ciljevi. Oni sami po sebi nisu vrijednosti. Vrijednosti se nalaze u izboru ograničenja, kazni, pragova, putova revizije i odluke o tome kada se optimizacija uopće ne bi trebala pokretati.
Jedna od najstarijih pogrešaka u radu s umjetnom inteligencijom jest dati optimizatoru uzak cilj, a onda se iznenaditi kad taj cilj slijedi ravno u zid. Ako bolnica optimizira iskorištenost termina bez dovoljno ograničenja na putovanje pacijenata, kliničku hitnost i oporavak osoblja, može stvoriti savršen raspored koji svima šteti. Ako tijek korisničke podrške optimizira stopu rješavanja predmeta, može naučiti brzo zatvarati pogrešne stvari. Ako model za otkrivanje prijevara optimizira samo preciznost, može zanemariti slučajeve u kojima je šteta neravnomjerno raspoređena. Optimizator radi svoj posao. Pitanje nije bilo dovoljno pošteno.
Korisna umjetna inteligencija stoga ciljeve tretira kao dio upravljanja. Tko je odabrao cilj. Koje su se alternative razmatrale. Na koje skupine to utječe. Koja su ograničenja čvrsta. Koji su kompromisi vidljivi. Koji rezultati zahtijevaju ljudsku prosudbu. Koje bi metrike otkrile štetu. To zvuči menadžerski, ali je i tehnički. Ciljevi su, jednom kad su implementirani, kod. Zaslužuju više od motivacijske rečenice.
Optimizatori pomažu upravo zato što mogu razotkriti kompromise. Mogu pokazati da ne postoji raspored bez prekovremenih sati, da troškovi padaju samo ako rezervna opcija nestane, da viši cilj odziva povećava opterećenje pregleda ili da politika stvara nemoguće kombinacije. Tečan model može pregladiti tu nelagodu. Dobar optimizator čini nelagodu čitljivom.
Ponekad je najbolji odgovor nikakav odgovor
Korisni sustavi trebaju dostojanstven način za neuspjeh. Ruta se ne može dovršiti. Dokazi su nedostatni. Pravila politike su u sukobu. Traženi raspored krši kapacitet. Optimizacija bi premašila prag rizika. Ograničenja se ne mogu zadovoljiti. To nisu neugodni rezultati. To su vrijedne informacije, pod uvjetom da sustav može reći što je blokiralo odgovor i što bi se trebalo promijeniti.
Sučelje koje se oslanja samo na jezik u iskušenju je nastaviti pričati. Može ponuditi alternative, ublažiti nesigurnost ili proizvesti najbolji mogući trud koji djeluje korisno. Ponekad je to u redu. Ponekad je opasno. Optimizator može usidriti razgovor odvajajući izvedivo od neizvedivog, nepoznatog i izvan opsega. Može reći sučelju da prestane uljepšavati neodgovor. To je lijepo ponašanje prema stvarnosti.
U inženjerskom smislu ta je razlika važna jer svako stanje zahtijeva drugačiji tijek rada. Izvedivo može nastaviti. Neizvedivo može pokrenuti pregovore ili eskalaciju. Nepoznato može pokrenuti prikupljanje dodatnih podataka, dulju pretragu ili ljudski pregled. Izvan opsega može pokrenuti odbijanje. Ako sve postane odlomak, operacije gube stanja koja su im potrebna za djelovanje. Sučelje postaje glađe dok organizacija postaje slijepa.
Sposobnost objašnjenja neuspjeha posebno je korisna. Koje je ograničenje blokiralo plan. Koje je polje nedostajalo i spriječilo procjenu. Koje se pravilo sukobljava s kojim drugim pravilom. Koji bi resurs trebalo povećati. Koja se pretpostavka promijenila. Takvo je objašnjenje manje poetsko od generiranog obrazloženja, ali daleko upotrebljivije. Govori ljudima što se može promijeniti, a što se ne bi trebalo mijenjati samo zato što sastanak želi potvrdan odgovor.
Dokazi pretvaraju rješavač u operativnu komponentu
Rezultat rješavača postaje vrijedniji kada nosi dokaze. Za neka područja ti su dokazi potvrda ispravnosti. Za druga to je trag optimizacije, skup ograničenja koja su bila aktivna, izvješće o izvedivosti, analiza osjetljivosti ili zapis koji se može ponovno izvesti. Zajedničko je svojstvo da se rezultat kasnije može provjeriti bez potrebe da svi vjeruju istom stroju u istom raspoloženju.
Ovdje se rješavači susreću s upravljanjem. Sustav za odlučivanje ne bi trebao samo reći da je plan optimalan ili izvediv. Trebao bi sačuvati ulaze, verzije, ograničenja, cilj, konfiguraciju rješavača, kriterije zaustavljanja, odabrani rezultat, odbačene alternative gdje su relevantne te ljudsku radnju koja je uslijedila. Ako kupac, pacijent, regulator, operater ili budući inženjer pita zašto, organizacija ne bi trebala rekonstruirati odluku iz tri nadzorne ploče i sjećanja jednog kolege.
Dokazi također pomažu pri otklanjanju pogrešaka. Ako je plan loš, je li cilj bio pogrešan, ograničenja nepotpuna, podaci zastarjeli, rješavač pogrešno konfiguriran, prijevod modela pogrešan ili ljudski zahtjev nemoguć. Bez zapisa svaki neuspjeh postaje predaja. Uz zapise tim može popraviti pravi sloj. To je manje uzbudljivo od okrivljavanja umjetne inteligencije općenito, ali ima bolju stopu popravaka.
Rješavač bi stoga trebalo tretirati kao prvoklasnu operativnu komponentu. Treba mu vidljivost, testovi, upravljanje verzijama, proračuni performansi, ponašanje u slučaju kvara i putovi pregleda. Treba mu provjera ulaza. Trebaju mu vremenska ograničenja. Treba mu način da pošteno vrati djelomične rezultate. Treba mu praćenje slučajeva u kojima problemi u produkciji odlutaju od referentnog skupa testova. Rješavač skriven iza vedrog sučelja i dalje je infrastruktura. Infrastruktura uživa u tome što je se ignorira sve dok ne dobije dovoljno poluge.
Modeli i rješavači trebaju različitu poniznost
Model treba biti ponizan prema istini. Može biti pogrešan, nepotpun, pretjerano samouvjeren, nedovoljno specificiran ili izvan svoje distribucije za treniranje. Rješavač treba biti ponizan prema formulaciji. Može savršeno riješiti navedeni problem, dok je navedeni problem loš opis stvarnog problema. To su različiti načini neuspjeha, a korisna umjetna inteligencija poštuje oba.
Model može pogrešno razumjeti zahtjev. Rješavač može optimizirati pogrešan cilj. Podaci mogu biti zastarjeli. Ograničenja mogu izostaviti društveno pravilo za koje su svi pretpostavljali da je očito. Cilj može sadržavati zamjensku mjeru koju menadžment voli više nego korisnici. Rezultat može biti matematički točan, a operativno neprihvatljiv. Zrel sustav ne pretvara se da jedna komponenta može apsorbirati sve te rizike. Drži granice vidljivima.
Zato prijevod između jezika i strukture zaslužuje pomnu provjeru. Ako model pretvori menadžerov zahtjev u problem za rješavač, prijevod bi trebao biti provjerljiv. Koje su varijable stvorene. Koja su ograničenja izvedena. Koja su ograničenja nedostajala. Koji je cilj odabran. Koja je dvosmislenost riješena u tišini. Skriveni sloj prijevoda samo je još jedna crna kutija s boljom gramatikom.
Ljudski stručnjaci i dalje su važni ovdje, ali ne kao dekorativni odobravatelji. Oni znaju koja su ograničenja stvarna, koja se pravila savijaju, koje su iznimke opasne i koji ciljevi stvaraju perverzne poticaje. Dobar sustav koji se oslanja na rješavače daje stručnjacima polugu. Ne traži od njih da blagoslove odgovor nakon što je stroj već učinio važne odluke nevidljivima.
Stari strojevi nisu staromodni
U tehnologiji postoji navika da se starije metode smatraju zastarjelima čim novija metoda postane moderna. To je djetinjasto, ali s ljepšim fontovima. SAT rješavači, SMT rješavači, mješovito cjelobrojno programiranje, programiranje s ograničenjima, sustavi planiranja, pretraživanje grafa, dokazivanje teorema i metode upravljanja ostaju središnji jer mnogi problemi još uvijek imaju strukturu. Struktura može biti skrivena ispod sučelja za razgovor, ali nije nestala.
Zapravo, moderna umjetna inteligencija čini rješavače važnijima. Kada modeli generiraju više kandidata za djelovanje, netko ih mora provjeriti. Kada agenti pozivaju alate, netko mora odlučiti koji su slijedovi dopušteni. Kada pretraživanje proizvede izvore, netko mora riješiti sukobe. Kada automatizirani tijekovi rada dotaknu politiku, netko mora provesti ograničenja. Kada sintetički planovi izgledaju uvjerljivo, netko mora pitati zadovoljavaju li stvarni svijet. Rješavači nisu nostalgija. Oni su sloj nadzora odraslih za sustave koji sada mogu brzo predložiti mnoge stvari.
Poanta nije zamijeniti neuronske modele simboličkim strojevima. Poanta je sastavljanje. Neka modeli rješavaju dvosmislenost, jezik, percepciju i neuredan kontekst. Neka rješavači rješavaju eksplicitnu izvedivost, optimizaciju, dokaz i ograničeno pretraživanje. Neka pravila nose politiku tamo gdje politika mora biti jasna. Neka ljudi posjeduju svrhu, prosudbu i iznimke. Granica će varirati ovisno o domeni, ali načelo je stabilno: ne tražite od tečnog stroja da obavlja strogi posao bez strogog partnera.
Timovi koji to razumiju grade tiše sustave. Demonstracija može izgledati manje čarobno jer odgovor ponekad kaže nemoguće. Operacije će biti bolje jer je nemoguće upravo ono što je tim trebao znati prije nego što obeća podnevnu dostavu, automatsko odobrenje ili ocjenu rizika koju će netko tretirati kao sudbinu.
Latency, trošak i svakodnevna priroda rješavanja
Rješavači također čine umjetnu inteligenciju praktičnom u sitnim detaljima. Rješavač koji treba četiri sata može biti izvrstan za strateško planiranje, a beskoristan za zaslon uživo za otpremu. Heuristika koja vrati dovoljno dobru rutu u dvije sekunde može u operacijama pobijediti točan rješavač. Rješavač koji proizvodi dokaze može biti ključan za odluke s visokim ulozima, a nepotreban za narudžbe ručka, čak i u organizacijama koje sendviče shvaćaju vrlo ozbiljno.
Inženjerstvo je prepuno takvih odluka. Točnost, brzina, korištenje memorije, objašnjivost, energija i složenost implementacije međusobno se sukobljavaju. Ispravan rješavač za skupnu reviziju ne mora biti ispravan rješavač za usmjeravanje u stvarnom vremenu. Lokalna metoda pretraživanja može biti sasvim dobra kada je cijena neoptimalnog rješenja mala. Potpuna metoda može biti nužna kada odbijanje nosi pravne ili sigurnosne posljedice. Korisna umjetna inteligencija ne gradi se obožavanjem jedne tehnike. Gradi se usklađivanjem tehnike s posljedicama.
Upravo tu mjerila moraju biti iskrena. Mjerilo za rješavače treba odražavati stvarnu raspodjelu problema, a ne samo uredne primjere. Treba uključivati neizvedive slučajeve, nečiste ulaze, vremenska ograničenja, rubne uvjete i promjenjive podatke. Treba izvještavati ne samo o prosječnoj brzini, nego i o načinima na koje sustav otkazuje. Sustav koji je brz na prijateljskim slučajevima, a šuti na ružnima, nije prošao mjerenje. On je bio laskan.
Trošak je također važan. Rješavač može smanjiti računalno opterećenje obrezivanjem pretraživanja prije nego što se veliki model zamoli da razmišlja. Može izbjeći ponovljeno zaključivanje predmemoriranjem strukturiranih rezultata. Može odlučiti kada je mali model dovoljan, a kada je veći model opravdan. Tiha mašinerija iza korisne umjetne inteligencije često je ujedno i mašinerija iza pristupačne umjetne inteligencije. Financijski odjeli rijetko plješću, ali zato primjećuju račune.
Petlja nakon implementacije
Sustav umjetne inteligencije koji se oslanja na rješavač nije dovršen kada vrati prvi točan odgovor. Stvarni rad se mijenja. Pojavljuju se nova ograničenja. Stara ograničenja postaju netočna. Ljudi se prilagođavaju sustavu. Podatkovni tokovi odlutaju. Politike mijenjaju nazive jer je netko otkrio predložak. Rješavač i dalje rješava, ali izjava problema možda je tiho istekla.
Operativne petlje održavaju sustav iskrenim. Pratite stope neizvedivosti, stope vremenskih ograničenja, razloge za nadjačavanje, vezujuća ograničenja, vrijednosti ciljne funkcije, svježinu podataka, skupine pogođenih korisnika i slučajeve u kojima ljudi odbacuju rezultat. Provjerite jesu li ograničenja i dalje potpuna. Preispitajte ciljeve kada se poticaji promijene. Testirajte prevodi li prijevod modela u rješavač i dalje vjerno zahtjev. Usporedite predviđene kompromise sa stvarnim ishodima. Rješavač može biti matematički ozbiljan, a operativno zastario. Obje stvari mogu biti istinite jer stvarnost ima raspon.
Petlja bi također trebala čuvati pouke iz odbijanja. Kada sustav kaže da ne postoji izvediv raspored, što se dogodilo zatim. Jesu li ljudi dodali kapacitet, promijenili politiku, ublažili preferenciju, otkrili loše podatke ili vršili pritisak na nekoga da zanemari ograničenje. Ti ishodi pokazuju izražava li sustav stvarnost ili samo blokira rad. Odbijanje bez pregleda postaje opstrukcija. Odbijanje s dokazima postaje informacija za upravljanje.
Kao i kod svakog ozbiljnog sustava, vlasništvo je važno. Netko mora biti vlasnik formulacije, netko podataka, netko performansi rješavača, netko sučelja, a netko operativne politike. Ako svi vlasništvo nad korisnom umjetnom inteligencijom općenito, onda nitko nije vlasnik ograničenja koje je otkazalo u utorak. Utorak je dan kada sustavi postaju iskreni.
Tihi zaključak
Popularna slika umjetne inteligencije jest model koji govori. Korisna slika često je sustav koji odlučuje što bi moglo biti istinito, što se preferira, što je nemoguće i koji dokazi trebaju pratiti odgovor. Rješavači su dio te slike. Nisu glamurozni, ali su neobično dobri u tome da sustave učine manje nejasnima.
Oni tjeraju timove da imenuju ograničenja, ciljeve, kompromise i stanja neuspjeha. Jezičnim modelima daju strožeg partnera. Sustavima omogućuju odbijanje s razlozima umjesto improviziranja s uvjerenjem. Otkrivaju kada željeni ishod ne može koegzistirati s navedenim pravilima. Stvaraju zapise koje budući ljudi mogu pregledati. To nije cjelokupna korisna umjetna inteligencija, ali je jedan od dijelova koji najvjerojatnije sprječava da korisna umjetna inteligencija postane umjetna inteligencija koja samo izgleda korisno.
Isporuka prije podneva i dalje može propasti. Prometni incident može uništiti dobar plan. Dok se može zatvoriti. Kupac može promijeniti narudžbu. Ali sustav koji se oslanja na rješavač ne uspijeva drugačije. Može reći koja se pretpostavka pokazala netočnom, koje je ograničenje postalo obvezujuće i koje opcije ostaju. To je vrsta neuspjeha s kojom operacija može raditi.
Tihi mehanizam zaslužuje više pozornosti upravo zato što je tih. Ne piše uvijek rečenicu na ekranu. On odlučuje treba li rečenica uopće biti tamo.