Ratkaisijat ovat hiljaista koneistoa hyödyllisen tekoälyn takana
Vastaus, joka tarvitsi aikataulun
Ensimmäinen vaikuttava asia oli vastaus. Asiakas kysyi, voisiko toimitus saapua ennen puoltapäivää, jos yhdestä varastosta puuttui työvoimaa, kaksi ajoneuvoa oli jo varattu ja toimittaja oli lähettänyt myöhäisen päivityksen sellaisen ihmisen varmuudella, joka ei itse joutuisi ajamaan pakettiautoa. Avustaja tuotti siistin kappaleen: kyllä, mahdollista, uudelleenreititetyllä reitillä, muutetulla lastausjärjestyksellä ja huomautuksella, että yhtä luvattua aikaväliä tulisi siirtää kahdellakymmenellä minuutilla.
Kappale näytti tekoälyhetkeltä. Se ei ollut sitä. Hyödyllinen työ tapahtui pinnan alla, missä aikataulutusongelma oli muutettu muuttujiksi, rajoitteiksi, rangaistuksiksi ja hauksi. Kuljettajilla oli työaikarajoituksia. Tuotteilla oli lämpötilavaatimuksia. Ajoneuvoilla oli kapasiteettirajoituksia. Asiakkaille oli aikavälejä. Varastoilla oli laituri-rajoitteita. Järjestelmä pystyi kirjoittamaan lauseen vasta, kun jokin tiukempi mekanismi oli löytänyt toteuttamiskelpoisen muodon. Ilman tätä koneistoa avustaja olisi ollut itsevarma virkailija, joka pitää kalenteria ylösalaisin.
Tämä on osa tekoälyä, joka pysyy julkisessa keskustelussa kummallisen hiljaisena. Puhumme malleista, koska mallit ovat näkyviä. Ne kirjoittavat, luokittelevat, järjestävät, tiivistävät, piirtävät, tunnistavat ja suosittelevat. Mutta monista hyödyllisistä tekoälyjärjestelmistä tulee hyödyllisiä vasta, kun ratkaisija on lähellä. Ratkaisija ottaa sekavan toiveen ja kysyy, mikä voi itse asiassa olla totta samanaikaisesti. Se käy läpi mahdollisuuksia, hylkää mahdottomia yhdistelmiä, optimoi kompromisseja ja joskus todistaa, ettei vastausta ole olemassa annetuissa olosuhteissa.
Tuo viimeinen lause on tärkeä. Kyky sanoa, ettei toteuttamiskelpoista vastausta ole, ei ole vika. Se on usein ero avun ja hölynpölyn välillä. Järjestelmä, joka pystyy tuottamaan vain uskottavan vastauksen, muuttuu lopulta kalliiksi teatteriksi. Järjestelmä, joka pystyy ratkaisemaan, epäonnistumaan, selittämään epäonnistumisensa ja näyttämään, mikä rajoite esti lopputuloksen, on lähempänä insinöörityötä. Vähemmän glamouria, todennäköisemmin selviää torstaista.
Kieli ei ole sama asia kuin toteutettavuus
Kielimallit ovat erittäin hyviä tuottamaan vastauksen muotoisen objektin. Se ei ole loukkaus. Se on valtava kyvykkyys. Ne ymmärtävät pyynnön, löytävät olennaisen kontekstin, tuottavat luonnoksen, mukauttavat sävyä, kääntävät terminologiaa ja auttavat ihmisiä liikkumaan tiedon läpi nopeammin. Mutta sujuvuus ei tee vastauksesta toteuttamiskelpoista. Se voi kuvata aikataulun, joka rikkoo työlainsäädäntöä. Se voi ehdottaa hoitosuunnitelmaa, joka on ristiriidassa vasta-aiheen kanssa. Se voi tiivistää sopimuksen jättäen huomiotta lausekkeen, joka estää toimenpiteen. Lause voi olla hiottu, vaikka maailma kieltäytyy yhteistyöstä.
Ratkaisijat välittävät yhteistyöstä maailman kanssa. Ne työskentelevät eksplisiittisen rakenteen parissa: Boolen muuttujat, lineaariset rajoitteet, graafin särmät, aikavälit, resurssirajat, tyyppisäännöt, joukkoon kuuluminen, todennäköisyysrajat tai loogiset kaavat. Muoto vaihtelee, mutta tapa on sama. Ilmaise ehdot. Etsi avaruudesta. Hylkää se, mikä rikkoo ehdot. Paranna sitä, mikä jää jäljelle. Palauta tulos riittävän todistusaineiston kera, jotta toinen järjestelmän osa voi luottaa siihen oikeaan tarkoitukseen.
Siksi klassinen tekoäly ei koskaan oikeasti kadonnut. Siitä tuli infrastruktuuria. Haku, suunnittelu, toteutuvuus, rajoiteohjelmointi, lauseentodistus, kokonaislukuoptimointi, dynaaminen ohjelmointi, graafialgoritmit, verifiointi ja säätöteoria eivät hävinneet, kun neuroverkot muuttuivat näyttäviksi. Ne jatkoivat työtä, joka vaatii eksplisiittistä rakennetta. Nykyaikainen tekoälyinsinöörityö ei ole kilpailua sujuvien mallien ja tiukkojen ratkaisijoiden välillä. Se on kysymys siitä, miten ne saadaan toimimaan yhdessä ilman, että kummankaan tarvitsee esittää toista.
Malli voi kääntää ihmisen pyynnön strukturoiduksi ongelmaksi. Ratkaisija voi päättää, onko rakenteella kelvollinen ratkaisu. Malli voi selittää tuloksen ihmiskielellä. Verifioija voi tarkistaa todistuksen. Valvontajärjestelmä voi seurata, pitävätkö oletukset yhä paikkansa. Hyödyllinen järjestelmä on yhdistelmä, ei äänekkäin osa demossa.
Rajoitteet ovat paikka, jossa tarkoituksesta tulee rehellistä
Jokainen vakava tehtävä sisältää rajoitteita, vaikka kukaan ei olisi kirjannut niitä ylös. Lääketieteellisessä työnkulussa on turvallisuusrajoitteita, laajuusrajoitteita, suostumusrajoitteita, yksityisyysrajoitteita ja henkilöstörajoitteita. Logistiikan työnkulussa on kapasiteetti-, aika-, sijainti-, polttoaine-, huolto- ja sopimusrajoitteita. Julkisen päätöksenteon työnkulussa on laki-, todiste-, valitus-, oikeudenmukaisuus- ja dokumentaatiorajoitteita. Rahoituksen työnkulussa on riski-, likviditeetti-, vaatimustenmukaisuus- ja ajoitusrajoitteita. Ihmiset hoitavat monet näistä tottumuksesta. Ohjelmisto tarvitsee ne riittävän eksplisiittisesti toimiakseen.
Rajoitteiden kirjoittaminen on epämukavaa, koska se paljastaa, mitä organisaatio oikeasti tarkoittaa. Haluammeko nopeimman reitin vai nopeimman reitin, joka kunnioittaa lepoaikoja. Haluammeko halvimman suunnitelman vai halvimman suunnitelman, joka säilyttää varajärjestelyn. Haluammeko korkeimman konversion vai korkeimman konversion ilman ihmisten harhaanjohtamista. Haluammeko mallin vastaavan vai kieltäytyvän, kun tietue on puutteellinen. Rajoite on pieni moraalinen haastattelu insinöörityön naamiaisissa.
Hyvät rajoitteet eivät tee järjestelmistä jäykkiä pahassa mielessä. Ne tekevät joustavuudesta turvallista. Kun ratkaisija tietää kovat rajat, se voi etsiä aggressiivisesti niiden sisällä. Se voi löytää yhdistelmiä, jotka jäisivät ihmiseltä huomaamatta. Se voi sopeutua häiriöihin. Se voi vaihtaa kustannusta aikaan tai laatua energiaan säilyttäen samalla ne asiat, joista ei tingitä. Ilman rajoitteita joustavuudesta tulee improvisointia kojelaudan kanssa.
Tässä on oma käsityönsä. Jotkut rajoitteet ovat kovia, eikä niitä saa koskaan rikkoa. Jotkut ovat pehmeitä ja muuttuvat sanktioiksi. Jotkut ovat epävarmoja ja tarvitsevat puskureita. Jotkut ovat laillisia. Jotkut ovat fyysisiä. Jotkut ovat eettisiä. Jotkut ovat pelkkiä mieltymyksiä vakavan takin päällä. Jos insinööritiimi sekoittaa nämä keskenään, ratkaisija voi optimoida väärää asiaa vaikuttavalla kurinalaisuudella. Tietokoneet eivät ole itsepäisiä, koska ne ovat ilkeitä. Ne ovat itsepäisiä, koska kysyimme huonosti.
Tavoitteet eivät ole arvoja
Tavoitefunktio on se osa, joka kertoo, mitä parempi tarkoittaa kelvollisten vastausten joukossa. Minimoi matka-aika. Maksimoi kattavuus. Vähennä energiaa. Tasapainota kuorma. Paranna muistamista. Alenna kustannuksia. Pidä jonot tasaisina. Nämä ovat hyödyllisiä tavoitteita. Ne eivät itsessään ole arvoja. Arvot sijaitsevat rajoitteiden, sanktioiden, kynnysten, tarkistusreittien valinnassa ja päätöksessä siitä, milloin optimointia ei pitäisi ajaa lainkaan.
Yksi vanhimmista virheistä tekoälyoperaatioissa on antaa ratkaisijalle kapea tavoite ja sitten hämmästyä, kun se seuraa tavoitetta suoraan seinään. Jos sairaala optimoi ajanvarauksen käyttöastetta ilman riittäviä rajoitteita potilaan matkustamiselle, kliiniselle kiireellisyydelle ja henkilökunnan palautumiselle, se voi tuottaa kauniin aikataulun, joka huonontaa kaikkien tilannetta. Jos asiakaspalvelun työnkulku optimoi ratkaisuastetta, se voi oppia ratkaisemaan vääriä asioita nopeasti. Jos petostentorjuntamalli optimoi pelkän tarkkuuden, se voi jättää huomiotta tapaukset, joissa haitta jakautuu epätasaisesti. Ratkaisija tekee työnsä. Kysymys ei ollut riittävän rehellinen.
Hyödyllinen tekoäly kohteleekin tavoitteita osana hallintaa. Kuka valitsi tavoitteen. Mitä vaihtoehtoja harkittiin. Mihin ryhmiin vaikutukset kohdistuvat. Mitkä rajoitteet ovat kovia. Mitkä kompromissit ovat näkyvissä. Mitkä tulokset vaativat ihmisen harkintaa. Mitkä mittarit paljastaisivat vahingon. Tämä kuulostaa hallinnolliselta, mutta se on myös teknistä. Tavoitteet ovat koodia, kun ne on otettu käyttöön. Ne ansaitsevat enemmän kuin motivoivan lauseen.
Ratkaisijat auttavat juuri siksi, että ne voivat tuoda kompromissit esiin. Ne voivat osoittaa, ettei aikataulua ole olemassa ilman ylitöitä, että kustannukset laskevat vain, jos varajärjestelmä katoaa, että korkeampi herkkyystavoite lisää arviointikuormaa tai että käytäntö luo mahdottomia yhdistelmiä. Sujuva malli voi siloitella tämän epämukavuuden. Hyvä ratkaisija tekee epämukavuudesta luettavaa.
Ei vastausta on joskus paras vastaus
Hyödyllisillä järjestelmillä on oltava arvokas tapa epäonnistua. Reittiä ei voi suorittaa. Näyttö ei riitä. Käytännön säännöt ovat ristiriidassa. Pyydetty aikataulu rikkoo kapasiteetin. Optimointi ylittäisi riskikynnyksen. Rajoitteet eivät ole täytettävissä. Nämä eivät ole nolostuttavia tuloksia. Ne ovat arvokasta tietoa, kunhan järjestelmä osaa kertoa, mikä esti vastauksen ja mitä pitäisi muuttaa.
Vain kieleen perustuva käyttöliittymä houkuttelee jatkamaan puhumista. Se voi tarjota vaihtoehtoja, pehmentää epävarmuutta tai tuottaa parhaan mahdollisen yrityksen, joka näyttää avuliaalta. Joskus se on hyvä asia. Joskus se on vaarallista. Ratkaisija voi ankkuroida keskustelun erottamalla toteutettavissa olevat, toteuttamiskelvottomat, tuntemattomat ja soveltamisalan ulkopuoliset vaihtoehdot. Se voi käskeä käyttöliittymää lopettamaan ei-vastauksen koristelun. Tämä on hyvää käytöstä todellisuutta kohtaan.
Teknisesti tämä ero on tärkeä, koska jokainen tila vaatii oman työnkulkunsa. Toteuttamiskelpoinen voi edetä. Toteuttamiskelvoton voi käynnistää neuvottelun tai eskalointiprosessin. Tuntematon voi johtaa lisätietojen hankintaan, pidempään hakuun tai manuaaliseen tarkasteluun. Soveltamisalan ulkopuolella oleva voi johtaa kieltäytymiseen. Jos kaikki muutetaan kappaleiksi, operatiivinen toiminta menettää tilat, joita se tarvitsee toimiakseen. Käyttöliittymästä tulee sujuvampi samalla kun organisaatiosta tulee sokeampi.
Kyky selittää epäonnistuminen on erityisen hyödyllinen. Mikä rajoite esti suunnitelman. Mikä puuttuva kenttä esti arvioinnin. Mikä sääntö on ristiriidassa minkä muun säännön kanssa. Mitä resurssia pitäisi kasvattaa. Mikä oletus muuttui. Tällainen selitys on vähemmän runollinen kuin generoitu perustelu, mutta huomattavasti toiminnallisempi. Se kertoo ihmisille, mitä voidaan muuttaa ja mitä ei pitäisi muuttaa pelkästään siksi, että kokous haluaa myöntävän vastauksen.
Näyttö muuttaa ratkaisijan toiminnalliseksi komponentiksi
Ratkaisijan tulos muuttuu arvokkaammaksi, kun se sisältää näyttöä. Joillakin toimialoilla tämä näyttö on todistussertifikaatti. Toisilla se on optimoinnin jäljitys, sitovien rajoitteiden joukko, toteutettavuusraportti, herkkyysanalyysi tai toistettavissa oleva suorituslokitietue. Yhteinen ominaisuus on, että tulos voidaan tarkistaa myöhemmin ilman, että kaikkien täytyy luottaa samaan koneeseen samassa mielentilassa.
Tässä kohtaa ratkaisijat kohtaavat hallinnon. Päätösjärjestelmän ei pitäisi vain sanoa, että suunnitelma on optimaalinen tai toteuttamiskelpoinen. Sen pitäisi säilyttää syötteet, versiot, rajoitteet, tavoitefunktio, ratkaisijan asetukset, pysäytyskriteerit, valittu tulos, hylätyt vaihtoehdot silloin kun ne ovat olennaisia, sekä seurannut ihmisen toimenpide. Jos asiakas, potilas, viranomainen, operaattori tai tuleva insinööri kysyy miksi, organisaation ei pitäisi joutua rekonstruoimaan päätöstä kolmesta kojelaudasta ja yhden kollegan muistista.
Näyttö auttaa myös virheenjäljityksessä. Jos suunnitelma on huono, oliko tavoitefunktio väärä, olivatko rajoitteet puutteelliset, oliko data vanhentunutta, oliko ratkaisija väärin konfiguroitu, oliko mallin käännös virheellinen vai oliko ihmisen pyyntö mahdoton. Ilman tietueita jokaisesta epäonnistumisesta tulee perimätietoa. Tietueiden avulla tiimi voi korjata oikean kerroksen. Tämä on vähemmän jännittävää kuin tekoälyn yleinen syyttäminen, mutta korjausprosentti on parempi.
Ratkaisijaa pitäisi siis kohdella ensiluokkaisena toiminnallisena komponenttina. Se tarvitsee havaittavuutta, testejä, versiointia, suorituskykybudjetteja, varakäyttäytymistä ja tarkastuspolkuja. Se tarvitsee syötteiden validoinnin. Se tarvitsee aikakatkaisuja. Se tarvitsee tavan palauttaa osittaiset tulokset rehellisesti. Se tarvitsee seurantaa tapauksille, joissa tuotanto-ongelmat erkanevat benchmark-sarjasta. Ratkaisija, joka on piilotettu iloisen käyttöliittymän taakse, on silti infrastruktuuria. Infrastruktuuria jätetään huomiotta, kunnes sillä on riittävästi vipuvaikutusta.
Mallit ja ratkaisijat tarvitsevat erilaista nöyryyttä
Mallin tulee olla nöyrä totuuden suhteen. Se voi olla väärässä, epätäydellinen, liian itsevarma, alimääritelty tai koulutusjakaumansa ulkopuolella. Ratkaisijan tulee olla nöyrä muotoilun suhteen. Se voi ratkaista esitetyn ongelman täydellisesti, vaikka esitetty ongelma kuvaisi todellista ongelmaa huonosti. Nämä ovat erilaisia vikatiloja, ja hyödyllinen tekoäly kunnioittaa molempia.
Malli voi ymmärtää pyynnön väärin. Ratkaisija voi optimoida väärän tavoitteen. Data voi olla vanhentunutta. Rajoitteista voi puuttua se sosiaalinen sääntö, jonka kaikki olettivat itsestäänselväksi. Tavoite voi koodata korvikemittarin, josta johto pitää enemmän kuin käyttäjät. Tulos voi olla matemaattisesti oikea ja toiminnallisesti mahdoton hyväksyä. Kypsä järjestelmä ei teeskentele, että yksi komponentti voi imeä kaikki nämä riskit. Se pitää rajat näkyvillä.
Siksi kielen ja rakenteen välinen käännös ansaitsee tarkastelua. Jos malli muuttaa esimiehen pyynnön ratkaisijaongelmaksi, käännöksen tulee olla tarkastettavissa. Mitkä muuttujat luotiin. Mitkä rajoitteet pääteltiin. Mitkä rajoitteet puuttuivat. Mikä tavoite valittiin. Mikä epäselvyys ratkaistiin hiljaa. Piilotettu käännöskerros on vain toinen musta laatikko, jolla on parempi kielioppi.
Ihmisasiantuntijat ovat edelleen tärkeitä, mutta eivät koristeellisina hyväksyjinä. He tietävät, mitkä rajoitteet ovat todellisia, mitkä säännöt taipuvat, mitkä poikkeukset ovat vaarallisia ja mitkä tavoitteet luovat vääristyneitä kannustimia. Hyvä ratkaisijapohjainen järjestelmä antaa asiantuntijoille vipuvoimaa. Se ei pyydä heitä siunaamaan vastausta sen jälkeen, kun koneisto on jo tehnyt tärkeistä valinnoista näkymättömiä.
Vanha koneisto ei ole vanhanaikaista
Teknologiassa on tapana kohdella vanhempia menetelmiä vanhentuneina, kun uudemmasta menetelmästä tulee muodikas. Tämä on lapsellista, mutta hienommilla fonteilla. SAT-ratkaisijat, SMT-ratkaisijat, sekalukuoptimointi, rajoiteohjelmointi, suunnittelujärjestelmät, graafihaku, lauseentodistus ja ohjausmenetelmät ovat edelleen keskeisiä, koska monilla ongelmilla on edelleen rakennetta. Rakenne voi olla piilossa chat-käyttöliittymän alla, mutta se ei ole kadonnut.
Itse asiassa moderni tekoäly tekee ratkaisijoista tärkeämpiä. Kun mallit tuottavat enemmän ehdokastoimintoja, jonkun on tarkistettava ne. Kun agentit kutsuvat työkaluja, jonkun on päätettävä, mitkä sekvenssit ovat sallittuja. Kun haku tuottaa lähteitä, jonkun on ratkaistava ristiriidat. Kun automatisoidut työnkulut koskettavat politiikkaa, jonkun on valvottava rajoitteita. Kun synteettiset suunnitelmat näyttävät uskottavilta, jonkun on kysyttävä, täyttävätkö ne todellisen maailman vaatimukset. Ratkaisijat eivät ole nostalgiaa. Ne ovat aikuisen valvonnan kerros järjestelmille, jotka voivat nyt ehdottaa monia asioita nopeasti.
Tarkoitus ei ole korvata neuroverkkomalleja symbolisella koneistolla. Tarkoitus on yhdistää. Anna mallien käsitellä epäselvyyttä, kieltä, havaintoa ja sotkuista kontekstia. Anna ratkaisijoiden käsitellä eksplisiittistä toteutettavuutta, optimointia, todistusta ja rajattua hakua. Anna sääntöjen kantaa politiikkaa siellä, missä politiikan on oltava täsmällistä. Anna ihmisten omistaa tarkoitus, harkinta ja poikkeukset. Raja vaihtelee toimialoittain, mutta periaate on vakaa: älä pyydä sujuvaa koneistoa tekemään täsmällistä työtä ilman täsmällistä kumppania.
Tiimit, jotka ymmärtävät tämän, rakentavat hiljaisempia järjestelmiä. Demo voi näyttää vähemmän maagiselta, koska vastaus sanoo joskus mahdoton. Toiminta on parempaa, koska mahdoton on juuri se, mitä tiimin piti tietää ennen kuin se lupasi keskipäivän toimitusta, automaattista hyväksyntää tai riskipistettä, jota joku kohtelee kohtalona.
Viive, kustannukset ja ratkaisemisen arkipäiväisyys
Ratkaisijat tekevät tekoälystä myös käytännöllistä pienissä yksityiskohdissa. Ratkaisija, joka vie neljä tuntia, voi olla erinomainen strategiseen suunnitteluun ja hyödytön reaaliaikaisessa lähetysnäkymässä. Heuristiikka, joka palauttaa riittävän hyvän reitin kahdessa sekunnissa, voi päihittää tarkan ratkaisijan operatiivisessa toiminnassa. Todistuksen tuottava ratkaisija voi olla välttämätön korkean panoksen päätöksissä ja tarpeeton lounastilauksissa, jopa organisaatioissa, jotka ottavat voileivät hyvin vakavasti.
Tekniikan ala on täynnä tällaisia valintoja. Tarkkuus, nopeus, muistin käyttö, selitettävyys, energia ja toteutuksen monimutkaisuus vetävät eri suuntiin. Oikea ratkaisija eräajona tehtävään tarkastukseen ei välttämättä ole oikea ratkaisija reaaliaikaiseen reititykseen. Paikallinen hakumenetelmä voi riittää, kun epäoptimaalisen vastauksen hinta on pieni. Täydellinen menetelmä voi olla välttämätön, kun kieltäytymiseen liittyy oikeudellisia tai turvallisuusvaikutuksia. Hyödyllistä tekoälyä ei rakenneta palvomalla yhtä tekniikkaa. Se rakennetaan sovittamalla tekniikka seurauksiin.
Tässä kohdassa vertailuarvojen on oltava rehellisiä. Ratkaisijan vertailuarvon tulisi kuvastaa todellista ongelmajakaumaa, ei vain siistejä esimerkkejä. Sen tulisi sisältää mahdottomia tapauksia, epäsiistejä syötteitä, aikakatkaisuja, reunaehtoja ja muuttuvaa dataa. Sen tulisi raportoida paitsi keskimääräinen nopeus myös vikatilat. Järjestelmä, joka on nopea helppojen tapausten kanssa ja hiljaa hankalien kanssa, ei ole ollut vertailuarvojen kohteena. Sitä on imarreltu.
Myös kustannuksilla on merkitystä. Ratkaisija voi vähentää laskentaa karsimalla hakua ennen kuin suurelta mallilta pyydetään päättelyä. Se voi välttää toistuvan päättelyn välimuistiin tallennettujen rakenteellisten tulosten avulla. Se voi valita, milloin pieni malli riittää ja milloin suurempi malli on perusteltu. Hiljainen koneisto hyödyllisen tekoälyn takana on usein myös koneisto edullisen tekoälyn takana. Talousosastot harvoin taputtavat, mutta he kyllä huomaavat laskut.
Käyttöönoton jälkeinen silmukka
Ratkaisijapohjainen tekoälyjärjestelmä ei ole valmis, kun se palauttaa ensimmäisen oikean vastauksen. Oikea työ muuttuu. Uusia rajoitteita ilmaantuu. Vanhat rajoitteet muuttuvat vääriksi. Ihmiset sopeutuvat järjestelmään. Dataputket ajautuvat. Käytännöt vaihtavat nimiä, koska joku löysi mallipohjan. Ratkaisija ratkaisee edelleen, mutta ongelman kuvaus on voinut hiljaa vanhentua.
Operatiiviset silmukat pitävät järjestelmän rehellisenä. Seuraa mahdottomien tapausten määriä, aikakatkaisujen määriä, ohituksen syitä, sitovia rajoitteita, tavoitefunktion arvoja, datan tuoreutta, vaikutettujen käyttäjien osajoukkoja ja tapauksia, joissa ihmiset hylkäävät tuloksen. Arvioi, ovatko rajoitteet edelleen täydellisiä. Tarkista tavoitteet uudelleen, kun kannustimet muuttuvat. Testaa, vangitseeko malli-ratkaisija-käännös edelleen pyynnön. Vertaa ennustettuja kompromisseja toteutuneisiin tuloksiin. Ratkaisija voi olla matemaattisesti vakava ja operatiivisesti vanhentunut. Molemmat voivat olla totta, koska todellisuudella on laajuutta.
Silmukan tulisi myös säilyttää oppi kieltäytymisestä. Kun järjestelmä sanoo, ettei toteutettavissa olevaa aikataulua ole, mitä tapahtui seuraavaksi. Lisäsivätkö ihmiset kapasiteettia, muuttivatko he käytäntöä, höllensivätkö he mieltymystä, löysivätkö he huonoa dataa vai painostivatko he jotakuta jättämään rajoitteen huomiotta. Nämä tulokset opettavat, ilmaiseeko järjestelmä todellisuutta vai pelkästään estääkö se työtä. Kieltäytyminen ilman tarkastelua muuttuu esteeksi. Kieltäytyminen todisteineen muuttuu johdon tiedoksi.
Kuten kaikissa vakavissa järjestelmissä, omistajuudella on merkitystä. Jonkun on omistettava muotoilu, jonkun data, jonkun ratkaisijan suorituskyky, jonkun käyttöliittymä ja jonkun toimintakäytäntö. Jos kaikki omistavat hyödyllisen tekoälyn yleisesti, kukaan ei omista rajoitetta, joka petti tiistaina. Tiistaina järjestelmistä tulee rehellisiä.
Hiljainen johtopäätös
Suosittu mielikuva tekoälystä on malli, joka puhuu. Hyödyllinen mielikuva on usein järjestelmä, joka päättää, mikä voi olla totta, mikä on toivottavaa, mikä on mahdotonta ja minkä näytön tulisi kulkea vastauksen mukana. Ratkaisijat ovat osa tätä mielikuvaa. Ne eivät ole loistokkaita, mutta ne ovat poikkeuksellisen hyviä tekemään järjestelmistä vähemmän epämääräisiä.
Ne pakottavat tiimit nimeämään rajoitteet, tavoitteet, kompromissit ja epäonnistumistilat. Ne antavat kielimalleille tiukemman kumppanin. Ne antavat järjestelmien kieltäytyä perustein sen sijaan, että ne improvisoisivat itsevarmasti. Ne paljastavat, milloin toivottu lopputulos ei voi esiintyä yhdessä ilmoitettujen sääntöjen kanssa. Ne luovat tallenteita, joita tulevat ihmiset voivat tutkia. Tämä ei ole koko hyödyllinen tekoäly, mutta se on yksi niistä osista, jotka todennäköisimmin estävät hyödyllistä tekoälyä muuttumasta hyödyllisen näköiseksi tekoälyksi.
Toimitus ennen puoltapäivää voi silti epäonnistua. Liikenneonnettomuus voi pilata hyvän suunnitelman. Laituri voi sulkeutua. Asiakas voi muuttaa tilausta. Mutta ratkaisijapohjainen järjestelmä epäonnistuu eri tavalla. Se voi kertoa, mikä oletus rikkoutui, mikä rajoite tuli sitovaksi ja mitkä vaihtoehdot ovat jäljellä. Sellaisen epäonnistumisen kanssa operaatio voi työskennellä.
Hiljainen koneisto ansaitsee enemmän huomiota juuri siksi, että se on hiljaista. Se ei aina kirjoita lausetta näytölle. Se päättää, pitäisikö lauseen olla siellä lainkaan.