Kako stroji razmišljajo (ali ne)

Kako stroji razmišljajo (ali ne)

Vrzel med vzorci in razmišljanjem

AI lahko premaga ljudi v šahu. Diagnosticira bolezni iz slik. Napiše koherentne eseje. Deluje inteligentno. Zdi se, kot da razmišlja.

Ampak tukaj je neprijetna resnica: večina AI ne razmišlja. Prepoznava vzorce. Sjajno. V ogromnem obsegu. Ampak prepoznavanje vzorcev ni razmišljanje.

Razumevanje razlike je pomembno. Ker problemi, ki jih moramo reševati z AI, vse bolj zahtevajo dejansko razmišljanje. Ne samo prepoznavanje vzorcev.

Kaj razmišljanje dejansko je

Razmišljanje je izpeljevanje zaključkov iz informacij. Ne samo korelacij. Dejansko logično sklepanje. Iz danih dejstev izpelji nova dejstva. Iz danih premis doseži zaključke.

Primer človeškega razmišljanja:

Premisa 1: Vsi sesalci so toplokrvni.

Premisa 2: Kiti so sesalci.

Zaključek: Zato so kiti toplokrvni.

Tega posebnega silogizma še nikoli nisi videl. Ampak si razmišljal skozi njega. Uporabil logiko. Izpeljal zaključek. To je razmišljanje.

Kaj AI naredi drugače:

Nevronske mreže vidijo milijone primerov. "Sesalci" se pogosto pojavlja z "toplokrvni". "Kiti" se pogosto pojavljajo z "sesalci". Statistična povezava. Mreža napove, da so "kiti toplokrvni", ker vzorci to nakazujejo. Ne zato, ker razume logično povezavo.

Oba dobita pravilen odgovor. Samo eden razmišlja.

Vrste sklepanja

Različni problemi zahtevajo različne pristope k sklepanju:

Deduktivno sklepanje:

Od splošnega k posebnemu. Dana pravila uporabi za posebne primere. Zagotovljeni sklepi, če so premise resnične.

Primer: Vsi ptiči imajo perje. Vrabci so ptiči. Zato imajo vrabci perje.

Logični motorji so v tem odlični. Veriženje naprej (uporaba pravil za dejstva) ali veriženje nazaj (delo od cilja do potrebnih dejstev). Deterministično. Zanesljivo.

Induktivno sklepanje:

Od posebnega k splošnemu. Opazuj primere. Poišči vzorce. Posploši pravila.

Primer: Videl 100 labodov. Vsi so bili beli. Sklep: vsi labodi so beli. (Pravzaprav narobe. Črni labodi obstajajo. Indukcija ni zagotovljena.)

Prav zato evropski regulatorji ne zaupajo čisto induktivni umetni inteligenci pri kritičnih odločitvah. Akt EU o umetni inteligenci ne sprejema "učili smo se na 10 milijonih primerov" kot dokaz pravilnosti. En črni labod, en robni primer, ki so ga učni podatki spregledali, in vaša medicinska diagnostična umetna inteligenca nekoga ubije, vaš posojilni algoritem diskriminira, vaše avtonomno vozilo se zaleti. Indukcija deluje, dokler katastrofalno ne odpove. Evropska inženirska kultura, zgrajena na stoletjih "pokaži mi matematični dokaz", ima verjetnostno umetno inteligenco za neprijetno vero podobno prakso.

Nevronske mreže so induktivni stroji. Milijoni primerov. Izluščijo vzorce. Posplošujejo. To je njihova moč.

Abduktivno sklepanje:

Od opazovanja do najboljše razlage. Iz danih učinkov sklepaj na vzroke.

Primer: Trava je mokra. Najboljša razlaga: deževalo je. (Lahko bi bili tudi škropilniki. Abdukcija najde verjetne razlage, ne zagotovljenih.)

Diagnostični sistemi to uporabljajo. Medicinska umetna inteligenca opazuje simptome in sklepa na bolezni. Generiranje hipotez.

Vzročno sklepanje:

Razumevanje razmerij med vzroki in posledicami. Ne le korelacija. Dejanska vzročnost.

Primer: Kajenje povzroča raka. Ne le "kadilci pogosteje zbolijo za rakom." Vzročni mehanizem.

To je za umetno inteligenco težko. Korelacijo je v podatkih lahko najti. Vzročnost zahteva razumevanje. Večini umetne inteligence to manjka.

Evropske raziskovalne ustanove se ukvarjajo z raziskavami vzročne umetne inteligence, ki jih poganjajo regulativne zahteve po dokazovanju vzročnih mehanizmov in ne zgolj korelacij. Ko morajo medicinski pripomočki dokazati, da intervencija X povzroči izid Y (ne le da z njim korelira), postane vzročno sklepanje nujno. Evropski regulativni okviri vse bolj poudarjajo to razliko, kar ustvarja močne spodbude za raziskave in razvoj na področju vzročnega sklepanja.

Analogno sklepanje:

Prenos znanja med podobnimi področji. »To je kot ono, torej verjetno ...«

Primer: atomi so kot sončni sistemi. Elektroni krožijo okoli jedra, kot planeti krožijo okoli sonca. (Uporabna analogija, ne dobesedna resnica.)

Pomaga pri posploševanju med področji. UI pri tem postaja vse boljša. A je še vedno omejena v primerjavi z ljudmi.

Trenutni jezikovni modeli ustvarjajo zabavne napake pri analogijah. Prosite za analogijo in ustvarili bodo nekaj skladenjsko popolnega, pomensko nesmiselnega. »Zavest je kot kartotečna omara, ker oboje vključuje shranjevanje informacij« tehnično uporablja analogno strukturo, a povsem zgreši, kaj analogije dela pronicljive. Ljudje slabe analogije prepoznamo takoj. UI jih samozavestno podaja kot globoke vpoglede. Ujemanje vzorcev oblike sklepanja brez razumevanja vsebine.

Zakaj imajo nevronske mreže težave s sklepanjem

Nevronske mreže odlično prepoznavajo vzorce. Sklepanje je nekaj drugega:

• Ni eksplicitne logike: Nevronske mreže nimajo logičnih pravil. Samo uteži. Milijarde številskih parametrov. Vzorci nastanejo z usposabljanjem. A ni eksplicitnih pravil »če-potem«. Logika je kvečjemu implicitna. V najslabšem primeru nedostopna.
• Ni sestavljivosti: Človeško sklepanje je sestavljivo. Preprosta pravila združimo v zapletene argumente. Nevronske mreže sklepanja naravno ne razčlenjujejo na ponovno uporabne logične sestavine. Vsako sklepanje je celostno. Nepregledno.
• Ni zagotovil: Logično sklepanje daje gotovost. Če so premise resnične, je resničen tudi sklep. Nevronske mreže dajejo verjetnosti. »90-odstotna gotovost« ni isto kot »logična gotovost«. Pri kritičnih odločitvah je to pomembno.
• Ni razlage: Zakaj je mreža sklenila X? »Vzorci aktivacije v plasti 47.« Ni v pomoč. Logično sklepanje ponuja korake dokaza. Sledljive. Preverljive. Nevronsko sklepanje je črna škatla.
• Krhka posplošitev: Logična pravila veljajo univerzalno. Nevronski vzorci so odvisni od podatkov. Sprememba porazdelitve jih poruši. Sklepanje bi moralo biti robustno. Ujemanje vzorcev pogosto ni.

To ne pomeni, da so nevronske mreže neuporabne. Prepoznavanje vzorcev je dragoceno. A to ni sklepanje.

Veriga misli: kako nevronske mreže »sklepajo«

Nedavni preboj: verižno razmišljanje. Jezikovnim modelom omogočimo, da pokažejo svoje korake sklepanja.

Standardno pozivanje:

Vprašanje: "Palica in žogica staneta 1,10 €. Palica stane 1 € več kot žogica. Koliko stane žogica?"

UI: "0,10 €" (Napačno. Intuitivni odgovor, ne preudarni.)

Pozivanje z verižnim razmišljanjem:

Vprašanje: "Palica in žogica staneta 1,10 €. Palica stane 1 € več kot žogica. Koliko stane žogica? Razmislimo korak za korakom."

UI: "Recimo, da je cena žogice X. Potem palica stane X + 1 €. Skupaj: X + (X + 1 €) = 1,10 €. Torej 2X + 1 € = 1,10 €. Zato 2X = 0,10 €. Torej X = 0,05 €. Žogica stane 0,05 €."

Isti model. Drugačen poziv. Pravilen odgovor. Zakaj? Prisiljevanje k eksplicitnim korakom sklepanja pomaga. Model še vedno prepoznava vzorce. Toda vzorce nad koraki sklepanja, ne le nad odgovori. Bližje dejanskemu sklepanju.

Problem s palico in žogico je izjemno diagnostičen. Ljudje ga rešimo narobe zaradi razmišljanja sistema 1: hitro, intuitivno, napačno. UI ga reši narobe zaradi ... tudi intuicije, v bistvu, le statistične. Če oba upočasnimo in ju prisilimo, da pokažeta svoje delo, se oba izboljšata. Razlika: ljudje se počutijo osramočene, ko so popravljeni. UI mu je vseeno. Samozavestno vam bo dal 0,10 €, nato samozavestno 0,05 €, nato pa samozavestno pojasnil, zakaj je bil 0,10 € ves čas očitno napačen. Brez sramu, brez učenja, le prepoznavanje vzorcev pri različnih pozivih.

Omejitve ostajajo. "Sklepanje" je še vedno statistično. Brez logičnih zagotovil. A to je napredek.

Simbolna UI: tradicionalni pristopi k sklepanju

Preden so prevladale nevronske mreže, je vladala simbolna UI. Drugačna filozofija:

Eksplicitna predstavitev znanja: Dejstva in pravila v logični obliki. "ČE ima žival perje POTEM je žival ptica." Jasno. Razumljivo.

Logični motorji: Veriženje naprej, veriženje nazaj. Uporaba pravil. Izpeljava zaključkov. Deterministično. Pojasnljivo.

• Prednosti: Zagotovljeni pravilni sklepi (če so pravila pravilna). Pojasnljive verige sklepanja. Obvladajo nove kombinacije pravil. Delujejo z majhnimi količinami podatkov.
• Slabosti: Zahteva ročno ustvarjanje pravil. Krhka (resnični svet je neurejen). Slabo obvladuje negotovost. Slabo se prilagaja zapletenim področjem.

Zato so prevzele vlogo nevronske mreže. Resnični svet ima šum. Izjeme. Dvoumnost. Simbolna UI se muči. Nevronske mreže uspevajo.

A izgubili smo nekaj: zagotovila sklepanja. Pojasnljivost. Logično gotovost.

Evropejci simbolne UI nikoli niso povsem opustili, zlasti na področjih, kjer je varnost ključna. Letalska in avtomobilska industrija še naprej uporabljata formalne metode (v bistvu simbolno sklepanje) za certificiranje sistemov, kritičnih za varnost. Proizvajalci medicinskih pripomočkov na reguliranih evropskih trgih morajo zagotoviti logične dokaze pravilnosti. Ko organi za certificiranje zahtevajo matematično preverjanje, čiste nevronske mreže ne zadostujejo. Simbolni dokazi ostajajo nujni. Evropsko inženirstvo je ohranilo te zmogljivosti, medtem ko so drugod prevladovale nevronske mreže.

Hibridni pristopi: najboljše iz obeh svetov

Trenutna meja: združiti nevronsko in simbolno. Izkoristiti prednosti vsakega.

• Nevronsko-simbolna integracija: Nevronske mreže iz podatkov izluščijo vzorce. Pretvorijo jih v simbolna pravila. Uporabijo logično sklepanje. Dobimo prepoznavanje vzorcev IN logično sklepanje.
• Kako deluje: 1. Nevronska mreža obdela vhode. Ustvari vdelave (vektorske predstavitve).

2. Vdelave se pretvorijo v simbolna dejstva. "entiteta X ima lastnost Y."

3. Simbolni sklepalni motor uporabi logična pravila za dejstva.

4. Sklepi se po potrebi pretvorijo nazaj v nevronsko obliko.

Dvosmerno prevajanje. Iz nevronskega v simbolno. Iz simbolnega v nevronsko. Vsako počne tisto, pri čemer je dobro.

Prednosti: Prepoznavanje vzorcev iz nevronskega. Logična zagotovila iz simbolnega. Razložljive verige sklepanja. Odpornost na spremembe porazdelitve (pravila veljajo univerzalno).

Izzivi: Režijski stroški prevajanja. Vzdrževanje skladnosti med nevronsko in simbolno predstavitvijo. Zapletenost integracije.

Vredno na področjih, ki zahtevajo sklepanje. Medicinska diagnoza. Pravna analiza. Varnostno kritične odločitve. Kjer "90-odstotna gotovost" ni dovolj.

Evropski razvoj hibridne umetne inteligence:

Evropske raziskovalne ustanove imajo močne spodbude za nevronsko-simbolno integracijo. To poganja regulativna nuja. Zahteve po razložljivosti iz akta EU o umetni inteligenci so za čiste nevronske mreže zahtevne. Zahteve GDPR po preglednosti zahtevajo sledljivo sklepanje. Te omejitve potiskajo razvoj k hibridnim pristopom.

Evropske univerze raziskujejo nevronsko-simbolne arhitekture za regulirana področja, kot je medicinska diagnoza, pri čemer združujejo nevronsko prepoznavanje vzorcev s simbolnim sklepanjem, ki uporablja klinične smernice, ter zagotavljajo tako statistično gotovost kot logično utemeljitev. Raziskave se osredotočajo na "razložljivo umetno inteligenco", kjer nevronsko zaznavanje napaja simbolno sklepanje in ohranja preglednost skozi celoten postopek odločanja.

Evropski raziskovalni inštituti razvijajo hibridne sisteme za industrijsko avtomatizacijo: nevronske mreže obdelujejo podatke s senzorjev, simbolni načrtovalci pa sprejemajo operativne odločitve z dokazljivimi varnostnimi zagotovili. Ti sistemi se uvajajo v okoljih, kjer bi nerazložljive odločitve umetne inteligence lahko povzročile škodo, kar zahteva formalno preverjanje.

Vzorec: regulativne zahteve po razložljivosti in varnosti ustvarjajo močan selekcijski pritisk za arhitekture, ki združujejo nevronske in simbolne pristope. Omejitve poganjajo inovacije k sistemom, ki izpolnjujejo tako zahteve po zmogljivosti kot po skladnosti.

Sklepanje na podlagi omejitev (pristop Dweve)

Binarni omejitveni sistemi ponujajo drugo pot:

• Eksplicitne omejitve: Znanje, kodirano kot binarne omejitve. "Če so izpolnjeni pogoji A, B, C, potem velja sklep D." Logična pravila. Deterministično.
• Učinkovito sklepanje: Operaciji XNOR in popcount preverjata izpolnjevanje omejitev. Binarne operacije. Domače v strojni opremi. Hitro.
• Sestavljiva logika: Omejitve se sestavljajo. Združite preproste omejitve v zapleteno sklepanje. Modularno. Ponovno uporabno.
• Razložljive odločitve: Vsak sklep je mogoče izslediti do omejitev. Katere omejitve so se sprožile? Zakaj? Revizijska sled se samodejno ustvari. Preglednost po zasnovi.

Primer: Dweve Loom

456 nizov omejitev področnih strokovnjakov. Vsak vsebuje od 2 do 3,5 milijona binarnih omejitev. Odkrilo jih je evolucijsko iskanje. Niso ročno izdelani. Toda ko so odkriti, so deterministična logika.

Poizvedba: vzorec se ujema z omejitvami. PAP (Permuted Agreement Popcount) določi, kateri nizi področnih strokovnjakov so pomembni. Izbrani področni strokovnjaki uporabijo svoje omejitve. Sklepanje z binarno logiko. Sledljivo. Preverljivo.

Ne ujemanje vzorcev. Dejansko izpolnjevanje omejitev. Logično sklepanje. S hitrostjo strojne opreme.

Prihodnost sklepanja umetne inteligence

Kam to pelje?

• Boljša simbolična integracija: Brezhibna nevronsko-simbolična prevodnost. Nevronske mreže, ki naravno ustvarjajo simbolične predstavitve. Poenotena arhitektura.
• Preverjeno sklepanje: Formalno preverjanje sklepanja umetne inteligence. Matematični dokazi, da so zaključki pravilni. Za varnostno kritične aplikacije. Brez "90-odstotne gotovosti." Zajamčena pravilnost.
• Vzročno sklepanje: UI, ki razume vzročnost. Ne le korelacijo. Odgovarja na "zakaj", ne le na "kaj". Omogoča boljše posege. Boljše napovedi. Pravo razumevanje.
• Meta-sklepanje: UI, ki razmišlja o lastnem sklepanju. Ocenjuje kakovost sklepanj. Prepozna, kdaj ni gotova. Kdaj potrebuje več informacij. Kdaj naj prepusti odločitev ljudem. Samozavedajoče se sklepanje.
• Porazdeljeno sklepanje: Sistemi z več agenti, kjer različni agenti prispevajo različne načine sklepanja. Eden uporablja dedukcijo. Eden abdukcijo. Eden vzročnost. Kolektivna inteligenca skozi raznoliko sklepanje.

Cilj ni nadomestiti prepoznavanje vzorcev. Cilj je nadgraditi ga z dejanskim sklepanjem. Najboljše iz obeh svetov. Zaznavanje skozi vzorce. Sklepanje skozi logiko. Takrat UI postane resnično inteligentna.

Evropske zahteve za certificiranje:

Evropski regulativni okvir izrecno zahteva preverjanje sklepanja za visoko tvegane sisteme UI. Akt EU o umetni inteligenci določa, da morajo biti avtomatizirane odločitve na kritičnih področjih razložljive, ne le statistično zanesljive, temveč logično sledljive. To usmerja evropski razvoj UI k arhitekturam, ki omogočajo sklepanje.

Avstrijski organi za varstvo podatkov zahtevajo revizijske sledi algoritmov, ki prikazujejo logične korake od vnosa do odločitve. Francoski regulatorji za medicinske pripomočke zahtevajo vzročne razlage: "ta diagnoza, ker ti simptomi vzročno kažejo na to stanje," ne "90-odstotna verjetnost na podlagi učnih podatkov." Nemški standardi za industrijsko varnost (ISO 26262, IEC 61508) zahtevajo formalno preverjeno sklepanje za varnostno kritično avtomatizacijo.

Ameriška podjetja za UI, ki vstopajo na evropske trge, so odkrila, da njihovi sistemi s čistimi nevronskimi mrežami niso mogli prestati certificiranja. Nobena količina natančnosti ni zadovoljila regulatorjev, ki so zahtevali logične dokaze. Rezultat: bodisi na novo zgraditi sisteme z zmogljivostjo sklepanja bodisi opustiti evropski trg. Večina se je odločila za ponovno gradnjo in odkrila, da so različice z zmogljivostjo sklepanja delovale bolje po vsem svetu, ne le v Evropi. Regulativne zahteve so torej spet vodile k boljšemu inženirstvu.

Praktično sklepanje: kaj danes dejansko deluje

Kljub omejitvam lahko že zdaj zgradimo AI, ki je sposoben sklepanja. Ne popolnega. Ne na človeški ravni. A resnično zmožnega logičnega sklepanja na omejenih področjih.

Medicinska diagnostika:

Belgijske bolnišnice uporabljajo hibridno diagnostično AI: nevronske mreže analizirajo medicinske slike (prepoznavanje vzorcev), simbolični sklepalniki uporabljajo klinične smernice (deduktivno sklepanje), vzročni modeli pojasnjujejo, zakaj so določeni testi priporočeni (vzročno sklepanje). Vsaka komponenta počne tisto, v čemer je najboljša. Rezultat: diagnoze s statistično zanesljivostjo in logično utemeljitvijo. Evropski regulatorji medicinskih pripomočkov to odobravajo. Čiste nevronske mreže zavračajo.

Industrijska avtomatizacija:

Nemške tovarne uporabljajo sisteme za načrtovanje na podlagi omejitev za razporejanje proizvodnje. Na tisoče binarnih omejitev kodira proizvodna pravila, varnostne zahteve in cilje učinkovitosti. Reševalci SAT najdejo veljavne razporede, ki izpolnjujejo vse omejitve. Ko gre kaj narobe, sistem natančno pojasni, katera omejitev je bila kršena in zakaj. Brez "nevronska mreža se je odločila." Specifično logično sklepanje.

Finančna skladnost:

Švicarske banke uporabljajo AI za skladnost na podlagi pravil z nevronsko obdelavo vhodnih podatkov. Nevronske mreže pridobivajo informacije iz dokumentov (prepoznavanje vzorcev). Simbolični sklepalniki uporabljajo bančne predpise (deduktivno sklepanje). Vsaka odločitev o skladnosti se sklicuje na določene predpise. Revizorji lahko preverijo verige sklepanja. "To transakcijo smo označili, ker predpis X prepoveduje Y pod pogoji Z, ki so vsi izpolnjeni." Ne "85-odstotna verjetnost kršitve skladnosti."

Pravna analiza:

Nizozemske odvetniške pisarne uporabljajo AI za analizo pogodb, ki združuje nevronsko jezikovno razumevanje z logičnim sklepanjem nad pravnimi pravili. Nevronske mreže prepoznajo pomembne klavzule. Simbolični sistemi uporabljajo precedens in zakonodajo. Abduktivno sklepanje ustvarja razlage, zakaj veljajo določene interpretacije. Odvetniki dobijo oboje: prepoznavanje klavzul na podlagi vzorcev in pravno sklepanje na podlagi pravil.

Pogost vzorec: evropski regulativni okvir je prisilil praktične implementacije razmišljanja. To niso raziskovalni prototipi; to so nameščeni sistemi, ki prestajajo dejanske certifikacije. Ameriška podjetja, ki želijo dostop do evropskega trga, licencirajo te tehnologije ali prenavljajo svoje sisteme, da bi jim ustrezala. Regulatorna arbitraža z boljšim inženirstvom.

Kaj si morate zapomniti

• 1. Prepoznavanje vzorcev ni razmišljanje. Nevronske mreže odlično prepoznavajo vzorce. Razmišljanje zahteva logiko. Različni zmožnosti.
• 2. Obstaja več vrst razmišljanja. Deduktivno, induktivno, abduktivno, kavzalno, analogno. Vsaka ustreza različnim problemom.
• 3. Nevronske mreže imajo težave z razmišljanjem. Ni eksplicitne logike. Ni kompozicionalnosti. Ni zagotovil. Nepregledne odločitve.
• 4. Simbolična UI zagotavlja razmišljanje. Eksplicitna pravila. Logično sklepanje. Razložljivo. A krhko in težko razširljivo.
• 5. Hibridni pristopi združujejo prednosti. Nevronsko prepoznavanje vzorcev plus simbolično razmišljanje. Najboljše iz obeh svetov.
• 6. Veriga misli pomaga. Če nevronske mreže prisilimo, da pokažejo korake razmišljanja, se učinkovitost izboljša. Še vedno statistično, a bolje.
• 7. Omejitveni sistemi ponujajo deterministično razmišljanje. Binarne omejitve. Logična pravila. Razložljivo. Učinkovito. Pristop Dweve.
• 8. Evropska regulativa poganja raziskave razmišljanja. Zahteve po razložljivosti silijo v razvoj logično zvočne UI. Skladnost postane konkurenčna prednost.

Filozofski vložki

Debata o vzorcih proti razmišljanju ni le tehnična; je filozofska. Kaj želimo od UI?

Če je UI orodje za avtomatizacijo človeku podobnih nalog s posnemanjem, zadostuje prepoznavanje vzorcev. Naučite jo na primerih, naj reproducira podobne rezultate. Kot prefinjena iskalna tabela. To deluje za številne aplikacije. Priporočilni sistemi. Klasifikacija slik. Dopolnjevanje besedila.

Toda če naj UI dopolnjuje človeško inteligenco, zagotavlja vpoglede, do katerih ljudje ne morejo sami, rešuje probleme, ki zahtevajo logično strogost, sprejema odločitve z razložljivo utemeljitvijo, prepoznavanje vzorcev odpove. Potrebujemo dejansko razmišljanje. Razumevanje. Logično sklepanje, ki ga lahko ljudje preverijo in mu zaupajo.

Evropski regulatorji so morda po naključju izbrali drugo pot. Zahteve zakona EU o umetni inteligenci glede pojasnljivosti implicitno zavračajo čisto prepoznavanje vzorcev pri kritičnih odločitvah. "Ker je tako napovedal model" ni sprejemljiva utemeljitev. "Ker te logične premise vodijo do tega sklepa" je. To filozofsko stališče, da mora umetna inteligenca sklepati in ne le korelirati, oblikuje, kateri sistemi umetne inteligence se v Evropi razvijajo in uvajajo.

Ameriški razvoj umetne inteligence je v veliki meri izbral prvo pot: prepoznavanje vzorcev v velikem obsegu. Večji modeli, več podatkov, boljše korelacije. Odlično deluje pri številnih nalogah. Spektakularno odpove, kadar je pomembno sklepanje. Filozofska ločnica se kaže kot tehnična ločnica: statistična umetna inteligenca proti logični umetni inteligenci. Evropska zakonodaja te ločnice ni ustvarila; le prisilila je k izbiri.

Bistvo

Največji dosežki umetne inteligence izvirajo iz prepoznavanja vzorcev. Razvrščanje slik. Prevajanje jezika. Igranje iger. Vse so vzorci.

Toda problemi, ki jih resnično moramo reševati, zahtevajo sklepanje. Medicinska diagnostika. Pravne presoje. Odločitve, pomembne za varnost. Znanstvena odkritja. To potrebuje logiko, ne le vzorce.

Trenutna umetna inteligenca je izjemna pri vprašanjih "kaj". Kaj je na tej sliki? Kaj sledi v tem zaporedju? Odgovori, ki temeljijo na vzorcih.

Prihodnja umetna inteligenca mora obvladati vprašanja "zakaj". Zakaj se je to zgodilo? Zakaj bi morali to storiti? Odgovori, ki temeljijo na sklepanju. Logično sklepanje. Razumevanje vzročnosti.

Približujemo se. Nevro-simbolna integracija. Spodbujanje verige misli. Sistemi, ki temeljijo na omejitvah. Napredek je resničen. Toda razlika ostaja: prepoznavanje vzorcev ni sklepanje.

Razumevanje te razlike vam pomaga pošteno oceniti zmogljivosti umetne inteligence. Vedite, kdaj zadostuje prepoznavanje vzorcev. Vedite, kdaj je sklepanje nujno. Temu primerno izberite arhitekture. Uvajajte preudarno.

Ločnica med ameriškim in evropskim razvojem umetne inteligence vse bolj odraža to delitev na vzorce in sklepanje. Silicijeva dolina optimizira prepoznavanje vzorcev: ogromni modeli, velikanske zbirke podatkov, statistična odličnost. Evropski razvoj umetne inteligence optimizira sklepanje: logični dokazi, vzročni modeli, pojasnljivo sklepanje. Ne filozofska izbira, temveč regulativna zahteva.

Ironija: "omejevalni" evropski pristop ustvarja umetno inteligenco, ki v praksi deluje bolje. Pojasnljivo sklepanje hitreje odkriva napake. Logični dokazi preprečujejo katastrofalne okvare. Razumevanje vzročnosti omogoča boljše posege. Prepoznavanje vzorcev navduši na predstavitvah. Sklepanje uspe pri uvajanju. Evropski regulatorji so po naključju zahtevali tisto, kar je dobro inženirstvo vedno zahtevalo.

Prihodnost pripada umetni inteligenci, ki zna tako zaznavati vzorce kot sklepati z logiko. Prepoznavanje in sklepanje. Statistika in logika. To je cilj. Takrat umetna inteligenca postane resnično inteligentna.

Trenutno stanje: imamo sijajne prepoznavalce vzorcev, ki se pretvarjajo, da sklepajo. Spodbujanje verige misli je prepoznavanje vzorcev nad besedilom v obliki sklepanja, bolje kot nič, a ne prava logika. Kot bi učili papigo recitirati matematične dokaze. Impresivno posnemanje. Ne razumevanje.

Prihodnje stanje: hibridni sistemi, kjer nevronsko zaznavanje napaja simbolno sklepanje. Prepoznavanje vzorcev obravnava neurejene vnose iz resničnega sveta. Logično sklepanje obravnava odločitve, ki zahtevajo jamstva. Evropske regulativne zahteve potiskajo to prihodnost hitreje, kot bi jo ameriška inovacijska kultura dosegla naravno. Včasih omejitve res ustvarijo svobodo, svobodo pred katastrofalnimi okvarami umetne inteligence, vsaj to.

Želite umetno inteligenco, ki zmore sklepati? Raziščite Dweve Nexus in Loom. Več načinov sklepanja. Deduktivno, induktivno, abduktivno. Nevro-simbolna integracija. Binarna omejitvena logika. Pojasnljive verige sklepanja. Vrsta umetne inteligence, ki ne le prepoznava vzorce. Dejansko sklepa.