AI-hallusinaatiot: kun tekoäly keksii asioita (ja miksi)

AI-hallusinaatiot: kun tekoäly keksii asioita (ja miksi)

Itsevarma valhe

AI kertoi minulle, että Eiffel-torni rakennettiin vuonna 1889 maailmannäyttelyä varten. Oikein.

AI kertoi minulle, että sen suunnitteli Gustave Eiffel. Oikein.

AI kertoi minulle, että sen oli alun perin tarkoitus olla pystyssä vain 20 vuotta ja purkaa sen jälkeen. Oikein.

AI kertoi minulle, että se maalattiin kirkkaan vaaleanpunaiseksi vuonna 1962 Ranskan itsenäisyyden kunniaksi. Täysin väärin. Se sanoi sen itsevarmasti. Yksityiskohtaisesti. Täysin keksittyä.

Tämä on hallusinaatio. AI tuottaa väärää tietoa ja esittää sen tosiasiana. On tärkeää ymmärtää, miksi näin tapahtuu. Koska hallusinoivaan AI:hin luottaminen on vaarallista.

Mitä AI-hallusinaatiot oikeastaan ovat

Hallusinaatio on tilanne, jossa AI tuottaa tietoa, joka on faktuaalisesti väärin, järjetöntä tai uskottomasti suhteessa lähdemateriaaliin. Mutta esittää sen itsevarmasti. Kuin se tietäisi.

• Eivät satunnaisia virheitä: Hallusinaatiot eivät ole kirjoitusvirheitä. Ne ovat uskottavan kuuloisia valheita. Se, että Eiffel-torni olisi maalattu vaaleanpunaiseksi, kuulostaa uskottavalta. Tarkka vuosi. Tarkka syy. Vain väärin.
• Korkea itsevarmuus, alhainen tarkkuus: AI ei sano "ehkä" tai "mahdollisesti". Se esittää tosiasioita. Ei epäröintiä. Ei epävarmuuden merkkejä. Väärän tiedon itsevarma esittäminen.
• Hallusinaatiotyypit: Faktuaaliset hallusinaatiot: Väärää tietoa todellisista asioista. "Einstein sai Nobelin palkinnon vuonna 1922" (oikea vuosi oli 1921).

• Keksityt entiteetit: Sellaisten asioiden keksiminen, joita ei ole olemassa. "Merkittävä tutkimus, jonka tohtori Johnson teki vuonna 2019..." (tällaista tutkimusta ei ole olemassa).
• Uskottomat tiivistelmät: Tekstin virheellinen tiivistäminen. Väitteiden lisääminen, joita ei ole lähteessä. Keskeisten rajoitteiden pois jättäminen. Merkityksen muuttaminen.
• Loogiset ristiriidat: Itsensä kanssa ristiriidassa oleminen. Kappaleessa 1 sanotaan X. Kappaleessa 3 sanotaan ei-X. Molemmat esitetään itsevarmasti.

Kaikki esitetään totuutena. Siksi hallusinaatiot ovat vaarallisia.

Miksi hallusinaatioita syntyy

Syyn ymmärtäminen auttaa ymmärtämään ratkaisun:

Mallin täydennys, ei tiedonhaku:

Neuroverkot eivät sisällä faktatietokantaa. Ne täydentävät malleja. "Eiffel-torni maalattiin..." käynnistää mallin täydennyksen. Vaaleanpunainen + juhlavuosi + vuosiluku kuulostaa uskottavalta. Malli täydentää mallin. Mutta malli ei perustu faktoihin.

Se on kehittynyttä automaattista täydennystä, ei faktahakua. Malli ennustaa, mitä sanoja pitäisi tulla seuraavaksi. Joskus nämä sanat muodostavat valheita.

Harjoitusdatan rajoitukset:

Malli oppii harjoitusdatasta. Jos aihe on harvinainen harjoitusdatassa, malli arvaa. Arvaukset voivat olla vääriä. Harvinaiset aiheet = suurempi hallusinaatioriski.

Esimerkki: Kysy tietystä vuoden 2023 tutkimusartikkelista. Jos sitä ei ole harjoitusdatassa (harjoitusdatan katkaisu oli vuonna 2022), malli ekstrapoloi. Se luo uskottavan kuuloisen mutta keksityn artikkelin.

• Liiallinen yleistäminen: Malli näkee mallin X→Y usein. Se olettaa sen olevan yleispätevä. Soveltaa sitä tapaukseen Z, jossa se ei päde. Tuottaa virheellistä tietoa väärän yleistyksen kautta.
• Vahvistusharha tuotannossa: Kun malli on aloittanut suunnan, se jatkaa sitä. Ensimmäinen token ehdottaa "vaaleanpunaista" → seuraavat tokenit vahvistavat vaaleanpunaisen kertomuksen. Yhtenäinen tarina. Vain väärä.

Kielimallit ovat johdonmukaisuuskoneita. Ne ylläpitävät yhtenäisiä kertomuksia. Se ei tarkoita, että kertomukset olisivat totta.

Ei totuuden todentamista:

Mallit eivät tarkista faktoja. Ei sisäistä todentamista. Ei "onko tämä totta?" -vaihetta. Ne optimoivat sujuvuutta ja johdonmukaisuutta. Totuus on toissijainen. Itse asiassa totuus ei ole lainkaan eksplisiittinen tavoite.

Konkreettisia esimerkkejä hallusinaatioista

Dokumentoituja tapauksia:

• Oikeudelliset viittaukset (ChatGPT oikeussalissa): Lakimies käytti ChatGPT:tä tutkiakseen oikeustapauksia. Malli viittasi useisiin ennakkotapauksiin. Tapausnimiä. Tuomioistuimen päätöksiä. Yksittäisiä ratkaisuja. Lakimies toimitti ne. Ongelma: näitä tapauksia ei ollut olemassa. Tekoäly oli keksinyt ne. Lakimies kohtasi seuraamuksia. Tekoäly hallusinoi oikeudellisia ennakkotapauksia.
• Lääketieteellinen tieto: Käyttäjä kysyy harvinaisesta sairaudesta. Tekoäly antaa oireita, hoitoja ja lääkenimiä. Kuulostaa lääketieteelliseltä. Viittaa tiettyihin annostuksiin. Mutta yhdistää oikeita lääkenimiä vääriin käyttötarkoituksiin. Tai keksii olemattomia hoitoja. Vaarallista, jos noudatetaan.
• Tieteelliset lähteet: "Vuoden 2020 tutkimuksen mukaan, jonka tekivät Smith ja kumppanit ja joka julkaistiin Nature-lehdessä..." Tietty julkaisu. Tekijät. Vuosi. Tutkimusta ei ole olemassa. Täysin keksitty. Mutta se noudattaa oikeiden viittausten kaavaa.
• Historialliset tapahtumat: "Pariisin rauha vuodelta 1783 sisälsi määräyksiä..." Lisää määräyksiä, joita ei ollut sopimuksessa. Tai yhdistää yksityiskohtia eri sopimuksista. Uskottavan kuuloista historian uudelleenkirjoitusta.
• Koodin tuottaminen: Tekoäly tuottaa koodia kirjastoa käyttäen. Keksii API-metodeja, joita ei ole olemassa. Tai käyttää oikeita metodinimiä väärien allekirjoitusten kanssa. Koodi näyttää oikealta. Se ei toimi. Hallusinoitu API.

Kaikille esimerkeille on yhteistä: uskottava esitystapa, yksityiskohtaiset tiedot, täysin väärä väite.

Hallusinaatioiden tunnistaminen

Miten ne tunnistaa?

• Tarkista yksityiskohdat: Tarkat väitteet ovat tarkistettavissa. "Tutkimus X, julkaisu Y, vuosi Z" → etsi se. Hallusinaatiot sisältävät usein tarkkoja keksittyjä yksityiskohtia. Tarkista ne.
• Ristiintarkista: Useita lähteitä. Jos tekoäly sanoo jotain yllättävää, varmista muualta. Wikipedia. Viralliset lähteet. Aidot tutkimustietokannat. Älä luota pelkkään tekoälyyn.
• Etsi varovaista kieltä: Todelliseen epävarmuuteen kuuluvat "saattaa", "mahdollisesti", "joidenkin lähteiden mukaan". Täysi varmuus epäselvistä aiheista on epäilyttävää. Asialliset vastaukset tunnustavat epävarmuuden.
• Testaa sisäinen johdonmukaisuus: Kysy sama kysymys eri tavoin. Hallusinaatiot tuottavat usein epäjohdonmukaisia vastauksia. Todellinen tieto pysyy johdonmukaisena.
• Pyydä lähteitä: Kysy tekoälyltä, mistä se on oppinut asian. Hallusinaatiot eivät voi viitata oikeisiin lähteisiin. Ne saattavat keksiä lähteitä, mutta voit tarkistaa ne.
• Asiantuntija-arvio: Asiantuntijat tunnistavat hallusinaatiot omalla alallaan. Hienovarainen virheellisyys erottuu. Kriittisissä sovelluksissa asiantuntija-arvio on pakollinen.

Lieventämisstrategiat

Näin hallusinaatioita vähennetään:

Hakua tukeva generointi (RAG):

Älä luota pelkästään mallin harjoitustietoihin. Hae asiaankuuluvat dokumentit. Perusta vastaukset haettuun tekstiin. Malli näkee: "Tässä on lähdemateriaali. Vastaa tämän perusteella."

Vähentää hallusinaatioita. Malli tuottaa edelleen tekstiä, mutta se on perustettu oikeisiin dokumentteihin. Ei silti täydellistä (lähteitä voidaan tulkita väärin), mutta huomattavasti parempi.

• Rajoitettu dekoodaus: Rajoita sitä, mitä malli voi sanoa. Anna kokonaisluettelot, tietokannat, sallitut arvot. Malli voi käyttää vain hyväksyttyä tietoa. Hallusinaatiot vähenevät hyväksyttyyn joukkoon.
• Luottamuksen kalibrointi: Kouluta mallit ilmaisemaan epävarmuutta. Matala luottamus harvinaisissa aiheissa. Korkea luottamus hyvin katetuissa aiheissa. Käyttäjä näkee luottamusarvot. Tietää, milloin olla kriittinen.
• Hienosäätö faktapohjaisuuteen: Kouluta mallit erityisesti faktapohjaisiksi. Palkitse tosia väitteitä. Rankaise vääriä. Vahvistusoppiminen ihmispalautteesta keskittyen totuuteen, ei vain hyödyllisyyteen.
• Varmistusketju: Malli tuottaa vastauksen. Sitten se varmistaa sen. Itsetarkistus. "Onko tämä väite tarkka? Löydänkö todisteita?" Karsii joitakin hallusinaatioita ennen tulostusta.
• Usean mallin yksimielisyys: Kysy usealta mallilta. Jos ne ovat samaa mieltä, vastaus on todennäköisesti oikea. Jos ne ovat eri mieltä, tutki asiaa. Hallusinaatiot ovat usein mallikohtaisia. Yksimielisyys lisää luottamusta.
• Näkyvä lähdeviittaus: Vaadi lähde jokaiselle väitteelle. Jos malli ei voi viitata lähteeseen, älä esitä väitettä. Pakottaa perustumaan lähteisiin. Vähentää perusteettomia väitteitä.

Rajoitteisiin perustuvat lähestymistavat (Dweven näkökulma)

Binääriset rajoitejärjestelmät tarjoavat toisenlaisen polun:

• Eksplisiittinen tiedon esittäminen: Rajoitteet koodaavat tiedon eksplisiittisesti. "Entiteetillä X on ominaisuus Y." Ei tilastollisia kaavoja. Varsinaista koodattua tietoa. Haku on determinististä. Ei generointia sumeista kaavoista.
• Todennettavat tulokset: Jokainen johtopäätös jäljitetään rajoitteisiin. "Tämä vastaus tulee rajoitteista C1, C2, C3." Audit trail. Tarkista rajoitteet. Jos ne ovat oikein, vastaus on oikein. Ei piilotettua kaavojen täydennystä.
• Ei generatiivisia hallusinaatioita: Rajoitejärjestelmät eivät generoi samalla tavalla. Ne täsmäävät kaavoja. Soveltavat sääntöjä. Hakevat tietoa. Ei "täydennä tämä uskottava tarina" -dynamiikkaa. Jos tieto ei ole rajoitteissa, järjestelmä sanoo "en tiedä". Ei sepitä.
• Rajattu tieto: Järjestelmä tietää, mitä se tietää. Tietograafissa on kaaria tai ei ole. Rajoitteet ovat olemassa tai eivät. Binääristä. Selkeät rajat. Näiden rajojen ulkopuolella? Eksplisiittistä epävarmuutta.

Kompromissi: Vähemmän joustava kuin generatiiviset mallit. Ei pysty täyttämään aukkoja luovasti. Mutta tosiasiallisen luotettavuuden kannalta se on ominaisuus, ei vika. Totuuteen rajoittuminen on tavoite.

Euroopan sääntelyvastausta koskeva osio (hallusinaatiot oikeudellisena vastuuna)

Eurooppalaiset sääntelyviranomaiset pitävät hallusinaatioita vakavina vaatimustenmukaisuuden laiminlyönteinä, eivät vähäisinä virheinä.

EU:n tekoälysäädöksen avoimuusvaatimukset: 13 artikla edellyttää, että suuririskisten tekoälyjärjestelmien on oltava "riittävän avoimia, jotta käyttäjät voivat tulkita järjestelmän tuottamaa tulosta ja käyttää sitä asianmukaisesti". Hallusinaatiot eli virheelliset mutta varmoina esitetyt väitteet rikkovat suoraan tätä periaatetta. 15 artikla edellyttää "asianmukaista tarkkuutta, kestävyyttä ja kyberturvallisuutta". Järjestelmät, jotka tuottavat keksittyä tietoa, kamppailevat näiden tarkkuusvaatimusten kanssa ja kohtaavat sääntelyyn liittyviä haasteita vaatimustenmukaisuuden arvioinneissa.

GDPR-yhteys: Kun tekoäly hallusinoi henkilötietoja (keksii tunnistetietoja, työhistoriaa, sairaustietoja), se voi muodostaa luvatonta henkilötietojen käsittelyä GDPR:n 6 artiklan mukaisesti. Ranskan tietosuojaviranomainen (CNIL) on luonut täytäntöönpanokäytäntöjä tekoälyyn liittyville rikkomuksille, ja sakot voivat olla enintään 20 miljoonaa euroa tai 4 prosenttia maailmanlaajuisesta liikevaihdosta vakavissa rikkomuksissa. Tämä luo oikeudellisen vastuun tekoälyn tuottamista keksityistä tiedoista, ja niitä käsitellään vaatimustenmukaisuusrikkomuksina eikä pelkkinä teknisinä virheinä.

Jäsenvaltioiden täytäntöönpano: Saksan ja Ranskan sääntelyviranomaiset ovat ilmoittaneet, että kriittisessä infrastruktuurissa käytettävien tekoälyjärjestelmien on osoitettava todennusmekanismeja tosiasiallisen oikeellisuuden varmistamiseksi. Vaikka testausprotokollat vaihtelevat toimialoittain, periaate on selvä: hallusinaatioalttiit järjestelmät joutuvat tehostetun valvonnan kohteeksi terveydenhuollossa, rahoituksessa ja turvallisuuskriittisissä sovelluksissa.

Miksi hallusinaatiot ovat tärkeitä käyttöönoton kannalta

AI-hallusinaatiotietokanta seuraa 426 oikeustapausta maailmanlaajuisesti, jotka liittyvät tekoälyn tuottamiin sepitteisiin. Tutkimukset osoittavat, että yleiskäyttöisten mallien hallusinaatioaste on 58-88 prosenttia vastattaessa tarkkoihin faktakysymyksiin, ja jopa erikoistuneilla työkaluilla hallusinaatioaste on 20-33 prosenttia. Nämä eivät ole reunatapauksia; ne ovat perustavanlaatuisia arkkitehtonisia haasteita.

Erityisen haavoittuvia ovat korkean riskin toimialat: Lakialan ammattilaiset ovat dokumentoineet tapauksia, joissa tekoäly on viitannut olemattomiin oikeustapauksiin, mikä on johtanut ammatillisiin seuraamuksiin. Terveydenhuollon pilottihankkeissa on havaittu tapauksia, joissa tekoäly on ehdottanut olemattomia lääkeinteraktioita tai keksinyt hoitoprotokollia. Rahoituspalveluissa on törmätty hallusinoituihin mittareihin ja keksittyihin analyytikkoraportteihin. Julkisen sektorin chatbotit ovat antaneet virheellisiä menettelyohjeita keksittyjen säädösten perusteella.

Ilmiö toimialojen yli: Hallusinaatiot luovat todellista vastuuta: taloudellista, sääntelyyn liittyvää ja maineellista. Eurooppalaiset organisaatiot pitävät yhä useammin hallusinaatioalttiista tekoälyä hyväksymättömänä riskinä kriittisissä sovelluksissa. Ne suosivat järjestelmiä, joissa on selkeät varmistusmekanismit, tai rajoittavat tekoälyn käytön matalamman riskin käyttötapauksiin, joissa keksityt tiedot aiheuttavat vain vähän haittaa.

Hallusinaatioiden vähentämisen tulevaisuus

Minne tämä on menossa?

• Parempi ankkurointi: Tiiviimpi integraatio tietokantoihin. Jokaisen väitteen takana haettavissa oleva lähde. Pakollinen ankkurointi, ei vapaaehtoinen.
• Epävarmuuden kvantifiointi: Mallit, jotka tietävät, mitä eivät tiedä. Ilmaise luottamus tarkasti. Merkitse mahdolliset hallusinaatiot automaattisesti.
• Faktantarkistuksen integrointi: Reaaliaikainen faktantarkistus. Malli tuottaa väitteen. Faktantarkistaja vahvistaa. Vain vahvistetut väitteet julkaistaan.
• Hybridiarkkitehtuurit: Generatiiviset mallit sujuvuuteen. Symboliset järjestelmät faktoihin. Molempien parhaat puolet. Luettavuutta ja luotettavuutta.
• Läpinäkyvyysvaatimukset: Sääntely voi edellyttää lähdeviittauksia. Jokaisen tekoälyn väitteen on viitattava lähteisiin. Hallusinaatioista tulee juridisesti ongelmallisia. Pakottaa arkkitehtuurimuutoksiin.

Tavoite: tekoäly, joka tuottaa sujuvasti JA totuudenmukaisesti. Ei jompaakumpaa. Molemmat.

Uusia lähestymistapoja hallusinaatioiden vähentämiseen

Tutkimuslaitokset maailmanlaajuisesti kehittävät arkkitehtuurisia ratkaisuja hallusinaatio-ongelmaan:

Luottamusrajattu tuottaminen: Järjestelmät, jotka tuottavat useita ehdokasvastauksia, arvioivat jokaisen väitteen luottamustason ja palauttavat vain korkean luottamuksen väitteet lähdeviittauksineen. Matalan luottamuksen väitteet merkitään epävarmoiksi sen sijaan, että ne esitettäisiin faktoina.

Iteratiiviset varmistussilmukat: Arkkitehtuurit, joissa yksi malli tuottaa vastauksia ja toinen tarkistaa väitteet tietokantoja vasten. Ristiriidat käynnistävät uudelleentuottamisen korjauksineen, ja prosessi jatkuu, kunnes varmistus läpäistään tai järjestelmä ilmoittaa nimenomaisesti epävarmuudesta. Laskentakustannukset ovat korkeammat, mutta hallusinaatioaste laskee merkittävästi.

Hybridiset symbolis-neuraaliset järjestelmät: Generatiivisten mallien yhdistäminen kielelliseen sujuvuuteen ja symbolisten järjestelmien yhdistäminen faktapohjaan. Jokaisen faktaväitteen on oltava tietograafissa: jos ei ole, järjestelmä ilmoittaa "ei voida varmistaa" arvaamisen sijaan, mikä estää keksimisen arkkitehtuurin avulla.

Lähde ensin -tuottaminen: Perinteisen kulun kääntäminen aloittamalla varmennetuista lähteistä ja tuottamalla sitten tekstiä, joka selittää tai tiivistää lähteet ylittämättä niiden sisältöä. Jokainen virke voidaan jäljittää tiettyihin lähdeasiakirjoihin, mikä auttaa arvioijia tunnistamaan väitteet, joille ei löydy tukea.

Yhteinen piirre näissä lähestymistavoissa: hallusinaatioiden ratkaiseminen arkkitehtuurin avulla sen sijaan, että luotettaisiin paremman koulutuksen riittävyyteen. Kompromissit, korkeammat laskentakustannukset ja vähentynyt luova joustavuus, osoittautuvat hyväksyttäviksi sovelluksissa, joissa faktuaalinen luotettavuus on tärkeintä.

Mitä sinun tulee muistaa

• 1. Hallusinaatiot ovat varmoja valheita. Yksityiskohtaisia tietoja. Ei epäröintiä. Täysin vääriä. Uskottava esitystapa.
• 2. Ne syntyvät kaavan täydentämisestä. Ei tiedonhausta. Mallit ennustavat uskottavia jatkoja. Se ei tarkoita, että ne olisivat totta.
• 3. Tyypit vaihtelevat. Faktavirheet, keksityt entiteetit, epätarkat yhteenvedot, loogiset ristiriidat. Kaikki esitetään totuutena.
• 4. Havaitseminen vaatii varmistamista. Tarkista yksityiskohdat. Vertaile lähteitä. Testaa johdonmukaisuus. Asiantuntija-arvio. Älä luota sokeasti.
• 5. Lieventäminen on mahdollista. RAG, rajoitettu dekoodaus, luottamuskalibrointi, varmistusketju. Ei täydellistä, mutta parempaa.
• 6. Rajoitejärjestelmät auttavat. Eksplisiittinen tieto. Todennettavat tulokset. Ei generatiivista keksimistä. Rajattu luotettavuus.
• 7. Tulevaisuus paranee. Parempi ankkurointi, epävarmuuden kvantifiointi, faktantarkistus, hybridiarkkitehtuurit. Kehitys jatkuu.
• 8. Eurooppalainen sääntely suhtautuu hallusinaatioihin vakavasti. EU:n tekoälysäädöksen tarkkuusvaatimukset, GDPR:n tietojenkäsittelysäännöt. Keksinnöt luovat mahdollista vastuuta: taloudellista, sääntelyyn liittyvää, maineellista.
• 9. Korkean panoksen alat kärsivät erityisesti. Laki, terveydenhuolto, rahoitus, julkiset palvelut. Dokumentoituja tapauksia ammatillisista seuraamuksista, käyttöönoton epäonnistumisista, vastuualtistuksesta. Ennaltaehkäisy on välttämätöntä kriittisissä sovelluksissa.
• 10. Arkkitehtuuriratkaisuja on syntymässä. Luottamusrajattu generointi, iteratiivinen varmistus, hybridiset symbolis-neuraaliset järjestelmät, lähde ensin -lähestymistavat. Tutkimus käsittelee hallusinaatioita suunnittelun kautta, ei vain koulutuksen.

Lopputulos

AI-hallusinaatiot ovat perustavanlaatuisia nykyisille arkkitehtuureille. Eivät vikoja. Kaavanmukaisen järjestelmän ominaisuuksia. Mallit täydentävät uskottavia sekvenssejä. Niiden totuudenmukaisuutta ei ole taattu.

Vaara on luottamus. AI ei sano "ehkä" tai "todennäköisesti". Se väittää. Käyttäjät luottavat. Se luottamus on väärin sijoitettu hallusinoituun sisältöön.

Ratkaisuja on olemassa. Hakuavusteinen generointi. Rajoitepohjaiset järjestelmät. Varmistuskerrokset. Mikään ei ole täydellistä. Mutta kaikki vähentävät hallusinaatioriskiä.

Kriittiset sovellukset vaativat luotettavuutta. Lääketieteellinen diagnoosi. Oikeudellinen tutkimus. Taloudellinen neuvonta. Hallusinaatiot ovat hyväksymättömiä. Arkkitehtuurilla on merkitystä. Valitse järjestelmiä, jotka on suunniteltu faktuaalisuuteen, ei vain sujuvuuteen.

Yleiskäytössä ole epäileväinen. Varmista väitteet. Tarkista lähteet. Vertaile. Älä oleta, että AI tietää. Se ennustaa. Joskus väärin. Varmasti väärin on vaarallisin laji.

AI:n tulevaisuuden on käsiteltävä tämä. Ei vain tuottamista. Tuottamista totuudenmukaisesti. Todennettavilla lähteillä. Eksplisiittinen epävarmuus tarvittaessa. Se on luotettavaa AI:ta. Ei sitä, mitä meillä on tänään. Vaan se, mitä meidän on rakennettava huomenna.

Sääntelykehykset, kuten EU:n tekoälysäädös, tunnustavat hallusinaatiot perustavanlaatuisiksi haasteiksi AI:n luotettavuudelle. Vaatimalla tarkkuutta, läpinäkyvyyttä ja vankkuutta nämä säännökset ohjaavat kehitystä kohti varmistusmekanismeja ja arkkitehtuuriratkaisuja. Kysymys ei ole siitä, pitäisikö hallusinaatioihin puuttua; se on, tehdäänkö se ennakoivasti paremman suunnittelun kautta vai reaktiivisesti käyttöönoton epäonnistumisten jälkeen.

Haluatko tosiasioihin perustuvaa tekoälyä? Tutustu Dweve Loomiin ja Nexukseen. Binääristä rajoitetietoa. Eksplisiittisiä päättelyketjuja. Todennettavia tulosteita. Rajoitettua tietoa selkeällä epävarmuudella. Sellaista tekoälyä, joka tietää, milloin se ei tiedä. Eikä hallusinoi täyttääkseen aukkoja.