AI-hallutsinatsioonid: kui AI mõtleb asju välja (ja miks)

AI-hallutsinatsioonid: kui AI mõtleb asju välja (ja miks)

Enesekindel vale

AI ütles mulle, et Eiffeli torn ehitati 1889. aastal maailmanäituseks. Õige.

AI ütles mulle, et selle kavandas Gustave Eiffel. Õige.

AI ütles mulle, et algselt plaaniti see pärast 20 aastat lammutada. Õige.

AI ütles mulle, et see värviti 1962. aastal erksaroosaks, et tähistada Prantsusmaa iseseisvust. Täiesti vale. Ütles seda enesekindlalt. Konkreetsete üksikasjadega. Täiesti välja mõeldud.

See on hallutsinatsioon. AI genereerib valeinformatsiooni, mida esitatakse faktina. On oluline mõista, miks see juhtub. Sest AI-sse, mis hallutsinatsioone tekitab, on ohtlik uskuda.

Mis AI hallutsinatsioonid tegelikult on

Hallutsinatsioon on see, kui AI genereerib teavet, mis on faktiliselt vale, mõttetu või ei vasta lähtematerjalile. Kuid esitab seda enesekindlalt. Nagu teaks.

• Mitte juhuslikud vead: Hallutsinatsioonid ei ole trükivead. Need on usutavalt kõlavad valed. See, et Eiffeli torn värviti roosaks, kõlab usutavalt. Konkreetne aasta. Konkreetne põhjus. Lihtsalt vale.
• Kõrge enesekindlus, madal täpsus: AI ei ütle "võib-olla" ega "ehk". See esitab fakte. Ilma kahtlusteta. Ilma ebakindluse märkideta. Enesekindel valeinfo esitamine.
• Hallutsinatsioonide tüübid: Faktilised hallutsinatsioonid: Vale teave reaalsete asjade kohta. "Einstein sai Nobeli preemia 1922. aastal" (tegelikult oli see 1921).

• Väljamõeldud üksused: Asjade väljamõtlemine, mida ei eksisteeri. "Dr. Johnsoni oluline uuring 2019. aastal..." (sellist uuringut ei ole olemas).
• Lähtetekstile truud kokkuvõtted: Teksti valesti kokkuvõtmine. Väidete lisamine, mida lähtetekstis pole. Oluliste täpsustuste väljajätmine. Tähenduse muutmine.
• Loogilised vastuolud: Endale vasturääkimine. Lõik 1 ütleb X. Lõik 3 ütleb mitte-X. Mõlemat esitatakse enesekindlalt.

Kõik esitatakse tõena. See teebki hallutsinatsioonid ohtlikuks.

Miks hallutsinatsioone tekib

Põhjuse mõistmine aitab mõista lahendust:

Mustri lõpetamine, mitte teadmiste otsing:

Närvivõrkudel puudub faktide andmebaas. Nad lõpetavad mustreid. "Eiffeli torn värviti..." käivitab mustri sobitamise. Roosa + tähistamine + aasta kõlab usutavalt. Mudel lõpetab mustri. Kuid muster ei põhine faktidel.

See on keerukas automaatne lõpetamine, mitte faktide otsimine. Mudel ennustab, millised sõnad peaksid järgnema. Mõnikord moodustavad need sõnad valeväiteid.

Treeningandmete piirangud:

Mudel õpib treeningandmetest. Kui teema on treeningandmetes harv, siis mudel pakub. Need pakkumised võivad olla valed. Madala sagedusega teemad = suurem hallutsinatsioonirisk.

Näide: küsi konkreetse 2023. aasta teadusartikli kohta. Kui see pole treeningandmetes (treeningu piir oli 2022), siis mudel ekstrapoleerib. Loob usutavalt kõlava, kuid võltsitud artikli.

• Liigne üldistamine: Mudel näeb mustrit X→Y sageli. Eeldab, et see on universaalne. Rakendab seda juhtumile Z, kus see ei kehti. Esitab vale üldistuse kaudu ebaõiget teavet.
• Kinnituskallutatus genereerimisel: Kui mudel on alustanud ühes suunas, jätkab ta samas suunas. Esimene märksõna viitab "roosale" → järgmised märksõnad tugevdavad roosa narratiivi. Sidus lugu. Lihtsalt vale.

Keelemudelid on järjepidevuse masinad. Nad hoiavad sidusaid narratiive. See ei tähenda, et need narratiivid on tõesed.

Tõe kontrollimise puudumine:

Mudelid ei kontrolli fakte. Puudub sisemine kontroll. Puudub samm "kas see on tõsi?". Nad optimeerivad sujuvuse ja sidususe nimel. Tõde on teisejärguline. Tegelikult pole tõde üldse selgesõnaline eesmärk.

Reaalsed näited hallutsinatsioonidest

Dokumenteeritud juhtumid:

• Õiguslikud viited (ChatGPT kohtus): Advokaat kasutas ChatGPT-d juhtumite uurimiseks. Mudel viitas mitmele pretsedendile. Juhtumite nimed. Kohtuotsused. Konkreetsed lahendid. Advokaat esitas need. Probleem: neid juhtumeid polnud olemas. AI oli need välja mõelnud. Advokaadile määrati sanktsioonid. AI hallutsineeris õiguslikke pretsedente.
• Meditsiiniline teave: Kasutaja küsib haruldase haiguse kohta. AI esitab sümptomid, ravimeetodid, ravimite nimed. Kõlab meditsiiniliselt. Viitab konkreetsetele annustele. Kuid ühendab tõelised ravimite nimed valede kasutusviisidega. Või leiutab olematuid ravimeetodeid. Ohtlik, kui järgida.
• Akadeemilised allikad: "Vastavalt Smithi jt 2020. aasta uuringule, mis avaldati ajakirjas Nature..." Konkreetne ajakiri. Autorid. Aasta. Uuringut pole olemas. Täielikult välja mõeldud. Kuid järgib tõeliste viidete mustrit.
• Ajaloolised sündmused: "Pariisi rahu 1783. aastal sisaldas sätteid..." Lisab sätteid, mida lepingus polnud. Või ühendab erinevate lepingute üksikasju. Usutavalt kõlav ajalooline ümberkirjutus.
• Koodi genereerimine: AI genereerib koodi, kasutades teeki. Leiutab API-meetodeid, mida pole olemas. Või kasutab õigeid meetodinimesid valede signatuuridega. Kood näeb õige välja. Ei käivitu. Hallutsineeritud API.

Kõigil näidetel on ühine: usutav esitus, konkreetsed üksikasjad, täielik vale.

Hallutsinatsioonide tuvastamine

Kuidas neid ära tunda?

• Kontrolli üksikasju: Konkreetsed väited on kontrollitavad. "Uuring X poolt ajakirjas Y aastal Z" → otsi seda. Hallutsinatsioonid sisaldavad sageli konkreetseid väljamõeldud üksikasju. Kontrolli neid.
• Ristkontroll: Mitu allikat. Kui AI ütleb midagi üllatavat, kontrolli mujalt. Vikipeedia. Ametlikud allikad. Päris teadusandmebaasid. Ära usalda AI-d üksi.
• Otsi kahtlevat keelekasutust: Tõeline ebakindlus hõlmab sõnu "võib", "võimalik", "mõnede allikate kohaselt". Absoluutne enesekindlus ebaselgetel teemadel on kahtlane. Legitiimsed vastused tunnistavad ebakindlust.
• Testi sisemist järjepidevust: Küsi sama küsimust erinevalt. Hallutsinatsioonid annavad sageli vastuolulisi vastuseid. Päris teadmised püsivad järjepidevad.
• Nõua allikaid: Küsi AI-lt, kust ta selle õppis. Hallutsinatsioonid ei suuda viidata päris allikatele. Nad võivad allikaid välja mõelda, aga neid saad sa kontrollida.
• Valdkonna eksperdi ülevaade: Eksperdid tunnevad hallutsinatsioone oma valdkonnas ära. Peen väärus paistab silma. Kriitiliste rakenduste puhul on eksperdi ülevaade kohustuslik.

Leevendusstrateegiad

Kuidas hallutsinatsioone vähendada:

Retrieval-Augmented Generation (RAG):

Ära tugine ainult mudeli treeningule. Too kätte asjakohased dokumendid. Põhista vastused kättesaadud tekstis. Mudel näeb: "Siin on lähtematerjal. Vasta selle põhjal."

Vähendab hallutsinatsioone. Mudel genereerib endiselt teksti, kuid on põhistatud päris dokumentidega. Endiselt mitte täiuslik (võib allikaid valesti tõlgendada), kuid palju parem.

• Piiratud dekodeerimine: Piira, mida mudel saab öelda. Esita üksuste loendid, faktibaasid, lubatud väärtused. Mudel saab kasutada ainult heakskiidetud teavet. Hallutsinatsioonid vähenevad heakskiidetud hulgale.
• Enesekindluse kalibreerimine: Treeni mudeleid ebakindlust väljendama. Madal enesekindlus haruldastel teemadel. Kõrge enesekindlus hästi kaetud teemadel. Kasutaja näeb enesekindluse skoore. Teab, millal olla skeptiline.
• Faktipõhine peenhäälestus: Treeni mudeleid spetsiaalselt faktiliseks olemiseks. Premeeri tõeseid väiteid. Karista valesid. Inimtagasisidega tugevdusõpe, mis keskendub tõele, mitte ainult abivalmidusele.
• Kontrolliahel: Mudel genereerib vastuse. Seejärel kontrollib seda. Enesekontroll. "Kas see väide on täpne? Kas ma leian tõendusmaterjali?" Püüab mõned hallutsinatsioonid enne väljundit kinni.
• Mitme mudeli konsensus: Küsi mitmelt mudelilt. Kui nad nõustuvad, on see tõenäoliselt õige. Kui nad ei nõustu, uuri. Hallutsinatsioonid on sageli mudelispetsiifilised. Konsensus suurendab enesekindlust.
• Selgesõnaline allikate linkimine: Nõua igale väitele viidet. Kui mudel ei suuda allikat tsiteerida, ära esita väidet. Soodustab põhistamist. Vähendab põhjendamata väiteid.

Piirangutel põhinevad lähenemisviisid (Dweve vaatenurk)

Binaarsed piirangusüsteemid pakuvad teistsugust teed:

• Explicit Knowledge Representation: Constraints encode facts explicitly. "Entity X has property Y." Not statistical patterns. Actual encoded knowledge. Retrieval is deterministic. No generation from fuzzy patterns.
• Verifiable Outputs: Every conclusion traces to constraints. "This answer comes from constraints C1, C2, C3." Audit trail. Verify the constraints. If they're correct, answer is correct. No hidden pattern completion.
• No Generative Hallucinations: Constraint systems don't generate in the same way. They match patterns. Apply rules. Retrieve knowledge. No "complete this plausible story" dynamic. If knowledge isn't in constraints, system says "I don't know." Doesn't fabricate.
• Bounded Knowledge: System knows what it knows. Knowledge graph has edges or it doesn't. Constraints exist or they don't. Binary. Clear boundaries. Outside those boundaries? Explicit uncertainty.

Trade-off: Less flexible than generative models. Can't fill gaps creatively. But for factual reliability, that's a feature, not a bug. Constrained to truth is the goal.

European regulatory response (hallucinations as legal liability)

European regulators treating hallucinations as serious compliance failures, not minor bugs.

EU AI Act transparency requirements: Article 13 mandates that high-risk AI systems must be "sufficiently transparent to enable users to interpret the system's output and use it appropriately." Hallucinations, confident falsehoods, directly violate this principle. Article 15 requires "appropriate levels of accuracy, robustness and cybersecurity." Systems generating fabricated information struggle to meet these accuracy requirements and face regulatory challenges during compliance assessments.

GDPR intersection: When AI hallucinates personal information (invents credentials, employment history, medical conditions), it potentially creates unauthorized data processing under GDPR Article 6. The French data protection authority (CNIL) has established enforcement precedents for AI-related violations, with fines up to €20 million or 4% global revenue for serious breaches. This creates legal liability for AI-generated fabrications, treating them as compliance violations rather than mere technical errors.

Member state implementation: German and French regulators have indicated that AI systems deployed in critical infrastructure must demonstrate verification mechanisms for factual correctness. While specific testing protocols vary by sector, the principle is clear: hallucination-prone systems face heightened scrutiny in healthcare, finance, and safety-critical applications.

Why hallucinations matter for deployment

The AI hallucination database tracks 426 legal cases globally involving AI-generated fabrications. Research shows hallucination rates between 58-88% for general-purpose models when answering specific factual queries, and even specialised tools show hallucination rates of 20-33%. These aren't edge cases; they're fundamental architectural challenges.

Erilise riskiga valdkonnad: Õigusvaldkonna spetsialistid on dokumenteerinud juhtumeid, kus AI viitas olematule kohtupraktikale, mis tõi kaasa ametialased sanktsioonid. Tervishoiu pilootprojektides on ilmnenud juhtumeid, kus AI soovitas olematuid ravimite koostoimeid või koostas väljamõeldud raviprotokolle. Finantsteenustes on esinenud hallutsinatsioonidest tingitud mõõdikuid ja võltsitud analüütikute aruandeid. Avaliku sektori vestlusrobotid on andnud ebaõigeid menetlusjuhiseid, mis põhinevad väljamõeldud määrustel.

Muster kõigis sektorites: Hallutsinatsioonid tekitavad reaalse vastutuse: rahalise, regulatiivse ja mainealase. Euroopa organisatsioonid peavad üha enam hallutsinatsioonidele kalduvat AI-d kriitilistes rakendustes vastuvõetamatuks riskiks, eelistades süsteeme, millel on selged kontrollimehhanismid, või otsustades piirata AI kasutuselevõttu väiksema riskiga kasutusjuhtudega, kus väljamõeldised põhjustavad minimaalset kahju.

Hallutsinatsioonide vähendamise tulevik

Kuhu see liigub?

• Parem alusinfo: Tihedam integreeritus teadmusbaasidega. Iga väide toetub allikale, mida saab kontrollida. Kohustuslik alusinfo, mitte vabatahtlik.
• Määramatuse kvantifitseerimine: Mudelid, mis teavad, mida nad ei tea. Usaldusväärsuse täpne väljendamine. Võimalike hallutsinatsioonide automaatne märkimine.
• Faktikontrolli integreerimine: Reaalajas faktide kontrollimine. Mudel genereerib väite. Faktikontrollija valideerib. Väljastatakse ainult kontrollitud väited.
• Hübriidarhitektuurid: Generatiivsed mudelid sujuvuse tagamiseks. Sümbolilised süsteemid faktide jaoks. Mõlema parim. Loetavus koos usaldusväärsusega.
• Läbipaistvuse nõuded: Regulatsioon võib muuta allikatele viitamise kohustuslikuks. Iga AI väide peab viitama allikatele. Hallutsinatsioonid muutuvad õiguslikult problemaatiliseks. See sunnib arhitektuurimuudatusi.

Eesmärk: AI, mis genereerib sujuvalt JA tõepäraselt. Mitte üks või teine. Mõlemad.

Esile kerkivad lähenemisviisid hallutsinatsioonide vähendamiseks

Teadusasutused üle maailma arendavad arhitektuurilisi lahendusi hallutsinatsioonide probleemile:

Usalduspiiriga genereerimine: Süsteemid, mis genereerivad mitu kandidaatvastust, hindavad iga väite usaldusväärsust ja väljastavad ainult kõrge usaldusväärsusega väited koos allikaviidetega. Madala usaldusväärsusega väited märgitakse ebakindlaks, mitte ei esitata neid faktina.

Iteratiivsed kontrollitsüklid: Arhitektuurid, kus üks mudel genereerib vastuseid, samal ajal kui teine kontrollib väiteid teadmusbaaside vastu. Vastuolud käivitavad parandustega uue genereerimise, mis jätkub, kuni kontroll õnnestub või süsteem väljendab selgesõnaliselt ebakindlust. Arvutuslik kulu on suurem, kuid hallutsinatsioonide määr langeb oluliselt.

Hübriidsed sümbolilis-neuraalsed süsteemid: Generatiivsete mudelite ühendamine keelelise sujuvuse jaoks sümboliliste süsteemidega faktilise alusinfo jaoks. Iga faktiline väide peab olema teadmusgraafis: kui seda pole, teatab süsteem "ei saa kontrollida" selle asemel, et oletada, vältides väljamõeldiste tekkimist arhitektuurilise piiranguga.

Allikapõhine genereerimine: Traditsioonilise voo ümberpööramine, alustades kontrollitud allikatest ja genereerides seejärel teksti, mis selgitab või võtab need allikad kokku, ilma et see ületaks allika sisu. Iga lause jääb jälgitavaks konkreetsete allikadokumentideni, muutes hallutsinatsioonid disaini poolest võimatuks.

Muster nendes lähenemisviisides: hallutsinatsioonide lahendamine arhitektuuri kaudu, mitte lootes, et parem treenimine piisab. Kompromissid, suurem arvutuslik kulu ja väiksem loominguline paindlikkus, osutuvad vastuvõetavaks rakendustes, kus faktiline usaldusväärsus on kõige olulisem.

Mida pead meeles pidama

• 1. Hallutsinatsioonid on enesekindlad valeväited. Konkreetsed üksikasjad. Ilma kahtlusteta. Täiesti valed. Veenev esitus.
• 2. Need tekivad mustrite täiendamise tõttu. Mitte faktide otsimine. Mudelid ennustavad tõenäolisi jätke. See ei tähenda, et need on tõesed.
• 3. Tüübid varieeruvad. Faktivead, väljamõeldud üksused, truudusetud kokkuvõtted, loogilised vastuolud. Kõik esitatakse tõena.
• 4. Tuvastamine nõuab kontrollimist. Kontrolli üksikasju. Ristviita. Testi järjepidevust. Eksperdiülevaade. Ära usalda pimesi.
• 5. Leevendamine on olemas. RAG, piiratud dekodeerimine, usaldusväärsuse kalibreerimine, kontrolliahel. Mitte täiuslik, aga parem.
• 6. Piirangusüsteemid aitavad. Selge teadmus. Kontrollitavad väljundid. Ei mingit generatiivset väljamõeldis. Piiratud usaldusväärsus.
• 7. Tulevik paraneb. Parem alustamine, määramatuse kvantifitseerimine, faktikontroll, hübriidarhitektuurid. Areng jätkub.
• 8. Euroopa regulatsioonid suhtuvad hallutsinatsioonidesse tõsiselt. ELi AI-määruse täpsusnõuded, isikuandmete kaitse üldmääruse andmetöötlusreeglid. Väljamõeldised loovad potentsiaalse vastutuse: rahaline, regulatiivne, maine.
• 9. Kõrge riskiga sektorid on eriti mõjutatud. Õigus, tervishoid, rahandus, avalikud teenused. Dokumenteeritud juhtumeid kutsealaste sanktsioonide, kasutuselevõtu ebaõnnestumiste ja vastutuse riskiga. Ennetamine on kriitiliste rakenduste puhul hädavajalik.
• 10. Arhitektuurilised lahendused kerkivad esile. Usaldusväärsusega piiratud genereerimine, iteratiivne kontrollimine, hübriidsed sümboolsete-neuraalsete süsteemid, allikapõhised lähenemisviisid. Teadusuuringud käsitlevad hallutsinatsioone disaini kaudu, mitte ainult treenimise kaudu.

Kokkuvõte

AI-hallutsinatsioonid on praeguste arhitektuuride põhiomadus. Mitte vead. Mustrituvastussüsteemide tunnused. Mudelid täiendavad tõenäolisi jadasid. Need jadad pole garanteeritult tõesed.

Oht on enesekindlus. AI ei ütle "võib-olla" ega "tõenäoliselt". See väidab. Kasutajad usaldavad. See usaldus on hallutsinatsioonide sisu puhul ekslik.

Lahendused on olemas. Täiendatud genereerimine otsinguga. Piirangupõhised süsteemid. Kontrollikihid. Ükski pole täiuslik. Kuid kõik vähendavad hallutsinatsioonide riski.

Kriitilised rakendused nõuavad usaldusväärsust. Meditsiiniline diagnoos. Õiguslik uurimine. Finantsnõustamine. Hallutsinatsioonid on vastuvõetamatud. Arhitektuur on oluline. Vali süsteemid, mis on loodud faktilisuseks, mitte ainult sujuvuseks.

Üldiseks kasutuseks ole skeptiline. Kontrolli väiteid. Kontrolli allikaid. Ristviita. Ära eelda, et AI teab. See ennustab. Mõnikord valesti. Enesekindlalt vale on kõige ohtlikum.

AI tulevik peab sellega tegelema. Mitte ainult genereerima. Genereerima tõepäraselt. Kontrollitavate allikatega. Selge määramatusega, kui see on asjakohane. See on usaldusväärne AI. Mitte see, mis meil täna on. Aga see, mida me peame homme ehitama.

Regulatiivsed raamistikud nagu ELi AI-määrus tunnistavad hallutsinatsioone AI usaldusväärsuse põhiliste väljakutsetena. Nõudes täpsust, läbipaistvust ja vastupidavust, lükkavad need regulatsioonid arengut kontrollimehhanismide ja arhitektuuriliste lahenduste suunas. Küsimus pole selles, kas hallutsinatsioonidega tegeleda; see on, kas teha seda ennetavalt parema disaini kaudu või reageerivalt pärast kasutuselevõtu ebaõnnestumisi.

Soovite faktipõhist tehisintellekti? Tutvuge Dweve Loomi ja Nexusega. Binaarne piiranguteadmiste. Selged põhjendusahelad. Kontrollitavad väljundid. Piiritletud teadmised selge määramatusega. Selline tehisintellekt, mis teab, millal ta ei tea. Ja ei hallutsineerib, et lünki täita.