Modelio kolapso krizė: kodėl inbrydingo AI sunaikins intelektą
Habsburgų problema skaitmeniniame pavidale
Europos istorijoje Habsburgų dinastija buvo viena galingiausių karališkųjų giminių. Jie šimtmečius valdė didžiules teritorijas. Tačiau jie turėjo lemtingą trūkumą: siekdami įtvirtinti valdžią ir išlaikyti kraujo liniją „gryną", jie tuokėsi su savo pusbroliais ir pusseserėmis. Per kartas šis kartotinis giminingų kraujo linijų kryžminimas lėmė garsųjį „Habsburgų žandikaulį" ir daugybę genetinių deformacijų bei sveikatos problemų. Genų fondas tapo per mažas, per daug kartotinis, ir galiausiai dinastija žlugo. Ispanijos karalius Karolis II, paskutinis Habsburgų valdovas Ispanijos imperijoje, buvo taip paveiktas giminingų santuokų, kad vos galėjo sukramtyti maistą.
2025 metais mes stebime skaitmeninį šio reiškinio atitikmenį. Mokslininkai tai vadina modelių žlugimu.
Pirmąjį gilaus mokymosi revoliucijos dešimtmetį (maždaug 2012-2022 m.) gyvenome duomenų aukso amžiuje. Mes mokėme savo modelius iš organiškos žmonijos produkcijos. Mes rinkome knygas, parašytas žmonių autorių, kodą, parašytą žmonių inžinierių, forumus, pilnus žmonių diskusijų, ir meną, sukurtą žmonių rankomis. Šie duomenys buvo netvarkingi, taip. Bet jie buvo turtingi. Jie buvo įvairūs. Juose buvo pasiskirstymo „uodegos": keista, kūrybiška, netikėta. Jie buvo įsišakniję fizinėje realybėje.
Bet tada atsirado ChatGPT, Midjourney ir Copilot. Staiga turinio kūrimo kaina nukrito beveik iki nulio. Internetas buvo užtvindytas dirbtinio intelekto sukurto teksto, dirbtinio intelekto sukurtų vaizdų ir dirbtinio intelekto sukurto kodo. SEO brukalių kūrėjai naudojo didžiuosius kalbos modelius, kad sugeneruotų milijonus „sąrašinių" straipsnių paspaudimų rinkimui. Botai pradėjo kalbėtis su botais socialiniuose tinkluose. „LinkedIn" prisipildė dirbtinio intelekto rašytų įrašų apie „minčių lyderystę". „Medium" buvo užtvindytas dirbtinio intelekto generuotais apmąstymais apie dirbtinį intelektą.
Šiandien didelė ir vis auganti viešojo interneto dalis yra sintetinė. Skaičiavimai rodo, kad iki 2025 metų 30-50% viešojo interneto teksto buvo sukurta dirbtinio intelekto. Ir štai problema: kai renkame interneto duomenis, kad išmokytume kitos kartos modelius, neišvengiamai renkame ir duomenis, sukurtus jų pirmtakų. Mes maitiname dirbtinį intelektą jo paties produkcija. Mes uždarome ratą. Mes kuriame Habsburgų dirbtinį intelektą.
Regresijos matematika
Tai ne tik filosofinis rūpestis. Tai matematinė būtinybė. Oksfordo, Kembridžo ir Toronto universiteto mokslininkai šį reiškinį įrodė griežtuose recenzuojamuose tyrimuose. Jie vadina jį „rekursijos prakeikimu“.
Matematika iš tiesų gana elegantiška savo niūrumu. Kai tikimybinis modelis (B modelis) mokosi iš duomenų, kuriuos sugeneravo kitas tikimybinis modelis (A modelis), B modelis įsisavina A modelio apytikslę tikrosios skirstinio versiją, o ne patį tikrąjį skirstinį. Jis įsisavina ir klaidas, ir signalą.
Tačiau viskas dar blogiau. B modelio mokymo procesas neišvengiamai pabrėžia didelės tikimybės A modelio išvesties sritis. Reti įvykiai, kūrybinės išimtys, skirstinio „uodegos“ A modelio sintetinėje išvestyje atstovaujamos per menkai (nes jos pagal apibrėžimą yra retos). Todėl B modelis šių uodegų pamato dar mažiau nei A modelis. Jis praranda variaciją.
Dabar apmokykime C modelį iš B modelio išvesties. Uodegos susitraukia dar labiau. Apmokykime D modelį iš C modelio. Dar labiau. Po pakankamai kartų skirstinys subyra į tašką. Visos išvestys tampa vienodos: pirminio skirstinio „vidurkis“, atimta visa įvairovė.
Įsivaizduokite, kad darote kopiją iš kopijos iš kopijos. Pirmoji kopija atrodo priimtina. Antroji šiek tiek neryški. Dešimtoji kopija jau triukšminga aštriais kraštais, detalės išblukusios, o vaizdas virsta pilka koše. Signalas silpsta eksponentiškai su kiekviena karta.
Uodegų praradimas
Dirbtinio intelekto modeliuose tai pasireiškia kūrybiškumo ir niuansų praradimu. Modeliai tampa „beveidžiai“. Jų tekstai tampa bendriniai, pasikartojantys ir saugūs. Jų menas susikoncentruoja į konkretų, blizgų, perdėtai nugludintą estetiką, kuriai trūksta realybės grūdėtumo ir tekstūros. Jų kodas tampa sintaksiškai tobulas, bet funkciškai bendrinis, be tų išmanių optimizavimo gudrybių, kurių imtųsi žmogus ekspertas.
Skirstinio „uodegose“ gyvena inovacijos. Šekspyras yra uodegose. Einšteinas yra uodegose. Keistos startuolių idėjos, iš kurių išauga milijardų vertės įmonės, yra uodegose. Kai panaikinate uodegas, panaikinate genialumo galimybę. Lieka pasaulis, kuriame viešpatauja kompetentinga vidutinybė.
Haliucinacijų stiprėjimas
Galbūt dar blogiau nei prarasta kūrybiškumas yra įgyjamas klaidingas pasitikėjimas. Modeliams besimokant iš savo pirmtakų haliucinacijų, šios klaidos sustiprėja. Kartą pasakyta melas yra anomalija. Melas, pakartotas milijoną kartų mokymo duomenyse, tampa faktu.
Apsvarstykite hipotetinę situaciją: GPT-5 haliucinuoja, kad tam tikras vaistas yra saugus nėštumo metu (o jis nėra). Ši haliucinacija paskelbiama tūkstančiuose dirbtinio intelekto sukurtų sveikatos straipsnių. GPT-6 mokosi iš šių straipsnių. Dabar jis „tiki" šiuo klaidingu faktu dar didesniu pasitikėjimu, nes matė jį tiek daug kartų. GPT-7 traktuoja jį kaip nusistovėjusias medicinos žinias.
Modelio kolapsas yra ne tik apie nuobodumą; jis yra apie atsiskyrimą nuo realybės. Jis yra apie dirbtinio intelekto kūrimą, kuris yra nepaprastai įsitikinęs faktais, kurių iš tikrųjų nėra.
Įrodymai jau čia
Mes nelaukiame, kol Modelio kolapsas įvyks. Mes stebime, kaip jis vyksta realiu laiku.
„Stack Overflow" pastebėjo didžiulį žmonių srauto sumažėjimą, o dirbtinio intelekto sukurtų kodų kiekis „GitHub" išaugo nežmoniškai. Jei mokote kodavimo modelį naudodami 2025 m. „GitHub" duomenis, mokote jį naudodami kodą, kurį 2024 m. greičiausiai parašė (arba bent jau padėjo rašyti) „Copilot". Jei tame 2024 m. kode buvo subtili klaida (tarkime, saugumo spraga, kurią dirbtinis intelektas linkęs siūlyti), 2025 m. modelis išmoks šią klaidą kaip gerąją praktiką. Jis ją sustiprins.
„Google" tyrėjai pastebėjo, kad naujesniuose paieškos rezultatuose vis dažniau pasikartoja frazių šablonai, būdingi didelių kalbos modelių rezultatams. Tos pačios frazės kartojasi vėl ir vėl: „Svarbu pažymėti, kad...", „Šiuolaikiniame sparčiai besikeičiančiame pasaulyje...", „Pasinerkime į tai...". Šie kalbiniai įpročiai plinta po tekstyną kaip virusas.
„Amazon" pranešė, kad nemaža dalis klientų atsiliepimų jų platformoje dabar yra sukurti dirbtinio intelekto. Produktų aprašymai yra sukurti dirbtinio intelekto. Tų produktų atsiliepimai yra sukurti dirbtinio intelekto. Netrukus tų atsiliepimų santraukos bus sukurtos dirbtinio intelekto. Vėžliai iki pat dugno.
„Skalavimo dėsniai", kurie paskatino dirbtinio intelekto bumą (idėja, kad tiesiog pridėjus daugiau duomenų ir daugiau skaičiavimo galios visada gaunami geresni rezultatai), atsimuša į sieną. Duomenys nebėra apribojimas; realybė yra apribojimas. Mums baigėsi švarūs žmogiškieji duomenys. Mes patys užteršėme savo šulinį.
The Dweve Solution: Epistemological Rigor
At Dweve, we anticipated this crisis. We realized early on that the "scrape everything" strategy was unsustainable. To build robust systems that do not collapse into hallucination, you need to prioritize Data Provenance: knowing exactly where your data comes from and whether it represents reality.
This is why we built Dweve Spindle: our Enterprise Knowledge Governance Platform. Spindle is not just a data pipeline. It is an epistemological system. It transforms raw information into verified, AI-ready knowledge through a rigorous seven-stage process.
The Seven-Stage Epistemological Pipeline
Every piece of information that enters the Dweve ecosystem goes through this pipeline:
Stage 1: Candidate. Raw information is identified and flagged for processing. This might be a web page, a document, a database record, or a sensor reading. At this stage, we only know that the information exists, not whether it is true or useful.
Stage 2: Extracted. Structured information is parsed from the raw source. Entities are identified. Facts are extracted. The unstructured mess becomes a structured knowledge graph candidate.
Stage 3: Analyzed. Claims are decomposed into atomic facts. A sentence like "Einstein won the Nobel Prize for relativity" is broken into verifiable components: "Einstein existed," "Einstein won a Nobel Prize," "The prize was for physics," "The prize was awarded for work on relativity." (Note: that last claim is actually false, which the pipeline would catch.)
Stage 4: Connected. Atomic facts are linked to our existing knowledge network. Does this new information contradict established facts? Does it corroborate them? Does it fill gaps? The graph integration reveals consistency and conflicts.
Stage 5: Verified. Multi-source validation occurs. Can we find independent confirmation from authoritative sources? Does the claim pass logical consistency checks? What is the provenance of the original source?
Stage 6: Certified. Quality assurance is complete. The information has achieved a confidence score above 0.7 on our six quality dimensions. It is marked as reliable for use in downstream applications.
Stage 7: Canonical. The information becomes authoritative, AI-ready knowledge. It can be used for training, for inference, for retrieval. It is ground truth.
The 32-Agent Military Hierarchy
This pipeline is not executed by a single algorithm. It is orchestrated by a specialized team of 32 AI agents, organized into a military-style hierarchy:
- Discovery Brigade (6 agents): Scouts that identify and retrieve potential knowledge sources
- Extraction Corps (5 agents): Specialists in parsing, NER, and structuring raw data
- Analysis Division (6 agents): Logicians who decompose claims and identify dependencies
- Connection Network (4 agents): Graph specialists who integrate new knowledge
- Quality Guard (4 agents): Validators who cross-reference and detect inconsistencies
- Governance Council (12 agents): Senior agents who make final certification decisions
Each agent has specialized expertise. They debate. They challenge each other's conclusions. They require consensus before information advances to the next stage. This multi-agent verification process is far more robust than any single-model approach to fact-checking.
Detecting 47 Types of Bias
Spindle is specifically designed to detect and flag bias in training data. Our system identifies 47 distinct bias types across four categories:
- Statistinis šališkumas: atrankos šališkumas, atrankos paklaida, išlikimo šališkumas, patvirtinimo šališkumas renkant duomenis
- Kognityvinis šališkumas: inkaravimas, prieinamumo euristika, rėminimo efektai šaltinio medžiagoje
- Kalbinis šališkumas: emociškai įkrauta kalba, eufemizmai, neaiškios formuluotės, įtikinėjimo rėminimas
- Sisteminis šališkumas: atstovavimo spragos, istoriniai šališkumai, užkoduoti tekste, kultūrinės aklosios dėmės
Kai aptinkamas šališkumas, informacija arba ištaisoma (jei įmanoma), arba pažymima (jei dėl ištaisymo kyla abejonių), arba atmetama (jei šališkumas yra esminis ir neištaisomas). Taip išvengiama šališkumo sustiprinimo, kuris kamuoja modelius, apmokytus ant neapdorotų interneto duomenų.
Keturi duomenų kilmės ramsčiai
Be „Spindle“ vamzdyno, mūsų platesnė duomenų strategija remiasi keturiais ramsčiais:
1. Nekaltasis žiniatinklis (iki 2023 m. archyvai)
Mes ypač vertiname duomenis, sukurtus prieš plačiai paplitusią generatyvųjį dirbtinį intelektą (maždaug 2022 m. pabaigoje / 2023 m. pradžioje). Šią erą vadiname „Nekaltuoju žiniatinkliu“. Šie archyviniai duomenys yra mūsų mokymo pamatas. Tai yra žmogaus kūrybos pagrindinė tiesa iš laikų iki užteršimo.
Mes daug investavome į iki 2022 m. sukurtų duomenų rinkinių įsigijimą ir tvarkymą: suskaitmenintos knygos, akademiniai archyvai, kodų saugyklos su įsipareigojimų istorijomis, įrodančiomis žmogaus autorystę, forumų archyvai iš eros, kai kiekvieną įrašą rašė žmogus.
Šie duomenys yra nepakeičiami. Kai žiniatinklis buvo užterštas, mes negalėjome jo išvalyti. Tačiau galime išsaugoti ir teikti pirmenybę švariems archyvams.
2. Sertifikuoti žmogiškieji šaltiniai
Šiuolaikiniams duomenims mes nesiremiame aklu žiniatinklio nuskaitymu. Mes tiesiogiai bendradarbiaujame su patikimomis institucijomis. Licencijuojame duomenis iš:
- Akademinių leidyklų: Recenzuojamus straipsnius (dažniausiai) rašo žmonės ir juos tikrina žmonės. Recenzavimo procesas užtikrina kokybės filtrą.
- Knygų leidyklų: Redakciniai procesai užtikrina tokį žmogiškosios priežiūros lygį, kurio žiniatinklio turiniui trūksta.
- Kodų saugyklų su CI/CD: Tai ypač svarbu. Mes ne tik nuskaitome kodą. Mes nuskaitome kodą, kuris išlaiko testus. Jei funkcija nesikompiliuoja, ją atmetame. Jei ji neišlaiko testų rinkinio, ją atmetame. Veikiantis kodas daug dažniau yra žmogaus parašytas (arba bent jau žmogaus patikrintas) nei atsitiktiniai fragmentai.
- Įmonių partnerių: Įmonės mums teikia nuosavybinius duomenis mainais už individualius modelius. Šie duomenys pagal apibrėžimą yra sukurti žmonių ir yra aktualūs verslui.
3. Simbolinis tikrinimas kaip imuninė sistema
Tai būdinga tik mūsų neurosimboliniam metodui. Kadangi mūsų sistema supranta logiką ir kodo struktūrą per mūsų apribojimais grindžiamą architektūrą, galime naudoti simbolinį tikrinimą mokymo duomenims filtruoti.
Jei mokome modelį rašyti Python, mes ne tik tiekiame jam neapdorotus tekstinius failus. Mes paleidžiame kodą per kompiliatorių. Jei jame yra sintaksės klaidų, jį atmetame. Paleidžiame jį per statinės analizės įrankį. Jei jame yra akivaizdžių saugumo spragų, jį atmetame. Vykdome jį pagal testų atvejus. Jei jis nepavyksta, jį atmetame.
Faktiniam turiniui tikriname teiginius pagal mūsų patvirtintą žinių grafą. Jei dokumente teigiama, kad Paryžius yra Vokietijos sostinė, simbolinis sluoksnis pastebi nenuoseklumą ir pažymi dokumentą kaip nepatikimą.
Tai veikia kaip imuninė sistema nuo modelio kolapso. Haliucinacijos ir klaidingas kodas, kurį generuoja kiti dirbtinio intelekto modeliai, nepraeina mūsų patikros ir yra išfiltruojami, kol dar nespėjo užteršti mūsų mokymo duomenų.
4. Uodegų išsaugojimo strategija
Mes sąmoningai imame daugiau pavyzdžių iš skirstinio „uodegų". Ieškome duomenų, kurie yra aukštos kokybės, bet neįprasti. Nenorime, kad mūsų modelis būtų „vidutiniškas". Norime, kad jis suprastų kraštinius atvejus, kūrybinius šuolius, puikias išimtis.
Dauguma didžiųjų kalbos modelių mokymo grandinių agresyviai filtruoja „iškrypėlius", kad stabilizuotų mokymą. Mes juos kruopščiai atrenkame. Inovacijos nevyksta ties vidurkiu; jos vyksta kraštuose. Kita proveržio idėja neskambės kaip visos kitos idėjos. Ji skambės keistai. Mes norime išsaugoti tą keistumą.
Realybės vertė
Netolimoje ateityje „žmogaus sukurti duomenys" taps prabangos turto klase. Didžiulis viešojo interneto vandenynas bus laikomas „šlamšto duomenimis": galbūt tinkamais užpildyti spragas ar išmokti pagrindinės gramatikos, bet pavojingais pagrindinėms žinioms.
Įmonės, turinčios prieigą prie nuosavų, realaus pasaulio duomenų (jutiklių žurnalų iš tikrų gamyklų, pacientų įrašų iš tikrų gydytojų, operacijų duomenų iš tikrų ekonomikų), turės didžiulį konkurencinį pranašumą. Jos turi „pagrindinę tiesą".
Modelio kolapsas yra egzistencinė grėsmė generatyvaus dirbtinio intelekto burbului. Tai rodo, kad negalime tiesiog be galo didinti masto. Negalime tiesiog imituoti kelio į superintelektą. Turime išlikti įžeminti. Turime atsirinkti. Turime vertinti kokybę labiau nei kiekybę.
Ateities dirbtinis intelektas nebus sukurtas iš viso interneto. Jis bus sukurtas iš patikrinto interneto. Jis bus sukurtas iš tiesos.
Reguliavimo aspektas
Tai ne tik techninis rūpestis. Reguliatoriai pradeda suprasti sintetinių duomenų užterštumo pasekmes.
ES dirbtinio intelekto aktas aiškiai reikalauja dokumentuoti mokymo duomenų kilmę didelės rizikos dirbtinio intelekto sistemoms. Jei jūsų modelis buvo mokytas su užterštais duomenimis ir sukuria kenksmingų rezultatų, turite gebėti įrodyti, kad ėmėtės pagrįstų veiksmų užtikrinti duomenų kokybę. „Mes nuskrebėme internetą" nebus priimtinas atsakymas.
BDAR jau dabar reikalauja, kad organizacijos tvarkytų duomenų tvarkymo veiklų įrašus. Tai išplėsti dirbtinio intelekto mokymo duomenims yra natūrali raida. Iš kur gauti jūsų mokymo duomenys? Ar galite įrodyti, kad jie surinkti teisėtai? Ar galite parodyti, kad jie atspindi tikrovę, o ne dirbtinio intelekto haliucinacijas?
Įmonės, kurios negali atsakyti į šiuos klausimus, susidurs su vis griežtesne reguliavimo kontrole. Įmonės, kurios gali įrodyti griežtą duomenų kilmę (kaip tos, kurios naudoja Dweve Spindle), turės atitikties pranašumą.
Kelias į priekį
Modelio kolapsas nėra neišvengiamas. Tai tingaus elgesio su duomenimis pasekmė. Jei ir toliau brauksime užterštą internetą ir šersime juo vis didesnius modelius, gausime Habsburgų DI: pasitikintį savimi, atrodantį pajėgų, bet iš esmės išsigimusį.
Bet jei investuosime į duomenų kokybę, jei kursime epistemologines sistemas, galinčias atskirti tiesą nuo haliucinacijų, jei išsaugosime žmogaus minties įvairovę, o ne sugrūsime ją į sintetinę košę, galime sukurti DI, kuris lieka įsišaknijęs tikrovėje.
Tam reikia sunkesnio darbo. Tam reikia didesnių investicijų. Tam reikia į duomenis žiūrėti kaip į brangų išteklių, o ne kaip į prekę, kurią galima beatodairiškai iškasinėti. Bet tai vienintelis kelias į DI sistemas, kurios ilgainiui išlieka naudingos, tikslios ir patikimos.
„Dweve" pasirinkome šį kelią. Mūsų derinys: nesugadinti archyviniai duomenys, sertifikuoti žmogiškieji šaltiniai, simbolinis tikrinimas ir įvairovės išsaugojimas užtikrina, kad mūsų modeliai išliktų susiję su realiu pasauliu. Mes statome filtrą tarp tikrovės ir simuliacijos.
Lengvas kelias veda į modelio kolapsą. Sunkus kelias veda į intelektą, kuris tikrai veikia. Mes žinome, kuriuo keliu einame.