Kriza urušavanja modela: zašto će AI koji se razmnožava ubiti inteligenciju
Habsburški problem u digitalnom obliku
U europskoj povijesti dinastija Habsburg bila je jedna od najmoćnijih kraljevskih obitelji. Stoljećima su vladali golemim područjima. No imali su kobnu manu: u nastojanju da učvrste vlast i zadrže svoju krvnu lozu "čistom", ženili su se s rođacima. Generacijama je to ponavljano križanje dovelo do poznate "habsburške čeljusti" i niza genetskih deformacija i zdravstvenih problema. Genski fond postao je premalen i previše zatvoren te se loza na kraju urušila. Karlo II. Španjolski, posljednji habsburški vladar Španjolskog Carstva, bio je toliko opterećen posljedicama križanja da je jedva mogao žvakati hranu.
Godine 2025. svjedočimo digitalnom ekvivalentu tog fenomena. Istraživači ga nazivaju kolaps modela.
Tijekom prvog desetljeća revolucije dubokog učenja (otprilike 2012. do 2022.) živjeli smo u zlatnom dobu podataka. Naše smo modele trenirali na organskom outputu čovječanstva. Prikupljali smo knjige koje su napisali ljudski autori, kod koji su napisali ljudski inženjeri, forume pune ljudskih rasprava i umjetnost koju su stvorile ljudske ruke. Ti su podaci bili neuredni, da. Ali bili su bogati. Bili su raznoliki. Sadržavali su "repove" distribucije: čudno, kreativno i neočekivano. Bili su utemeljeni u fizičkoj stvarnosti.
Ali onda su došli ChatGPT, Midjourney i Copilot. Odjednom je cijena stvaranja sadržaja pala gotovo na nulu. Internet je preplavljen tekstom, slikama i kodom koje je generirala umjetna inteligencija. SEO spameri koristili su LLM-ove za generiranje milijuna "listicle" članaka radi prikupljanja klikova. Botovi su počeli razgovarati s botovima na društvenim mrežama. LinkedIn se ispunio objavama koje je pisala umjetna inteligencija o "mislenom vodstvu". Medium je preplavljen esejima o umjetnoj inteligenciji koje je generirala umjetna inteligencija.
Danas je značajan i sve veći postotak javnog weba sintetičan. Procjene govore da je do 2025. godine 30 do 50 % teksta na javnom internetu generirala umjetna inteligencija. I tu je problem: kada prikupljamo podatke s weba za treniranje sljedeće generacije modela, neizbježno prikupljamo podatke koje su generirali njihovi prethodnici. Hranimo umjetnu inteligenciju njezinim vlastitim outputom. Zatvaramo krug. Stvaramo habsburšku umjetnu inteligenciju.
Matematika regresije
Ovo nije samo filozofska briga. To je matematička sigurnost. Istraživači s Oxforda, Cambridgea i Sveučilišta u Torontu dokazali su taj učinak u rigoroznim recenziranim studijama. Zovu ga "Prokletstvo rekurzije".
Matematika je zapravo prilično elegantna u svojoj sumornosti. Kada se probabilistički model (Model B) trenira na podacima koje je generirao drugi probabilistički model (Model A), Model B uči Modelovu A aproksimaciju prave distribucije, a ne samu pravu distribuciju. Uči pogreške zajedno sa signalom.
Ali postaje gore. Proces treniranja Modela B inherentno naglašava regije visoke vjerojatnosti izlaza Modela A. Rijetki događaji, kreativne iznimke, "repovi" distribucije, podzastupljeni su u sintetičkom izlazu Modela A (jer su, po definiciji, rijetki). Dakle, Model B vidi još manje primjera tih repova nego Model A. Gubi varijancu.
Sada trenirajte Model C na izlazu Modela B. Repovi se dodatno smanjuju. Trenirajte Model D na Modelu C. Još više. Nakon dovoljno generacija, distribucija se urušava u točku. Svi izlazi postaju isti: "srednja vrijednost" originalne distribucije, lišena sve raznolikosti.
Zamislite to kao izradu fotokopije fotokopije fotokopije. Prva kopija izgleda prihvatljivo. Druga je malo mutna. Do desete kopije, oštri rubovi postaju šum, detalji su isprani, a slika se pretvara u sivi mulj. Signal opada eksponencijalno sa svakom generacijom.
Gubitak repova
U AI modelima to se očituje kao gubitak kreativnosti i nijansi. Modeli postaju "bež". Njihovo pisanje postaje generičko, repetitivno i sigurno. Njihova umjetnost konvergira prema specifičnoj, sjajnoj, pretjerano uglađenoj estetici kojoj nedostaje hrapavost i tekstura stvarnosti. Njihov kod postaje sintaktički savršen, ali funkcionalno generički, bez pametnih optimizacijskih trikova koje bi ljudski stručnjak mogao upotrijebiti.
"Repovi" distribucije su mjesto gdje živi inovacija. Shakespeare je u repovima. Einstein je u repovima. Čudne startup ideje koje postaju tvrtke vrijedne milijarde dolara su u repovima. Kada eliminirate repove, eliminirate mogućnost genija. Dobivate svijet kompetentne prosječnosti.
Pojačanje halucinacija
Možda je gore od gubitka kreativnosti stjecanje samouvjerene pogrešnosti. Dok se modeli obučavaju na halucinacijama svojih prethodnika, te se pogreške pojačavaju. Laž izrečena jednom anomalija je. Laž ponovljena milijun puta u skupu za obučavanje postaje činjenica.
Razmotrimo hipotetski slučaj: GPT-5 halucinira da je određeni lijek siguran tijekom trudnoće (a nije). Ta halucinacija bude objavljena u tisućama članaka o zdravlju koje je generirala umjetna inteligencija. GPT-6 se obučava na tim člancima. Sada "vjeruje" u tu lažnu činjenicu s još većom sigurnošću jer ju je vidio toliko puta. GPT-7 je tretira kao utvrđeno medicinsko znanje.
Kolaps modela nije samo u tome da postane dosadan; radi se o tome da se odvoji od stvarnosti. Radi se o stvaranju umjetne inteligencije koja je iznimno samouvjerena u svemiru činjenica koje ne postoje.
Dokazi su već ovdje
Ne čekamo da se Kolaps modela dogodi. Gledamo kako se odvija u stvarnom vremenu.
Stack Overflow bilježi ogroman pad ljudskog prometa, dok je količina koda kojeg je generirala umjetna inteligencija na GitHubu eksplodirala. Ako obučavate model za kodiranje na GitHub podacima iz 2025., obučavate ga na kodu koji je vjerojatno napisao (ili barem pomogao napisati) Copilot 2024. Ako je taj kod iz 2024. imao suptilnu grešku (recimo, sigurnosnu ranjivost koju umjetna inteligencija ima tendenciju predlagati), model iz 2025. naučit će tu grešku kao najbolju praksu. I pojačat će je.
Istraživači u Googleu primijetili su da noviji rezultati pretraživanja sadrže sve ponavljajuće obrasce fraziranja karakteristične za izlaz jezičnih modela. Iste se fraze pojavljuju iznova i iznova: "Važno je napomenuti da...", "U današnjem svijetu koji se brzo mijenja...", "Zaronimo...". Ti jezični tikovi šire se korpusom poput virusa.
Amazon je izvijestio da je značajan postotak recenzija kupaca na njihovoj platformi sada generiran umjetnom inteligencijom. Opisi proizvoda generirani su umjetnom inteligencijom. Recenzije tih proizvoda generirane su umjetnom inteligencijom. Uskoro će i sažeci tih recenzija biti generirani umjetnom inteligencijom. Sve do beskraja.
"Zakoni skaliranja" koji su pokretali procvat umjetne inteligencije (ideja da jednostavno dodavanje više podataka i više računalne snage uvijek donosi bolje performanse) udaraju u zid. Podaci više nisu ograničenje; stvarnost je ograničenje. Ponestalo nam je čistih ljudskih podataka. Otrovali smo vlastito vrelo.
Rješenje tvrtke Dweve: Epistemološka strogost
U Dweveu smo predvidjeli ovu krizu. Rano smo shvatili da je strategija "prikupi sve" neodrživa. Kako biste izgradili robusne sustave koji ne padaju u halucinacije, morate dati prednost podrijetlu podataka: znati točno odakle vaši podaci dolaze i predstavljaju li stvarnost.
Zato smo izgradili Dweve Spindle: našu platformu za upravljanje korporativnim znanjem. Spindle nije samo podatkovni cjevovod. To je epistemološki sustav. Pretvara sirove informacije u provjerena, AI-spremna znanja kroz rigorozan proces od sedam faza.
Epistemološki cjevovod od sedam faza
Svaka informacija koja uđe u ekosustav Dweve prolazi kroz ovaj cjevovod:
Faza 1: Kandidat. Sirova informacija identificira se i označava za obradu. To može biti web stranica, dokument, zapis u bazi podataka ili očitanje senzora. U ovoj fazi znamo samo da informacija postoji, ne i je li istinita ili korisna.
Faza 2: Ekstrahirano. Strukturirane informacije izdvajaju se iz sirovog izvora. Entiteti se identificiraju. Činjenice se izvlače. Nestrukturirani nered postaje kandidat za strukturirani graf znanja.
Faza 3: Analizirano. Tvrdnje se rastavljaju na atomske činjenice. Rečenica poput "Einstein je dobio Nobelovu nagradu za teoriju relativnosti" rastavlja se na provjerljive dijelove: "Einstein je postojao", "Einstein je dobio Nobelovu nagradu", "Nagrada je bila za fiziku", "Nagrada je dodijeljena za rad na teoriji relativnosti". (Napomena: ta je posljednja tvrdnja zapravo netočna, što bi cjevovod otkrio.)
Faza 4: Povezano. Atomske činjenice povezuju se s našom postojećom mrežom znanja. Proturječi li ta nova informacija utvrđenim činjenicama? Potvrđuje li ih? Popunjava li praznine? Integracija u graf otkriva dosljednost i sukobe.
Faza 5: Provjereno. Provodi se validacija iz više izvora. Možemo li pronaći neovisnu potvrdu iz autoritativnih izvora? Prolazi li tvrdnja provjere logičke dosljednosti? Kakvo je podrijetlo izvornog izvora?
Faza 6: Certificirano. Osiguranje kvalitete je dovršeno. Informacija je postigla ocjenu pouzdanosti iznad 0,7 na naših šest dimenzija kvalitete. Označena je kao pouzdana za upotrebu u aplikacijama nizvodno.
Faza 7: Kanonsko. Informacija postaje autoritativno, AI-spremno znanje. Može se koristiti za obuku, za zaključivanje, za dohvat. To je temeljna istina.
Vojna hijerarhija od 32 agenta
Ovaj cjevovod ne izvršava jedan algoritam. Njime upravlja specijalizirani tim od 32 AI agenta, organiziranih u hijerarhiju po uzoru na vojsku:
- Izvidačka brigada (6 agenata): Izviđači koji identificiraju i prikupljaju potencijalne izvore znanja
- Korpus za ekstrakciju (5 agenata): Stručnjaci za parsiranje, NER i strukturiranje sirovih podataka
- Analitička divizija (6 agenata): Logičari koji rastavljaju tvrdnje i identificiraju ovisnosti
- Mreža za povezivanje (4 agenta): Stručnjaci za grafove koji integriraju novo znanje
- Straža kvalitete (4 agenta): Validatori koji unakrsno provjeravaju i otkrivaju nedosljednosti
- Upravljačko vijeće (12 agenata): Viši agenti koji donose konačne odluke o certifikaciji
Svaki agent ima specijaliziranu stručnost. Raspravljaju. Dovode u pitanje međusobne zaključke. Zahtijevaju konsenzus prije nego informacija napreduje u sljedeću fazu. Ovaj proces provjere s više agenata daleko je robusniji od bilo kojeg pristupa provjeri činjenica koji se temelji na jednom modelu.
Otkrivanje 47 vrsta pristranosti
Spindle je posebno dizajniran za otkrivanje i označavanje pristranosti u podacima za obuku. Naš sustav identificira 47 različitih vrsta pristranosti u četiri kategorije:
- Statistička pristranost: Pristranost uzorkovanja, pristranost odabira, pristranost preživljavanja, pristranost potvrđivanja u prikupljanju podataka
- Kognitivna pristranost: Sidrenje, heuristika dostupnosti, učinci okvira u izvornom materijalu
- Jezična pristranost: Nabijeni jezik, eufemizmi, dvosmislene riječi, uvjerljivo uokvirivanje
- Sustavna pristranost: Praznine u zastupljenosti, povijesne pristranosti ugrađene u tekst, kulturne slijepe točke
Kada se pristranost otkrije, informacija se ili ispravlja (ako je moguće), označava (ako je ispravak nesiguran) ili odbacuje (ako je pristranost temeljna i nepopravljiva). To sprječava pojačavanje pristranosti koje muči modele trenirane na sirovim mrežnim izvacima.
Četiri stupa podrijetla podataka
Osim Spindle cjevovoda, naša šira strategija podataka počiva na četiri stupa:
1. Netaknuti web (arhive prije 2023.)
Izuzetno veliku važnost pridajemo podacima nastalima prije široke rasprostranjenosti generativne umjetne inteligencije (otprilike kraj 2022. / početak 2023.). To razdoblje smatramo "netaknutim webom". Ti arhivski podaci temelj su našeg treniranja. Oni su temeljna istina ljudskog stvaralaštva prije nego što je kontaminacija počela.
Mnogo smo uložili u prikupljanje i uređivanje skupova podataka nastalih prije 2022.: digitaliziranih knjiga, akademskih arhiva, repozitorija koda s poviješću izmjena koja dokazuje ljudsko autorstvo te foruma iz doba kada je svaki post napisao čovjek.
Ti su podaci nezamjenjivi. Kad je web jednom kontaminiran, nismo ga mogli dekontaminirati. No možemo sačuvati i dati prednost čistim arhivima.
2. Certificirani ljudski izvori
Za suvremene podatke ne oslanjamo se na nasumično preuzimanje sadržaja s weba. Izravno surađujemo s pouzdanim institucijama. Podatke licenciramo od:
- Akademskih izdavača: Recenzirani su radovi (uglavnom) pisani od strane ljudi i provjereni od strane ljudi. Proces recenzije pruža filtar kvalitete.
- Izdavača knjiga: Urednički procesi osiguravaju razinu ljudskog nadzora kakvu web sadržaj nema.
- Repozitorija koda s CI/CD-om: To je ključno. Ne preuzimamo samo kod. Preuzimamo kod koji prolazi testove. Ako se funkcija ne kompajlira, odbacujemo je. Ako ne prolazi testni paket, odbacujemo je. Radni kod mnogo je vjerojatnije ljudski pisan (ili barem ljudski provjeren) nego nasumični isječci.
- Poslovnih partnera: Tvrtke nam daju vlastite podatke u zamjenu za prilagođene modele. Ti su podaci po definiciji ljudski generirani i poslovno relevantni.
3. Simbolička verifikacija kao imunološki sustav
To je jedinstveno za naš neuro-simbolički pristup. Budući da naš sustav razumije logiku i strukturu koda kroz našu arhitekturu temeljenu na ograničenjima, simboličku verifikaciju možemo koristiti za filtriranje podataka za treniranje.
Ako treniramo model za pisanje Pythona, ne hranimo ga samo sirovim tekstualnim datotekama. Kod provlačimo kroz kompajler. Ako ima sintaksne pogreške, odbacujemo ga. Provlačimo ga kroz statički analizator. Ako ima očite sigurnosne propuste, odbacujemo ga. Izvršavamo ga na testnim slučajevima. Ako ne prolazi, odbacujemo ga.
Za činjenični sadržaj unakrsno provjeravamo tvrdnje s našim verificiranim grafom znanja. Ako dokument tvrdi da je Pariz glavni grad Njemačke, simbolički sloj uočava nedosljednost i označava dokument kao nepouzdan.
Ovo djeluje kao imunološki sustav protiv Model Collapsea. Halucinacije i pogrešan kod koje generiraju drugi AI-ji ne prolaze naše provjere i bivaju filtrirani prije nego što mogu kontaminirati naš trening.
4. Strategija očuvanja repova distribucije
Namjerno povećavamo uzorkovanje "repova" distribucije. Tražimo podatke koji su visoke kvalitete, ali nekonvencionalni. Ne želimo da naš model bude "prosječan." Želimo da razumije rubne slučajeve, kreativne iskorake, briljantne iznimke.
Većina pipelinea za treniranje LLM-ova agresivno filtrira "outliere" kako bi stabilizirala trening. Mi ih pažljivo odabiremo. Inovacija se ne događa u prosjeku; događa se na rubovima. Sljedeća revolucionarna ideja neće zvučati kao svaka druga ideja. Zvučat će čudno. Želimo očuvati tu čudnost.
Vrijednost stvarnosti
U bliskoj budućnosti "podaci generirani od strane ljudi" postat će premium klasa imovine. Ogroman ocean javnog interneta smatrat će se "bezvrijednim podacima": korisnima možda za popunjavanje ili za učenje osnovne gramatike, ali opasnima za temeljno znanje.
Tvrtke koje imaju pristup vlasničkim podacima iz stvarnog svijeta (zapisnici senzora iz stvarnih tvornica, kartoni pacijenata stvarnih liječnika, podaci o transakcijama iz stvarnih gospodarstava) imat će ogromnu konkurentsku prednost. One posjeduju "temeljnu istinu."
Model Collapse je egzistencijalna prijetnja balonu generativne umjetne inteligencije. On sugerira da ne možemo jednostavno skalirati u nedogled. Ne možemo se jednostavno simulirati do superinteligencije. Moramo ostati utemeljeni. Moramo odabirati. Moramo cijeniti kvalitetu nad kvantitetom.
AI budućnosti neće biti izgrađen na cijelom internetu. Bit će izgrađen na verificiranom internetu. Bit će izgrađen na istini.
Regulatorna dimenzija
Ovo nije samo tehnički problem. Regulatori se bude na implikacije kontaminacije sintetičkim podacima.
EU AI Act izričito zahtijeva dokumentaciju podrijetla podataka za treniranje AI sustava visokog rizika. Ako je vaš model treniran na kontaminiranim podacima i proizvodi štetne rezultate, morate biti u mogućnosti dokazati da ste poduzeli razumne korake kako biste osigurali kvalitetu podataka. "Skrapali smo web" neće biti prihvatljiv odgovor.
GDPR već zahtijeva od organizacija da vode evidenciju o aktivnostima obrade podataka. Proširenje toga na podatke za obuku umjetne inteligencije prirodna je evolucija. Odakle potječu vaši podaci za obuku? Možete li dokazati da su prikupljeni legalno? Možete li pokazati da predstavljaju stvarnost, a ne halucinacije umjetne inteligencije?
Tvrtke koje ne mogu odgovoriti na ta pitanja suočit će se sa sve većim regulatornim nadzorom. Tvrtke koje mogu dokazati rigorozno podrijetlo podataka (poput onih koje koriste Dweve Spindle) imat će konkurentsku prednost u usklađenosti.
Put naprijed
Kolaps modela nije neizbježan. On je posljedica nemarnih praksi s podacima. Ako nastavimo prikupljati zagađeni web i unositi ga u sve veće i veće modele, dobit ćemo Habsburšku umjetnu inteligenciju: samouvjerenu, naizgled sposobnu, ali u osnovi degeneriranu.
Ali ako ulažemo u kvalitetu podataka, ako izgradimo epistemološke sustave koji mogu razlikovati istinu od halucinacije, ako sačuvamo raznolikost ljudske misli umjesto da je sažimamo u sintetičku kašu, možemo izgraditi umjetnu inteligenciju koja ostaje utemeljena u stvarnosti.
To zahtijeva teži rad. To zahtijeva više ulaganja. To zahtijeva tretiranje podataka kao dragocjenog resursa, a ne kao robe koju treba iskopavati. Ali to je jedini put do sustava umjetne inteligencije koji ostaju korisni, točni i pouzdani dugoročno.
U Dweveu smo odabrali taj put. Naša kombinacija netaknutih arhivskih podataka, certificiranih ljudskih izvora, simboličke verifikacije i očuvanja raznolikosti osigurava da naši modeli ostanu povezani sa stvarnim svijetom. Gradimo filtar između stvarnosti i simulacije.
Laki put vodi do kolapsa modela. Teški put vodi do inteligencije koja stvarno funkcionira. Znamo kojim putem idemo.