Kako zapravo funkcionira treniranje umjetne

Trening je mjesto gdje AI prelazi iz beskorisnog u korisno. Evo što se zapravo događa tijekom tih sati, dana ili tjedana računanja.

Kako zapravo funkcionira treniranje umjetne inteligencije: od nasumičnog kaosa do korisne inteligencije

Transformacija koju nitko ne vidi

Stalno slušate o obučenim AI modelima. ChatGPT. Generatori slika. Sustavi za samostalnu vožnju. Oni rade. Korisni su. Ponekad čak i impresivni.

Ali nisu tako počeli. Počeli su potpuno beskorisni. Nasumični. Stvarali su besmislene predikcije. Generirali su beskoristan rezultat.

Obuka je proces koji tu nasumičnu zbrku pretvara u korisnu inteligenciju. I divlja je nego što mislite.

Što obuka zapravo jest

Obuka AI modela u osnovi se svodi na pronalaženje pravih brojeva.

Sjećate se iz članka o neuronskim mrežama: model je pun parametara (težina). U početku su nasumični. Model daje nasumične predikcije. Obuka prilagođava te parametre sve dok predikcije ne postanu dobre.

To je sve. Prilagodi brojeve. Provjeri jesu li bolji. Prilagodi ponovno. Ponovi milijune puta. Na kraju imate koristan model.

Jednostavan koncept. Apsurdno složena izvedba.

"What Training Actually Is" je petlja: promatraj, odaberi, djeluj i testiraj ponovno.

Proces obuke (korak po korak)

Prođimo točno kroz ono što se događa tijekom obuke:

Korak 1: Nasumična inicijalizacija Počnite s nasumičnim težinama. Potpuno nasumičnim. Model ne zna ništa. Njegove su predikcije beskorisne. To je početna točka.
Korak 2: Stvaranje predikcija (prolaz unaprijed) Unesite podatke za obuku. Model ih obrađuje sa svojim trenutačnim (nasumičnim) težinama. Stvara predikcije. One su pogrešne. Vrlo pogrešne. Ali mi znamo točne odgovore.
Korak 3: Mjerenje pogrešnosti (izračun gubitka) Usporedite predikcije s točnim odgovorima. Izračunajte broj koji predstavlja ukupnu pogrešnost. To je "gubitak" ili "pogreška". Veći broj znači lošije.
Korak 4: Izračun načina poboljšanja (prolaz unatrag) Pomoću računa točno izračunajte kako prilagoditi svaku težinu da biste smanjili gubitak. U kojem smjeru gurnuti svaki broj. Koliko. To je gradijent: smjer najstrmijeg spusta prema boljim predikcijama.
Korak 5: Ažuriranje težina Prilagodite sve težine lagano u smjeru koji smanjuje gubitak. Ne previše (nestabilno). Ne premalo (sporo). Baš kako treba (brzina učenja).
Korak 6: Ponavljanje Vratite se na korak 2. Nova serija podataka. Novi prolaz unaprijed, izračun gubitka, prolaz unatrag, ažuriranje težina. Ponovite tisuće ili milijune puta.

Postupno se gubitak smanjuje. Predikcije se poboljšavaju. Na kraju je model koristan.

To je obuka. Optimizacija ponovljenim prilagodbama. Jednostavno u konceptu. Ogromno u razmjeru.

Vrijeme treniranja: zašto traje tako dugo

Mali modeli na malim skupovima podataka? Sati. Veliki modeli na velikim skupovima podataka? Tjedni. Ponekad i mjeseci. Zašto tako dugo?

Milijarde parametara: Veliki jezični modeli imaju stotine milijardi parametara. Svaki od njih treba prilagoditi. Mnogo puta. To su milijarde izračuna po koraku treniranja. Milijuni koraka treniranja. Matematika se gomila.
Ogromni skupovi podataka: Treniranje na milijardama primjera. Obrada svih njih, više puta (epohe). Svaki primjer prolazi kroz cijeli model. Naprijed i natrag. Ogromna računalna snaga.
Iterativno usavršavanje: Ne možete samo jednom prilagoditi težine i proglasiti to gotovim. Male prilagodbe, ponovljene milijune puta, polako konvergiraju prema dobrim vrijednostima. Postupno je. Bez prečaca.
Ograničenja hardvera: Čak i snažni grafički procesori imaju ograničenja. Propusnost memorije. Računalna propusnost. Komunikacijski troškovi u postavkama s više grafičkih procesora. Ta uska grla usporavaju sve.

Treniranje velikih modela doista je jedan od računalno najzahtjevnijih zadataka koje ljudi obavljaju. Egzaskalno računalstvo. Petabajti podataka. Tjedni neprekidnog rada grafičkih procesora. Razmjeri su apsurdni.

Trošak (novac i energija)

Treniranje nije samo pitanje vremena. Ono je skupo. Doista skupo.

Troškovi računalne snage: Najam grafičkih procesora košta tisuće eura mjesečno. Treniranje velikog modela koristi stotine ili tisuće grafičkih procesora istodobno. Tjednima. Račun se penje na milijune eura. Samo za računalnu snagu.
Potrošnja energije: Svaki grafički procesor troši 300-500 vata. Pomnožite s tisućama. Pokrenite na tjedne. Trošite električnu energiju na razini elektrane. Ugljični otisak je ogroman.
Troškovi podataka: Kvalitetni podaci za treniranje nisu besplatni. Prikupljanje. Čišćenje. Označavanje. Pohrana. Prijenos. Sve to košta. Ponekad i više od računalne snage.
Ljudski troškovi: Znanstvenici za podatke. Inženjeri strojnog učenja. Timovi za infrastrukturu. Nadzor 24/7. Otklanjanje pogrešaka. Optimizacija hiperparametara. Troškovi rada se zbrajaju.

Treniranje najsuvremenijeg modela može koštati 10-100 milijuna eura. Samo za jedan ciklus treniranja. Ako nešto pođe po zlu na pola puta? Počnite ispočetka. Izgubite tjedne računalne snage i milijune eura.

Zato samo dobro financirane organizacije mogu trenirati najveće modele. Prepreka nije znanje. To su resursi.

Što može poći po zlu (i često prolazi)

Treniranje je osjetljivo. Mnogo načina na koje može zakazati:

Nestajanje gradijenata: U vrlo dubokim mrežama gradijenti mogu postati sitni dok se šire unatrag. Na kraju su toliko mali da se težine jedva ažuriraju. Treniranje zastaje. Model prestaje učiti.
Eksplodiranje gradijenata: Suprotan problem. Gradijenti postaju ogromni. Ažuriranja težina postaju masivna. Model divergira. Gubitak strelja u beskonačnost. Treniranje se ruši.
Pretjerano prilagođavanje: Model pamti podatke za treniranje umjesto da uči obrasce. Savršeno radi na primjerima za treniranje. Ne uspijeva na novim podacima. Klasičan način zakazivanja.
Kolaps načina: U određenim modelima (poput GAN-ova), treniranje može kolabirati tako da proizvodi samo jednu vrstu izlaza. Gubi raznolikost. Postaje beskoristan.
Katastrofalno zaboravljanje: Kada se trenira na novim podacima, model zaboravlja ono što je naučio iz starih podataka. Prethodno znanje se prepisuje. Uobičajeno u scenarijima kontinuiranog učenja.
Kvarovi hardvera: Grafički procesor umre. Mrežna veza padne. Nestanak struje. Treniranje se ruši. Izgubite sate ili dane napretka. Nadajte se da ste spremili kontrolne točke.

Obuka zahtijeva stalno praćenje. Rano uočavanje problema. Prilagodbe. Ponekad i potpuni početak ispočetka kada stvari krenu nepovratno po zlu.

Kompromis u "What Can Go Wrong (And Often Does)" mjesto je gdje vrijednost curi ili se kontrola vraća.

Binarna obuka u odnosu na obuku s pomičnim zarezom

Standardni pristup koristi operacije s pomičnim zarezom. Precizne. Fleksibilne. Zahtjevne za resurse.

Binarna obuka je drugačija. Evo kako:

Hibridna preciznost:

Tijekom prolaza unaprijed: binarizirajte težine i aktivacije. Koristite jeftine XNOR i popcount operacije. Brzo.

Tijekom prolaza unatrag: zadržite gradijente pune preciznosti. Ažurirajte težine pune preciznosti. Zatim ponovno binarizirajte za sljedeći prolaz unaprijed.

Binarno za brzinu. Puna preciznost za učenje. Najbolje od oba svijeta.

Procijenitelji ravno kroz: Binarizacija nije diferencijabilna. Kroz nju se normalno ne mogu izračunati gradijenti. Rješenje: pretvarajte se da je diferencijabilna tijekom prolaza unatrag. Propuštajte gradijente ravno kroz. Funkcionira. Nije teorijski savršeno, ali je praktično učinkovito.
Stohastička binarizacija: Umjesto determinističke binarizacije (funkcija predznaka), koristite probabilističku. Pomaže izbjeći lokalne minimume. Dodaje koristan šum tijekom obuke. Poboljšava konačnu točnost.
Pristup tvrtke Dweve: Naš Core okvir koristi te tehnike za obuku binarnih neuronskih mreža. Rezultat: 2× brža obuka u usporedbi s pomičnim zarezom, uz zadržavanje jednake točnosti. Nije magija. Samo učinkovito korištenje binarnih operacija tamo gdje one djeluju.

Otkrivanje ograničenja u odnosu na učenje težina

Tradicionalna obuka prilagođava težine. Dweve Loom čini nešto drugačije: otkriva ograničenja.

Evolucijsko pretraživanje: Umjesto gradijentnog spuštanja, koristite evolucijske algoritme. Generirajte kandidate za skupove ograničenja. Ocijenite njihovu učinkovitost. Zadržite dobre. Mutirajte ih i kombinirajte. Ponovite.
Kristalizacija ograničenja: Kada se ograničenje pokaže pouzdanim u mnogim scenarijima, ono se "kristalizira" u trajno znanje. Postaje nepromjenjivo. Više nije podložno promjenama. Zajamčeno se primjenjuje.
Objašnjivo po dizajnu: Svako ograničenje je logičan odnos. Čitljivo. Provjerljivo. Sljedivo. Bez crne kutije. Svaka odluka slijedi eksplicitne lance ograničenja.

Drugačija paradigma učenja. Drugačiji proces treniranja. Drugačija jamstva. Za određene zadatke (logičko zaključivanje, zadovoljavanje ograničenja), često bolje od tradicionalnog učenja težina.

Podešavanje hiperparametara (Skrivena složenost)

Treniranje nije samo "pokreni algoritam." Zahtijeva podešavanje hiperparametara. Puno njih.

Stopa učenja: Koliko su velika ažuriranja težina? Previsoka: nestabilno. Preniska: sporo.
Veličina serije: Koliko primjera po ažuriranju? Utječe na konvergenciju i učinkovitost hardvera.
Odabir optimizatora: SGD? Adam? RMSprop? Svaki se ponaša drugačije.
Regularizacija: Koliko kazniti složenost? Sprječava pretreniranost, ali može naštetiti učinkovitosti.
Arhitektura mreže: Koliko slojeva? Koliko širokih? Koje aktivacijske funkcije? Eksponencijalni izbori.
Proširenje podataka: Koje transformacije primijeniti? Koliko agresivno?

Svaki izbor utječe na treniranje. Pronalaženje dobrih hiperparametara zahtijeva eksperimentiranje. Puno probnih pokretanja. Svako traje sate ili dane. Skupo je. Dugotrajno. Često više umjetnost nego znanost.

Zato su iskusni ML inženjeri vrijedni. Vidjeli su dovoljno pokretanja treniranja da imaju intuiciju o izboru hiperparametara. Troše manje vremena na loše konfiguracije.

Prostor oko "Hyperparameter Tuning (The Secret Complexity)" se smanjuje kada se pravila, pretraživanje i dokaz susretnu.

Transferno učenje (Praktična prečica)

Treniranje od nule je skupo. Transferno učenje je alternativa.

Počnite s unaprijed obučenim modelom: Netko je drugi već obučio model na ogromnoj količini podataka. ImageNet za vid. Knjige i internetski podaci za jezik. Vi krećete s njihovim obučenim težinama.
Fino podesite na svojim podacima: Lagano prilagodite te unaprijed obučene težine za svoj specifični zadatak. Potrebno je mnogo manje podataka. Mnogo brže. Mnogo jeftinije.
Zašto to funkcionira: Rani slojevi uče općenite značajke (rubove, teksture, osnovne obrasce). One se prenose na različite zadatke. Samo kasniji slojevi trebaju prilagodbu specifičnu za zadatak.

Umjesto tjedana i milijuna dolara, prijenosno učenje dovodi vas do cilja za nekoliko sati ili dana uz minimalne troškove. Tako se zapravo gradi većina praktične umjetne inteligencije.

Praćenje obuke (znajte kada stati)

Kako znate da obuka funkcionira? Praćenjem.

Gubitak na obuci: Trebao bi se smanjivati tijekom vremena. Ako se stabilizira ili raste, nešto nije u redu.
Gubitak na validaciji: Učinkovitost na podacima koji nisu korišteni u obuci. Ako raste dok se gubitak na obuci smanjuje, radi se o pretreniranosti.
Norme gradijenata: Prevelike? Eksplodirajući gradijenti. Premale? Nestajući gradijenti.
Ažuriranja težina: Ne smiju biti ni prevelika ni premala. Zlatna sredina.
Raspored stope učenja: Često se stopa učenja smanjuje tijekom vremena. Brže na početku, finije prilagodbe kasnije.

Iskusni praktičari neprestano prate te metrike. Uočite probleme rano. Prilagodite hiperparametre usred obuke kada je to potrebno. To je aktivno upravljanje, a ne postavi i zaboravi.

Kada prekinuti obuku

Obuka bez kraja ne pomaže. Potrebni su vam kriteriji za zaustavljanje:

Rano zaustavljanje: Gubitak na validaciji prestaje se poboljšavati N uzastopnih epoha? Zaustavite se. Gotovi ste.
Ciljana točnost: Dosegli ste svoj cilj točnosti? Zaustavite se. Daljnja obuka troši resurse.
Ograničenje proračuna: Ponestalo je vremena ili novca? Zaustavite se. Iskoristite ono što imate.
Konvergencija: Gubitak se jedva mijenja? Sve manji prinosi. Zaustavite se.

Znati kada stati ključno je. Prerano: nedovoljna obučenost. Prekasno: pretreniranost i uzalud potrošena računalna snaga. Pronalaženje prave mjere zahtijeva iskustvo i prosudbu.

Što trebate zapamtiti

Ako ništa drugo ne zapamtite iz ovoga, zapamtite:

1. Obuka je optimizacija. Prilagođavajte parametre kako biste smanjili pogrešku predviđanja. Ponavljajte milijune puta. Postupna konvergencija prema korisnom modelu.
2. Razmjer je iznimno važan. Milijarde parametara. Milijarde primjera. Milijuni koraka ažuriranja. Računanje je doista golemo.
3. Obuka je skupa. Milijuni za računalne troškove. Ogromna potrošnja energije. Tjedni vremena. Veliko ulaganje resursa.
4. Mnogo toga može poći po zlu. Nestajući ili eksplodirajući gradijenti. Pretreniranost. Kolaps modova. Kvarovi hardvera. Zahtijeva stalno praćenje.
5. Hiperparametri su ključni. Stopa učenja, veličina serije, izbori arhitekture. Pronalaženje dobrih vrijednosti zahtijeva eksperimentiranje. Ne postoje zajamčene formule.
6. Prijenosno učenje je praktično. Krenite s unaprijed obučenim modelima. Fino podesite za svoj zadatak. Redove veličine jeftinije i brže od obuke od nule.
7. Binarna obuka nudi učinkovitost. Hibridna preciznost. Procjenitelji s ravnim prolazom. Dvostruko brže uz jednaku točnost. Praktično za mnoge zadatke.

Prostor oko "What You Need to Remember" smanjuje se kada se pravila, pretraživanje i dokaz susretnu.

Zaključak

Obuka pretvara nasumične parametre u korisnu inteligenciju kroz milijune malih prilagodbi.

Računalno je zahtjevna. Skupa. Dugotrajna. Krhka. Zahtijeva stručnost. Ali funkcionira.

Svaki korisni AI model prošao je kroz taj proces. Od nasumičnog kaosa do praktične upotrebljivosti. Obuka je mjesto gdje se događa čarolija. Osim što to nije čarolija. To je optimizacija. Masivna, skupa, pažljivo nadzirana optimizacija.

Razumijevanje obuke pomaže vam razumjeti ograničenja umjetne inteligencije. Zašto su veliki modeli skupi. Zašto je pristranost u podacima važna. Zašto su hiperparametri izbirljivi. Zašto stvari krenu po zlu.

Glamurozni dio umjetne inteligencije je obučeni model. Teški dio je doći do njega. Sada razumijete što se zapravo događa tijekom tih sati, dana ili tjedana obuke. To je samo matematika. Ogromne količine matematike. Ali samo matematika.

Želite vidjeti učinkovitu obuku u praksi? Istražite Dweve Core. Obuka binarnih neuronskih mreža s straight-through estimatorima i stohastičkom binarizacijom. 2× brža konvergencija. Ista točnost. Vrsta obuke koja poštuje vaš računalni proračun i vremenski okvir.