Näin tekoälyn koulutus todella toimii: satunnaisesta

Training is siitä, kun tekoäly muuttuu hyödyttömästä hyödylliseksi. Näin se oikeasti tapahtuu niiden tuntien, päivien tai viikkojen laskennan aikana.

Näin tekoälyn koulutus todella toimii: satunnaisesta kaaoksesta hyödylliseksi älykkyydeksi

Muutos, jota kukaan ei näe

Kuulet koulutetuista tekoälymalleista koko ajan. ChatGPT. Kuvageneraattorit. Itseohjautuvat järjestelmät. Ne toimivat. Ne ovat hyödyllisiä. Joskus jopa vaikuttavia.

Mutta ne eivät alkaneet sellaisina. Ne alkoivat täysin hyödyttöminä. Satunnaisina. Tuottaen järjettömiä ennusteita. Generoiden roskasisältöä.

Koulutus on prosessi, joka muuttaa sen satunnaisen kaaoksen hyödylliseksi älykkyydeksi. Ja se on rajumpaa kuin luulet.

Mitä koulutus oikeastaan on

Tekoälymallin kouluttaminen on pohjimmiltaan oikeiden lukujen löytämistä.

Muistatko neuroverkkoartikkelista: malli on täynnä parametreja (painoja). Aluksi satunnaisia. Malli tekee satunnaisia ennusteita. Koulutus säätää näitä parametreja, kunnes ennusteista tulee hyviä.

Siinä se. Säädä lukuja. Tarkista, tuliko parempi. Säädä uudelleen. Toista miljoonia kertoja. Lopulta sinulla on hyödyllinen malli.

Yksinkertainen konsepti. Älyttömän monimutkainen toteutus.

"What Training Actually Is" on silmukka: havainnoi, valitse, toimi ja testaa uudelleen.

Koulutusprosessi (vaihe vaiheelta)

Käydään läpi tarkalleen, mitä koulutuksen aikana tapahtuu:

Vaihe 1: Alusta satunnaisesti Aloita satunnaisilla painoilla. Täysin satunnaisilla. Malli ei tiedä mitään. Sen ennusteet ovat roskaa. Se on lähtökohta.
Vaihe 2: Tee ennusteita (eteenpäinkulku) Syötä koulutusdataa. Malli käsittelee sen nykyisillä (satunnaisilla) painoillaan. Tuottaa ennusteita. Ne ovat vääriä. Hyvin vääriä. Mutta me tiedämme oikeat vastaukset.
Vaihe 3: Mittaa virheellisyys (häviön laskenta) Vertaa ennusteita oikeisiin vastauksiin. Laske luku, joka edustaa kokonaisvirheellisyyttä. Tämä on "häviö" tai "virhe". Suurempi tarkoittaa huonompaa.
Vaihe 4: Laske, miten parantaa (taaksepäinkulku) Laske differentiaalilaskennan avulla tarkalleen, miten kutakin painoa tulisi säätää häviön vähentämiseksi. Mihin suuntaan kutakin lukua tulisi työntää. Kuinka paljon. Tämä on gradientti: jyrkimmän laskun suunta kohti parempia ennusteita.
Vaihe 5: Päivitä painot Säädä kaikkia painoja hieman siihen suuntaan, joka vähentää häviötä. Ei liikaa (epävakaata). Ei liian vähän (hidasta). Juuri sopivasti (oppimisnopeus).
Vaihe 6: Toista Palaa vaiheeseen 2. Uusi dataerä. Uusi eteenpäinkulku, häviön laskenta, taaksepäinkulku ja painojen päivitys. Toista tuhansia tai miljoonia kertoja.

Vähitellen häviö pienenee. Ennusteet paranevat. Lopulta malli on hyödyllinen.

Tämä on koulutusta. Optimointia toistuvan säädön avulla. Yksinkertaista käsitteenä. Massiivista mittakaavaltaan.

Harjoitusaika: Miksi se kestää niin kauan

Pienet mallit pienillä tietoaineistoilla? Tunteja. Suuret mallit suurilla tietoaineistoilla? Viikkoja. Joskus kuukausia. Miksi niin kauan?

Miljardeja parametreja: Suurissa kielimalleissa on satoja miljardeja parametreja. Jokainen niistä vaatii säätämistä. Monta kertaa. Se tarkoittaa miljardeja laskutoimituksia jokaista harjoitusvaihetta kohden. Miljoonia harjoitusvaiheita. Matematiikka kasautuu.
Massiiviset tietoaineistot: Harjoittelu miljardeilla esimerkeillä. Kaikkien niiden käsittely useita kertoja (epochit). Jokainen esimerkki kulkee koko mallin läpi. Eteenpäin ja taaksepäin. Valtava määrä laskentaa.
Iteratiivinen hienosäätö: Painoja ei voi säätää vain kerran ja julistaa työtä valmiiksi. Pienet säädöt, toistettuina miljoonia kertoja, lähestyvät hitaasti hyviä arvoja. Se on asteittaista. Ei oikoteitä.
Laitteistorajoitukset: Tehokkaillakin GPU:illa on rajansa. Muistin kaistanleveys. Laskennan suorituskyky. Tiedonsiirron viive monen GPU:n kokoonpanoissa. Nämä pullonkaulat hidastavat kaikkea.

Suurten mallien harjoittaminen on aidosti yksi laskennallisesti raskaimmista tehtävistä, joita ihmiset tekevät. Eksaskaalan laskentaa. Petatavuja dataa. Viikkoja yhtäjaksoista GPU-aikaa. Mittakaava on järjetön.

Kustannukset (raha ja energia)

Harjoittelu ei ole vain aikaa. Se on kallista. Todella kallista.

Laskentakustannukset: GPU:iden vuokra maksaa tuhansia kuukaudessa. Suuren mallin harjoittaminen käyttää satoja tai tuhansia GPU:ita samanaikaisesti. Viikkojen ajan. Lasku nousee miljooniin dollareihin. Pelkästään laskennasta.
Energiankulutus: Jokainen GPU kuluttaa 300-500 wattia. Kerro tuhansilla. Pyöritä viikkoja. Kulutat sähköä voimalaitoksen tasolla. Hiilijalanjälki on valtava.
Datakustannukset: Laadukas harjoitusdata ei ole ilmaista. Kerääminen. Puhdistaminen. Labelointi. Tallennus. Siirto. Kaikki maksaa. Joskus enemmän kuin laskenta.
Henkilöstökustannukset: Data-analyytikot. ML-insinöörit. Infrastruktuuritiimit. Valvontaa 24/7. Virheiden debuggausta. Hyperparametrien optimointia. Työvoimakustannukset kasvavat.

Huippumallin harjoittaminen voi maksaa 10-100 miljoonaa euroa. Pelkästään yhdestä harjoituskerrasta. Jos jokin menee pieleen puolivälissä? Aloita alusta. Menetät viikkoja laskentaa ja miljoonia euroja.

Siksi vain hyvin rahoitetut organisaatiot voivat harjoittaa suurimpia malleja. Este ei ole tieto. Se on resurssit.

Mitä voi mennä pieleen (ja usein menee)

Harjoittelu on haurasta. Monia vikatiloja:

Katoavat gradientit: Hyvin syvissä verkoissa gradientit voivat muuttua pieniksi levitessään taaksepäin. Lopulta ne ovat niin pieniä, että painot tuskin päivittyvät. Harjoittelu pysähtyy. Malli lakkaa oppimasta.
Räjähtävät gradientit: Päinvastainen ongelma. Gradientit kasvavat valtaviksi. Painopäivitykset muuttuvat massiivisiksi. Malli hajaantuu. Häviö nousee äärettömyyteen. Harjoittelu kaatuu.
Ylisovittaminen: Malli opettelee harjoitusdatan ulkoa oppimisen sijaan. Toimii täydellisesti harjoitusesimerkeillä. Epäonnistuu uudella datalla. Klassinen vikatila.
Tilan romahdus: Tietyissä malleissa (kuten GAN:it) harjoittelu voi romahtaa tuottamaan vain yhdenlaista tulosta. Monimuotoisuus katoaa. Mallista tulee hyödytön.
Katastrofaalinen unohtaminen: Kun mallia harjoitetaan uudella datalla, se unohtaa, mitä se oppi vanhasta datasta. Aiempi tieto ylikirjoitetaan. Yleistä jatkuvan oppimisen skenaarioissa.
Laitteistoviat: GPU hajoaa. Verkkoyhteys katkeaa. Sähkökatkos. Harjoittelu kaatuu. Menetät tunteja tai päiviä edistymistä. Toivottavasti tallensit tarkistuspisteet.

Harjoittelu vaatii jatkuvaa seurantaa. Ongelmien havaitsemista ajoissa. Säätöjen tekemistä. Joskus vain aloittamista alusta, kun asiat menevät korjaamattomasti pieleen.

Kompromissi kohdassa "What Can Go Wrong (And Often Does)" on se, missä arvo katoaa tai hallinta palaa.

Binaarinen vs. liukulukuharjoittelu

Vakiotapa käyttää liukulukuoperaatioita. Tarkkaa. Joustavaa. Resursseja kuluttavaa.

Binaarinen harjoittelu on erilaista. Näin se toimii:

Hybriditarkkuus:

Eteenpäin suuntautuvassa vaiheessa: binarisoi painot ja aktivaatiot. Käytä edullisia XNOR- ja popcount-operaatioita. Nopeaa.

Taaksepäin suuntautuvassa vaiheessa: säilytä täyden tarkkuuden gradientit. Päivitä täyden tarkkuuden painot. Binarisoi sitten uudelleen seuraavaa eteenpäin suuntautuvaa vaihetta varten.

Binaarista nopeutta varten. Täyttä tarkkuutta oppimista varten. Parhaat puolet molemmista.

Suorat estimaattorit: Binarisointi ei ole differentioituvaa. Gradientteja ei voi laskea sen läpi normaalisti. Ratkaisu: teeskentele, että se on differentioituva taaksepäin suuntautuvassa vaiheessa. Vie gradientit suoraan läpi. Se toimii. Ei teoreettisesti täydellistä, mutta käytännössä tehokasta.
Stokastinen binarisointi: Deterministisen binarisoinnin (merkkifunktio) sijaan käytä todennäköisyyspohjaista. Auttaa pääsemään eroon paikallisista minimeistä. Lisää hyödyllistä kohinaa harjoittelun aikana. Parantaa lopullista tarkkuutta.
Dweve-lähestymistapa: Core-kehyksemme käyttää näitä tekniikoita binaaristen neuroverkkojen harjoitteluun. Tulos: 2× nopeampi harjoittelu verrattuna liukulukuun, säilyttäen samalla vastaavan tarkkuuden. Ei taikuutta. Vain tehokasta binaarioperaatioiden käyttöä siellä, missä ne toimivat.

Rajoitteiden löytäminen vs. painojen oppiminen

Perinteinen harjoittelu säätää painoja. Dweve Loom tekee jotain erilaista: löytää rajoitteita.

Evoluutiohaku: Gradienttilaskeutumisen sijaan käytetään evolutiivisia algoritmeja. Luodaan ehdokasjoukkoja rajoitteille. Arvioidaan niiden suorituskyky. Säilytetään hyvät. Muunnellaan ja yhdistellään niitä. Toistetaan.
Rajoitteiden kiteytyminen: Kun rajoite osoittautuu luotettavaksi monissa skenaarioissa, se "kiteytyy" pysyväksi tiedoksi. Siitä tulee muuttumaton. Se ei ole enää muutosten kohteena. Sen soveltaminen on taattu.
Luontaisesti selitettävä: Jokainen rajoite on looginen suhde. Ihmisen luettavissa. Tarkastettavissa. Jäljitettävissä. Ei mustaa laatikkoa. Jokainen päätös noudattaa eksplisiittisiä rajoiteketjuja.

Erilainen oppimisparadigma. Erilainen koulutusprosessi. Erilaiset takeet. Tietyissä tehtävissä (looginen päättely, rajoitteiden täyttyminen) usein parempi kuin perinteinen painojen oppiminen.

Hyperparametrien viritys (piilotettu monimutkaisuus)

Koulutus ei ole vain "algoritmin ajamista". Se edellyttää hyperparametrien asettamista. Niitä on paljon.

Oppimisnopeus: Kuinka suuria painopäivitykset ovat? Liian suuri: epävakaa. Liian pieni: hidasta.
Eräkoko: Kuinka monta esimerkkiä päivitystä kohti? Vaikuttaa konvergenssiin ja laitteiston tehokkuuteen.
Optimointimenetelmän valinta: SGD? Adam? RMSprop? Jokainen käyttäytyy eri tavalla.
Regularisointi: Kuinka paljon monimutkaisuutta rangaistaan? Estää ylisovittumisen, mutta voi heikentää suorituskykyä.
Verkkoarkkitehtuuri: Kuinka monta kerrosta? Kuinka leveä? Mitkä aktivointifunktiot? Eksponentiaalisia valintoja.
Datan lisääminen: Mitä muunnoksia sovelletaan? Kuinka aggressiivisesti?

Jokainen valinta vaikuttaa koulutukseen. Hyvien hyperparametrien löytäminen edellyttää kokeiluja. Paljon koeajoja. Jokainen kestää tunteja tai päiviä. Se on kallista. Aikaa vievää. Usein enemmän taidetta kuin tiedettä.

Siksi kokeneet ML-insinöörit ovat arvokkaita. He ovat nähneet tarpeeksi koulutusajoja, jotta heillä on intuitio hyperparametrivalinnoista. He eivät hukkaa aikaa huonoihin kokoonpanoihin.

Tila "Hyperparameter Tuning (The Secret Complexity)" -otsikon ympärillä kutistuu, kun säännöt, haku ja todistus kohtaavat.

Siirto-oppiminen (käytännöllinen oikotie)

Koulutus tyhjästä on kallista. Siirto-oppiminen on vaihtoehto.

Aloita esikoulutetusta mallista: Joku muu on jo kouluttanut mallin valtavalla datamäärällä. ImageNet visiota varten. Kirjat ja verkkodata kieltä varten. Aloitat heidän koulutetuilla painoillaan.
Hienosäädä omalla datallasi: Säädä esikoulutettuja painoja hieman omaa tehtävääsi varten. Huomattavasti vähemmän dataa tarvitaan. Paljon nopeampaa. Paljon halvempaa.
Miksi se toimii: Varhaiset kerrokset oppivat yleisiä piirteitä (reunat, tekstuurit, peruskuviot). Ne siirtyvät tehtävien välillä. Vain myöhemmät kerrokset tarvitsevat tehtäväkohtaista säätöä.

Viikkojen ja miljoonien dollareiden sijaan siirto-oppiminen vie sinut perille tunneissa tai päivissä minimaalisin kustannuksin. Näin suurin osa käytännön tekoälystä oikeasti rakennetaan.

Koulutuksen seuranta (tiedä milloin lopettaa)

Mistä tiedät, että koulutus toimii? Seurannasta.

Koulutushäviö: Sen pitäisi laskea ajan myötä. Jos se tasaantuu tai kasvaa, jokin on vialla.
Validointihäviö: Suorituskyky erillään pidetyllä datalla. Jos se kasvaa samalla kun koulutushäviö laskee, olet ylisovittamassa.
Gradienttinormit: Liian suuret? Räjähtävät gradientit. Liian pienet? Häviävät gradientit.
Painopäivitykset: Niiden ei pitäisi olla liian suuria eikä liian pieniä. Kultainen keskitie.
Oppimisnopeuden aikataulu: Usein oppimisnopeutta lasketaan ajan myötä. Nopeampaa alussa, hienovaraisemmat säädöt myöhemmin.

Kokeneet ammattilaiset seuraavat näitä mittareita jatkuvasti. Huomaa ongelmat ajoissa. Säädä hyperparametreja kesken koulutuksen tarvittaessa. Kyse on aktiivisesta hallinnasta, ei aseta ja unohda -menettelystä.

Milloin koulutus lopetetaan

Ikuisesti kouluttaminen ei auta. Tarvitset lopetuskriteerit:

Varhainen pysäytys: Validointihäviö lakkaa parantumasta N peräkkäisen epookin ajan? Lopeta. Olet valmis.
Tavoitetarkkuus: Saavutit tarkkuustavoitteesi? Lopeta. Lisäkoulutus tuhlaa resursseja.
Budjettiraja: Aika tai raha loppui? Lopeta. Käytä sitä mitä sinulla on.
Konvergenssi: Häviö tuskin muuttuu? Vähenevät tuotot. Lopeta.

Sen tietäminen, milloin lopettaa, on ratkaisevaa. Liian aikaisin: alisovittaminen. Liian myöhään: ylisovittaminen ja hukattu laskentateho. Kultaisen kohdan löytäminen vaatii kokemusta ja harkintaa.

Mitä sinun tulee muistaa

Jos et ota tästä muuta mukaasi, muista:

1. Koulutus on optimointia. Säädä parametreja ennustevirheen minimoimiseksi. Toista miljoonia kertoja. Asteittainen konvergenssi käyttökelpoiseksi malliksi.
2. Mittakaavalla on valtava merkitys. Miljardeja parametreja. Miljardeja esimerkkejä. Miljoonia päivitysvaiheita. Laskenta on aidosti valtavaa.
3. Koulutus on kallista. Miljoonia laskentakuluina. Valtava energiankulutus. Viikkoja aikaa. Merkittävä resurssisijoitus.
4. Moni asia voi mennä pieleen. Häviävät tai räjähtävät gradientit. Ylisovittaminen. Moodikollapsi. Laitteistoviat. Vaatii jatkuvaa seurantaa.
5. Hyperparametrit ovat kriittisiä. Oppimisnopeus, eräkoko, arkkitehtuurivalinnat. Hyvien arvojen löytäminen vaatii kokeilua. Taattuja kaavoja ei ole.
6. Siirto-oppiminen on käytännöllistä. Aloita esikoulutetuista malleista. Hienosäädä tehtävääsi varten. Kertaluokkia halvempaa ja nopeampaa kuin kouluttaminen tyhjästä.
7. Binaarikoulutus tarjoaa tehokkuutta. Hybriditarkkuus. Suorat estimaattorit. 2× nopeampi vastaavalla tarkkuudella. Käytännöllinen moniin tehtäviin.

Tila "What You Need to Remember" -otsikon ympärillä kutistuu, kun säännöt, haku ja todistus kohtaavat.

Lopputulos

Harjoitus muuttaa satunnaiset parametrit hyödylliseksi älykkyydeksi miljoonien pienten säätöjen kautta.

Se on laskennallisesti raskasta. Kallista. Aikaa vievää. Haurasta. Vaatii asiantuntemusta. Mutta se toimii.

Jokainen hyödyllinen tekoälymalli on käynyt tämän prosessin läpi. Satunnaisesta kaaoksesta käytännön hyötyyn. Harjoitus on se kohta, jossa taika tapahtuu. Paitsi ettei se ole taikaa. Se on optimointia. Massiivista, kallista ja huolellisesti valvottua optimointia.

Harjoituksen ymmärtäminen auttaa ymmärtämään tekoälyn rajoituksia. Miksi suuret mallit ovat kalliita. Miksi datan vinoumat ovat merkityksellisiä. Miksi hyperparametrit ovat hankalia. Miksi asiat menevät pieleen.

Glamouröösi osa tekoälyä on harjoitettu malli. Vaikea osa on sinne pääseminen. Nyt ymmärrät, mitä oikeasti tapahtuu niiden tuntien, päivien tai viikkojen aikana, joita harjoitus kestää. Se on vain matematiikkaa. Valtavia määriä matematiikkaa. Mutta vain matematiikkaa.

Haluatko nähdä tehokkaan harjoituksen käytännössä? Tutustu Dweve Coreen. Binaaristen neuroverkkojen harjoitus suorilla estimaattoreilla ja stokastisella binarisaatiolla. 2× nopeampi konvergenssi. Sama tarkkuus. Sellaista harjoitusta, joka kunnioittaa laskentabudjettiasi ja aikatauluasi.