Kuidas AI muudab kõik numbriteks

Kuidas AI muudab kõik numbriteks

Numbriprobleem

Arvutid töötavad numbritega. Ainult numbritega. Närvivõrgud? Sama. Lihtsalt matemaatika numbritega.

Aga maailm pole numbrid. Sõnad. Pildid. Helid. Mõisted. Kuidas AI neid töötleb?

Embeddingud. Need muudavad kõik numbriteks nii, et tähendus säilib. Kriitiline mõiste. Aluseks kogu kaasaegsele AI-le.

Mis embeddingud tegelikult on

Embedding on tihe arvude vektor, mis esindab midagi.

Sõna embedding: "kass" muutub [0.2, -0.5, 0.8, ...] (sajad numbrid).

Pildi embedding: foto muutub [0.1, 0.9, -0.3, ...] (tuhanded numbrid).

Numbrid pole juhuslikud. Need on õpitud tähendust tabama. Sarnased asjad saavad sarnased embeddingud. Erinevad asjad saavad erinevad embeddingud.

See on võti: sarnasus tähenduses muutub sarnasuseks numbrites. Matemaatilised tehted embeddingutega peegeldavad semantilisi seoseid.

Miks me embeddinguid vajame

Sõnu saaks esitada one-hot vektoritena. "Kass" = [1,0,0,...,0]. "Koer" = [0,1,0,...,0]. Iga sõna jaoks unikaalne number.

Probleem: seoseid ei tabata. "Kass" ja "koer" on sama erinevad kui "kass" ja "lennuk". Kõik vektorid on ortogonaalsed. Semantilist tähendust pole.

Embeddingud lahendavad selle. "Kass" ja "koer" saavad sarnased embeddingud (mõlemad loomad). "Kass" ja "lennuk" saavad erinevad embeddingud. Sarnasus vektorruumis peegeldab sarnasust tähenduses.

Nüüd on matemaatilistel tehtetel mõtet. Aritmeetika embeddingutega vastab tähenduse üle arutlemisele.

Kuidas embeddinguid õpitakse

Embeddingud pole käsitsi loodud. Need õpitakse andmetest.

Sõna embeddingud (Word2Vec lähenemine):

Treeni närvivõrk lihtsal ülesandel: ennusta kontekstisõnu sihtsõnast. Või vastupidi.

Näide: lause "Kass istus matil." Sihtsõna "kass" puhul ennusta "istus", "matil".

Võrk õpib: et konteksti hästi ennustada, peab see sarnaseid sõnu sarnaselt esitama. "Kass" ja "koer" esinevad sarnastes kontekstides. Nad saavad sarnased embeddingud.

Embeddingud on kõrvalsaadus. Mitte ülesande eesmärk. Aga nad tabavad semantilise tähenduse.

Kaasaegne lähenemine (Transformerid):

Embeddingud õpitakse suurema mudeli osana. Keelemudel ennustab järgmist sõna. Pildimudel klassifitseerib objekte. Embeddingud ilmnevad sisemiste esitustena.

Need on kontekstipõhised. Sama sõna saab erinevates kontekstides erinevad embeddingud. "Pank" (rahandus) vs "pank" (jõekallas) saavad erinevad esitused.

Semantiline ruum

Embeddingud loovad geomeetrilise ruumi, kus tähendus on geomeetria.

• Sarnasus = lähedus: Sarnased mõisted koonduvad. Loomad koonduvad. Sõidukid koonduvad. Abstraktsed mõisted koonduvad. Kaugus mõõdab sarnasust.
• Seosed = suunad: Tuntud näide: king - man + woman ≈ queen

Vektoraritmeetika hõlmab seoseid. Suund "man" → "king" (soost kuninglikkuseni) on sarnane suunale "woman" → "queen".

Analoogiatest saavad vektoritehted. Usu või mitte, aga see töötab.

Mõõtmed = atribuudid:

Iga mõõde hõlmab mõnda atribuuti. Üks mõõde võib olla "elusus" (elus vs elutu). Teine võib olla "suurus". Kolmas "abstraktsus".

Sajad mõõtmed hõlmavad sadu atribuute. Koos esindavad nad tähendust.

Erinevad manustuste tüübid

• Sõnamanustused: Sõnadest vektoriteks. Word2Vec, GloVe, FastText. NLP alus.
• Lausemanustused: Tervetest lausetest vektoriteks. Hõlmavad täislausete tähendust, mitte ainult sõnade oma. Kasutatakse semantilises otsingus.
• Pildimanustused: Piltidest vektoriteks. CNN-i tunnused. Võimutrafo väljundid. Võimaldavad pildiotsingut ja sarnasuse võrdlust.
• Multimodaalsed manustused: Erinevatest modaalsustest samasse ruumi. Tekst ja pildid saavad võrreldavad manustused. CLIP teeb seda. Võimaldab modaalsustevahelist otsingut.
• Graafimanustused: Graafide sõlmedest vektoriteks. Hõlmavad võrgustruktuuri. Kasutatakse sotsiaalvõrgustikes ja teadmusgraafides.

Kuidas manustusi kasutatakse

• Sarnasusoising: Sarnaste üksuste leidmine. Lähimad naabrid manustamisruumis. Otsingumootorid, soovitussüsteemid.
• Klassifitseerimine: Manustuste kasutamine klassifitseerimise tunnustena. Semantilised tunnused, mitte toorandmed. Parem üldistusvõime.
• Klasterdamine: Sarnaste üksuste rühmitamine. K-means manustuste põhjal. Teemade modelleerimine, klientide segmenteerimine.
• Ülekandeõpe: Suure mudeli manustuste kasutamine väikese ülesande jaoks. Eelõpitud teadmiste ülekandmine. Levinud pilditöötluses ja NLP-s.
• Otsingupõhine genereerimine: Päringute ja dokumentide manustamine. Asjakohaste dokumentide leidmine. Keelemudelile edastamine. Faktipõhised AI-vastused.

Binaarsed manustused (tõhus alternatiiv)

Traditsioonilised manustused: ujukomaarvudest vektorid. 32 bitti mõõtme kohta. Suur mälumaht.

Binaarsed manustused: 1 bitt mõõtme kohta. Iga mõõde on +1 või -1. 32× vähem mälu.

Kuidas need töötavad:

Manustused õpitakse tavapäraselt. Seejärel binariseeritakse: positiivsed mõõtmed muutuvad +1-ks, negatiivsed -1-ks.

Sarnasus: skalaarkorrutise asemel kasutatakse Hammingi kaugust või XNOR-popcounti. Palju kiirem.

Kompromissid:

Osa täpsust läheb kaotsi. Kuid paljude ülesannete puhul pole see oluline. Otsing ja lähima naabri leidmine töötavad binaarsete manustustega hästi.

Kasum: tohutu kiirus ja mälutõhusus. Kasutatav servaseadmetes. Miljardite vektorite kiire töötlemine.

Dweve'i lähenemine:

Piirangud on binaarsed mustrid. Olemuslikult binaarsed manustused. 65 536-bitised hüpervektorid. Tõhus salvestus, kiired toimingud.

Mustrite sobitamine XNOR-i ja popcounti abil. Sarnasus kokkulangevuse lugemise kaudu. Binaarne kogu tee lõpuni.

Mõõtmete arv on oluline

Kui palju mõõtmeid? Rohkem pole alati parem.

Liiga vähe mõõtmeid: Keerukust ei suudeta tabada. Erinevad mõisted põrkuvad. Olulised eristused lähevad kaotsi.

Liiga palju mõõtmeid: Arvutuslik kulu. Mälukasutus. Ülesobitumine. Mõõtmete needus (kõik muutub kõrgetes mõõtmetes võrdselt kaugeks).

Tüüpilised suurused:

Sõnamanustused: 100-300 mõõdet

Lausemanustused: 384-1024 mõõdet

Pildimanustused: 512-2048 mõõdet

Binaarsed hüpervektorid: 1024-65536 bitti (robustsete omaduste jaoks)

Valik sõltub ülesande keerukusest ja arvutuslikust eelarvest.

Mida pead meeles pidama

• 1. Manustused muudavad kõik numbriteks. Sõnad, pildid, mõisted muutuvad vektoriteks. Võimaldab AI-töötlust.
• 2. Tähendus muutub geomeetriaks. Sarnased mõisted saavad sarnased vektorid. Kaugus mõõdab sarnasust. Suunad jäädvustavad seoseid.
• 3. Õpitakse andmetest, mitte käsitsi loodud. Närvivõrgud õpivad manustusi treeningu osana. Andmete mustrid määravad esituse.
• 4. Võimaldavad semantilisi toiminguid. Matemaatika vektoritega peegeldab tähenduse üle arutlemist. Vektoraritmeetika teeb analoogiaid.
• 5. Erinevate andmete jaoks on erinevad tüübid. Sõnad, laused, pildid, graafid. Igal neist on spetsiaalsed manustamismeetodid.
• 6. Binaarsed manustused pakuvad tõhusust. 1 bitt mõõtme kohta 32 asemel. Tohutu mälu- ja kiirusekasum. Sobib paljudeks ülesanneteks.
• 7. Mõõtmete arv on kompromiss. Rohkem mõõtmeid jäädvustab rohkem keerukust. Kuid nõuab arvutusressursse. Vajalik on tasakaal.

Alumine rida

Manustused on see, kuidas AI loob silla inimkontseptsioonide ja masinarvutuse vahele. Kõik tähenduslik teisendatakse vektoriteks ruumis, kus tähenduse sarnasus muutub geomeetria sarnasuseks.

See pole lihtsalt esitus. See on kaasaegse AI alus. Otsing, soovitused, genereerimine, mõistmine. Kõik toetub manustustele.

Vektorid pole suvalised. Need on õpitud semantilise struktuuri jäädvustamiseks. Geomeetria peegeldab tähendust. Matemaatilised tehted vastavad arutluskäigule.

Binaarsed manustused näitavad, et semantilise tähenduse jaoks pole ujukoma täpsust vaja. 1-bitised esitused töötavad. Tõhusalt. Skaalas. Kasutatavad kõikjal.

Manustuste mõistmine tähendab mõistmist, kuidas AI maailma näeb. Mitte sõnade või piltidena. Vektoritena kõrgmõõtmelises ruumis, kus tähendus on matemaatika.

Soovid tõhusaid manustusi? Avasta Dweve'i hüpervektori lähenemine. 65 536-bitised binaarsed mustrid. XNOR-põhine sarnasus. Semantiline tähendus binaarruumis. Selline esitus, mis töötab riistvara kiirusel.