Neurónové siete: čo sú, ako fungujú a prečo je ich názov zavádzajúci
Telefónna ústredňa vášho starého otca
Predstavte si to: je rok 1950 a váš starý otec pracuje v telefónnej spoločnosti. Jeho práca? Obsluha obrovskej ústredne. Stovky káblov, tisíce malých zásuviek a jeho ruky sa bleskovo pohybujú, aby spojili jeden hovor s druhým.
Ako ústredňa fungovala
Niekto volá z pekárne do kvetinárstva. Váš starý otec zapojí kábel zo zásuvky A47 do zásuvky B23. Hovor je spojený. Niekto iný volá z knižnice na poštu. Ďalší kábel, ďalšie spojenie. Celý deň vytvára spojenia, smeruje signály a pomáha informáciám prúdiť z jedného miesta na druhé.
Teraz si predstavte, že by sa táto ústredňa vedela učiť. Predstavte si, že by si po tisíckach hovorov začala všímať vzorce. Väčšina ranných hovorov z pekárne smeruje do reštaurácií. Väčšina popoludňajších hovorov zo škôl smeruje k rodičom. Väčšina hovorov z nemocnice je naliehavá a mala by byť spojená okamžite.
Ak by sa táto ústredňa vedela prispôsobovať na základe týchto vzorcov a smerovať hovory efektívnejšie, bez toho, aby o každom z nich musel váš starý otec premýšľať, mali by ste niečo veľmi podobné neurónovej sieti.
To je v skutočnosti neurónová sieť. Nie mozog. Nie inteligencia. Len veľmi sofistikovaná ústredňa, ktorá sa učí, ktoré spojenia fungujú najlepšie, prostredníctvom praxe.
Názov „neurónová sieť" vyvoláva dojem, že staviame elektronické mozgy. Nie sme. Staviame inteligentné ústredne, ktoré sa vďaka skúsenostiam zlepšujú v smerovaní informácií. Ukážem vám presne, ako to funguje, na príkladoch, ktorým rozumie každý.
Veľký zmätok v názvosloví (prečo je „neurónový" zavádzajúce)
Keď vedci v 50. rokoch 20. storočia prvýkrát postavili tieto systémy, pozreli sa na to, ako funguje ľudský mozog, a pomysleli si: „Hej, mohli by sme postaviť niečo inšpirované tým." Požičali si niekoľko nápadov a efektný názov.
Zlý ťah.
Prečo je názov zavádzajúci
Nazývať tieto systémy „neurónovými sieťami" je ako nazývať lietadlo „mechanickým vtákom." Áno, obaja lietajú. Áno, obaja boli inšpirovaní pozorovaním prírody. Ale lietadlo nemáva krídlami, nemá perie, nemusí jesť červy a na zimu neodlieta na juh.
Váš skutočný mozog
- → Približne 86 miliárd neurónov
- → Každý z nich je neuveriteľne zložitá biologická bunka
- → Tisíce spojení na jeden neurón
- → Funguje na základe chémie a neurotransmiterov
- → Dokáže rásť a meniť sa po celý váš život
Umelý „neurón“
Je to jednoduchá matematická operácia. Násobenie a sčítanie. To je všetko. S mozgovou bunkou má asi toľko spoločné, ako žiarovka so slnkom. Obe produkujú svetlo, ale jedno je obrovská guľa jadrovej fúzie a druhé beží na elektrine z vašej zásuvky.
Takže kedykoľvek počujete „neural network“, predstavte si „spojovaciu ústredňu na učenie sa vzorov“. Je to menej príťažlivé, ale oveľa presnejšie. A pochopenie toho, čím tieto systémy skutočne sú, vám pomôže pochopiť, čo dokážu a čo nedokážu.
Učiaca sa spojovacia ústredňa
Ústredňa sa učí vzorce volaní vo vašom meste. Po sledovaní tisícov hovorov si všimne, že pekáreň volá do reštaurácií každé ráno okolo šiestej. Keď zajtra príde to ranné volanie o šiestej, ústredňa je pripravená. Už si vopred pripravila najlepšie spojenie, poučila sa zo skúseností a prispôsobila sa vzoru. To je to, čo tieto systémy robia. Hľadajú vzory v príkladoch a používajú ich na to, aby budúce spojenia vytvárali rýchlejšie a lepšie.
Základný stavebný kameň: jeden jednoduchý spojovací bod
Začnime s najmenším kúskom našej ústredne: jedným jediným spojovacím bodom. V odbornej terminológii sa nazýva „umelý neurón“. Ale v skutočnosti je to len miesto, kde sa stretáva niekoľko drôtov a jeden drôt vedie von.
Predstavte si, že sa rozhodujete, či si pri odchode z domu vezmete dáždnik. Pozeráte sa na niekoľko signálov:
Signály, ktoré zvažujete
- Je obloha tmavá a zamračená? (Signál 1)
- Predpovedali v predpovedi počasia dážď? (Signál 2)
- Je práve obdobie dažďov? (Signál 3)
- Nesiete so sebou aj iné veci? (Signál 4)
Ale nie všetky tieto signály sú rovnako dôležité. Predpoveď počasia je pravdepodobne spoľahlivejšia ako len pohľad na oblohu. Obdobie dažďov záleží viac na niektorých miestach ako na iných. Môžete si ich v mysli odvážiť:
Váženie dôležitosti
- ● Tmavé mraky: stredná dôležitosť
- ● Predpoveď počasia: veľmi dôležité
- ● Obdobie dažďov: trochu dôležité
- ● Nosenie vecí: menej dôležité
Váš mozog vykoná tento výpočet v zlomku sekundy. Zváži všetky signály podľa dôležitosti, spočíta ich a rozhodne: dáždnik, alebo bez dáždnika.
Čo robí umelý neurón
Umelý neurón robí presne to isté, ale s číslami. Každý prichádzajúci signál sa vynásobí svojou dôležitosťou (svojou váhou). Všetky takéto vážené signály sa spočítajú. Ak je súčet dostatočne vysoký, výstup je „áno, aktivovať". Ak je príliš nízky, výstup je „nie, zostať ticho".
Toto je jeden neurón. Vynásobte pár čísel. Spočítajte ich. Skontrolujte, či súčet prekročí prah. Výstup áno alebo nie. Žiadna záhada. Žiadna inteligencia. Len aritmetika.
Predstavte si to ako vyhadzovača v klube, ktorý kontroluje váš vek, dress code a to, či ste na zozname hostí. Každý faktor má inú váhu. Ste na zozname hostí? Pravdepodobne sa dostanete dnu. Správna obuv? Dôležité, ale nie rozhodujúce. Vyhadzovač spočíta všetky faktory a urobí jedno rozhodnutie: dnu, alebo von. To je umelý neurón. Veľmi jednoduchý rozhodovací bod, ktorý zohľadňuje viacero vstupov s rôznou úrovňou dôležitosti.
Spojenie bodov: Budovanie ústredne
Jeden spojovací bod nie je veľmi užitočný. Ústredňa vášho starého otca ich mala tisíce. Odtiaľ pochádza sila.
Predstavte si, že sa snažíte spoznať svoju kamarátku Máriu v preplnenej železničnej stanici. Váš mozog neurobí toto rozhodnutie jedným neurónom. Používa tisíce rozhodovacích bodov, pričom každý sa pozerá na iné detaily:
- Rozhodnutia prvej úrovne: Je to človek? Je to žena? Približne správna výška?
- Rozhodnutia druhej úrovne: Má tmavé vlasy? Nosí okuliare? Je to jej obvyklý kabát?
- Rozhodnutia tretej úrovne: Zodpovedá jej tvár črtám Márie? Tá chôdza vyzerá povedome. To je určite jej kabelka.
- Konečné rozhodnutie: Všetky časti do seba zapadajú. To je Mária. Zamávaj a zavolaj jej meno.
Umelá neurónová sieť funguje rovnako. Je organizovaná vo vrstvách, ako poschodia v budove. Informácie prúdia z prízemia (vstupná vrstva) cez niekoľko stredných poschodí (skryté vrstvy) až na najvyššie poschodie (výstupná vrstva).
Povedzme, že sa snažíte naučiť počítač rozpoznávať obrázky mačiek. Tu je to, čo sa stane:
-
1
Vstupná vrstva (prízemie):
Prijíma surový obrázok. Každá drobná bodka (pixel) v obraze vstupuje do jedného neurónu. Malá fotografia môže mať 10 000 pixelov, takže na jej prijatie potrebujete 10 000 neurónov. Každý neurón drží jeden malý kúsok informácie: „Môj pixel je tmavý“ alebo „Môj pixel je svetlý.“
-
2
Prvá skrytá vrstva (prvé poschodie):
Hľadá jednoduché vzory. Niektoré neuróny sa vzrušia, keď vidia vodorovné čiary. Iné si všímajú zvislé čiary. Niektoré odhalia krivky alebo rohy. Tieto neuróny ešte nevedia, že sa pozerajú na mačky. Len vedia: „Našiel som tu zakrivenú čiaru“ alebo „Zbadal som tam hranu.“
-
3
Druhá skrytá vrstva (druhé poschodie):
Spája tie jednoduché vzory do zložitejších tvarov. „Hej, tieto krivky a hrany spolu vyzerajú ako špicaté ucho.“ „Tieto vzory usporiadané týmto spôsobom vyzerajú ako fúzy.“ „Toto je určite tvar oka.“ Stále nerozpoznáva mačky, len identifikuje časti mačky.
-
4
Tretia skrytá vrstva (tretie poschodie):
Spája časti do úplných znakov. „Tieto fúzy, tento tvar nosa, tieto špicaté uši... Túto kombináciu som už videl. Toto začína vyzerať ako mačacia tvár.“ Teraz sa už niekam dostávame.
-
5
Výstupná vrstva (najvyššie poschodie):
Robí konečné rozhodnutie. „Na základe všetkého, čo našli ostatné poschodia, som si na 95 % istý, že je to mačka. Mohol by to byť pes (3 % šanca). Rozhodne to nie je auto (0,001 % šanca).“ Neurón s najvyššou istotou vyhráva a sieť oznámi: „Mačka!“
Každá vrstva stavia na tej predchádzajúcej. Jednoduché vzory sa menia na zložité tvary. Zložité tvary sa menia na rozpoznateľné črty. Črty sa menia na celé objekty. To je ten trik. Nie skutočná inteligencia, len naozaj šikovné vrstvenie jednoduchých rozhodnutí.
Časť o učení (Ako sa prepájacia doska stáva múdrejšou)
A tu to začína byť zaujímavé. Ako sa sieť naučí, ktoré spojenia sú dôležité?
Učenie ako triedenie prádla
Predstav si, že učíš svojho synovca triediť prádlo. Prvýkrát netuší. Červenú ponožku môže dať k bielym košeliam. Katastrofa. Všade ružové košele. Povieš: „Nie, nie, to bolo zle. Červená patrí k tmavému, nie k bielemu." Upraví si svoje mentálne pravidlá. Nabudúce sa mu darí o čosi lepšie. Stále robí chyby, ale menej. Stále ho opravuješ. „Tak presne!" „Nie, skús ešte raz." „Perfektné!" „Ups, celkom nie." Po stovke dávok prádla si tvoj synovec osvojil vzory. Biele spolu. Tmavé spolu. Červené s tmavými. Jemné veci zvlášť. Už ťa nepotrebuje. Naučil sa praxou a opravovaním.
Neurónové siete sa učia presne rovnakým spôsobom. Tu je postup:
-
1
Začnite náhodnými odhadmi
Sieť začína s úplne náhodnou silou spojení (váhami). Je to ako váš synovec v prvý deň. Ukážete mu obrázok mačky a on povie: „Auto!" Úplný nezmysel. Ale to je v poriadku. Každý niekde začína.
-
2
Ukážte jej príklad
Do siete vložíte obrázok mačky. Obrázok prechádza všetkými vrstvami. Každý neurón vykoná svoj výpočet (vynásobí vstupy váhami, spočíta ich, aktivuje sa alebo nie). Nakoniec výstupná vrstva vytvorí odhad. S náhodnými váhami je odhad hrozný. „Pes! Nie, auto! Možno... dáždnik?"
-
3
Povedzte jej správnu odpoveď
Poznáte správnu odpoveď (pretože ste tréningové obrázky označili sami). „Nie, to bola mačka, nie auto." Sieť zmeria, ako veľmi sa mýlila. Odhadla auto s 80% istotou, keď mala povedať mačka? To je veľmi zlé. Vypočítajte presne, ako ďaleko bol každý neurón od správnej odpovede.
-
4
Upravte spojenia (spätná propagácia)
Tu je ten šikovný trik. Sieť pracuje od výstupu smerom k vstupu a pýta sa: „Ktoré spojenia prispeli k tejto chybe? Ktoré váhy sa musia zmeniť?" Je to ako spätne sledovať myšlienkový pochod vášho synovca. „Dal si červenú ponožku k bielym, pretože si si myslel, že farba nezáleží. Zvýšme dôležitosť farby pri tvojom rozhodovaní." Upravte každú váhu mierne v smere, ktorý by znížil chybu.
-
5
Opakujte tisíckrát
Ukážte sieti ďalší obrázok. Vytvorí ďalší odhad (teraz už o niečo lepší). Zmerajte chybu. Znova upravte váhy. Opakujte s tisíckami alebo miliónmi obrázkov. Pomaly, postupne sa váhy zmenia z náhodného chaosu na užitočné vzory. Po dostatočnom tréningu začne sieť odpovedať správne. Ukážete mačku, povie mačka. Ukážete psa, povie pes. Naučila sa.
Čo vlastne znamená „učenie sa“
Tento proces sa nazýva „trénovanie“ alebo „učenie sa“, ale v skutočnosti ide len o matematickú optimalizáciu. Na základe príkladov sa upravujú milióny drobných čísel (váh), až kým predpovede siete nezodpovedajú realite. Žiadne porozumenie. Žiadne vedomie. Len rozpoznávanie vzorov metódou pokusov a omylov.
Čím viac príkladov mu ukážete, tým lepšie funguje. Čím rozmanitejšie príklady, tým lepšie zvláda nové situácie. Ukážte mu len zlatých retrieverov a bude mať problém s pudlmi. Ukážte mu mačky v každej farbe, veľkosti a polohe a spozná mačky kdekoľvek.
Predstavte si to ako nastavovanie napätia strún na gitare. Príliš voľné, zlý zvuk. Príliš napäté, tiež zlé. Brnknete na strunu, počúvate tón a mierne upravíte napätie. Brnknete znova. Stále to nie je celkom ono. Upravíte znova. Po mnohých malých úpravách každá struna vydáva dokonalý tón. Trénovanie neurónovej siete je len nastavovanie miliónov „gombíkov napätia“ (váh), kým výstup neznie správne. Len namiesto hudby vytvárate predpovede.
Hlboké učenie (prečo viac vrstiev pomáha)
Možno počúvate, ako sa okolo vás skloňuje pojem „hlboké učenie“. Ľudia sa tvária, že je to niečo magické. Nie je.
„Hlboké“ jednoducho znamená „veľa vrstiev“. Namiesto troch alebo štyroch skrytých vrstiev ich môžete mať dvadsať, päťdesiat alebo dokonca sto naukladaných na sebe. To je celé. To je celé veľké tajomstvo.
Načo toľko vrstiev? Pretože zložité vzory vyžadujú zložité spracovanie.
Predstavte si, že učíte niekoho rozoznávať stromy. Len s dvoma vrstvami (jednou skrytou vrstvou) môžete naučiť jednoduché pravidlá:
Jednoduché vzory s niekoľkými vrstvami
- ✓ Zelená vec hore? Pravdepodobne strom.
- ✓ Hnedá zvislá vec dole? Určite strom.
Ale čo palmy? Borovice? Čerešňové kvety? Stromy v zime bez listov? Stromy pokryté snehom? Bonsaje? Pne? Len s jednoduchými vzormi vám unikne mnoho variácií.
Pridajte viac vrstiev a každá vrstva sa môže postupne naučiť sofistikovanejšie vlastnosti:
Zložité vzory s mnohými vrstvami
- Vrstva 1: Hrany a textúry
- Vrstva 2: Vzory kôry a tvary listov
- Vrstva 3: Štruktúry konárov
- Vrstva 4: Charakteristiky rôznych druhov stromov
- Vrstva 5: Stromy v rôznych ročných obdobiach a podmienkach
Každá vrstva stavia pochopenie na objavoch predchádzajúcej vrstvy. Keď sa dostanete na výstup, sieť dokáže rozpoznať duby na jeseň, palmy na plážach, borovice v snehu a čerešňové kvety na jar. Všetko z týchto vrstvených vzorov.
Kompromis
Viac vrstiev znamená viac výpočtov, viac času na trénovanie a viac potrebných príkladov. Plytká sieť sa môže učiť z 10 000 obrázkov. Hlboká sieť môže potrebovať milión. Ale pri zložitých úlohách, ako je porozumenie jazyku, rozpoznávanie tisícov objektov alebo hranie šachu na majstrovskej úrovni, hlboké siete stoja za to úsilie.
Preto sú ChatGPT a moderné systémy umelej inteligencie „hlboké". Majú desiatky alebo stovky vrstiev, ktoré sa učia neuveriteľne zložité vzory z obrovského množstva textu, obrázkov alebo iných údajov. Nie preto, že by boli inteligentné, ale preto, že úlohy, ktoré vykonávajú, vyžadujú rozpoznávanie veľmi jemných a veľmi zložitých vzorov.
Dva prístupy: presnosť vs. efektívnosť
Väčšina dnešných neurónových sietí používa na svoje výpočty veľmi presné čísla. Keď násobia a sčítavajú váhy, používajú čísla ako 0,7234891 alebo 1,3982736. Veľa desatinných miest. Veľmi presné.
Tradičný prístup: zbytočná presnosť
Je to ako odmeriavať ingrediencie na koláč laboratórnou váhou s presnosťou na 0,001 gramu. Múka: 247,384 gramov. Cukor: 118,592 gramov. Veľmi presné, veľmi správne, a úprimne, úplne zbytočné na pečenie koláča.
Tieto presné čísla (nazývané pohyblivá rádová čiarka) vyžadujú veľa výpočtového výkonu. Každé násobenie s týmito číslami si vyžaduje tisíce operácií tranzistorov. Keď robíte miliardy násobení na trénovanie siete, nazbiera sa z toho obrovské množstvo elektriny a výpočtového času.
Binárny prístup
Binárne neurónové siete: len dve hodnoty
Existuje aj iný prístup: binárne neurónové siete. Namiesto presných desatinných čísel použite len dve hodnoty. Plus jedna alebo mínus jedna. To je všetko.
Zní to šialene, však? Ako sa môžete naučiť zložité vzory len s dvoma číslami?
Prístup podľa receptu starej mamy
Predstavte si to takto. Keď vaša stará mama piekla ten jablkový koláč, nepoužívala laboratórnu váhu. Použila svoje oči a skúsenosti. „Približne toľko múky. Poriadna hrsť cukru. Maslo veľké asi ako vajce." Vôbec nie presné, ale koláč aj tak bol výborný.
Binárne siete fungujú podobne. Každé spojenie je buď „áno, toto záleží" (+1), alebo „nie, toto nezáleží" (-1). Žiadna desatinná presnosť. Len jednoduché hlasy áno/nie.
Kúzlo je v kombinácii. Tisíce jednoduchých rozhodnutí áno/nie sa spoja a vytvoria prekvapivo presné predpovede. Rovnako ako nepresné merania vašej starej mamy spojené s jej skúsenosťami vytvorili dokonalý koláč.
Výhoda
Binárne siete bežia oveľa rýchlejšie a spotrebúvajú oveľa menej energie. Pamätáte si na našu skoršiu diskusiu o binárnom počítaní? Jednoduché operácie áno/nie sú stokrát rýchlejšie ako presná desatinná matematika. Binárna neurónová sieť môže bežať na vašom telefóne, na jednoduchom počítačovom čipe, dokonca aj na malých zariadeniach, ktoré nemajú veľa energie. Rovnaká sieť s presnými číslami by potrebovala obrovský počítač a množstvo elektriny.
V spoločnosti Dweve sa zameriavame na binárne neurónové siete pre skutočnú efektivitu. Náš systém Core používa jednoduché váhy áno/nie a beží 40-krát rýchlejšie ako tradičné siete, pričom spotrebúva o 96 % menej energie. Nie preto, že by sme skratovali, ale preto, že pri väčšine reálnych úloh nepotrebujete laboratórnu presnosť. Prístup babkinho receptu funguje úplne v pohode.
Na čo sú neurónové siete vlastne dobré
Teraz, keď už rozumiete, ako neurónové siete fungujú, poďme sa porozprávať o tom, na čo sú vlastne užitočné. Pretože napriek všetkému humbuku nie sú dobré na všetko.
Neurónové siete vynikajú v rozpoznávaní vzorov. Ak im ukážete tisíce príkladov s konzistentnými vzormi, naučia sa tieto vzory rozpoznávať v nových príkladoch. Vďaka tomu sú ideálne na:
📷 Rozpoznávanie obrázkov
Ukážte sieti milión označených fotografií a naučí sa identifikovať mačky, psov, autá, tváre, nádory na röntgenových snímkach, praskliny na cestách, čokoľvek, na čo ste ju trénovali. Kamera vášho telefónu to využíva na zaostrenie na tváre. Nemocnice to používajú na odhalenie chorôb na lekárskych skenoch.
🎤 Porozumenie reči
Keď sa rozprávate so Siri alebo Alexou, neurónová sieť prevádza vaše hlasové vzory na text. Naučila sa z tisícov hodín nahranej reči, čo znamená každý zvukový vzor. Rôzne prízvuky, šum v pozadí, mrmlanie... to všetko zvláda prostredníctvom rozpoznávania vzorov.
💬 Spracovanie jazyka
Preklad, odpovedanie na otázky, písanie textu. Siete trénované na miliardách slov sa učia vzory v tom, ako jazyk funguje. Nie preto, že by jazyku „rozumeli", ale preto, že rozpoznávajú vzory ako „toto slovo zvyčajne nasleduje po tamtom slove" a „táto štruktúra vety znamená otázku".
🎬 Tvorba odporúčaní
Netflix navrhuje filmy, Spotify hľadá hudbu, ktorá sa vám bude páčiť, Amazon odporúča produkty. Tieto siete sa učia vzorce z miliónov používateľov. „Ľuďom, ktorým sa páčilo A a B, sa páčilo aj C. Tomuto človeku sa páči A a B, takže sa mu pravdepodobne bude páčiť aj C."
🎮 Hranie hier
Šachové programy, hráči Go, AI vo videohrách. Sieť hrá milióny hier proti sebe samej a učí sa, ktoré ťahy vedú k víťazstvu a ktoré k prehre. Čisté rozpoznávanie vzorcov metódou pokusov a omylov.
Vidíte ten vzorec? Toto sú všetko úlohy, pri ktorých existujú konzistentné vzorce vo veľkom množstve údajov. Ukážte sieti dostatok príkladov a ona tie vzorce nájde.
V čom sú neurónové siete hrozné
A teraz realita. Neurónové siete majú vážne obmedzenia:
⚠️ Potrebujú obrovské množstvo údajov
Dieťa vidí troch psov a pochopí, čo je „pes". Neurónová sieť potrebuje tisíce alebo milióny obrázkov psov. Žiadne údaje? Žiadne učenie. Malý súbor údajov? Slabý výkon. Tieto systémy sú monštrá hladné po dátach.
⚠️ Sú to čierne skrinky
Sieť nevie vysvetliť svoje rozhodnutia. Pozná odpoveď (alebo si to aspoň myslí), ale nevie vám povedať prečo. Milióny váh, ktoré na seba komplexne vplývajú. Žiadny človek nedokáže vysledovať toto uvažovanie. To je veľký problém v medicíne, práve a všade tam, kde musíte rozhodnutia zdôvodňovať.
⚠️ Učia sa predsudky z údajov
Ak vaše tréningové údaje obsahujú predsudky (a väčšina reálnych údajov ich obsahuje), sieť sa tieto predsudky naučí. Historická diskriminácia? Sieť bude diskriminovať. Nevyvážené príklady? Sieť funguje horšie pri nedostatočne zastúpených skupinách. Odpad dnu, odpad von.
⚠️ Zle zovšeobecňujú
Natrénujte sieť na mačky a psy a potom jej ukážte koňa. Bude mať problém. Ľudia zovšeobecňujú ľahko („Aha, to je ďalšie štvorvchodové zviera“). Neurónové siete nie. Poznajú len konkrétne vzory, ktoré videli počas tréningu. Nové situácie ich mýlia.
⚠️ Dajú sa ľahko oklamať
Drobné zmeny neviditeľné pre ľudí dokážu sieť úplne oklamať. Zmeňte pár pixelov na fotografii mačky (zmeny, ktoré by ste si ani nevšimli) a sieť môže zrazu s 99 % istotou povedať „Lietadlo!“. Toto sa nazýva adversariálny útok a je to skutočný bezpečnostný problém.
Toto nie sú drobné problémy. Sú základom toho, ako neurónové siete fungujú. Sieť je len taká dobrá, ako jej tréningové dáta, a dokáže rozpoznať len vzory, ktoré už videla.
Skutočný záver
Čo sú teda neurónové siete naozaj?
Sú to sofistikované stroje na rozpoznávanie vzorov. Viacvrstvové prepínače, ktoré sa učia z príkladov. Matematické optimalizačné systémy, ktoré upravujú milióny drobných váh, až kým predikcie nezodpovedajú realite.
Nie sú to mozgy. Nie sú inteligentné. Nie sú vedomé. Ničomu „nerozumejú“. Rozpoznávajú vzory prostredníctvom opakovania a korekcie.
Ale v rámci týchto obmedzení sú pozoruhodne výkonné. Zmenili technológie. Rozpoznávanie tváre vo vašom telefóne, hlasoví asistenti, spamové filtre, organizácia fotiek, navigačné aplikácie, odporúčania na streamovacích službách, automatické preklady… to všetko poháňajú neurónové siete.
Kľúčom je používať ich na správne úlohy
Rozpoznávanie vzorov? Výborné. Úlohy s jasnými príkladmi a konzistentnými vzormi? Perfektné. Kreatívne riešenie problémov, ktoré si vyžaduje pochopenie kontextu a významu? Až tak nie.
Keď sa vám niekto snaží predať „AI“ alebo „neurónové siete“, položte si otázku: Je to naozaj problém rozpoznávania vzorov? Je dostatok kvalitných dát na tréning? Bude to fungovať na situácie, ktoré to ešte nevidelo? Dokáže to vysvetliť svoje rozhodnutia, keď je to potrebné?
Ak sú odpovede áno, áno, pravdepodobne a nie (v tomto poradí), potom môžu byť neurónové siete tým správnym nástrojom. Ak nie, možno budete potrebovať niečo iné.
Metafora mozgu robila neurónové siete vzrušujúcimi a tajomnými. Keď pochopíte, čím naozaj sú, sofistikované prepínače, ktoré sa učia z príkladov, prestanú byť také magické, ale oveľa viac využiteľné. Pretože keď rozumiete nástroju, viete, kedy ho použiť a kedy siahnuť po niečom inom. A takéto pochopenie má väčšiu hodnotu než akékoľvek množstvo marketingového humbuku.
V Dweve budujeme neurónové siete, ktoré rešpektujú realitu. Binárne operácie. Efektívny výpočet. Jasné obmedzenia. Žiadna mágia, žiadny humbuk, len poctivé inžinierstvo. Pretože najlepšia AI je tá, ktorá funguje v reálnom svete, nielen vo výskumných prácach.