Idegtudományi hálózatok: mik azok, hogyan működnek, és miért félrevezető a nevük
Nagyapád telefonközpontja
Képzeld el: 1950-et írunk, és a nagyapád a telefonos társaságnál dolgozik. Mi a munkája? Egy hatalmas kapcsolótábla kezelése. Több száz kábel, több ezer apró aljzat, és az ő kezei villámgyorsan mozognak, hogy összekössenek egy hívást egy másikkal.
Hogyan működött a kapcsolótábla
Valaki hív a pékségből a virágboltba. A nagyapád bedug egy kábelt az A47-es aljzatból a B23-as aljzatba. Hívás összekötve. Valaki más hív a könyvtárból a postára. Egy másik kábel, egy másik kapcsolás. Egész nap kapcsolásokat végez, jeleket továbbít, segíti az információ áramlását egyik helyről a másikra.
Most képzeld el, hogy ez a kapcsolótábla képes lenne tanulni. Képzeld el, hogy több ezer hívás után elkezdené észrevenni a mintázatokat. A pékségből érkező hívások többsége reggel az éttermekbe megy. Az iskolákból érkező hívások többsége délután a szülőkhöz megy. A kórházból érkező hívások többsége sürgős, és azonnal továbbítani kell.
Ha ez a kapcsolótábla ezek alapján a mintázatok alapján tudná magát beállítani, és hatékonyabban kapcsolná a hívásokat anélkül, hogy a nagyapádnak mindegyiken gondolkodnia kellene, akkor valami nagyon hasonlód lenne egy neurális hálózathoz.
Pontosan ez az, ami a neurális hálózat valójában. Nem agy. Nem intelligencia. Csak egy nagyon kifinomult kapcsolótábla, amely gyakorlás útján tanulja meg, melyik kapcsolás működik a legjobban.
A „neurális hálózat" elnevezés miatt úgy hangzik, mintha elektronikus agyakat építenénk. Nem építünk. Okos kapcsolótáblákat építünk, amelyek tapasztalat révén egyre jobbak lesznek az információ továbbításában. Hadd mutassam meg pontosan, hogyan működik ez, olyan példákkal, amelyeket bárki megérthet.
A nagy névzavar (miért félrevezető a „neurális")
Amikor a tudósok az 1950-es években először építették ezeket a rendszereket, megnézték, hogyan működik az emberi agy, és azt gondolták: „Hé, építhetnénk valamit, ami ebből merít ihletet." Kölcsönöztek néhány ötletet és egy csábító nevet.
Rossz húzás.
Miért félrevezető a név
Ezeket a rendszereket „neurális hálózatoknak" nevezni olyan, mintha a repülőgépet „mechanikus madárnak" hívnánk. Igen, mindkettő repül. Igen, mindkettő a természet megfigyeléséből merített ihletet. De a repülőgép nem csapkodja a szárnyait, nincsenek tollai, nem kell kukacokat ennie, és nem vonul délre télire.
A valódi agyad
- → Körülbelül 86 milliárd idegsejt
- → Mindegyik egy hihetetlenül összetett biológiai sejt
- → Idegsejtenként több ezer kapcsolat
- → Kémiai folyamatokon és ingerületátvivő anyagokon alapul
- → Képes egész életed során növekedni és változni
Egy mesterséges "idegsejt"
Ez egy egyszerű matematikai művelet. Szorzás és összeadás. Ennyi. Körülbelül annyira hasonlít egy agysejtre, mint egy villanykörte a Napra. Mindkettő fényt bocsát ki, de az egyik egy hatalmas, magfúziós égitest, a másik pedig a fali konnektorod áramával működik.
Tehát amikor csak azt hallod, hogy "neurális hálózat", gondolj csak arra, hogy "mintafelismerő kapcsolótábla". Kevésbé hangzik jól, de sokkal pontosabb. És ha megérted, mik ezek a rendszerek valójában, azt is könnyebben megérted, mire képesek és mire nem.
A tanuló kapcsolótábla
A kapcsolótábla megtanulja a városod hívási szokásait. Több ezer hívás megfigyelése után észreveszi, hogy a pékség minden reggel 6 óra körül hívja az éttermeket. Holnap, amikor megérkezik az a reggel 6 órás hívás, a kapcsolótábla készen áll. Már előkészítette a legjobb kapcsolatot, tanult a tapasztalatból, alkalmazkodott a mintához. Pontosan ezt csinálják ezek a rendszerek. Mintákat keresnek a példákban, és ezeket a mintákat használják fel arra, hogy a jövőbeli kapcsolatokat gyorsabban és jobban hozzák létre.
Az építőkocka: egyetlen egyszerű kapcsolódási pont
Kezdjük a kapcsolótáblánk legkisebb darabjával: egyetlen kapcsolódási ponttal. A szakszerű elnevezés szerint ezt "mesterséges neuronnak" hívják. De valójában csak egy hely, ahol több vezeték találkozik, és egy vezeték megy ki.
Képzeld el, hogy eldöntöd, vigyél-e esernyőt, amikor elhagyod a házat. Több jelre is figyelsz:
A jelek, amelyeket figyelembe veszel
- Sötét és felhős az ég? (1. jel)
- Esőt mondott az időjárás-előrejelzés? (2. jel)
- Esős évszak van? (3. jel)
- Viszel más dolgokat is? (4. jel)
De nem mindegyik jel egyformán fontos. Az időjárás-előrejelzés valószínűleg megbízhatóbb, mint az ég puszta nézegetése. Az esős évszak egyes helyeken fontosabb, mint máshol. Lehet, hogy fejben súlyozod őket:
A fontosság súlyozása
- ● Sötét felhők: közepesen fontos
- ● Időjárás-előrejelzés: nagyon fontos
- ● Esős évszak: némileg fontos
- ● Dolgok cipelése: kevésbé fontos
Az agyad ezt a számítást a másodperc töredéke alatt elvégzi. A fontosság alapján mérlegeli az összes jelet, összeadja őket, és dönt: esernyő vagy nem esernyő.
Mit csinál egy mesterséges neuron
A mesterséges neuron pontosan ugyanezt teszi, csak számokkal. Minden beérkező jelet megszoroz a fontosságával (a súlyával). Az összes súlyozott jelet összeadja. Ha az összeg elég nagy, a kimenet: „igen, aktiválódj." Ha túl alacsony, a kimenet: „nem, maradj csendben."
Ez egy neuron. Szorozz meg néhány számot. Add össze őket. Ellenőrizd, hogy az összeg átlépi-e a küszöböt. A kimenet igen vagy nem. Semmi rejtély. Semmi intelligencia. Csak számtan.
Gondolj rá úgy, mint egy kidobóemberre egy klubnál, aki ellenőrzi az életkorodat, az öltözékedet, és hogy rajta vagy-e a vendéglistán. Minden tényezőnek más a súlya. Vendéglista? Valószínűleg bejutsz. Megfelelő cipő? Fontos, de nem döntő. A kidobóember összeadja az összes tényezőt, és egy döntést hoz: be vagy ki. Ez egy mesterséges neuron. Egy nagyon egyszerű döntési pont, amely több, eltérő fontosságú bemenetet vesz figyelembe.
A Pontok Összekötése: A Központ Kiépítése
Egyetlen kapcsolódási pont nem túl hasznos. A nagyapád központjában több ezer volt. Innen jön az erő.
Képzeld el, hogy megpróbálod felismerni a barátodat, Mariát egy zsúfolt pályaudvaron. Az agyad nem egy neuronnal hozza meg ezt a döntést. Több ezer döntési pontot használ, amelyek mindegyike más részletet vizsgál:
- Első szintű döntések: Ez egy személy? Nő? Körülbelül megfelelő a magassága?
- Második szintű döntések: Sötét haja van? Szemüveget visel? Ez a szokásos kabátja?
- Harmadik szintű döntések: Az arca hasonlít Mária vonásaira? Ez a járás ismerősnek tűnik. Ez biztosan az ő táskája.
- Végső döntés: Minden darab a helyére illik. Ez Mária. Ints neki, és szólítsd a nevén.
Egy mesterséges neurális hálózat ugyanígy működik. Rétegekbe szerveződik, mint egy épület emeletei. Az információ a földszintről (bemeneti réteg) áramlik fel több köztes emeleten (rejtett rétegek) keresztül a legfelső emeletig (kimeneti réteg).
Tegyük fel, hogy meg akarsz tanítani egy számítógépet macskák képeinek felismerésére. Így történik:
-
1
Bemeneti réteg (földszint):
Fogadja a nyers képet. A kép minden apró pontja (pixel) egy neuronba kerül. Egy kis fényképnek lehet 10 000 pixele, tehát 10 000 neuronra van szükség csak a fogadásához. Minden neuron egy apró információt tárol: „Az én pixelem sötét” vagy „Az én pixelem világos”.
-
2
Első rejtett réteg (első emelet):
Egyszerű mintákat keres. Egyes neuronok izgalomba jönnek, amikor vízszintes vonalakat látnak. Mások függőleges vonalakat vesznek észre. Néhányan görbéket vagy sarkokat szúrnak ki. Ezek a neuronok még nem tudják, hogy macskákat néznek. Csak annyit tudnak: „Itt találtam egy görbe vonalat” vagy „Ott fedeztem fel egy élt”.
-
3
Második rejtett réteg (második emelet):
Ezeket az egyszerű mintákat bonyolultabb alakzatokká kombinálja. „Hé, ez a görbe és ez az él együtt egy hegyes fülnek tűnik.” „Ezek a minták így elrendezve bajusznak tűnnek.” „Ez határozottan egy szemforma.” Még mindig nem ismeri fel a macskákat, csak a macska részeit azonosítja.
-
4
Harmadik rejtett réteg (harmadik emelet):
Az alkatrészeket teljes jellemzőkké állítja össze. „Ez a bajusz, ez az orrforma, ezek a hegyes fülek… Láttam már ezt a kombinációt. Ez kezd macskaarcnak tűnni.” Na most már kezdünk valahol tartani.
-
5
Kimeneti réteg (legfelső szint):
Meghozza a végső döntést. „A többi szint által találtak alapján 95%-ban biztos vagyok benne, hogy ez egy macska. Lehet, hogy kutya (3% esély). Biztosan nem autó (0,001% esély).” Az a neuron nyer, amelyik a legmagabiztosabb, és a hálózat bejelenti: „Macska!”
Minden réteg az előzőre épül. Az egyszerű mintákból bonyolult alakzatok lesznek. A bonyolult alakzatokból felismerhető jellemzők. A jellemzőkből pedig teljes tárgyak. Ez a trükk lényege. Nem valódi intelligencia, csupán nagyon okos rétegezése az egyszerű döntéseknek.
A tanulási rész (Hogyan lesz okosabb a kapcsolótábla)
Most jön az igazán érdekes rész. Hogyan tanulja meg a hálózat, hogy mely kapcsolatok fontosak?
Tanulás, mint a szennyes válogatása
Képzeld el, hogy megtanítod az unokaöcsédet a szennyes válogatására. Első alkalommal fogalma sincs, mit csinál. Lehet, hogy egy piros zoknit a fehér ingekhez tesz. Katasztrófa. Mindenhol rózsaszín ingek. Azt mondod: „Nem, nem, ez rossz volt. A piros a sötétekkel megy, nem a fehérekkel." Módosítja a belső szabályait. Legközelebb már egy kicsit jobban csinálja. Még hibázik, de kevesebbet. Folyamatosan javítod. „Így van!" „Nem, próbáld újra." „Tökéletes!" „Hoppá, majdnem." Száz adag szennyes után az unokaöcséd már megtanulta a mintákat. A fehérek együtt. A sötétek együtt. A pirosak a sötétekkel. A kényes darabok külön. Többé nincs rád szüksége. Gyakorlással és javítással tanult.
A neurális hálózatok pontosan ugyanígy tanulnak. Íme a folyamat:
-
1
Kezdj véletlenszerű tippelésekkel
A hálózat teljesen véletlenszerű kapcsolati erősségekkel (súlyokkal) indul. Olyan, mint az unokaöcséd az első napon. Mutatsz neki egy macska képet, és azt mondja: „Autó!” Tiszta értelmetlenség. De ez rendben van. Mindenki valahonnan indul.
-
2
Mutass neki egy példát
Tápláld be a hálózatba egy macska képét. A kép végigfolyik az összes rétegen. Minden neuron elvégzi a számítását (megszorozza a bemeneteket a súlyokkal, összeadja őket, aktiválódik vagy sem). Végül a kimeneti réteg tippel. Véletlenszerű súlyokkal a tipp szörnyű. „Kutya! Nem, autó! Talán… esernyő?”
-
3
Mondd meg neki a helyes választ
Te ismered a helyes választ (mert te címkézted fel a tanítóképeket). „Nem, az macska volt, nem autó.” A hálózat felméri, mennyire tévedett. 80%-os biztonsággal autót tippelt, amikor macskát kellett volna mondania? Ez nagyon nagy tévedés. Számítsd ki pontosan, mennyire tért el minden neuron a helyes választól.
-
4
Állítsd be a kapcsolatokat (visszaterjesztés)
Itt jön az okos rész. A hálózat a kimenettől visszafelé halad a bemenet felé, és ezt kérdezi: „Melyik kapcsolatok járultak hozzá ehhez a hibához? Melyik súlyokat kell módosítani?” Olyan, mintha visszakövetnéd az unokaöcséd gondolkodását. „A piros zoknit a fehérekkel tetted, mert azt hitted, a szín nem számít. Növeljük meg a szín fontosságát a döntésedben.” Állítsd be minden súlyt egy kicsit abba az irányba, amely csökkentette volna a hibát.
-
5
Ismételd meg ezerszer
Mutass a hálózatnak egy másik képet. Újra tippel (most már egy kicsit jobban). Mérd meg a hibát. Állítsd be újra a súlyokat. Ismételd meg több ezer vagy millió képpel. Lassan, fokozatosan a súlyok véletlenszerű szemétből hasznos mintákká alakulnak. Elég gyakorlás után a hálózat kezdi eltalálni. Mutatsz neki egy macskát, azt mondja, macska. Mutatsz neki egy kutyát, azt mondja, kutya. Megtanulta.
Mit jelent valójában a „tanulás”
Ezt a folyamatot „tanításnak” vagy „tanulásnak” nevezik, de valójában csak matematikai optimalizálás. Milliónyi apró számot (súlyt) állítunk be a példák alapján, amíg a hálózat előrejelzései egyeznek a valósággal. Semmiféle megértés. Semmiféle tudatosság. Csak mintafelismerés próbálgatással és hibázással.
Minél több példát mutatsz neki, annál jobb lesz. Minél változatosabbak a példák, annál jobban boldogul új helyzetekben. Ha csak golden retrievereket mutatsz neki, akkor az uszkárokkal fog meggyűlni a baja. Ha minden színű, méretű és helyzetű macskát mutatsz neki, akkor bárhol felismeri a macskákat.
Úgy képzeld el, mintha a gitárhúrok feszességét állítgatnád. Ha túl laza, rossz a hang. Ha túl feszes, szintén rossz. Megpendíted a húrt, meghallgatod a hangot, és kicsit állítasz a feszességen. Megint megpendíted. Még mindig nem egészen jó. Újra állítasz. Sok apró állítás után minden húr tökéletes hangot ad. Egy neurális hálózat tanítása nem más, mint milliónyi „feszesség-szabályzó” (súly) beállítása, amíg a kimenet jól nem hangzik. Csak itt zene helyett előrejelzéseket állítasz elő.
Mély tanulás (miért segítenek a további rétegek)
Hallhatod, hogy dobálóznak a „mély tanulás” kifejezéssel. Az emberek úgy tesznek, mintha valami varázslatos dolog lenne. Pedig nem az.
A „mély” csak annyit jelent, hogy „sok réteg”. Három vagy négy rejtett réteg helyett lehet húsz, ötven vagy akár száz egymásra rakott réteg. Ennyi. Ez a nagy titok.
Miért ennyi réteg? Mert az összetett mintákhoz összetett feldolgozás kell.
Képzeld el, hogy valakit megtanítasz felismerni a fákat. Csak két réteggel (egy rejtett réteggel) egyszerű szabályokat tudsz tanítani:
Egyszerű minták kevés réteggel
- ✓ Zöld dolog a tetején? Valószínűleg fa.
- ✓ Barna függőleges dolog alatta? Egyértelműen fa.
De mi van a pálmafákkal? A fenyőkkel? A cseresznyevirággal? A télen levéltelen fákkal? A hóval borított fákkal? A bonszai fákkal? A fatönkökkel? Csak egyszerű mintákkal sok változatot fogsz kihagyni.
Adj hozzá több réteget, és minden réteg egyre kifinomultabb jellemzőket tud megtanulni:
Összetett minták sok réteggel
- 1. réteg: Élek és textúrák
- 2. réteg: Kéregminták és levélformák
- 3. réteg: Ágstruktúrák
- 4. réteg: A különböző fafajok jellemzői
- 5. réteg: Fák különböző évszakokban és körülmények között
Minden réteg az előző réteg felfedezéseire építi a megértését. Mire eljutsz a kimenethez, a hálózat fel tudja ismerni az őszi tölgyeket, a tengerparti pálmafákat, a havas fenyőket és a tavaszi cseresznyevirágokat. Mindezt azokból a réteges mintákból.
A kompromisszum
Több réteg több számítást, több tanítási időt és több példát igényel. Egy sekély hálózat 10 000 képből is tanulhat. Egy mély hálózatnak akár egymillióra is szüksége lehet. De az olyan összetett feladatoknál, mint a nyelv megértése, több ezer tárgy felismerése vagy a mesteri szintű sakkozás, a mély hálózatok megérik a befektetett energiát.
Ezért mondjuk a ChatGPT-re és a modern MI-rendszerekre, hogy „mélyek”. Több tucat vagy akár több száz rétegük van, amelyek hihetetlenül összetett mintákat tanulnak meg hatalmas mennyiségű szövegből, képből vagy más adatból. Nem azért, mert intelligensek, hanem mert az elvégzendő feladatok nagyon finom, nagyon összetett minták felismerését követelik meg.
A két megközelítés: pontosság kontra hatékonyság
A legtöbb neurális hálózat ma nagyon pontos számokkal számol. Amikor a súlyokat szorozzák és adják össze, olyan számokat használnak, mint a 0.7234891 vagy az 1.3982736. Rengeteg tizedesjegy. Nagyon pontos.
A hagyományos megközelítés: túlzott pontosság
Olyan ez, mintha laboratóriumi mérleggel mérnénk ki a torta hozzávalóit, amely 0.001 gramm pontosságú. Liszt: 247.384 gramm. Cukor: 118.592 gramm. Nagyon pontos, nagyon precíz, és valljuk be, teljesen felesleges egy torta sütéséhez.
Ezek a pontos számok (úgynevezett lebegőpontos számok) rengeteg számítási teljesítményt igényelnek. Minden egyes szorzás ezekkel a számokkal több ezer tranzisztorműveletet vesz igénybe. Amikor több milliárd szorzást végzünk egy hálózat tanítása során, az hatalmas mennyiségű áramot és számítási időt jelent.
A bináris megközelítés
Bináris neurális hálózatok: csak két érték
Van egy másik megközelítés is: a bináris neurális hálózatok. A pontos tizedes számok helyett csak két értéket használunk. Plusz egyet vagy mínusz egyet. Ennyi.
Őrülten hangzik, nem? Hogyan lehet összetett mintákat tanulni csak két számmal?
A nagymama receptje szerinti megközelítés
Gondolj bele így. Amikor a nagymamád megsütötte azt az almás pitét, nem használt laboratóriumi mérleget. A szemére és a tapasztalatára hagyatkozott. „Ennyi liszt. Egy jó marék cukor. Egy tojásnyi vaj.” Egyáltalán nem pontos, a pite mégis isteni lett.
A bináris hálózatok hasonlóan működnek. Minden kapcsolat vagy „igen, ez számít” (+1), vagy „nem, ez nem számít” (-1). Nincs tizedes pontosság. Csak egyszerű igen/nem szavazatok.
A varázslat a kombinációban rejlik. Több ezer egyszerű igen/nem döntés kombinálódik meglepően pontos előrejelzésekké. Pontosan úgy, ahogy a nagymamád pontatlan mérései a tapasztalatával együtt tökéletes pitét eredményeztek.
Az előny
A bináris hálózatok sokkal gyorsabban futnak, és jóval kevesebb energiát fogyasztanak. Emlékszel még a bináris számítógépekről szóló korábbi beszélgetésünkre? Az igen/nem jellegű műveletek több százszor gyorsabbak, mint a pontos tizedes matematika. Egy bináris neurális hálózat futhat a telefonodon, egy egyszerű számítógépes chipen, sőt még apró, kevés energiával rendelkező eszközökön is. Ugyanez a hálózat pontos számokkal hatalmas számítógépet és rengeteg áramot igényelne.
A Dweve-nél a valós hatékonyság érdekében a bináris neurális hálózatokra összpontosítunk. A Core rendszerünk egyszerű igen/nem súlyokat használ, és 40-szer gyorsabban fut, mint a hagyományos hálózatok, miközben 96%-kal kevesebb energiát fogyaszt. Nem azért, mert spórolnánk, hanem mert a legtöbb valós feladatnál nincs szükség laboratóriumi pontosságra. A nagymama receptje szerinti megközelítés tökéletesen működik.
Miben Igazán Jók a Neurális Hálózatok
Most, hogy érted, hogyan működnek a neurális hálózatok, beszéljünk arról, mire is használhatók valójában. Mert a sok felhajtás ellenére nem mindenben jók.
A neurális hálózatok a mintafelismerésben jeleskednek. Ha több ezer, következetes mintázatot mutató példát mutatsz nekik, megtanulják felismerni ezeket a mintázatokat új példákban is. Ez teszi őket tökéletessé a következőkre:
📷 Képek felismerése
Mutass a hálózatnak egymillió feliratozott fényképet, és megtanulja felismerni a macskákat, kutyákat, autókat, arcokat, daganatokat a röntgenfelvételeken, repedéseket az utakon, bármit, amire betanítottad. A telefonod kamerája ezt használja az arcokra való fókuszáláshoz. A kórházak ezzel fedezik fel a betegségeket az orvosi vizsgálatokon.
🎤 A beszéd megértése
Amikor a Sirivel vagy az Alexával beszélsz, egy neurális hálózat alakítja át a hangmintáidat szöveggé. Több ezer órányi felvett beszédből tanulta meg, mit jelent az egyes hangmintázat. A különböző akcentusokat, a háttérzajt, a motyogást… mindezt mintafelismeréssel kezeli.
💬 Nyelvi feldolgozás
Fordítás, kérdések megválaszolása, szövegírás. A több milliárd szón betanított hálózatok megtanulják a nyelv működésének mintázatait. Nem azért, mert „értik” a nyelvet, hanem mert felismerik a mintákat, például hogy „ezt a szót általában az követi” és „ez a mondatszerkezet kérdést jelent”.
🎬 Ajánlások készítése
A Netflix sorozatokat ajánl, a Spotify megtalálja a neked tetsző zenét, az Amazon termékeket ajánl. Ezek a hálózatok milliók szokásaiból tanulnak mintázatokat. „Akiknek A és B tetszett, azoknak C is tetszett. Ez a személy szereti A-t és B-t, tehát valószínűleg C-t is szeretni fogja."
🎮 Játék
Sakkprogramok, Go-játékosok, videojáték-mesterséges intelligencia. A hálózat millió játékot játszik önmaga ellen, és megtanulja, mely lépések vezetnek győzelemhez, és melyek vereséghez. Tiszta mintafelismerés próba és hiba útján.
Észreveszed a mintát? Mindezek olyan feladatok, ahol nagy mennyiségű adatban következetes mintázatok léteznek. Mutass a hálózatnak elég példát, és megtalálja a mintázatokat.
Miben borzasztóak a neurális hálózatok
Most jöjjön a valóság. A neurális hálózatoknak komoly korlátai vannak:
⚠️ Hatalmas mennyiségű adatra van szükségük
Egy gyerek három kutyát lát, és megérti, mi az, hogy „kutya". Egy neurális hálózatnak több ezer vagy több millió kutyás képre van szüksége. Nincs adat? Nincs tanulás. Kevés adat? Gyenge teljesítmény. Ezek a rendszerek adatéhes szörnyetegek.
⚠️ Fekete dobozok
A hálózat nem tudja megmagyarázni a döntéseit. Ismeri a választ (vagy legalábbis azt hiszi, hogy ismeri), de nem tudja megmondani, miért. Milliónyi súly bonyolult kölcsönhatásban. Egyetlen ember sem tudja követni az érvelést. Ez nagy probléma az orvostudományban, a jogban és mindenhol, ahol meg kell indokolni a döntéseket.
⚠️ Elfogultságot tanulnak az adatokból
Ha a tanítóadatokban elfogultság van (és a legtöbb valós adatban van), a hálózat megtanulja ezeket az elfogultságokat. Történelmi diszkrimináció? A hálózat diszkriminálni fog. Kiegyensúlyozatlan példák? A hálózat rosszabbul teljesít az alulreprezentált csoportokon. Szemét be, szemét ki.
⚠️ Nem általánosítanak jól
Taníts be egy hálózatot macskákra és kutyákra, aztán mutass neki egy lovat. Megakad. Az emberek könnyen általánosítanak („Ó, ez is egy négylábú állat”). A neurális hálózatok nem. Csak azokat a konkrét mintákat ismerik, amelyeket a tanítás során láttak. Az új helyzetek összezavarják őket.
⚠️ Könnyen becsaphatók
Apró, az emberi szem számára láthatatlan változtatások teljesen becsaphatnak egy hálózatot. Módosíts néhány pixelt egy macskás fotón (olyan változtatásokat, amelyeket észre sem vennél), és a hálózat hirtelen 99%-os biztonsággal azt mondhatja: „Repülőgép!”. Ezt adversarial támadásnak hívják, és ez valódi biztonsági kockázat.
Ezek nem apró problémák. Ezek alapvető jellemzői annak, ahogyan a neurális hálózatok működnek. Egy hálózat csak annyira jó, amennyire a tanítóadatai, és csak azokat a mintákat tudja felismerni, amelyeket korábban már látott.
A valódi lényeg
Szóval mik is valójában a neurális hálózatok?
Kifinomult mintafelismerő gépek. Többrétegű kapcsolótáblák, amelyek példákból tanulnak. Matematikai optimalizációs rendszerek, amelyek milliónyi apró súlyt addig hangolnak, amíg a jóslatok nem egyeznek a valósággal.
Nem agyvelők. Nem intelligensek. Nem tudatosak. Nem „értenek” meg semmit. Ismétlés és korrekció révén ismerik fel a mintákat.
De ezeken a korlátokon belül figyelemre méltóan erősek. Átalakították a technológiát. A telefonod arcfelismerése, hangasszisztensek, spam-szűrők, fotórendszerezés, navigációs alkalmazások, streaming-ajánlók, automatikus fordítás… mind neurális hálózatokon alapul.
A kulcs az, hogy a megfelelő feladatokra használjuk őket
Mintafelismerés? Kiváló. Világos példákkal és konzisztens mintákkal jellemezhető feladatok? Tökéletes. Kreatív problémamegoldás, amelyhez a kontextus és a jelentés megértése kell? Annyira nem.
Amikor valaki „MI”-t vagy „neurális hálózatokat” próbál rád sózni, kérdezd meg magadtól: Ez valóban mintafelismerési probléma? Van elég jó adat a tanításhoz? Működni fog olyan helyzetekben, amelyeket még nem látott? Képes-e megmagyarázni a döntéseit, ha szükséges?
Ha a válaszok igen, igen, valószínűleg és nem (ebben a sorrendben), akkor a neurális hálózatok lehetnek a megfelelő eszköz. Ha nem, akkor valami másra lehet szükséged.
Az agy-metafora izgalmasnak és titokzatosnak tüntette fel a neurális hálózatokat. Ha megértjük, mik is valójában, vagyis kifinomult kapcsolótáblák, amelyek példákból tanulnak, kevésbé tűnnek varázslatosnak, de sokkal hasznosabbá válnak. Mert ha érted az eszközt, tudod, mikor érdemes használni, és mikor kell máshoz nyúlni. Ez a megértés pedig többet ér bármekkora marketingfelhajtásnál.
A Dweve-nél olyan neurális hálózatokat építünk, amelyek tiszteletben tartják a valóságot. Bináris műveletek. Hatékony számítás. Világos korlátok. Nincs varázslat, nincs felhajtás, csak becsületes mérnöki munka. Mert a legjobb mesterséges intelligencia az, amelyik a való világban működik, nem csak kutatási cikkekben.