A „készségrothadás” kockázata: Hülyévé tesz minket az AI?
The Children of the Magenta
A légiközlekedési iparban van egy hátborzongató dokumentumfilm, amelynek címe „Children of the Magenta”. Ez a pilóták egy generációjára utal, akik erősen automatizált modern repülőgépeken tanultak repülni. A „Magenta” a repülési útvonal vonalának színére utal a pilótafülke automatikus navigációs kijelzőjén.
Ezek a pilóták szakértői voltak a repülésirányító számítógép programozásának. Tökéletesen tudták kezelni a rendszereket. De a nyomozók azt találták, hogy válsághelyzetekben (amikor az automatika meghibásodott vagy lekapcsolt a hibás érzékelőadatok miatt) ezek közül a pilóták közül néhányan pánikba estek. Elvesztették a repülőgép „érzését”. Küszködtek az alapvető botkormányos és pedálos repüléssel. Rendszerkezelőkké váltak, nem pedig pilótákká. Az alapkészségeik elsorvadtak.
Jelenleg éppen ezt a jelenséget erőltetjük rá a teljes globális tudásgazdaságra.
Olyan eszközöket adunk a junior fejlesztőknek, amelyek olyan kódot írnak, amit nem értenek. Olyan eszközöket adunk a junior ügyvédeknek, amelyek olyan szerződéseket fogalmaznak meg, amelyeket el sem olvastak. Orvostanhallgatóknak olyan diagnosztikai eszközöket adunk, amelyek olyan daganatokat észlelnek, amelyeket ők nem látnak.
Ez jól működik, amikor tiszta az idő és az automatika működik. De mi történik, ha a rendszer meghibásodik? És ami még fontosabb: ha a gép végzi el az összes gyakorlást, hogyan érhetik el valaha is a mesteri szintet az emberek?
A kognitív sorvadás
Ez a készségrohadás kockázata. Ez az emberi képességek fokozatos hanyatlása a használat hiánya miatt. Ez a „Google Maps-effektus" fokozva. A GPS előtt az embereknek mentális térképük volt a városukról; értették a térbeli összefüggéseket. Most a kék vonalat követjük. Ha lemerül az akkumulátor, eltévedünk a saját környékünkön.
A szoftverfejlesztésben egyre inkább megjelenik a „copy-paste szenior" jelensége. Ezek olyan fejlesztők, akik két év tapasztalattal képesek egy tízéves veterán teljesítményét produkálni, erősen támaszkodva az AI-asszisztensekre. De ha megkérjük őket, hogy javítsanak ki egy versenyhelyzeti hibát, vagy magyarázzák el, miért választottak egy adott architektúrát, összeomlanak. Megvan a produktivitásuk, de a mélység hiányzik.
Ez azért veszélyes, mert a szoftver összetett. Az AI által írt kód gyakran rejt finom hibákat vagy biztonsági réseket, amelyeket csak egy igazi szakértő vesz észre. Ha kiküszöböljük a tanulás küzdelmét (azokat az órákat, amelyeket az ember a fejét a falba verve tölt, hogy megértsen egy pointer-hibát), akkor megszüntetjük azt a folyamatot, amely szakértőket épít.
A tanonc-paradoxon
Ez strukturális válsághoz vezet a munkaerőpiacon: ez a tanonc-paradoxon.
Historikusan a szenior szakértők úgy jöttek létre, hogy junior korukban „robotmunkát" végeztek. Megtanultad kiváló jogi beadványokat írni azzal, hogy több száz unalmasat írtál, és egy partner kritizálta őket. Megtanultad diagnosztizálni a ritka betegségeket azzal, hogy rezidensként több ezer gyakori esetet láttál.
Ha az AI automatizálja a robotmunkát (ha megírja a sablonkódot, összefoglalja a dokumentumokat, és osztályozza a betegeket), mi marad a juniornak? Hogyan szerzik meg az „ismétléseket"? Ha kihagyod a tanonckodást, nem válhatsz mesterré. Csak örök kezdő maradsz egy nagyon erős számológéppel.
A Dweve megoldás: kiterjesztett intelligencia
Nálunk, a Dweve-nél úgy tervezzük az eszközeinket, hogy felvegyük a harcot a készségromlással. Ideológiailag elutasítjuk az „automatizálást”, amely leváltja a gondolkodást. Hiszünk az „augmentációban”, amely fokozza a gondolkodást.
Úgy gondoljuk, hogy az AI az elme kerékpárja kell, hogy legyen (gyorsabbá tesz), nem pedig az elme kerekes széke (visz, mert nem tudsz járni).
1. Magyarázó mód: az AI mint oktató
Amikor a kódolási asszisztensünk javaslatot tesz egy javításra, nem csak csendben beilleszti a kódot. „Magyarázó módba” kapcsol. Kiemeli a módosított sorokat, és elmagyarázza, miért.
- „Azért cseréltem ezt a ciklust egy map függvényre, mert ebben a kontextusban memóriahatékonyabb.”
- „Azért adtam hozzá egy szanitizációs ellenőrzést, mert ez a bemenet sebezhető lehet XSS-támadással szemben.”
A hibajavítást ezzel mikro-leckévé alakítja. Arra kényszeríti a felhasználót, hogy a logikával foglalkozzon, ne csak az eredménnyel. Tudást ad át a modellből az embernek.
2. Ember a folyamatban, tervezésből
A kritikus döntési rendszereinket (orvosi, jogi és pénzügyi területen) úgy terveztük, hogy javaslatot tegyenek és indokoljanak, soha ne döntsenek csendben. Ezt nevezzük „érvelő felületnek”.
Az AI bemutat egy tervezetet: „Javaslom ennek a kölcsönnek a jóváhagyását.” De bemutatja az érvet is: „Mivel az adósságráta alacsony, és a fedezet magas.” Arra kényszeríti a szakértőt, hogy átnézze a logikai lépéseket, és jóváhagyja azokat. Ez az embert kognitívan tartja „a folyamatban”, nem csak eljárásilag.
3. Interaktív hibakeresés
Mivel a modelljeink átláthatóak (üvegdoboz), a felhasználók vitába szállhatnak velük. Ha az AI azt mondja: „Ez egy macska”, a felhasználó megkérdezheti: „Miért?” Az AI megmutatja az észlelt jellemzőket. A felhasználó mondhatja: „Nem, ez egy kutya, nézd a füleit.”
Ez a dialektikus folyamat (az ember és gép közötti oda-vissza érvelés) élesíti a felhasználó kritikus gondolkodását. Szkepticizmusra ösztönöz. Megakadályozza a „a gép nemet mond” önelégültséget.
A mesterség megőrzése
Meg kell védenünk a „mesterséget”. Azt a mély, intuitív megértést, amely a küzdelemből, a gyakorlásból és a kudarcból születik.
Az AI-nak el kell vennie a robotmunkát (a papírmunkát, az adatbevitelt, a formázást). De nem veheti el a gondolkodást. Nem veheti el az ítélőképességet.
Ha olyan AI-t építünk, amely hülyévé tesz minket, akkor fajként vallottunk kudarcot. Man-kót építettünk eszköz helyett.
A Dweve-nél olyan eszközöket építünk, amelyek arra késztetnek, hogy jobbá váljunk. Olyan eszközöket építünk, amelyek okos felhasználókat igényelnek. Mert a jövőnek nem csak okosabb gépekről kell szólnia; okosabb emberekről is szólnia kell.
Olyan MI-t keres, amely okosabbá teszi a csapatát, nem pedig tőle függővé? A Dweve Glass Box architektúrája és magyarázó módja biztosítja, hogy szakemberei a technológiával együtt fejlődjenek. Vegye fel velünk a kapcsolatot, hogy megtudja, hogyan őrizheti meg és erősítheti meg a kiterjesztett intelligencia a szervezetében a szakértői tudást.