Riziko „zhnitia zručností“: Urobí nás AI hlúpymi?
Deti purpurovej
V leteckom priemysle existuje mrazivý dokumentárny film známy ako „Children of the Magenta". Označuje generáciu pilotov, ktorí sa naučili lietať na vysoko automatizovaných moderných lietadlách. „Magenta" sa vzťahuje na farbu čiary letovej dráhy na automatickom navigačnom displeji v kokpite.
Títo piloti boli expertmi na programovanie palubného počítača riadenia letu. Dokázali systémy dokonale spravovať. Vyšetrovatelia však zistili, že v krízových situáciách (keď automatizácia zlyhala alebo sa odpojila kvôli zlým údajom zo senzorov) niektorí z týchto pilotov prepadli panike. Stratili „cit" pre lietadlo. Zápasili so základným lietaním na riadiacej páke a smerovke. Stali sa z nich operátori systémov, nie letci. Ich základné zručnosti zhnili.
V súčasnosti tento fenomén spôsobujeme celej globálnej vedomostnej ekonomike.
Dávame mladším vývojárom nástroje, ktoré píšu kód, ktorému nerozumejú. Dávame mladším právnikom nástroje, ktoré navrhujú zmluvy, ktoré nečítali. Dávame študentom medicíny diagnostické nástroje, ktoré odhalia nádory, ktoré nevidia.
To funguje dobre, keď je jasné počasie a automatizácia pracuje. Čo sa však stane, keď systém zlyhá? A čo je dôležitejšie: ak stroj vykonáva všetok tréning, ako môžu ľudia niekedy dosiahnuť majstrovstvo?
Kognitívna atrofia
Toto je riziko Skill Rot. Je to postupný úpadok ľudských schopností v dôsledku nepoužívania. Je to "efekt Google Maps" na steroidoch. Pred GPS mali ľudia mentálnu mapu svojho mesta; rozumeli priestorovým vzťahom. Teraz nasledujeme modrú čiaru. Ak zomrie batéria, sme stratení vo vlastnej štvrti.
V softvérovom inžinierstve pozorujeme vzostup "Copy-Paste Seniora." Sú to vývojári s 2 rokmi skúseností, ktorí dokážu produkovať výstup 10-ročného veterána tým, že sa výrazne spoliehajú na AI asistentov. Ale keď ich požiadate, aby odladili race condition, alebo vysvetlili prečo si zvolili konkrétnu architektúru, zrútia sa. Majú produktivitu, ale nie hĺbku.
To je nebezpečné, pretože softvér je zložitý. Kód napísaný AI často obsahuje jemné chyby alebo bezpečnostné zraniteľnosti, ktoré dokáže odhaliť len skutočný expert. Ak odstránime zápasenie s učením (hodiny strávené búchaním hlavy o stenu pri snahe pochopiť chybu s ukazovateľom), odstránime proces, ktorý buduje expertov.
Paradox učňa
To vedie k štrukturálnej kríze na trhu práce: Paradox učňa.
Historicky vznikali seniorní experti tak, že juniori robili „podradnú prácu“. Naučili ste sa písať skvelé právne podania tak, že ste ich napísali stovky nudných a partner vás kritizoval. Naučili ste sa diagnostikovať zriedkavé choroby tak, že ste počas rezidentúry videli tisíce bežných.
Ak AI zautomatizuje podradnú prácu (ak píše kostrový kód, sumarizuje dokumenty a triedi pacientov), čo zostane juniorovi? Ako získajú „reprezentatívne skúsenosti“? Ak preskočíte učňovstvo, nemôžete sa stať majstrom. Zostanete len večným nováčikom s naozaj výkonnou kalkulačkou.
Riešenie Dweve: Rozšírená inteligencia
V Dweve navrhujeme naše nástroje tak, aby bojovali proti Skill Rot. Ideologicky odmietame „automatizáciu", ktorá nahrádza myslenie. Veríme v „augmentáciu", ktorá zlepšuje myslenie.
Veríme, že AI by malo byť bicyklom pre myseľ (aby ste išli rýchlejšie), nie invalidným vozíkom pre myseľ (ktorý vás nesie, pretože nemôžete chodiť).
1. Vysvetľovací režim: AI ako tútor
Keď náš programátorský asistent navrhne opravu, jednoducho nevloží kód potichu. Prepne sa do „vysvetľovacieho režimu". Zvýrazní riadky, ktoré zmenil, a vysvetlí prečo.
- „Zmenil som tento cyklus na funkciu map, pretože je v tomto kontexte pamäťovo efektívnejšia."
- „Pridal som tu kontrolu sanitizácie, pretože tento vstup by mohol byť zraniteľný voči XSS."
Z opravy chyby sa tak stane mikro-lekcia. Núti používateľa zaoberať sa logikou, nielen výstupom. Prenáša vedomosti z modelu na človeka.
2. Človek v slučke podľa návrhu
Naše systémy pre kritické rozhodovanie (v medicíne, práve a financiách) sú navrhnuté tak, aby navrhovali a zdôvodňovali, nikdy nie aby rozhodovali potichu. Nazývame to „argumentačné rozhranie".
AI predloží návrh: „Odporúčam schváliť túto pôžičku." Zároveň však predloží argument: „Pretože pomer dlhu je nízky a zabezpečenie je vysoké." Núti ľudského odborníka preskúmať logické kroky a schváliť ich. To udržiava človeka „v slučke" kognitívne, nielen procedurálne.
3. Interaktívne ladenie
Keďže naše modely sú transparentné (Glass Box), používatelia sa s nimi môžu hádať. Ak AI povie „Toto je mačka", používateľ sa môže opýtať „Prečo?" AI ukáže vlastnosti, ktoré zistilo. Používateľ môže povedať „Nie, to je pes, pozri sa na uši."
Tento dialektický proces (vzájomná argumentácia medzi človekom a strojom) zbystruje kritické myslenie používateľa. Podporuje skepticizmus. Zabraňuje samoľúbosti typu „Počítač povedal nie".
Zachovanie remesla
Musíme chrániť „remeslo". Hlboké, intuitívne pochopenie, ktoré vzniká z boja, praxe a zlyhania.
AI by malo odstrániť drinu (papierovačky, zadávanie údajov, formátovanie). Nesmie však odstrániť myslenie. Nesmie odstrániť úsudok.
Ak vytvoríme AI, ktoré nás robí hlúpymi, zlyhali sme ako druh. Postavili sme barlu namiesto nástroja.
V Dweve vytvárame nástroje, ktoré nás vyzývajú byť lepšími. Vytvárame nástroje, ktoré vyžadujú inteligentných používateľov. Pretože budúcnosť by nemali tvoriť len inteligentnejšie stroje; mali by ju tvoriť inteligentnejší ľudia.
Hľadáte AI, vďaka ktorej bude váš tím múdrejší, nie závislý? Architektúra Glass Box a Explanatory Mode od Dweve zaručujú, že vaši experti porastú spolu s technológiou. Kontaktujte nás a zistite, ako môže augmentovaná inteligencia zachovať a posilniť ľudskú odbornosť vo vašej organizácii.