Tveganje »gnitja spretnosti«: Bo umetna inteligenca naredila nas neumne?
Otroci magenta barve
V letalski industriji obstaja pretresljiv dokumentarec z naslovom »Children of the Magenta«. Nanaša se na generacijo pilotov, ki so se naučili leteti na visoko avtomatiziranih sodobnih letalih. »Magenta« se nanaša na barvo črte poti leta na avtomatiziranem navigacijskem zaslonu v pilotski kabini.
Ti piloti so bili strokovnjaki za programiranje računalnika za upravljanje leta. Sisteme so obvladali popolno. Toda preiskovalci so ugotovili, da so nekateri od teh pilotov v kriznih situacijah (ko je avtomatizacija odpovedala ali se je izklopila zaradi slabih podatkov senzorjev) zagnali v paniko. Izgubili so »občutek« za letalo. Imeli so težave z osnovnim letenjem s krmilno palico in pedali. Postali so operaterji sistemov, ne letalci. Njihove osnovne veščine so zgnile.
Trenutno ta pojav povzročamo celotnemu svetovnemu gospodarstvu znanja.
Mlajšim razvijalcem dajemo orodja, ki pišejo kodo, ki je ne razumejo. Mlajšim pravnikom dajemo orodja, ki sestavljajo pogodbe, ki jih niso prebrali. Študentom medicine dajemo diagnostična orodja, ki odkrijejo tumorje, ki jih sami ne vidijo.
To deluje brez težav, ko je vreme jasno in avtomatizacija deluje. Toda kaj se zgodi, ko sistem odpove? In kar je še pomembneje: če stroj opravi vso prakso, kako ljudje sploh kdaj dosežejo mojstrstvo?
Kognitivna atrofija
To je tveganje gnitja spretnosti. Gre za postopno propadanje človeških sposobnosti zaradi neuporabe. To je "učinek Google Zemljevidov" na steroidih. Pred GPS so imeli ljudje miselni zemljevid svojega mesta; razumeli so prostorske odnose. Zdaj sledimo modri črti. Če baterija crkne, smo izgubljeni v lastni soseski.
V programskem inženirstvu smo priča vzponu "višjega razvijalca za kopiraj-prilepi." To so razvijalci z dvema letoma izkušenj, ki lahko ob močnem opiranju na asistente z umetno inteligenco proizvedejo rezultat desetletnega veterana. Toda ko jih prosite, da odpravijo napako zaradi tekmovanja procesov ali pojasnijo, zakaj so izbrali določeno arhitekturo, se sesujejo. Imajo produktivnost, ne pa tudi globine.
To je nevarno, ker je programska oprema zapletena. Koda, ki jo napiše umetna inteligenca, pogosto vsebuje subtilne napake ali varnostne ranljivosti, ki jih lahko opazi le pravi strokovnjak. Če odpravimo napor učenja (ure, preživete ob razbijanju glave ob zid, ko poskušate razumeti napako s kazalcem), odpravimo proces, ki gradi strokovnjake.
Paradoks vajenca
To vodi v strukturno krizo na trgu dela: paradoks vajenca.
Zgodovinsko so višji strokovnjaki nastali z opravljanjem »umazanih del« kot mlajši sodelavci. Naučili ste se pisati odlična pravna poročila tako, da ste napisali na stotine dolgočasnih in vas je kritiziral partner. Naučili ste se diagnosticirati redke bolezni tako, da ste med specializacijo videli na tisoče običajnih.
Če umetna inteligenca avtomatizira umazana dela (če piše standardno kodo, povzema dokumente in razvršča paciente), kaj ostane mlajšemu sodelavcu? Kako pridobi »ponovitve«? Če preskočite vajeništvo, ne morete postati mojster. Ostanete le večni začetnik z zelo zmogljivim kalkulatorjem.
Rešitev Dweve: obogatena inteligenca
Pri Dweve naša orodja oblikujemo tako, da se borijo proti »spretnostni gnilobi«. Ideološko smo nasprotni »avtomatizaciji«, ki nadomešča razmišljanje. Verjamemo v »razširitev«, ki krepi razmišljanje.
Verjamemo, da bi morala biti umetna inteligenca kolo za um (da greste hitreje), ne invalidski voziček za um (ki vas nosi, ker ne morete hoditi).
1. Razlagalni način: umetna inteligenca kot mentor
Ko naš programerski pomočnik predlaga popravek, kode ne prilepi kar tiho. Preklopi v »razlagalni način«. Označi vrstice, ki jih je spremenil, in pojasni, zakaj.
- »To zanko sem spremenil v funkcijo map, ker je v tem kontekstu bolj učinkovita pri porabi pomnilnika.«
- »Tu sem dodal preverjanje sanitarne obdelave, ker bi ta vnos lahko bil ranljiv za XSS.«
Popravek napake spremeni v mikro lekcijo. Uporabnika sili, da se ukvarja z logiko, ne le z rezultatom. Znanje prenaša z modela na človeka.
2. Človek v zanki po zasnovi
Naši sistemi za kritične odločitve (za medicino, pravo in finance) so zasnovani tako, da predlagajo in utemeljujejo, nikoli pa ne odločajo tiho. Temu pravimo »argumentativni vmesnik«.
Umetna inteligenca predstavi osnutek: »Priporočam odobritev tega posojila.« Predstavi pa tudi argument: »Ker je razmerje dolga nizko in je zavarovanje visoko.« Strokovnjaka sili, da pregleda logične korake in jih potrdi. Tako ostane človek »v zanki« kognitivno, ne le postopkovno.
3. Interaktivno razhroščevanje
Ker so naši modeli pregledni (steklena škatla), se lahko uporabniki z njimi prepirajo. Če umetna inteligenca reče »To je mačka«, lahko uporabnik vpraša »Zakaj?«. Umetna inteligenca pokaže značilnosti, ki jih je zaznala. Uporabnik lahko reče »Ne, to je pes, poglej ušesa.«
Ta dialektični proces (izmenjava argumentov med človekom in strojem) izostri uporabnikovo kritično mišljenje. Spodbuja skepticizem. Preprečuje samozadovoljnost »računalnik pravi ne«.
Ohranjanje obrti
Zaščititi moramo »obrt«. Globoko, intuitivno razumevanje, ki izhaja iz truda, vaje in neuspeha.
Umetna inteligenca naj odvzame naporno delo (papirologijo, vnos podatkov, oblikovanje). Ne sme pa odvzeti razmišljanja. Ne sme odvzeti presoje.
Če zgradimo umetno inteligenco, ki nas dela neumne, smo kot vrsta spodleteli. Zgradili smo berglo namesto orodja.
Pri Dweve gradimo orodja, ki nas izzivajo, da smo boljši. Gradimo orodja, ki zahtevajo pametne uporabnike. Ker prihodnost ne bi smela biti le pametnejši stroji; morali bi biti pametnejši ljudje.
Iščete umetno inteligenco, ki naredi vašo ekipo pametnejšo, ne odvisno? Arhitektura Glass Box in način Explanatory Mode pri Dweve zagotavljata, da vaši strokovnjaki rastejo skupaj s tehnologijo. Kontaktirajte nas in odkrijte, kako lahko razširjena inteligenca ohrani in okrepi človeško strokovnost v vaši organizaciji.