Opasnost od "truljenja vještina": Hoće li nas AI učiniti glupima?
Djeca magenta boje
U zrakoplovnoj industriji postoji jeziv dokumentarac poznat pod nazivom "Children of the Magenta". Odnosi se na generaciju pilota koji su naučili letjeti na visoko automatiziranim modernim zrakoplovima. "Magenta" se odnosi na boju linije putanje leta na automatiziranom navigacijskom zaslonu u pilotskoj kabini.
Ti su piloti bili stručnjaci za programiranje računala za upravljanje letom. Mogli su savršeno upravljati sustavima. No istražitelji su otkrili da su u kriznim situacijama (kada automatizacija zakaže ili se prekine zbog loših podataka sa senzora) neki od tih pilota paničarili. Izgubili su "osjećaj" za zrakoplov. Mučili su se s osnovnim letenjem pomoću komandi i kormila. Postali su operateri sustava, a ne avijatičari. Njihove temeljne vještine su zakržljale.
Trenutačno smo u procesu primjene tog fenomena na cijelo globalno gospodarstvo znanja.
Mlađim programerima dajemo alate koji pišu kod koji ne razumiju. Mlađim odvjetnicima dajemo alate koji sastavljaju ugovore koje nisu pročitali. Studentima medicine dajemo dijagnostičke alate koji otkrivaju tumore koje oni ne mogu vidjeti.
To funkcionira dobro kada je vrijeme vedro i automatizacija radi. No što se događa kada sustav zakaže? I što je još važnije: ako stroj obavlja svu praksu, kako ljudi ikada postižu majstorstvo?
Kognitivna atrofija
To je rizik od truljenja vještina. Riječ je o postupnom propadanju ljudskih sposobnosti zbog neupotrebe. To je "efekt Google karata" na steroidima. Prije GPS-a ljudi su imali mentalnu kartu svoga grada; razumjeli su prostorne odnose. Danas slijedimo plavu liniju. Ako baterija umre, izgubljeni smo u vlastitom susjedstvu.
U softverskom inženjerstvu svjedočimo usponu "copy-paste seniora". Riječ je o developerima s dvije godine iskustva koji uz pomoć AI asistenata mogu proizvesti rezultat kakav bi postigao veterinar s deset godina iskustva. No kada ih zamolite da isprave pogrešku u uvjetima utrke ili objasne zašto su odabrali određenu arhitekturu, posrnu. Imaju produktivnost, ali ne i dubinu.
To je opasno jer je softver složen. Kod koji piše AI često sadrži suptilne pogreške ili sigurnosne ranjivosti koje može uočiti samo pravi stručnjak. Ako uklonimo muku učenja (sate provedene udarajući glavom o zid dok pokušavamo razumjeti pogrešku s pokazivačem), uklanjamo proces koji stvara stručnjake.
Paradoks šegrta
To dovodi do strukturne krize na tržištu rada: paradoks šegrta.
Povijesno gledano, viši stručnjaci nastajali su obavljajući „grunt posao" kao juniori. Naučili ste pisati izvrsne pravne podneske tako što ste napisali stotine dosadnih i dobivali kritike od partnera. Naučili ste dijagnosticirati rijetke bolesti tako što ste tijekom specijalizacije vidjeli tisuće uobičajenih.
Ako AI automatizira grunt posao (ako piše boilerplate kod, sažima dokumente i trijažira pacijente), što ostaje junioru? Kako stječu „ponavljanja"? Ako preskočite naukovanje, ne možete postati majstor. Ostajete trajni početnik sa stvarno moćnim kalkulatorom.
Dweveovo rješenje: proširena inteligencija
U Dweveu alate oblikujemo tako da se suprotstavljamo "vještinskoj trulosti". Ideološki smo protiv "automatizacije" koja zamjenjuje razmišljanje. Vjerujemo u "augmentaciju" koja unapređuje razmišljanje.
Vjerujemo da bi umjetna inteligencija trebala biti bicikl za um (koji vas čini bržima), a ne invalidska kolica za um (koja vas nose jer ne možete hodati).
1. Način objašnjavanja: umjetna inteligencija kao učitelj
Kada naš programski asistent predloži ispravak, ne zalijepi šutke kod. Ulazi u "način objašnjavanja". Istakne retke koje je promijenio i objasni zašto.
- "Promijenio sam ovu petlju u funkciju map jer je u ovom kontekstu učinkovitija s memorijom."
- "Dodao sam provjeru saniranja jer bi ovaj unos mogao biti ranjiv na XSS."
Tako ispravak greške pretvara u mikro-lekciju. Prisiljava korisnika da se pozabavi logikom, a ne samo rezultatom. Prenosi znanje s modela na čovjeka.
2. Čovjek u petlji po dizajnu
Naši sustavi za kritične odluke (za medicinu, pravo i financije) osmišljeni su tako da predlažu i obrazlažu, a nikada da odlučuju šutke. To nazivamo "argumentacijskim sučeljem".
Umjetna inteligencija predstavlja nacrt: "Preporučujem odobravanje ovog kredita." Ali predstavlja i argument: "Jer je omjer duga nizak, a kolateral visok." Prisiljava stručnjaka da pregleda logičke korake i potpiše ih. To drži čovjeka "u petlji" kognitivno, a ne samo proceduralno.
3. Interaktivno otklanjanje pogrešaka
Budući da su naši modeli transparentni (staklena kutija), korisnici se mogu raspravljati s njima. Ako umjetna inteligencija kaže "Ovo je mačka", korisnik može pitati "Zašto?" Umjetna inteligencija pokaže značajke koje je otkrila. Korisnik može reći "Ne, to je pas, pogledaj uši."
Taj dijalektički proces (uzajamna rasprava između čovjeka i stroja) izoštrava korisnikovo kritičko razmišljanje. Potiče skepticizam. Sprječava samodopadnost u stilu "računalo kaže ne".
Čuvanje zanata
Moramo zaštititi "zanat". Duboko, intuitivno razumijevanje koje proizlazi iz muke, prakse i neuspjeha.
Umjetna inteligencija trebala bi preuzeti naporan posao (papirologiju, unos podataka, oblikovanje). Ali ne smije preuzeti razmišljanje. Ne smije preuzeti prosuđivanje.
Ako izgradimo umjetnu inteligenciju koja nas čini glupima, propali smo kao vrsta. Izgradili smo štaku umjesto alata.
U Dweveu gradimo alate koji nas izazivaju da budemo bolji. Gradimo alate koji zahtijevaju pametne korisnike. Jer budućnost ne bi trebala biti samo pametniji strojevi; trebali bi biti pametniji ljudi.
Tražite AI koji čini vaš tim pametnijim, a ne ovisnim? Dweveova arhitektura Glass Box i način rada Explanatory Mode osiguravaju da vaši stručnjaci rastu zajedno s tehnologijom. Kontaktirajte nas kako biste otkrili kako proširena inteligencija može sačuvati i pojačati ljudsku stručnost u vašoj organizaciji.