„Įgūdžių puvimo“ rizika: ar AI padarys mus kvailus?
Magentos vaikai
Aviacijos pramonėje yra šiurpus dokumentinis filmas, žinomas kaip „Children of the Magenta“. Jis pasakoja apie pilotų kartą, kuri išmoko skraidyti labai automatizuotais šiuolaikiniais orlaiviais. „Magenta“ reiškia skrydžio maršruto linijos spalvą kabinos automatizuotame navigacijos ekrane.
Šie pilotai buvo ekspertai, programuojantys skrydžio valdymo kompiuterį. Jie puikiai valdė sistemas. Tačiau tyrėjai nustatė, kad krizinėse situacijose (kai automatika sugesdavo arba atsijungdavo dėl blogų jutiklių duomenų) kai kurie iš šių pilotų panikuodavo. Jie buvo praradę orlaivio „jausmą“. Jiems sunkiai sekėsi pagrindinis skraidymas vairalazde ir pedalais. Jie tapo sistemų operatoriais, o ne lakūnais. Jų pagrindiniai įgūdžiai buvo sunykę.
Šiuo metu mes darome tą patį visai pasaulinei žinių ekonomikai.
Jaunesniesiems programuotojams duodame įrankius, kurie rašo kodą, kurio jie nesupranta. Jaunesniesiems teisininkams duodame įrankius, kurie rengia sutartis, kurių jie neskaitė. Medicinos studentams duodame diagnostikos įrankius, kurie aptinka navikus, kurių jie nemato.
Tai veikia puikiai, kai oras giedras ir automatika veikia. Bet kas nutinka, kai sistema sugenda? Ir svarbiausia: jei mašina atlieka visą praktiką, kaip žmonės kada nors pasieks meistriškumą?
Pažinimo atrofija
Tai rizika, vadinama įgūdžių puviniu. Tai laipsniškas žmogaus gebėjimų nykimas dėl nenaudojimo. Tai „Google Maps efektas“ su stipriais vaistais. Iki GPS žmonės turėjo savo miesto mentalinį žemėlapį; jie suprato erdvinius ryšius. Dabar mes sekame mėlyną liniją. Jei baterija išsikrauna, pasiklystame savo paties kaimynystėje.
Programinės įrangos inžinerijoje matome „Copy-Paste Senior“ atsiradimą. Tai kūrėjai, turintys 2 metų patirtį, kurie gali sukurti tokį patį rezultatą kaip 10 metų veteranas, labai pasikliaudami AI asistentais. Tačiau kai paprašote jų ištaisyti lenktynių sąlygos klaidą arba paaiškinti, kodėl pasirinko konkrečią architektūrą, jie subyra. Jie turi produktyvumą, bet ne gylį.
Tai pavojinga, nes programinė įranga yra sudėtinga. AI parašytas kodas dažnai turi subtilių klaidų ar saugumo spragų, kurias gali pastebėti tik tikras ekspertas. Jei pašalinsime mokymosi kovą (valandas, praleistas daužant galvą į sieną bandant suprasti rodyklės klaidą), pašalinsime procesą, kuris sukuria ekspertus.
Pameistrystės paradoksas
Tai lemia struktūrinę darbo rinkos krizę: pameistrystės paradoksą.
Istoriškai vyresnieji ekspertai buvo ugdomi atliekant „juodą darbą" kaip jaunesnieji specialistai. Išmokote rašyti puikius teisinius dokumentus rašydami šimtus nuobodžių ir gaudami partnerio kritiką. Išmokote diagnozuoti retas ligas per rezidentūrą matydami tūkstančius įprastų atvejų.
Jei dirbtinis intelektas automatizuoja juodą darbą (jei jis rašo šabloninį kodą, apibendrina dokumentus ir rūšiuoja pacientus), kas lieka jaunesniajam specialistui? Kaip jie įgyja „praktikos"? Jei praleidžiate praktiką, negalite tapti meistru. Lieka amžinas pradedantysis su labai galingu skaičiuotuvu.
Dweve sprendimas: papildytasis intelektas
„Dweve“ savo įrankius kuriame tam, kad kovotume su įgūdžių nykimu. Mes ideologiškai prieštaraujame „automatizavimui“, kuris pakeičia mąstymą. Tikime „papildymu“, kuris sustiprina mąstymą.
Tikime, kad dirbtinis intelektas turėtų būti proto dviratis (leidžiantis važiuoti greičiau), o ne proto invalido vežimėlis (nešantis jus, nes negalite vaikščioti).
1. Aiškinamasis režimas: DI kaip mokytojas
Kai mūsų programavimo asistentas pasiūlo pataisymą, jis ne tik tyliai įklijuoja kodą. Jis įsijungia į „aiškinamąjį režimą“. Paryškina pakeistas eilutes ir paaiškina kodėl.
- „Pakeičiau šią kilpą į map funkciją, nes šiame kontekste ji efektyviau naudoja atmintį.“
- „Čia pridėjau patikros patikrinimą, nes ši įvestis gali būti pažeidžiama XSS atakoms.“
Klaidos taisymą paverčia mikropamoka. Priverčia vartotoją įsigilinti į logiką, o ne tik į rezultatą. Perduoda žinias iš modelio žmogui.
2. Žmogus grandinėje pagal dizainą
Mūsų kritinių sprendimų sistemos (medicinos, teisės ir finansų srityse) sukurtos taip, kad siūlytų ir pagrįstų, o ne tyliai sprendžia. Tai vadiname „argumentacine sąsaja“.
DI pateikia juodraštį: „Rekomenduoju patvirtinti šią paskolą.“ Tačiau taip pat pateikia argumentą: „Nes skolos santykis mažas, o užstatas didelis.“ Priverčia žmogų ekspertą peržiūrėti logikos žingsnius ir juos patvirtinti. Taip žmogus lieka grandinėje kognityviai, o ne tik procedūriškai.
3. Interaktyvus derinimas
Kadangi mūsų modeliai yra skaidrūs („stiklo dėžutė“), vartotojai gali su jais diskutuoti. Jei DI sako „Tai katė“, vartotojas gali paklausti „Kodėl?“ DI parodo aptiktas ypatybes. Vartotojas gali pasakyti „Ne, tai šuo, pažiūrėk į ausis“.
Šis dialektinis procesas (žmogaus ir mašinos argumentų apsikeitimas) aštrina vartotojo kritinį mąstymą. Skatina skepticizmą. Apsaugo nuo „kompiuteris atsisako“ pasitenkinimo.
Išsaugant amatą
Turime apsaugoti „amatą“. Gilų, intuityvų supratimą, kuris atsiranda iš kovos, praktikos ir nesėkmių.
DI turėtų pašalinti nuobodų darbą (popierizmą, duomenų įvedimą, formatavimą). Tačiau jis neturi atimti mąstymo. Neturi atimti sprendimo.
Jei sukursime DI, kuris mus kvailina, mes žlugome kaip rūšis. Sukūrėme ramentą, o ne įrankį.
„Dweve“ kuriame įrankius, kurie skatina mus būti geresniais. Kuriame įrankius, kuriems reikia protingų vartotojų. Nes ateitis neturėtų būti tik protingesnės mašinos; ji turėtų būti protingesni žmonės.
Ieškote dirbtinio intelekto, kuris padarytų jūsų komandą protingesnę, o ne priklausomą? „Dweve“ stiklo dėžės architektūra ir aiškinamasis režimas užtikrina, kad jūsų ekspertai augtų kartu su technologija. Susisiekite su mumis ir sužinokite, kaip papildytasis intelektas gali išsaugoti ir sustiprinti žmogiškąją ekspertizę jūsų organizacijoje.