Oskuste mädanemise risk: kas AI teeb meid rumalaks?
Magenta lapsed
Lennundussektoris on tuntud jahutav dokumentaalfilm "Children of the Magenta". See viitab põlvkonnale pilootidele, kes õppisid lendama tugevalt automatiseeritud kaasaegsete õhusõidukitega. "Magenta" viitab lennutrajektoori joone värvile kokpiti automatiseeritud navigatsiooniekraanil.
Need piloodid olid eksperdid lennuarvuti programmeerimisel. Nad oskasid süsteeme täiuslikult hallata. Kuid uurijad leidsid, et kriisiolukordades (kui automaatika ebaõnnestus või ühendus katkes halva anduriteabe tõttu) sattusid mõned neist pilootidest paanikasse. Nad olid kaotanud lennuki "tunde". Neil oli raskusi põhilise käsitsi lendamisega. Neist olid saanud süsteemioperaatorid, mitte lendurid. Nende põhioskused olid mandunud.
Me rakendame praegu seda nähtust kogu ülemaailmsele teadmistemajandusele.
Me anname noorematele arendajatele tööriistu, mis kirjutavad koodi, mida nad ei mõista. Me anname noorematele juristidele tööriistu, mis koostavad lepinguid, mida nad pole lugenud. Me anname meditsiinitudengitele diagnostikavahendeid, mis tuvastavad kasvajaid, mida nad ise ei näe.
See toimib hästi, kui ilm on selge ja automaatika töötab. Aga mis juhtub, kui süsteem ebaõnnestub? Ja mis veelgi olulisem: kui masin teeb kogu harjutamise, kuidas saavutavad inimesed kunagi meisterlikkuse?
De cognitieve achteruitgang
See on oskuste mandumise risk. See on inimvõimete järkjärguline kahanemine kasutamata jätmise tõttu. See on "The Google Maps Effect" ülivõimendatud kujul. Enne GPS-i oli inimestel oma linna kohta vaimne kaart; nad mõistsid ruumilisi seoseid. Nüüd järgime sinist joont. Kui aku saab tühjaks, oleme eksinud omaenda naabruskonnas.
Tarkvaratehnikas näeme "kopeeri-kleebi vanemtarkvaraarendaja" esiletõusu. Need on arendajad, kellel on 2-aastane kogemus, kuid kes suudavad toota 10-aastase veteraniga võrdväärset tulemust, toetudes tugevalt tehisintellekti assistentidele. Kuid kui paluda neil siluda võidujooksu tingimust või selgitada, miks nad valisid konkreetse arhitektuuri, varisevad nad kokku. Neil on tootlikkus, kuid mitte sügavus.
See on ohtlik, sest tarkvara on keeruline. Tehisintellekti kirjutatud kood sisaldab sageli peeneid vigu või turbenõrkusi, mida suudab märgata vaid tõeline ekspert. Kui kõrvaldame õppimise vaeva (tunnid, mis kuluvad peaga vastu seina tagumisele, püüdes mõista pointeri viga), kõrvaldame protsessi, mis kasvatab eksperte.
De paradox van de leerling
Dit leidt tot een structurele crisis op de arbeidsmarkt: de paradox van de leerling.
Ajalooliselt said vanemad eksperdid meistriteks just seda „musta tööd" tehes. Õppisid kirjutama suurepäraseid juriidilisi kokkuvõtteid, kirjutades sadu igavaid ja saades partnerilt kriitikat. Õppisid diagnoosima haruldasi haigusi, nähes residentuuri ajal tuhandeid tavalisi haigusi.
Kui AI automatiseerib selle musta töö (kui see kirjutab boilerplate-koodi, teeb dokumentidest kokkuvõtted ja teeb patsientide triaaži), mis jääb nooremale spetsialistile? Kuidas nad saavad vajaliku „treeningu"? Kui jätad õpipoisiaja vahele, ei saa sinust meistrit. Jääd igaveseks algajaks, kellel on väga võimas kalkulaator.
Dweve'i lahendus: täiustatud intelligentsus
Dweve'is kujundame oma tööriistu võitlemaks oskuste mädanemisega. Me suhtume ideoloogiliselt vastu "automatiseerimisse", mis asendab mõtlemist. Me usume "täiustamisse", mis arendab mõtlemist.
Me usume, et tehisintellekt peaks olema mõistuse jalgratas (pannes sind kiiremini liikuma), mitte mõistuse ratastool (kandma sind, sest sa ei suuda kõndida).
1. Selgitav režiim: tehisintellekt kui juhendaja
Kui meie kodeerimisassistent soovitab parandust, ei kleebi ta seda lihtsalt vaikselt koodi. Ta lülitub "selgitavasse režiimi". Ta tõstab esile muudetud read ja selgitab, miks.
- "Muutsin selle tsükli map-funktsiooniks, sest see on selles kontekstis mälusäästlikum."
- "Lisasin siia puhastuskontrolli, sest see sisend võib olla haavatav XSS-i suhtes."
See muudab veaparanduse mikroõppetunniks. See sunnib kasutajat tegelema loogikaga, mitte ainult tulemusega. See kannab teadmised mudelilt inimesele.
2. Inimene ahelas disaini järgi
Meie kriitiliste otsuste süsteemid (meditsiinis, õiguses ja rahanduses) on loodud ettepanekuid tegema ja põhjendama, mitte kunagi vaikselt otsustama. Me nimetame seda "argumenteerivaks liideseks".
Tehisintellekt esitab kavandi: "Soovitan selle laenu heaks kiita." Kuid ta esitab ka argumendi: "Sest võlasuhe on madal ja tagatis on kõrge." See sunnib inimest eksperdina üle vaatama loogikasammud ja need heaks kiitma. See hoiab inimese "ahelas" kognitiivselt, mitte ainult protseduuriliselt.
3. Interaktiivne silumine
Kuna meie mudelid on läbipaistvad (klaaskast), saavad kasutajad nendega vaielda. Kui tehisintellekt ütleb "See on kass", võib kasutaja küsida "Miks?" Tehisintellekt näitab tuvastatud tunnuseid. Kasutaja võib öelda "Ei, see on koer, vaata kõrvu."
See dialektiline protsess (inimese ja masina vaheline edasi-tagasi vaidlus) teravdab kasutaja kriitilist mõtlemist. See soodustab skeptitsismi. See hoiab ära "arvuti ütleb ei" enesega rahulolu.
Käsitöö säilitamine
Me peame kaitsma "käsitööd". Sügavat intuitiivset mõistmist, mis sünnib võitlusest, harjutamisest ja ebaõnnestumisest.
Tehisintellekt peaks ära võtma rutiinse töö (paberimajanduse, andmesisestuse, vormindamise). Kuid ta ei tohi ära võtta mõtlemist. Ta ei tohi ära võtta otsustusvõimet.
Kui me ehitame tehisintellekti, mis teeb meid lolliks, oleme liigina läbi kukkunud. Oleme ehitanud kargu, mitte tööriista.
Dweve'is ehitame tööriistu, mis esitavad meile väljakutse olla paremad. Me ehitame tööriistu, mis nõuavad tarku kasutajaid. Sest tulevik ei peaks kuuluma ainult targematele masinatele; see peaks kuuluma targematele inimestele.
Otsid AI-d, mis muudab su meeskonna targemaks, mitte sõltuvaks? Dweve'i Glass Box arhitektuur ja Explanatory Mode tagavad, et su eksperdid kasvavad koos tehnoloogiaga. Võta meiega ühendust, et avastada, kuidas täiendatud intelligentsus saab hoida ja võimendada inimeste teadmisi sinu organisatsioonis.