Taidon rappeutumisen riski: tekeekö tekoäly meistä tyhmiä?
Magentan lapset
Ilmailualalla tunnetaan karmiva dokumentti nimeltä "Children of the Magenta". Se kertoo sukupolvesta lentäjiä, jotka oppivat lentämään pitkälle automatisoiduilla nykyaikaisilla lentokoneilla. "Magenta" viittaa lentoreitin värin ohjaamon automatisoidulla navigointinäytöllä.
Nämä lentäjät olivat asiantuntijoita lennonhallintatietokoneen ohjelmoinnissa. He hallitsivat järjestelmät täydellisesti. Mutta tutkijat havaitsivat, että kriisitilanteissa (kun automaatio petti tai katkesi huonojen anturitietojen vuoksi) osa näistä lentäjistä panikoi. He olivat menettäneet lentokoneen "tuntuman". Heillä oli vaikeuksia peruslentämisessä ohjaimilla. Heistä oli tullut järjestelmän käyttäjiä, ei lentäjiä. Heidän ydintaitonsa olivat päässeet rappeutumaan.
Olemme parhaillaan aiheuttamassa tätä ilmiötä koko maailmanlaajuiselle tietotaloudelle.
Annamme nuorille kehittäjille työkaluja, jotka kirjoittavat koodia, jota he eivät ymmärrä. Annamme nuorille juristeille työkaluja, jotka laativat sopimuksia, joita he eivät ole lukeneet. Annamme lääketieteen opiskelijoille diagnostisia työkaluja, jotka havaitsevat kasvaimia, joita he eivät näe.
Tämä toimii hyvin, kun sää on selkeä ja automaatio toimii. Mutta mitä tapahtuu, kun järjestelmä pettää? Ja mikä tärkeämpää: jos kone tekee kaiken harjoittelun, miten ihmiset koskaan saavuttavat mestaruuden?
Kognitiivinen surkastuminen
Tämä on taitojen rapistumisen riski. Se on ihmisen osaamisen asteittaista heikkenemistä käyttämättömyyden vuoksi. Se on "The Google Maps Effect" -ilmiö äärimmilleen vietynä. Ennen GPS:ää ihmisillä oli mielessään kartta kaupungistaan; he ymmärsivät tilasuhteet. Nyt seuraamme sinistä viivaa. Jos akku loppuu, olemme eksyksissä omalla asuinalueellamme.
Ohjelmistotuotannossa olemme näkemässä "Copy-Paste Seniorin" nousun. Nämä ovat kehittäjiä, joilla on kahden vuoden kokemus ja jotka pystyvät tuottamaan kymmenen vuoden veteraanin tuloksia nojautumalla vahvasti tekoälyavustajiin. Mutta kun heitä pyytää selvittämään kilpailutilanteen (race condition) tai selittämään, miksi he valitsivat tietyn arkkitehtuurin, he murtuvat. Heillä on tuottavuus, mutta ei syvyyttä.
Tämä on vaarallista, koska ohjelmistot ovat monimutkaisia. Tekoälyn kirjoittama koodi sisältää usein hienovaraisia virheitä tai tietoturva-aukkoja, jotka vain todellinen asiantuntija voi havaita. Jos poistamme oppimisen vaivan (ne tunnit, jotka vietät päätä seinään hakaten yrittäessäsi ymmärtää osoitinvirhettä), poistamme myös prosessin, joka kasvattaa asiantuntijoita.
Oppipoikaparadoksi
Tämä johtaa rakenteelliseen kriisiin työmarkkinoilla: oppipoikaparadoksiin.
Historiallisesti kokeneet asiantuntijat syntyivät tekemällä "rutiinitöitä" juniorina. Opit kirjoittamaan loistavia lakiasiakirjoja kirjoittamalla satoja tylsiä sellaisia ja saamalla palautetta osakkaalta. Opit diagnosoimaan harvinaisia sairauksia näkemällä tuhansia tavallisia tapauksia erikoistumiskoulutuksen aikana.
Jos tekoäly automatisoi rutiinityöt (jos se kirjoittaa mallikoodin, tiivistää asiakirjat ja seuloo potilaat), mitä jää juniorille? Miten he saavat "toistot" sisään? Jos ohitat oppisopimuskoulutuksen, et voi tulla mestariksi. Jäät vain pysyväksi aloittelijaksi, jolla on todella tehokas laskin.
Dweven ratkaisu: Tehostettu älykkyys
Dwevellä suunnittelemme työkalumme taistelemaan osaamisen rapautumista vastaan. Vastustamme ideologisesti "automaatiota", joka korvaa ajattelun. Uskomme "augmentaatioon", joka tehostaa ajattelua.
Uskomme, että tekoälyn pitäisi olla mielen polkupyörä (jolla pääset nopeammin eteenpäin), ei mielen pyörätuoli (joka kantaa sinua, koska et pysty kävelemään).
1. Selittävä tila: tekoäly tutorina
Kun koodausavustajamme ehdottaa korjausta, se ei vain hiljaa liitä koodia. Se siirtyy "selittävään tilaan". Se korostaa muuttamansa rivit ja selittää miksi.
- "Vaihdoin tämän silmukan map-funktioksi, koska se on muistitehokkaampi tässä yhteydessä."
- "Lisäsin tähän sanitointitarkistuksen, koska tämä syöte voi olla altis XSS-hyökkäyksille."
Se muuttaa bugikorjauksen mikrotunniksi. Se pakottaa käyttäjän pohtimaan logiikkaa, ei vain lopputulosta. Se siirtää tietoa mallista ihmiselle.
2. Ihminen mukana prosessissa suunnittelun lähtökohtana
Kriittiset päätösjärjestelmämme (lääketieteessä, juridiikassa ja rahoituksessa) on suunniteltu ehdottamaan ja perustelemaan, ei koskaan päättämään hiljaa. Kutsumme tätä "argumentoivaksi käyttöliittymäksi".
Tekoäly esittää luonnoksen: "Suosittelen tämän lainan hyväksymistä." Mutta se esittää myös perustelun: "Koska velkaantumisaste on matala ja vakuudet ovat korkeat." Se pakottaa asiantuntijan käymään läpi logiikan vaiheet ja hyväksymään ne. Näin ihminen pysyy mukana prosessissa kognitiivisesti, ei vain menettelytapojen tasolla.
3. Vuorovaikutteinen virheenjäljitys
Koska mallimme ovat läpinäkyviä (lasilaatikko), käyttäjät voivat väitellä niiden kanssa. Jos tekoäly sanoo "Tämä on kissa", käyttäjä voi kysyä "Miksi?". Tekoäly näyttää havaitsemansa piirteet. Käyttäjä voi sanoa "Ei, tuo on koira, katso korvia."
Tämä dialektinen prosessi (ihmisen ja koneen välinen edestakainen väittely) terävöittää käyttäjän kriittistä ajattelua. Se rohkaisee epäilevään asenteeseen. Se estää "tietokone sanoi ei" -tyyppisen itsetyytyväisyyden.
Ammattitaidon säilyttäminen
Meidän on suojeltava "ammattitaitoa". Syvällistä, intuitiivista ymmärrystä, joka syntyy kamppailusta, harjoittelusta ja epäonnistumisista.
Tekoälyn pitäisi poistaa yksitoikkoinen puurtaminen (paperityöt, tietojen syöttäminen, muotoilu). Mutta se ei saa viedä ajattelua. Se ei saa viedä harkintakykyä.
Jos rakennamme tekoälyä, joka tyhmistyttää meidät, olemme epäonnistuneet lajina. Olemme rakentaneet kainalosauvan työkalun sijaan.
Dwevellä rakennamme työkaluja, jotka haastavat meidät olemaan parempia. Rakennamme työkaluja, jotka vaativat älykkäitä käyttäjiä. Koska tulevaisuuden ei pitäisi olla vain älykkäämpiä koneita; sen pitäisi olla älykkäämpiä ihmisiä.
Etsitkö tekoälyä, joka tekee tiimistäsi älykkäämmän, ei riippuvaisen? Dweven Glass Box -arkkitehtuuri ja Explanatory Mode varmistavat, että asiantuntijasi kehittyvät teknologian rinnalla. Ota yhteyttä ja selvitä, miten täydennetty älykkyys voi säilyttää ja vahvistaa inhimillistä asiantuntemusta organisaatiossasi.