Riziko „hniloby dovedností“: Udělá z nás AI hlupáky?
Děti purpurové
V leteckém průmyslu existuje mrazivý dokumentární film známý jako „Children of the Magenta“. Týká se generace pilotů, kteří se naučili létat na vysoce automatizovaných moderních letadlech. „Purpurová“ odkazuje na barvu linie letové dráhy na automatizovaném navigačním displeji v kokpitu.
Tito piloti byli odborníky na programování palubního letového počítače. Dokázali systémy dokonale ovládat. Vyšetřovatelé ale zjistili, že v krizových situacích (když automatizace selhala nebo se odpojila kvůli špatným datům ze senzorů) někteří z těchto pilotů propadli panice. Ztratili „cit“ pro letadlo. Měli problém se základním létáním na řídicí páku a směrovku. Stali se z nich operátoři systémů, ne letci. Jejich základní dovednosti zahnívaly.
V současnosti tento fenomén působíme na celou globální znalostní ekonomiku.
Dáváme začínajícím vývojářům nástroje, které píší kód, jemuž nerozumí. Dáváme začínajícím právníkům nástroje, které sestavují smlouvy, jež nečetli. Dáváme studentům medicíny diagnostické nástroje, které odhalují nádory, jež nevidí.
To funguje dobře, když je jasné počasí a automatizace pracuje. Co se ale stane, když systém selže? A co je důležitější: když stroj dělá veškerý trénink, jak mohou lidé vůbec dosáhnout mistrovství?
Kognitivní atrofie
Toto je riziko Skill Rot. Je to postupný úpadek lidských schopností v důsledku nepoužívání. Je to "The Google Maps Effect" na steroidech. Před GPS měli lidé mentální mapu svého města; rozuměli prostorovým vztahům. Teď následujeme modrou čáru. Pokud baterie zemře, jsme ztraceni ve vlastní čtvrti.
V softwarovém inženýrství sledujeme vzestup "Copy-Paste Seniora". Jsou to vývojáři se 2 lety zkušeností, kteří dokážou produkovat výstupy 10letého veterána tím, že se silně spoléhají na AI asistenty. Ale když je požádáte o ladění race condition nebo vysvětlení, proč zvolili konkrétní architekturu, zhroutí se. Mají produktivitu, ale ne hloubku.
To je nebezpečné, protože software je komplexní. Kód napsaný AI často obsahuje jemné chyby nebo bezpečnostní zranitelnosti, které dokáže odhalit pouze skutečný expert. Pokud odstraníme boj s učením (hodiny strávené boucháním hlavou do zdi při snaze pochopit chybu ukazatele), odstraníme proces, který buduje experty.
Paradox učedníka
To vede ke strukturální krizi na trhu práce: Paradox učedníka.
Historicky vznikali špičkoví odborníci tím, že junioři dělali „podřadnou práci". Naučili jste se psát skvělé právní podání tím, že jste jich napsali stovky nudných a partner vám je kritizoval. Naučili jste se diagnostikovat vzácná onemocnění tím, že jste během rezidentury viděli tisíce běžných případů.
Pokud AI zautomatizuje podřadnou práci (pokud píše kostru kódu, shrnuje dokumenty a třídí pacienty), co zbude na juniora? Jak získají potřebnou praxi? Když přeskočíte učňovské období, nemůžete se stát mistrem. Zůstanete jen věčným začátečníkem s velmi výkonnou kalkulačkou.
Řešení Dweve: Augmentovaná inteligence
Ve společnosti Dweve navrhujeme naše nástroje tak, aby bojovaly proti hnilobě dovedností. Ideologicky jsme proti „automatizaci", která nahrazuje myšlení. Věříme v „rozšíření", které myšlení posiluje.
Věříme, že AI by měla být kolem pro mysl (díky níž pojedete rychleji), ne vozíkem pro mysl (který vás veze, protože nemůžete chodit).
1. Vysvětlovací režim: AI jako tutor
Když náš programátorský asistent navrhne opravu, jen tiše nevloží kód. Přepne se do „vysvětlovacího režimu". Zvýrazní řádky, které změnil, a vysvětlí proč.
- „Změnil jsem tuto smyčku na funkci map, protože je v tomto kontextu paměťově efektivnější."
- „Přidal jsem zde kontrolu sanitizace, protože tento vstup by mohl být zranitelný vůči XSS."
Změní opravu chyby v mikrolekci. Nutí uživatele zabývat se logikou, ne jen výstupem. Přenáší znalosti z modelu na člověka.
2. Člověk v rozhodovacím procesu podle návrhu
Naše systémy pro kritická rozhodnutí (v medicíně, právu a financích) jsou navrženy tak, aby navrhovaly a zdůvodňovaly, nikdy ne rozhodovaly tiše. Říkáme tomu „argumentační rozhraní".
AI předloží návrh: „Doporučuji schválit tuto půjčku." Zároveň ale předloží argument: „Protože je poměr zadlužení nízký a zástava vysoká." Nutí lidského odborníka, aby si prošel logické kroky a schválil je. To udržuje člověka „v rozhodovacím procesu" kognitivně, ne jen procedurálně.
3. Interaktivní ladění
Protože jsou naše modely transparentní (skleněná skříňka), uživatelé s nimi mohou diskutovat. Pokud AI řekne „Tohle je kočka", může se uživatel zeptat „Proč?" AI ukáže rysy, které detekovala. Uživatel může říct „Ne, to je pes, podívej se na uši."
Tento dialektický proces (vzájemná argumentace mezi člověkem a strojem) zostřuje kritické myšlení uživatele. Podporuje skepticismus. Zabraňuje samolibosti typu „počítač řekl ne".
Zachování řemesla
Musíme chránit „řemeslo". Hluboké, intuitivní porozumění, které vzniká z úsilí, praxe a neúspěchu.
AI by měla odstranit dřinu (papírování, zadávání dat, formátování). Nesmí nám ale vzít myšlení. Nesmí nám vzít úsudek.
Pokud vytvoříme AI, která nás činí hloupějšími, selhali jsme jako druh. Postavili jsme berli místo nástroje.
Ve společnosti Dweve vytváříme nástroje, které nás vyzývají být lepší. Vytváříme nástroje, které vyžadují chytré uživatele. Budoucnost by totiž neměla být jen o chytřejších strojích; měla by být o chytřejších lidech.
Hledáte AI, která váš tým posílí, ne na něm udělá závislým? Architektura Glass Box a režim Explanatory Mode od Dweve zajistí, aby vaši odborníci rostli společně s technologií. Kontaktujte nás a zjistěte, jak může augmentovaná inteligence uchovat a posílit lidskou odbornost ve vaší organizaci.