# "Skill Rot"-risikoen: Gør AI os dummere?
Magenta-børnene
I luftfartsindustrien findes der en uhyggelig dokumentar kendt som "Children of the Magenta." Den henviser til en generation af piloter, der lærte at flyve på stærkt automatiserede moderne fly. "Magenta" henviser til farven på flyveruten på cockpitets automatiske navigationsdisplay.
Disse piloter var eksperter i at programmere flyets flyvestyringscomputer. De kunne håndtere systemerne perfekt. Men efterforskere fandt ud af, at nogle af disse piloter gik i panik i krisesituationer (når automatiseringen svigtede eller blev afbrudt på grund af dårlige sensordata). De havde mistet "fornemmelsen" for flyet. De kæmpede med grundlæggende manuel flyvning. De var blevet systemoperatører, ikke flyvere. Deres kernefærdigheder var rådnet op.
Vi er i øjeblikket i gang med at påføre hele den globale vidensøkonomi dette fænomen.
Vi giver juniordevelopere værktøjer, der skriver kode, de ikke forstår. Vi giver junioradvokater værktøjer, der udarbejder kontrakter, de ikke har læst. Vi giver medicinstuderende diagnostiske værktøjer, der opdager tumorer, de ikke kan se.
Dette fungerer fint, når vejret er klart, og automatiseringen virker. Men hvad sker der, når systemet svigter? Og endnu vigtigere: hvis maskinen laver al øvelsen, hvordan opnår menneskene så nogensinde mesterskab?
Den kognitive atrofi
Dette er risikoen for Skill Rot. Det er den gradvise forringelse af menneskelige evner som følge af manglende brug. Det er "The Google Maps Effect" på steroider. Før GPS havde folk et mentalt kort over deres by; de forstod rumlige sammenhænge. Nu følger vi den blå linje. Hvis batteriet dør, er vi fortabte i vores eget kvarter.
Inden for softwareudvikling ser vi fremkomsten af "Copy-Paste Senior." Det er udviklere med 2 års erfaring, som kan producere resultater svarende til en 10-års veteran ved i høj grad at læne sig op ad AI-assistenter. Men når du beder dem om at fejlfinde en race condition eller forklare hvorfor de valgte en bestemt arkitektur, falder de fra hinanden. De har produktiviteten, men ikke dybden.
Dette er farligt, fordi software er komplekst. Kode skrevet af AI indeholder ofte subtile fejl eller sikkerhedshuller, som kun en ægte ekspert kan få øje på. Hvis vi fjerner kampen ved at lære (de timer, man bruger på at banke hovedet mod væggen for at forstå en pointer-fejl), fjerner vi den proces, der opbygger eksperter.
Lærlingeparadokset
Dette fører til en strukturel krise på arbejdsmarkedet: Lærlingeparadokset.
Historisk set blev senior-eksperter skabt ved at lave "rutinearbejde" som juniorer. Man lærte at skrive gode juridiske dokumenter ved at skrive hundredvis af kedelige dokumenter og få kritik fra en partner. Man lærte at diagnosticere sjældne sygdomme ved at se tusindvis af almindelige sygdomme under sin turnus.
Hvis AI automatiserer rutinearbejdet (hvis den skriver boilerplate-koden, opsummerer dokumenterne og triagerer patienterne), hvad er der så tilbage for juniorerne? Hvordan får de deres "repetitioner"? Hvis man springer læretiden over, kan man ikke blive mester. Man bliver bare en permanent novice med en virkelig kraftfuld lommeregner.
Dweve-løsningen: Augmenteret intelligens
Hos Dweve designer vi vores værktøjer til at bekæmpe Skill Rot. Vi er ideologisk imod "Automation", der erstatter tænkning. Vi tror på "Augmentation", der forbedrer tænkning.
Vi mener, at AI skal være en cykel for sindet (få dig til at gå hurtigere frem), ikke en kørestol for sindet (bære dig, fordi du ikke kan gå).
1. Forklarende tilstand: AI som tutor
Når vores kodningsassistent foreslår en rettelse, indsætter den ikke bare koden lydløst. Den går i "Forklarende tilstand". Den fremhæver de linjer, den har ændret, og forklarer hvorfor.
- "Jeg ændrede denne løkke til en map-funktion, fordi den er mere hukommelseseffektiv i denne kontekst."
- "Jeg tilføjede en sanitization-kontrol her, fordi denne input kunne være sårbar over for XSS."
Det gør fejlrettelsen til en mikrolektion. Det tvinger brugeren til at engagere sig med logikken, ikke kun outputtet. Det overfører viden fra modellen til mennesket.
2. Human-in-the-Loop by design
Vores kritiske beslutningssystemer (til medicin, jura og finans) er designet til at foreslå og begrunde, aldrig til at beslutte lydløst. Vi kalder dette for "Argumentativ grænseflade".
AI præsenterer et udkast: "Jeg anbefaler at godkende dette lån." Men den præsenterer også argumentet: "Fordi gældsgraden er lav, og sikkerheden er høj." Det tvinger den menneskelige ekspert til at gennemgå logiktrinene og godkende dem. Dette holder mennesket "in the loop" kognitivt, ikke kun proceduremæssigt.
3. Interaktiv fejlfinding
Fordi vores modeller er transparente (Glass Box), kan brugere argumentere med dem. Hvis AI siger "Dette er en kat", kan brugeren spørge "Hvorfor?" AI viser de funktioner, den har registreret. Brugeren kan sige "Nej, det er en hund, se på ørerne."
Denne dialektiske proces (frem og tilbage-argumentationen mellem menneske og maskine) skærper brugerens kritiske tænkning. Den opmuntrer til skepsis. Den forhindrer "Computer Says No"-selvtilfredsheden.
Bevarelse af håndværket
Vi er nødt til at beskytte "Craft". Den dybe, intuitive forståelse, der kommer fra kamp, øvelse og fiasko.
AI skal fjerne det kedelige arbejde (papirarbejdet, dataindtastningen, formateringen). Men den må ikke fjerne tænkningen. Den må ikke fjerne dømmekraften.
Hvis vi bygger AI, der gør os dumme, har vi fejlet som art. Vi har bygget en krykke i stedet for et værktøj.
Hos Dweve bygger vi værktøjer, der udfordrer os til at blive bedre. Vi bygger værktøjer, der kræver intelligente brugere. Fordi fremtiden ikke kun bør være smartere maskiner; den bør være smartere mennesker.
Leder du efter AI, der gør dit team klogere, ikke afhængigt? Dweves Glass Box-arkitektur og Explanatory Mode sikrer, at dine eksperter vokser sammen med teknologien. Kontakt os for at få at vide, hvordan augmented intelligence kan bevare og forstærke menneskelig ekspertise i din organisation.