„Уменията ръждясват“: ще ни направи ли ИИ глупави?
Децата на магентата
В авиационната индустрия има леденящ документален филм, известен като „Children of the Magenta“. Той се отнася до поколение пилоти, които са се научили да летят на силно автоматизирани модерни самолети. „Магентата“ се отнася до цвета на линията на полетния маршрут на автоматизирания навигационен дисплей в пилотската кабина.
Тези пилоти са били експерти в програмирането на компютъра за управление на полета. Те са можели да управляват системите перфектно. Но разследващите установили, че в кризисни ситуации (когато автоматизацията се повреди или се изключи поради лоши данни от сензорите) някои от тези пилоти са изпадали в паника. Те са загубили „усещането“ за самолета. Затруднявали са се с основното пилотиране с лост и педали. Били са се превърнали в оператори на системи, а не в авиатори. Основните им умения са изгнили.
В момента сме в процес на налагане на това явление върху цялата световна икономика на знанието.
Даваме на младши разработчици инструменти, които пишат код, който те не разбират. Даваме на младши юристи инструменти, които изготвят договори, които те не са прочели. Даваме на студенти по медицина диагностични инструменти, които откриват тумори, които те не могат да видят.
Това работи добре, когато времето е ясно и автоматизацията функционира. Но какво се случва, когато системата се повреди? И по-важното: ако машината върши цялата практика, как хората някога постигат майсторство?
Когнитивната атрофия
Това е рискът от Skill Rot. Това е постепенното затихване на човешките способности поради липса на употреба. Това е "Ефектът на Google Maps" в стероиди. Преди GPS хората имаха ментална карта на града си; те разбираха пространствените връзки. Сега следваме синята линия. Ако батерията умре, сме изгубени в собствения си квартал.
В софтуерното инженерство наблюдаваме възхода на "Senior-а с копиране и поставяне". Това са разработчици с 2 години опит, които могат да произвеждат резултата на 10-годишен ветеран, разчитайки в голяма степен на AI асистенти. Но когато ги помолите да отстранят състезателно условие или да обяснят защо са избрали конкретна архитектура, те се пропукват. Те имат продуктивността, но не и дълбочината.
Това е опасно, защото софтуерът е сложен. Кодът, написан от AI, често съдържа фини грешки или уязвимости в сигурността, които само истински експерт може да забележи. Ако елиминираме борбата на ученето (часовете, прекарани в удряне на главата в стената, опитвайки се да разберем грешка с указател), ние елиминираме процеса, който изгражда експертите.
Парадоксът на чирака
Това води до структурна криза на пазара на труда: Парадоксът на чирака.
В исторически план старшите експерти са се формирали, вършейки „черната работа“ като младши. Научавахте се да пишете отлични правни становища, като написахте стотици скучни такива и получавахте критики от съдружника. Научавахте се да диагностицирате редки болести, като виждахте хиляди често срещани по време на специализацията.
Ако ИИ автоматизира черната работа (ако пише рутинния код, обобщава документите и сортира пациентите), какво остава за младшия? Как натрупва „практиката“? Ако пропуснете чиракуването, не можете да станете майстор. Просто си оставате вечен начинаещ с наистина мощен калкулатор.
Решението на Dweve: Разширена интелигентност
В Dweve проектираме инструментите си, за да се борим със „Уменията да атрофират“. Идеологически сме против „Автоматизацията“, която замества мисленето. Вярваме в „Разширяването“, което подобрява мисленето.
Вярваме, че ИИ трябва да бъде велосипед за ума (който ви кара да се движите по-бързо), а не инвалидна количка за ума (която ви носи, защото не можете да ходите).
1. Обяснителен режим: ИИ като учител
Когато нашият асистент за кодиране предложи корекция, той не просто мълчаливо поставя кода. Той влиза в „Обяснителен режим“. Откроява редовете, които е променил, и обяснява защо.
- „Промених този цикъл на функция map, защото е по-ефективен по отношение на паметта в този контекст.“
- „Добавих проверка за саниране тук, защото този вход може да бъде уязвим на XSS.“
Това превръща коригирането на грешката в микроурок. Принуждава потребителя да се ангажира с логиката, а не само с резултата. Прехвърля знания от модела към човека.
2. Човек в цикъла по дизайн
Нашите системи за критични решения (за медицина, право и финанси) са проектирани да предлагат и обосновават, никога да не решават мълчаливо. Наричаме това „Аргументативен интерфейс“.
ИИ представя чернова: „Препоръчвам одобряването на този заем.“ Но също така представя аргумента: „Защото съотношението на дълга е ниско и обезпечението е високо.“ Това принуждава човешкия експерт да прегледа логическите стъпки и да ги одобри. Това държи човека „в цикъла“ когнитивно, а не само процедурно.
3. Интерактивно отстраняване на грешки
Тъй като нашите модели са прозрачни (Glass Box), потребителите могат да спорят с тях. Ако ИИ каже „Това е котка“, потребителят може да попита „Защо?“ ИИ показва характеристиките, които е открил. Потребителят може да каже „Не, това е куче, виж ушите.“
Този диалектичен процес (взаимният аргумент между човек и машина) изостря критичното мислене на потребителя. Насърчава скептицизма. Предотвратява самодоволството от типа „Компютърът казва не“.
Запазване на занаята
Трябва да защитим „Занаята“. Дълбокото, интуитивно разбиране, което идва от борбата, практиката и провала.
ИИ трябва да премахне тежката работа (бюрокрацията, въвеждането на данни, форматирането). Но не трябва да отнема мисленето. Не трябва да отнема преценката.
Ако изградим ИИ, който ни прави глупави, сме се провалили като вид. Сме изградили патерица вместо инструмент.
В Dweve изграждаме инструменти, които ни предизвикват да бъдем по-добри. Изграждаме инструменти, които изискват умни потребители. Защото бъдещето не трябва да бъде само по-умни машини; то трябва да бъде по-умни хора.
Търсите AI, който прави екипа ви по-умен, а не зависим? Архитектурата Glass Box на Dweve и Explanatory Mode гарантират, че вашите експерти растат заедно с технологията. Свържете се с нас, за да разберете как augmented intelligence може да съхрани и усили човешката експертиза във вашата организация.