Prasmju puves risks: vai mākslīgais intelekts mūs padarīs stulbus?
The Children of the Magenta
Aviācijas nozarē ir satriecoša dokumentālā filma ar nosaukumu "Children of the Magenta". Tā attiecas uz paaudzi, kas iemācījās lidot ar augsti automatizētām mūsdienu lidmašīnām. "Magenta" apzīmē lidojuma trajektorijas līnijas krāsu pilota kabīnes automatizētajā navigācijas displejā.
Šie piloti bija eksperti lidojuma vadības datora programmēšanā. Viņi perfekti pārvaldīja sistēmas. Taču izmeklētāji atklāja, ka krīzes situācijās (kad automatizācija sabojājās vai atvienojās sliktu sensoru datu dēļ) daži no šiem pilotiem panikā. Viņi bija zaudējuši lidmašīnas "sajūtu". Viņiem bija grūtības ar pamata stūres un pedāļu vadību. Viņi bija kļuvuši par sistēmu operatoriem, nevis aviatoriem. Viņu pamatprasmes bija satrunējušas.
Šobrīd mēs šo fenomenu nodarām visai globālajai zināšanu ekonomikai.
Mēs dodam jaunajiem programmētājiem rīkus, kas raksta kodu, kuru viņi nesaprot. Mēs dodam jaunajiem juristiem rīkus, kas sagatavo līgumus, kurus viņi nav izlasījuši. Mēs dodam medicīnas studentiem diagnostikas rīkus, kas atklāj audzējus, kurus viņi neredz.
Tas darbojas labi, kamēr laiks ir skaidrs un automatizācija strādā. Bet kas notiek, kad sistēma sabojājas? Un vēl svarīgāk: ja mašīna veic visu praksi, kā cilvēki jebkad sasniedz meistarību?
Kognitīvā atrofija
Šis ir prasmju atrofijas risks. Tā ir pakāpeniska cilvēka spēju samazināšanās neizmantošanas dēļ. Tas ir "Google Maps efekts" pastiprinātā veidā. Pirms GPS cilvēkiem bija sava pilsētas mentālā karte; viņi saprata telpiskās attiecības. Tagad mēs sekojam zilajai līnijai. Ja akumulators izlādējas, mēs esam apmaldījušies savā apkaimē.
Programmatūras izstrādē mēs redzam "kopē-un-ielīmē vecāko izstrādātāju" parādīšanos. Tie ir izstrādātāji ar divu gadu pieredzi, kuri, stipri paļaujoties uz mākslīgā intelekta palīgiem, spēj radīt tādu pašu rezultātu kā desmit gadu veterāns. Bet, kad lūdzat viņiem atrast sacensības stāvokļa kļūdu vai izskaidrot, kāpēc viņi izvēlējās konkrēto arhitektūru, viņi sabrūk. Viņiem ir produktivitāte, bet ne dziļums.
Tas ir bīstami, jo programmatūra ir sarežģīta. AI radītajā kodā bieži ir smalkas kļūdas vai drošības ievainojamības, kuras var pamanīt tikai īsts eksperts. Ja mēs novēršam mācīšanās grūtības (stundas, kas pavadītas, sitot galvu pret sienu, mēģinot saprast rādītāja kļūdu), mēs novēršam procesu, kas veido ekspertus.
Mācekļa paradokss
Tas noved pie strukturālas krīzes darba tirgū: mācekļa paradokss.
Vēsturiski vecākie eksperti tika radīti, jaunībā veicot "melnos darbus". Jūs iemācījāties rakstīt lieliskus juridiskos dokumentus, uzrakstot simtiem garlaicīgu un saņemot partnera kritiku. Jūs iemācījāties diagnosticēt retas slimības, rezidentūras laikā redzot tūkstošiem parastu gadījumu.
Ja mākslīgais intelekts automatizē melnos darbus (ja tas raksta standarta kodu, apkopo dokumentus un veic pacientu šķirošanu), kas paliek jaunākajam speciālistam? Kā viņš iegūst "praksi"? Ja izlaižat mācekļa posmu, jūs nevarat kļūt par meistaru. Jūs vienkārši paliekat mūžīgs iesācējs ar ļoti jaudīgu kalkulatoru.
Dweve risinājums: papildinātais intelekts
Uzņēmumā Dweve mēs veidojam savus rīkus, lai cīnītos pret prasmju izzušanu. Mēs esam ideoloģiski pret "automatizāciju", kas aizstāj domāšanu. Mēs ticam "paplašināšanai", kas uzlabo domāšanu.
Mēs uzskatām, ka mākslīgajam intelektam jābūt kā velosipēdam prātam (liekot jums kustēties ātrāk), nevis kā ratiņkrēslam prātam (nesot jūs, jo jūs nevarat staigāt).
1. Izskaidrojošais režīms: mākslīgais intelekts kā pasniedzējs
Kad mūsu kodēšanas palīgs iesaka labojumu, tas ne tikai klusībā ielīmē kodu. Tas ieslēdz "izskaidrojošo režīmu". Tas izceļ rindas, kuras mainījis, un izskaidro kāpēc.
- "Es nomainīju šo ciklu pret map funkciju, jo tā šajā kontekstā ir atmiņas ziņā efektīvāka."
- "Es šeit pievienoju datu tīrīšanas pārbaudi, jo šī ievade varētu būt neaizsargāta pret XSS."
Tas pārvērš kļūdas labojumu par mikronodarbību. Tas liek lietotājam iesaistīties loģikā, nevis tikai rezultātā. Tas pārnes zināšanas no modeļa uz cilvēku.
2. Cilvēks procesa centrā pēc dizaina
Mūsu kritiskās lēmumu pieņemšanas sistēmas (medicīnā, tiesībās un finansēs) ir veidotas tā, lai ierosinātu un pamato, nekad tās neizlemj klusībā. Mēs to saucam par "argumentatīvo saskarni".
Mākslīgais intelekts piedāvā projektu: "Es iesaku apstiprināt šo aizdevumu." Bet tas arī piedāvā argumentu: "Jo parāda attiecība ir zema un nodrošinājums ir augsts." Tas liek cilvēkam ekspertam pārskatīt loģikas soļus un tos apstiprināt. Tas notur cilvēku "procesa centrā" kognitīvi, nevis tikai procedurāli.
3. Interaktīvā atkļūdošana
Tā kā mūsu modeļi ir caurskatāmi (stikla kaste), lietotāji var ar tiem strīdēties. Ja mākslīgais intelekts saka "Tas ir kaķis", lietotājs var jautāt "Kāpēc?" Mākslīgais intelekts parāda pazīmes, ko tas atklājis. Lietotājs var teikt "Nē, tas ir suns, paskaties uz ausīm."
Šis dialektiskais process (argumentu apmaiņa starp cilvēku un mašīnu) asina lietotāja kritisko domāšanu. Tas veicina skepsi. Tas novērš "dators saka nē" pašapmierinātību.
Saglabājot amatu
Mums ir jāaizsargā "amats". Dziļā, intuitīvā izpratne, kas rodas no grūtībām, prakses un neveiksmēm.
Mākslīgajam intelektam vajadzētu atņemt garlaicīgo darbu (papīru kārtošanu, datu ievadi, formatēšanu). Bet tam nevajadzētu atņemt domāšanu. Tam nevajadzētu atņemt spriestspēju.
Ja mēs veidojam mākslīgo intelektu, kas padara mūs stulbus, mēs esam cietuši neveiksmi kā suga. Mēs esam uzbūvējuši kruķi, nevis rīku.
Uzņēmumā Dweve mēs veidojam rīkus, kas mūs izaicina būt labākiem. Mēs veidojam rīkus, kas prasa gudrus lietotājus. Jo nākotnei nevajadzētu būt tikai gudrākām mašīnām; tai vajadzētu būt gudrākiem cilvēkiem.
Meklējat mākslīgo intelektu, kas padara jūsu komandu gudrāku, nevis atkarīgu? Dweve stikla kastes arhitektūra un skaidrojošais režīms nodrošina, ka jūsu eksperti attīstās līdzās tehnoloģijai. Sazinieties ar mums, lai uzzinātu, kā papildinātais intelekts var saglabāt un vairot cilvēka ekspertīzi jūsu organizācijā.