Nākotne ir lokāla, verificēta un garlaicīga.
Nākotne ieradās apkopes logā
Nākotne neieradās ar mirdzošu atklāšanas uzrunu. Tā ieradās apkopes logā, pulksten 22:30, kad operāciju komanda pārcēla kritisku darbplūsmu no ārējas atkarības uz reģionālo izpildvidi, pārliecinājās, ka tie paši ieraksti rada tos pašus lēmumus, pārbaudīja audita kvītis, nomainīja atslēgu, atjaunoja dublējumu un devās mājās pirms pusnakts. Neviens neaplaudēja. Lietotāji neko nepamanīja, izņemot to, ka pakalpojums no rīta joprojām darbojās. Šī nav aina, ko lielākā daļa cilvēku iztēlojas, runājot par AI nākotni. Tā, visticamāk, ir tuvāk tai, kam ir nozīme.
Publiskais AI stāsts ir veidots uz izrādi: lielāki modeļi, dīvainākas demonstrācijas, raitāki aģenti, sintētiskie mediji, etalonu lēcieni, informācijas paneļi, kas liek domāt, ka organizācija ir kļuvusi par kosmosa kuģi. Izrādei ir sava vieta. Tā var parādīt, kas ir iespējams. Tā var paplašināt iztēli. Tā var arī novērst uzmanību no jautājuma, kas izšķir, vai AI kļūst par uzticamu infrastruktūru: vai šī sistēma var darboties tur, kur tai jādarbojas, pierādīt, ko tā izdarīja, un kļūt pietiekami garlaicīga, lai cilvēki uz to varētu paļauties, nepārvēršot katru izvadi par nelielu teoloģisku notikumu.
Nākamā lietderīgā AI fāze būs lokāla, pārbaudāma un garlaicīga. Lokāls nenozīmē, ka visam jādarbojas zem rakstāmgalda ar varonīgu ventilatoru. Tas nozīmē, ka skaitļošana, dati, atslēgas un pilnvaras ir pietiekami tuvu cilvēkiem un iestādēm, kas par tiem atbild. Pārbaudāms nenozīmē, ka katra atbilde kļūst par matemātisku pierādījumu. Tas nozīmē, ka svarīgi apgalvojumi ietver pierādījumus, atskaņošanas ceļus, versiju pārvaldītu stāvokli un pārbaudāmas robežas. Garlaicīgs nenozīmē neizdomas bagāts. Tas nozīmē, ka sistēma ir pārtraukusi radīt lieku drāmu.
Šī nākotne ir mazāk moderna, jo tā ir mazāk teatrāla. Tā prasa datu līgumus, eksporta formātus, determinētus ierakstus, vērtēšanas kopas, lomu dizainu, atkopšanās mēģinājumus, energoapziņu, atteikuma ceļus, lokālas izpildvides, atvērtas saskarnes, incidentu tiesības un pietiekami daudz operacionālas pazemības, lai atzītu, ka laba AI sistēma ir tāda, kas var pievilt atklāšanas uzrunas auditoriju un iepriecināt auditoru. Tā nav maza ambīcija. Tā vienkārši nav piemērota konfeti.
Lokāls nav pasta indekss
Vietējais mākslīgais intelekts bieži tiek pārprasts kā arguments par ģeogrāfisko atrašanās vietu. Novietojiet serveri šeit, un sistēma kļūst atbildīga. Atrašanās vietai ir nozīme, bet vietējais ir bagātāks jēdziens nekā ģeogrāfija. Darba slodze ir pietiekami vietēja, ja atbildīgā iestāde var īstenot kontroli pār datu pārvietošanu, izpildes vidi, atslēgām, piekļuvi, ierakstiem, atkopšanu un pierādījumiem, bez nepieciešamības lūgt atļauju attālai atkarībai vissliktākajā iespējamajā brīdī. Dažkārt tas nozīmē lokālu infrastruktūru. Dažkārt suverēnu reģionu. Dažkārt perifērijas ierīces. Dažkārt hibrīdu modeli. Karte ir noderīga tikai tad, ja tā seko varai, nevis mārketinga ģeogrāfijai.
Ir praktiski iemesli pārvietot darbu tuvāk. Jutīgus datus var nebūt atļauts pārsūtīt. Latence var būt svarīga. Enerģijas izmaksas var būt skaidrākas lokāli. Var būt nepieciešama darbība bez savienojuma. Organizācijai var būt nepieciešams pārbaudīt modeļa darbību ar saviem ierakstiem. Publiskai iestādei var būt nepieciešams nodrošināt tiesības saskaņā ar valsts vai Eiropas tiesību aktiem. Ražotājam var būt nepieciešama secinājumu veikšana iekārtas tuvumā. Slimnīcai var būt nepieciešams, lai pacienta konteksts paliktu uzticības robežās. Tie nav ideoloģiski iemesli. Tie ir darbības ierobežojumi.
Vietējais maina arī ekonomiku. Nosūtīt katru nelielu uzdevumu attālam milzim tikai tāpēc, ka API ir ērta, var kļūt dārgi, trausli un grūti izskaidrojami. Veikt katru uzdevumu lokāli tikai tāpēc, ka tas izklausās suverēni, var kļūt izšķērdīgi, vāji un grūti uzturami. Nākotne nav viena izvietošanas reliģija. Tā ir izvietošanas disciplīna. Novietojiet darbu tur, kur dati, kontrole, latentums, izmaksas, prasmes un risks to nosaka. Pēc tam pierādiet, ka izvietojums joprojām darbojas, kad vieglais ceļš neizdodas.
Visaugstākās klases vietējās sistēmas būs parastas. Tās izmantos mazākus modeļus tur, kur mazāki modeļi ir pietiekami. Tās apvienos izguvi, noteikumus, ierakstus un cilvēku pārskatīšanu. Tās kešos uzmanīgi, atjauninās apdomīgi un atteiksies, ja trūkst konteksta. Tās izturēsies pret joslas platumu, enerģiju un personāla uzmanību kā pret ierobežotiem resursiem. Tās neatvainosies par to, ka ir mazāk maģiskas, ja tās ir uzticamākas. Maģijai ir bijis dāsns pārbaudes laiks.
Pārbaudīts nozīmē, ka atbildei ir pierādījumi
Pārbaude nav viena lieta. Tā var nozīmēt matemātisku pierādījumu, parakstītus ierakstus, deterministisku atkārtošanu, etalonu novērtēšanu, avotu citēšanu, politikas atbilstību, cilvēka apstiprinājumu, audita žurnālu, regresijas testus, neatkarīgu pārskatīšanu vai vienkāršu pārbaudi, ka skaitlis ekrānā atbilst skaitlim avotā. Vārds ir plašs, jo atbildība ir plaša. Noderīgais jautājums nav tas, vai sistēma ir pārbaudīta abstrakti. Tas ir, kurš apgalvojums ir pārbaudīts, ar kādiem pierādījumiem un kādām sekām.
Mākslīgā intelekta atbildei, kas iesaka pusdienu vietu, nav nepieciešami tādi paši pierādījumi kā atbildei, kas pamato pabalsta lēmumu, apkopes instrukciju, kredīta izvērtējumu, klīnisko piezīmi vai drošības novērtējumu. Nopietnām sistēmām pārbaude būtu jāmēro atbilstoši sekām. Zema riska darbu var veikt viegli. Augstas ietekmes darbam ir nepieciešams avota stāvoklis, modeļa stāvoklis, noteikumu stāvoklis, cilvēka loma, laika zīmogi, labošanas ceļi un atkārtošana, ja tas ir iespējams. Tā nav birokrātija. Tā ir proporcionāla atmiņa.
Pārbaude maina arī mākslīgā intelekta emocionālo dzīvi. Bez pierādījumiem katra pārliecināta atbilde prasa ticību. Ar pierādījumiem atbildi var pārbaudīt. Avotus var pārbaudīt. Versijas var salīdzināt. Labojumus var veikt. Pārskatītāji var nepiekrist, nekļūstot par ķeceriem. Sistēma kļūst mazāk līdzīga orākulim un vairāk līdzīga kolēģim, kurš atnes piezīmes. Kolēģi, kuri atnes piezīmes, reti ir visspilgtākie cilvēki sapulcē. Viņi bieži ir iemesls, kāpēc sapulce nekļūst par leģendu.
Grūtākais ir atteikt viltotu verificēšanu. Atsauce, kas norāda uz nepareizu avotu, nav verificēšana. Informācijas paneļa rādītājs bez atkārtojamiem gadījumiem nav verificēšana. Vispārīgs skaidrojums, kurā teikts, ka attiecīgie faktori ir izvērtēti, nav verificēšana. Pārliecības rādītājs bez kalibrēšanas nav verificēšana. Parakstīts ieraksts, kurā nav norādīts ievades stāvoklis, ir tikai daļēji noderīgs. Verificēšanai būtu jāiztur nelabvēlīgs lasītājs. Labvēlīgi lasītāji ir lēti.
Garlaicība ir dizaina sasniegums
Garlaicīgas sistēmas bieži tiek pārprastas kā vienkāršas sistēmas. Daudzas no tām nav vienkāršas. Tās ir disciplinētas. Tās veic ikdienas darbu bez pārsteigumiem, skaidri parāda ierobežojumus, sabojājas zināmā veidā, atkopjas bez ceremonijām un glabā pietiekami daudz ierakstu, lai nevienam nebūtu jārekonstruē realitāte no tērzēšanas ziņojumiem. Garlaicība ir tas, kā sarežģītas sistēmas izskatās pēc tam, kad ir paveikts pietiekami daudz inženierdarba, lai lietotājiem sarežģītība nešķistu kā personisks sods.
Mākslīgajam intelektam vajag vairāk garlaicības. Tam vajag garlaicīgu atteikumu, kad trūkst avotu. Garlaicīgus žurnālus, kas atbild uz īstiem jautājumiem. Garlaicīgu versiju pārvaldību. Garlaicīgas vērtēšanas kopas. Garlaicīgus ieviešanas vārtus. Garlaicīgu eksportu. Garlaicīgu lomu izstrādi. Garlaicīgus brīdinājumus, kuriem nav vajadzīgs priesteris, lai tos interpretētu. Garlaicīgu izmaksu uzskaiti. Garlaicīgu dokumentāciju, kurā teikts, kam kas pieder. Garlaicīgu atcelšanu. Garlaicība nav inteliģences ienaidnieks. Tā ir tvertne, kas neļauj inteliģencei izplūst gaitenī.
Kāre pēc aizraujošā ir radījusi pārāk daudz sistēmu, kas iespaidīgi darbojas demonstrācijās, bet slikti darbojas praksē. Tās var atbildēt uz demonstrācijas jautājumu, bet nevar izskaidrot ražošanas incidentu. Tās var apkopot dokumentu, bet nevar saglabāt avota stāvokli. Tās var automatizēt darbplūsmu, bet nevar attēlot nenoteiktību. Tās var mērogot lietojumu, bet nevar novērst kaitējumu. Šīs sistēmas nav attīstītas. Tās ir pusaudžu vecumā. Daudz enerģijas, maz pienākumu.
Garlaicīgs dizains jau agri uzdod neromantiskus jautājumus. Kas notiek, ja modelis nav pieejams. Kas notiek, ja atbilde ir ar zemu pārliecību. Kas notiek, ja avots ir novecojis. Kas notiek, ja lietotājs nepiekrīt. Kas notiek, ja politika mainās. Kas notiek, ja sistēma ir jāaizstāj. Kas notiek, kad ierodas audits. Sistēma, kas var atbildēt uz šiem jautājumiem, var izskatīties mazāk aizraujoša. Labi. Aizraujošais ir tas, ko cilvēki sauc par risku, pirms ierodas rēķins.
Ainava kļūs mazāka un daudzveidīgāka
Nākotne nebūs viens modelis, kas valdītu pār visiem uzdevumiem. Tā būs ainava, ko veidos modeļi, noteikumi, izguves sistēmas, risinātāji, datubāzes, simboliskas pārbaudes, cilvēku pārskatīšana un nozarei specifiski rīki. Dažiem uzdevumiem ir vajadzīgi lieli vispārīgi modeļi. Daudziem ir vajadzīgi mazāki specializēti modeļi. Dažiem modelis nav vajadzīgs vispār, tikai labāki ieraksti un deterministiski noteikumi. Dažiem ir vajadzīga meklēšana ar izcelsmes pierādījumu. Dažiem ir vajadzīgas formālas pārbaudes. Dažiem ir vajadzīgs cilvēks ar labāku saskarni un iespēju pateikt nē.
Šī jauktā ainava ir veselīgāka par fantāziju par visaptverošu automatizāciju. Tā ļauj organizācijām izvēlēties vismazāk jaudīgo rīku, kas darbu var paveikt atbildīgi. Šī frāze izklausās pēc nepietiekama snieguma, līdz rēķinā iekļauj elektrības izmaksas, latentuma budžetu, audita slogu un datu risku. Vismazāk jaudīgais pietiekamais rīks bieži ir pats suverēnākais, uzturamākais un saprotamākais rīks. Tas arī mēdz būt tas, ko cilvēki var atkļūdot pirms pusdienām.
Lokāls pārbaudīts garlaicīgs mākslīgais intelekts tāpēc dod priekšroku kompozīcijai. Mazs modelis veido melnrakstu. Izguve nodrošina avotus. Noteikumi nodrošina stingrus ierobežojumus. Deterministiski ieraksti saglabā stāvokli. Verifikācija pārbauda apgalvojumus. Cilvēku pārskatīšana uzņemas spriedumu. Uzraudzība vēro novirzes. Eksports uztur izeju reālu. Katrai daļai ir savs uzdevums. Sistēma kļūst mazāk noslēpumaina, jo atbildība ir sadalīta apzināti, nevis izšķīdināta vienā raitā atbildē.
Briesmas ir tādas, ka kompozīcija var kļūt nekārtīga, ja neviens nepārvalda veselumu. Garlaicīgai arhitektūrai ir vajadzīgas skaidras robežas, līgumi un testi. Mērķis nav komponentu kaudze. Mērķis ir strādājoša sistēma, kurā katru komponentu var aizstāt, pārbaudīt un vainot tikai par to darbu, ko tas patiešām veic. Vainas robežas ir nenovērtētas. Tās ir tas, kā incidenti kļūst par labojumiem, nevis izrādi.
Enerģija kļūs par pārvaldības jautājumu
Sarunās par mākslīgo intelektu skaitļošana bieži tiek uztverta kā fona pakalpojums. Tā nav. Skaitļošana patērē naudu, elektrību, dzesēšanu, aparatūras piegādi, darbinieku uzmanību un politisko kapitālu. Mākslīgajam intelektam kļūstot par parastu infrastruktūru, enerģija kļūs par pārvaldības daļu. Kuri uzdevumi attaisno tālu lielu modeļu izsaukumus. Kuri var darboties uz mazākiem lokāliem modeļiem. Kuri būtu jāapstrādā partijās. Kuri būtu jākešo. Kuri būtu jānoraida, jo vērtība neattaisno izmaksas. Kurām darba slodzēm jāturpina darboties ierobežojumu laikā. Tie nav tikai inženierijas jautājumi. Tie ir sadales jautājumi.
Lokālais mākslīgais intelekts var padarīt enerģiju redzamu. Vietējā vai reģionālā izpildes vide liek komandām tiešāk saskatīt jaudu, siltumu, rindas un izmaksas. Šāda redzamība var būt neērta. Labi. Neredzamais patēriņš ir tas, kā organizācijas atklāj, ka koncepcijas pierādījums ir kļuvis par krāsni ar lietotāja saskarni. Attālinātie pakalpojumi joprojām var būt efektīvi un atbilstoši, taču pircējam būtu jāsaprot, kas tiek patērēts, kur un kura labā.
Enerģijas apzināšanās veicina arī pareizu izmēru izvēli. Ne katra e-pasta melnraksta sagatavošanai ir nepieciešams lielākais pieejamais modelis. Ne katram datu izguves uzdevumam ir nepieciešama aģentu ķēde. Ne katrai klasifikācijai ir nepieciešama reāllaika secinājumu izdarīšana, ja pietiktu ar vienkāršu noteikumu. Nākotnē tiks novērtētas sistēmas, kas skaitļošanu uztver kā dizaina materiālu, nevis maģisku mākoņa miglu. Tas izklausīsies prozaiski, līdz budžeti saruks, tīkli tiks noslogoti vai iepirkums jautās, kāpēc pakalpojums maksā vairāk, kad lietotājiem tas beidzot patīk.
Ir arī suverenitātes aspekts. Enerģija ir lokāla pat tad, ja programmatūra izliekas, ka tā nav. Datu centri atrodas uz elektrotīkliem. Aparatūra atrodas piegādes ķēdēs. Dzesēšana ir atkarīga no ūdens un laikapstākļiem. Ja kritiski svarīgs mākslīgais intelekts ir atkarīgs no skaitļošanas jaudas, kurai iestāde nevar noteikt prioritāti, ko nevar pārbaudīt vai par ko nevar norēķināties stresa apstākļos, tad šī atkarība ir stratēģiska. Nākotne ir lokāla daļēji tāpēc, ka fizika joprojām spītīgi neinteresējas par zīmoliem.
Iestādēm ir vajadzīgas sistēmas, kas prot pateikt nē
Lokālai, pārbaudītai un garlaicīgai mākslīgā intelekta sistēmai ir jāprot pateikt nē. Nav avota. Nav pilnvaru. Nav aktualitātes. Nav pārliecības. Nav lomas. Nav likumīga mērķa. Nav drošas darbības. Nav pieejamās jaudas. Spēja atteikt ir viena no skaidrākajām pazīmēm, ka sistēma ir kļuvusi nobriedusi. Nobriedušas sistēmas atbild uz visu, jo atbildēšana izskatās pēc vērtības. Nobriedušas sistēmas zina, ka dažas atbildes ir saistības ar labu gramatiku.
Atteikums ir vieglāks, ja ieraksti un pilnvaras ir pietiekami lokāli, lai tos varētu pārbaudīt, un ja verifikācijai ir reāls pierādījumu ceļš. Sistēma var pateikt nē, jo tā zina, kurš nosacījums nav izpildīts. Tā var pateikt cilvēkam, kā labot gadījumu. Tā var eskalēt, ja pašam atteikumam ir sekas. Tā var reģistrēt atteikumu, lai atkārtotas kļūmes kļūtu par dizaina pierādījumu. Atteikums bez paskaidrojuma ir šķērslis. Atteikums ar pierādījumiem ir kontrole.
Atteikums aizsargā arī uzticību. Lietotāji uzzina, ka sistēmai ir robežas. Recenzenti uzzina, ka trūkstošiem pierādījumiem ir nozīme. Vadītāji uzzina, ka caurlaidspēja nav vienīgais rādītājs. Sistēma, kas pareizi atsakās, var izskatīties mazāk produktīva naivā informācijas panelī un vērtīgāka incidentu izvērtējumā. Informācijas panelis to pārdzīvos. Tam ir bijusi viegla dzīve.
Atteikuma izstrāde prasa drosmi, jo tā atklāj neatrisinātus organizatoriskus jautājumus. Kam ir tiesības atcelt lēmumu. Kādus trūkstošos laukus var aizpildīt lietotājs. Kuriem jānāk no avota sistēmām. Kuri lēmumi tiek apturēti. Kuri turpinās ar brīdinājumu. Kuriem nepieciešams paziņojums. Atteikums padara politiku operacionālu. Tieši tāpēc tas pieder nākotnei, nevis pielikumam.
Lokāls nenozīmē vientuļš
Lokāla nākotne nav izolēta nākotne. Iestādes joprojām sadarbosies, apmainīsies ar datiem, izmantos kopīgus modeļus, paļausies uz piegādātājiem, pievienosies nozares platformām, piedalīsies pētniecībā un mācīsies no globālās infrastruktūras. Jautājums nav par to, vai pastāv atkarības. Tās būs. Jautājums ir par to, vai atkarības ir izvēlētas, redzamas, pārbaudītas un ierobežotas ar tiesībām, ko iestāde var īstenot.
Atvērtie standarti, pārnesami ieraksti, kopīgas izvērtēšanas metodes, sadarbspējīga identitāte, parakstīti artefakti, kopīgi revīzijas formāti un pārredzams iepirkums var ļaut lokālām sistēmām sadarboties, nezaudējot kontroli. Šeit garlaicīgs darbs kļūst politisks. Standarta lauka nosaukums, eksporta manifests, testa vide, saglabāšanas noteikums, lomu kartējums, incidentu protokols: tie nav glamūrīgi suverenitātes instrumenti, taču tie ļauj iestādēm strādāt kopā, nenododot atmiņu.
Vietējais nozīmē arī vietējās zināšanas. Nozares darbiniekiem, datu pārziņiem, inženieriem, juridiskajām komandām, operatoriem un skartajām kopienām ir vajadzīga balss sistēmas tuvumā. Mākslīgais intelekts, kas ir tehniski iespaidīgs, bet sociāli attālināts, palaidīs garām kontekstu. Konteksts ir vieta, kur slēpjas daudzas kļūdas. Sistēmai, kas darbojas tuvu darbam, ir lielāka iespēja tikt labotai, pirms kļūda kļūst par politiku. Tā arī dod cilvēkiem iespēju veidot automatizāciju, kas veido viņus. Tā nav sentimentāla runa. Tā ir leģitimitātes uzturēšana.
Vientuļā vietējā versija ir trausla. Sadarbīgā versija ir noturīga. Tā izmanto kopīgus rīkus, nezaudējot atbildības robežas. Tā ļauj organizācijām mācīties kopā, vienlaikus saglabājot skaidrus savus ierakstus, atslēgas, politikas un pienākumus. Ļoti garlaicīgi. Ļoti noderīgi.
Klusais virziens
Nākamās desmitgades svarīgākās mākslīgā intelekta sistēmas var būt mazāk redzamas nekā demonstrācijas, kas lika cilvēkiem noticēt šai jomai. Tās atradīsies sabiedriskajos pakalpojumos, slimnīcās, rūpnīcās, skolās, enerģētikas sistēmās, juridiskajos procesos, pētniecības vidēs, plānošanas procesos un klientu apkalpošanā. Tās ne vienmēr runās. Dažreiz tās izgūs, pārbaudīs, salīdzinās, maršrutēs, atteiks, saglabās vai lūgs cilvēkam izlemt. To vērtību mērīs mazāk ar pārsteigumu, bet vairāk ar novērstu pārstrādi, skaidrākiem ierakstiem, drošākiem lēmumiem, mazāku atkarību un mazāk cilvēku, kuriem jāstrīdas ar nepārbaudāmu ekrānu.
Šī nākotne prasa izmaiņas gaumē. Mums jāapbrīno sistēmas, kas pilda solījumus, nevis sistēmas, kas tikai dod jaunus solījumus. Mums jāciena vietējā kontrole, ja atbildība ir vietēja. Mums jāpieprasa pārbaude, ja sekas ir reālas. Mums jāpārtrauc uzskatīt garlaicīgu darbību par fāzi pēc inovācijas un jāsāk uzskatīt to par pierādījumu, ka inovācija ir nobriedusi.
Joprojām būs izrāvieni. Daži būs iespaidīgi. Labi. Bet ilgstošā vērtība nāks no šo izrāvienu piesaistīšanas institūcijām tā, lai saglabātu atmiņu, autoritāti un iespēju labot. Pasaulei nav vajadzīgs mākslīgais intelekts, kas tikai izklausās gudrāks. Tai ir vajadzīgs mākslīgais intelekts, kam var uzticēt parastus pienākumus ārkārtēja spiediena apstākļos. Parastie pienākumi ir vieta, kur sabiedrības lielākoties dzīvo.
Nākotne ir vietēja, pārbaudīta un garlaicīga, jo šīs ir īpašības, kas padara spējas atbildīgas. Vietējais novieto kontroli atbildības tuvumā. Pārbaudītais padara apgalvojumus pārbaudāmus. Garlaicīgais padara sistēmu pietiekami atkārtojamu, lai tai varētu paļauties. Tā nav skaļākā nākotne. Tā ir tā, kas var izdzīvot, ja to lieto. Tas joprojām ir visgrūtākais demonstrējums.