A jövő helyi, hitelesített és unalmas
A jövő egy karbantartási ablakban érkezett meg
A jövő nem egy ragyogó nyitóelőadással érkezett. Egy karbantartási ablakban érkezett, 22:30-kor, amikor egy üzemeltetési csapat egy kritikus munkafolyamatot külső függőségről regionális futási környezetre helyezett át, ellenőrizte, hogy ugyanazok a rekordok ugyanazokat a döntéseket hozták-e, átvizsgálta az audit-bizonylatokat, elforgatott egy kulcsot, visszaállított egy biztonsági mentést, és éjfél előtt hazament. Senki nem tapsolt. A felhasználók semmit sem vettek észre, csak azt, hogy a szolgáltatás reggel is működött. Ez nem az a jelenet, amelyet a legtöbben elképzelnek, amikor az AI jövőjéről beszélnek. Valószínűleg közelebb áll ahhoz, amelyik számít.
Az AI nyilvános történetét a látványosság formálta: nagyobb modellek, furcsább demók, folyékonyabb ügynökök, szintetikus média, benchmark-ugrások, irányítópultok, amelyek azt sugallják, hogy a szervezet űrhajóvá vált. A látványosságnak megvan a helye. Megmutathatja, mi lehetséges. Kitágíthatja a képzeletet. El is vonhatja a figyelmet arról a kérdésről, amely eldönti, hogy az AI megbízható infrastruktúrává válik-e: képes-e ez a rendszer ott futni, ahol futnia kell, bizonyítani, hogy mit tett, és elég unalmassá válni ahhoz, hogy az emberek támaszkodhassanak rá anélkül, hogy minden kimenetet apró teológiai eseménnyé változtatnának.
Az AI következő hasznos szakasza helyi, ellenőrzött és unalmas lesz. A helyi nem azt jelenti, hogy mindennek egy íróasztal alatt kell futnia egy hősies ventilátorral. Azt jelenti, hogy a számítás, az adatok, a kulcsok és a felhatalmazás elég közel legyenek azokhoz az emberekhez és intézményekhez, amelyek felelősek értük. Az ellenőrzött nem azt jelenti, hogy minden válasz matematikai bizonyítássá válik. Azt jelenti, hogy a fontos állítások bizonyítékot, visszajátszási útvonalakat, verziózott állapotot és tesztelhető határokat hordoznak. Az unalmas nem azt jelenti, hogy fantáziátlan. Azt jelenti, hogy a rendszer abbahagyta az elkerülhető dráma okozását.
Ez a jövő kevésbé divatos, mert kevésbé színházi. Adatmegállapodásokat, exportformátumokat, determinisztikus rekordokat, értékelési készleteket, szerepkör-tervezést, helyreállítási gyakorlatokat, energia-tudatosságot, elutasítási útvonalakat, helyi futási környezeteket, nyílt felületeket, incidensjogokat és annyi működési alázatot követel, hogy elismerje: egy jó AI-rendszer az, amelyik csalódást okozhat a nyitóelőadás közönségének, és örömet szerezhet egy auditornak. Ez nem kis ambíció. Csak éppen nem illik a konfettihöz.
A helyi nem irányítószám
A helyi MI-t gyakran félreértik, mintha csak irányítószám-kérdés lenne. Tedd ide a szervert, és a rendszer válik felelőssé. A földrajzi hely számít, de a helyiség több, mint pusztán földrajz. Egy munkaterhelés akkor elég helyi, ha a felelős intézmény ellenőrzést tud gyakorolni az adatmozgás, a futásidejű környezet, a kulcsok, a hozzáférés, a nyilvántartások, a helyreállítás és a bizonyítékok felett anélkül, hogy a legrosszabb pillanatban engedélyt kellene kérnie egy távoli függőségtől. Ez néha helyszíni telepítést jelent. Néha szuverén régiót. Néha peremeszközöket. Néha hibrid mintát. A térkép csak akkor hasznos, ha a hatalmat követi, nem pedig a marketingföldrajzot.
Vannak gyakorlati okok arra, hogy közelebb hozzuk a munkát. Az érzékeny adatok nem utazhatnak. A késleltetés számíthat. Az energiaköltségek helyben világosabbak lehetnek. Szükség lehet kapcsolat nélküli működésre. Egy szervezetnek szüksége lehet arra, hogy saját nyilvántartásaival ellenőrizze a modell viselkedését. Egy közintézménynek biztosítania kell a nemzeti vagy uniós jog szerinti jogokat. Egy gyártónak a gép közelében lehet szüksége következtetésre. Egy kórháznak biztosítania kell, hogy a páciens kontextusa a bizalmi határon belül maradjon. Ezek nem ideológiai okok. Ezek működési korlátok.
A helyiség a gazdaságosságot is megváltoztatja. Ha minden apró feladatot egy távoli óriásnak küldünk, mert az API kényelmes, az költséges, törékeny és nehezen magyarázható lehet. Ha minden feladatot helyben futtatunk, mert az szuverénnek hangzik, az pazarló, alulteljesítő és nehezen karbantartható lehet. A jövő nem egyetlen telepítési vallás. Ez elhelyezési fegyelem. Tedd a munkát oda, ahol az adat, az ellenőrzés, a késleltetés, a költség, a szakértelem és a kockázat értelmet ad. Aztán bizonyítsd be, hogy az elhelyezés akkor is megfelelően viselkedik, amikor a könnyű út kudarcot vall.
A legérdekesebb helyi rendszerek hétköznapiak lesznek. Kisebb modelleket használnak majd, ahol a kisebb modellek elegendőek. Kombinálják a keresést, a szabályokat, a nyilvántartásokat és az emberi felülvizsgálatot. Óvatosan gyorsítótáraznak, szándékosan frissítenek, és megtagadják a választ, ha hiányzik a kontextus. A sávszélességet, az áramot és a munkatársak figyelmét véges erőforrásként kezelik. Nem fognak bocsánatot kérni azért, mert kevésbé varázslatosak, ha megbízhatóbbak. A varázslatnak bőven volt próbaideje.
Ellenőrzött azt jelenti, hogy a válasz bizonyítékot hoz
Az ellenőrzés nem egyetlen dolog. Jelenthet matematikai bizonyítást, aláírt nyilvántartásokat, determinisztikus visszajátszást, benchmark-értékelést, forrásmegjelölést, szabályzatnak való megfelelést, emberi jóváhagyást, auditnaplózást, regressziós teszteket, független felülvizsgálatot vagy egyszerűen azt az ellenőrzést, hogy a képernyőn látható szám egyezik a forrásban szereplő számmal. A szó nagy, mert az elszámoltathatóság nagy. A hasznos kérdés nem az, hogy egy rendszer elvontan ellenőrzött-e. Hanem az, hogy melyik állítás van ellenőrizve, milyen bizonyítékkal, és milyen következményre.
Egy MI-válasznak, amely ebédelőhelyet javasol, nem kell ugyanazt a bizonyítékot felmutatnia, mint egy olyan válasznak, amely egy ellátási döntést, karbantartási utasítást, hitelbírálatot, klinikai feljegyzést vagy biztonsági értékelést támogat. A komoly rendszereknek az ellenőrzést a következményekhez kell igazítaniuk. Az alacsony kockázatú munka könnyedén haladhat. A nagy hatású munkához forrásállapotra, modellállapotra, szabályállapotra, emberi szerepre, időbélyegekre, javítási útvonalakra és lehetőség szerint visszajátszásra van szükség. Ez nem bürokrácia. Ez arányos emlékezet.
Az ellenőrzés az MI érzelmi életét is megváltoztatja. Bizonyíték nélkül minden magabiztos válasz hitet kér. Bizonyítékkal a válasz ellenőrizhető. A források ellenőrizhetők. A verziók összehasonlíthatók. Javítások végezhetők. A felülvizsgálók egyetérthetnek anélkül, hogy eretnekekké válnának. A rendszer kevésbé lesz olyan, mint egy jóshely, és inkább olyan, mint egy kolléga, aki jegyzeteket hoz. A jegyzeteket hozó kollégák ritkán a leglátványosabb emberek egy értekezleten. Gyakran ők az okai annak, hogy az értekezlet nem válik folklórrá.
A legnehezebb rész a hamis ellenőrzés visszautasítása. A hivatkozás, amely rossz forrásra mutat, nem ellenőrzés. Egy irányítópult-mutató reprodukálható esetek nélkül nem ellenőrzés. Egy általános magyarázat, amely szerint a releváns tényezőket figyelembe vették, nem ellenőrzés. Egy megbízhatósági pontszám kalibrálás nélkül nem ellenőrzés. Egy aláírt nyilvántartás, amely kihagyja a bemeneti állapotot, csak részben hasznos. Az ellenőrzésnek túl kell élnie egy barátságtalan olvasót. A barátságos olvasók olcsók.
Az unalmasság tervezési teljesítmény
Az unalmas rendszereket gyakran félreértik egyszerű rendszerekként. Sok nem egyszerű. Fegyelmezett. Meglepetés nélkül végzik a rutinmunkát, világosan mutatják a korlátokat, ismert módon hibáznak, ceremónia nélkül állnak helyre, és annyi nyilvántartást vezetnek, hogy senkinek ne kelljen csevegőüzenetekből rekonstruálnia a valóságot. Az unalmasság az, ahogy a komplex rendszerek kinéznek, miután elég mérnöki munkát végeztek ahhoz, hogy a felhasználók ne éljék meg a komplexitást személyes büntetésként.
Az AI-nak több unalmasságra van szüksége. Unalmas elutasításra van szüksége, amikor hiányoznak a források. Unalmas naplókra, amelyek valódi kérdésekre válaszolnak. Unalmas verziókezelésre. Unalmas értékelési készletekre. Unalmas telepítési kapukra. Unalmas exportra. Unalmas szerepkör-tervezésre. Unalmas riasztásokra, amelyek értelmezéséhez nem kell papi rend. Unalmas költségelszámolásra. Unalmas dokumentációra, amely megmondja, ki miért felelős. Unalmas visszaállításra. Az unalmasság nem az intelligencia ellensége. Ez az a tartály, amely megakadályozza, hogy az intelligencia a folyosóra ömöljön.
A szenzáció iránti étvágy túl sok olyan rendszert hozott létre, amelyek lenyűgözően teljesítenek, de rosszul működnek. Megválaszolnak egy demókérdést, de nem tudnak megmagyarázni egy éles incidenset. Összefoglalnak egy dokumentumot, de nem őrzik meg a forrásállapotot. Automatizálnak egy munkafolyamatot, de nem képviselik a bizonytalanságot. Skálázzák a használatot, de nem javítják a kárt. Ezek a rendszerek nem fejlettek. Serdülők. Rengeteg energia, kevés házimunka.
Az unalmas tervezés korán tesz fel romantikátlan kérdéseket. Mi történik, ha a modell nem elérhető. Mi történik, ha a válasz alacsony megbízhatóságú. Mi történik, ha a forrás elavult. Mi történik, ha a felhasználó nem ért egyet. Mi történik, ha a szabályzat változik. Mi történik, ha a rendszert le kell cserélni. Mi történik, ha jön az audit. Egy rendszer, amely meg tudja válaszolni ezeket a kérdéseket, kevésbé tűnhet izgalmasnak. Jó. Az izgalom az, aminek az emberek a kockázatot hívják, mielőtt megérkezik a számla.
A táj kisebb és vegyesebb lesz
A jövő nem egyetlen modell lesz, amely minden feladatot ural. Modellek, szabályok, lekérdezőrendszerek, megoldók, adatbázisok, szimbolikus ellenőrzések, emberi felülvizsgálat és domain-specifikus eszközök tájképe lesz. Egyes feladatokhoz nagy, általános modellek kellenek. Sokhoz kisebb, specializált modellek. Némelyikhez egyáltalán nem kell modell, csak jobb nyilvántartás és determinisztikus szabályok. Egyesekhez keresés forrásmegjelöléssel. Egyesekhez formális ellenőrzés. Egyesekhez egy ember, jobb felülettel és a nemet mondás lehetőségével.
Ez a vegyes táj egészségesebb, mint az egyetemes automatizálás fantáziája. Lehetővé teszi a szervezeteknek, hogy a legkevésbé nagy teljesítményű eszközt válasszák, amely felelősen el tudja végezni a feladatot. Ez a megfogalmazás alulteljesítésnek hangzik, amíg az áramszámlát, a késleltetési keretet, az auditálási terhet és az adatkockázatot hozzá nem számítjuk. A legkevésbé nagy teljesítményű, megfelelő eszköz gyakran a leginkább szuverén, karbantartható és érthető eszköz. Ráadásul általában az, amelyet ebéd előtt meg lehet hibakeresni.
A helyi, ellenőrzött, unalmas MI ezért a kompozíciót részesíti előnyben. Egy kis modell vázlatot készít. A lekérdezés forrásokat szolgáltat. A szabályok szigorú korlátokat érvényesítenek. A determinisztikus nyilvántartások megőrzik az állapotot. Az ellenőrzés igazolja az állításokat. Az emberi felülvizsgálat kezeli az ítéletalkotást. A megfigyelés figyeli az eltérést. Az export valóságossá teszi a kilépést. Minden résznek megvan a maga feladata. A rendszer kevésbé lesz rejtélyes, mert a felelősség szándékosan van elosztva, nem pedig egyetlen folyékony válaszba oldva.
A veszély az, hogy a kompozíció rendetlenné válhat, ha senki sem birtokolja az egészet. Az unalmas architektúrának világos határokra, szerződésekre és tesztekre van szüksége. A cél nem egy komponenshalom. Hanem egy működő rendszer, ahol minden komponens lecserélhető, megvizsgálható, és csak azért a munkáért hibáztatható, amelyet valóban végez. A hibahatárok alulértékeltek. Így válnak az incidensek javításokká, nem pedig performanszművészetté.
Az energia kormányzási kérdéssé válik
Az MI-ről szóló beszélgetések gyakran háttérszolgáltatásként kezelik a számítási kapacitást. Pedig nem az. A számítási kapacitás pénzt, áramot, hűtést, hardverellátást, munkatársi figyelmet és politikai tőkét fogyaszt. Ahogy az MI hétköznapi infrastruktúrává válik, az energia a kormányzás részévé lesz. Mely feladatok indokolják a távoli, nagy modellek hívását. Melyek futhatnak kisebb, helyi modelleken. Melyeket kell kötegelt feldolgozásba venni. Melyeket kell gyorsítótárba helyezni. Melyeknek kell visszautasítaniuk, mert az érték nem indokolja a költséget. Mely terheléseknek kell futniuk korlátok idején is. Ezek nem csak mérnöki kérdések. Elosztási kérdések.
A helyi mesterséges intelligencia láthatóvá teheti az energiafogyasztást. Egy helyi vagy regionális futtatókörnyezet arra kényszeríti a csapatokat, hogy közvetlenebbül lássák a kapacitást, a hőt, a várakozást és a költségeket. Ez a láthatóság kényelmetlen lehet. Ez így van jól. A láthatatlan fogyasztás az, ahogyan a szervezetek felfedezik, hogy egy koncepcióigazolásból egy felhasználói felülettel ellátott kohó lett. A távoli szolgáltatások továbbra is hatékonyak és megfelelőek lehetnek, de a vásárlónak értenie kell, hogy mit fogyasztanak, hol és kinek a javára.
Az energia-tudatosság a helyes méretezést is ösztönzi. Nem minden e-mail-tervezethez kell a legnagyobb elérhető modell. Nem minden kinyerési feladathoz kell ügynöklánc. Nem minden osztályozáshoz kell valós idejű következtetés, ha egy szabály is elegendő. A jövő azokat a rendszereket jutalmazza majd, amelyek a számítást tervezési anyagként kezelik, nem pedig varázslatos felhőpáránaként. Ez prózainak fog hangzani, amíg a költségvetések meg nem szigorodnak, a hálózatok meg nem terhelődnek, vagy a beszerzés meg nem kérdezi, miért kerül többe a szolgáltatás, amikor a felhasználók végre megszeretik.
Van itt egy szuverenitási szempont is. Az energia helyi, még akkor is, ha a szoftver úgy tesz, mintha nem az lenne. Az adatközpontok a hálózaton ülnek. A hardver az ellátási láncokban ül. A hűtés a vízben és az időjárásban ül. Ha a kritikus mesterséges intelligencia olyan számítási kapacitástól függ, amelyet az intézmény stresszhelyzetben nem tud priorizálni, ellenőrizni vagy kifizetni, akkor a függőség stratégiai jellegű. A jövő részben azért helyi, mert a fizika makacsul nem törődik a márkákkal.
Az intézményeknek olyan rendszerekre van szükségük, amelyek tudnak nemet mondani
Egy helyi, ellenőrzött és unalmas mesterséges intelligencia-rendszernek tudnia kell nemet mondani. Nincs forrás. Nincs felhatalmazás. Nincs frissesség. Nincs megbízhatóság. Nincs szerep. Nincs jogszerű cél. Nincs biztonságos művelet. Nincs elérhető kapacitás. A visszautasítás képessége az egyik legvilágosabb jele annak, hogy egy rendszer éretté vált. Az éretlen rendszerek mindenre válaszolnak, mert a válaszadás értéknek tűnik. Az érett rendszerek tudják, hogy egyes válaszok jó nyelvtannal álcázott kötelezettségek.
A visszautasítás könnyebb, ha a nyilvántartások és a felhatalmazások elég helyiek ahhoz, hogy ellenőrizhetők legyenek, és ha az ellenőrzésnek valódi bizonyíték-útvonala van. A rendszer azért tud nemet mondani, mert tudja, melyik feltétel hiúsult meg. Meg tudja mondani az embernek, hogyan javítsa ki az esetet. Tud eszkalálni, ha a visszautasításnak magának vannak következményei. Fel tudja jegyezni a visszautasítást, hogy az ismétlődő kudarcok tervezési bizonyítékká váljanak. A magyarázat nélküli visszautasítás akadályozás. A bizonyítékkal alátámasztott visszautasítás kontroll.
A visszautasítás a bizalmat is védi. A felhasználók megtanulják, hogy a rendszernek vannak határai. Az értékelők megtanulják, hogy a hiányzó bizonyíték számít. A vezetők megtanulják, hogy az áteresztőképesség nem az egyetlen mérőszám. Egy rendszer, amely helyesen utasít vissza, kevésbé produktívnak tűnhet egy naiv irányítópulton, és értékesebbnek egy incidens-áttekintésben. Az irányítópult meg fog birkózni vele. Könnyű élete volt.
A visszautasítás tervezése bátorságot igényel, mert felszínre hozza a megoldatlan szervezeti kérdéseket. Kinek van felhatalmazása felülbírálni. Mely hiányzó mezőket tudja a felhasználó pótolni. Melyeknek kell a forrásrendszerekből származniuk. Mely döntések állnak meg. Melyek folytatódnak figyelmeztetéssel. Melyek igényelnek értesítést. A visszautasítás működőképessé teszi a szabályzatot. Pontosan ezért tartozik a jövőbe, nem pedig a függelékbe.
A helyi nem jelent magányt
A helyi jövő nem elszigetelt jövő. Az intézmények továbbra is együttműködnek, adatot cserélnek, közös modelleket használnak, beszállítókra támaszkodnak, iparági platformokhoz csatlakoznak, kutatásban vesznek részt, és tanulnak a globális infrastruktúrából. A kérdés nem az, hogy vannak-e függőségek. Lesznek. A kérdés az, hogy a függőségek választottak, láthatóak, teszteltek és olyan jogokkal korlátozottak-e, amelyeket az intézmény gyakorolni tud.
A nyílt szabványok, a hordozható nyilvántartások, a közös értékelési módszerek, az interoperábilis identitás, az aláírt artefaktumok, a közös auditformátumok és az átlátható beszerzés lehetővé tehetik, hogy a helyi rendszerek együttműködjenek anélkül, hogy feloldanák az ellenőrzést. Itt válik a unalmas munka politikává. A szabványos mezőnév, az export-manifesztum, a tesztkörnyezet, a megőrzési szabály, a szerepleképezés, az incidensprotokoll: ezek nem a szuverenitás csábító eszközei, de lehetővé teszik az intézmények számára, hogy együtt dolgozzanak anélkül, hogy feladnák az emlékezetüket.
Helyi azt is jelenti, hogy helyi szakértelem. A területi munkatársaknak, adatgazdáknak, mérnököknek, jogi csapatoknak, üzemeltetőknek és az érintett közösségeknek hangot kell kapniuk a rendszer közelében. Az a mesterséges intelligencia, amely technikailag lenyűgöző, de társadalmilag távoli, figyelmen kívül hagyja a kontextust. A kontextusban sok hiba rejtőzik. Az a rendszer, amely a munkához közel működik, nagyobb eséllyel javítható, mielőtt egy hiba politikává válna. Emellett lehetőséget ad az embereknek, hogy alakítsák az automatizálást, amely alakítja őket. Ez nem érzelem. Ez a legitimitás fenntartása.
A helyi magányos változata törékeny. Az együttműködő változat ellenálló. Közös eszközöket használ anélkül, hogy elveszítené az elszámoltathatósági határokat. Lehetővé teszi a szervezetek számára, hogy együtt tanuljanak, miközben nyilvántartásaik, kulcsaik, politikáik és felelősségeik világosak maradnak. Nagyon unalmas. Nagyon hasznos.
A csendes irány
A következő évtized legfontosabb mesterséges intelligencia rendszerei talán kevésbé lesznek láthatóak, mint azok a bemutatók, amelyek miatt az emberek hinni kezdtek a területben. Közszolgáltatásokban, kórházakban, gyárakban, iskolákban, energiaellátó rendszerekben, jogi munkafolyamatokban, kutatási környezetekben, tervezési folyamatokban és ügyfélszolgálati műveletekben fognak működni. Nem mindig fognak megszólalni. Néha lekérdeznek, ellenőriznek, összehasonlítanak, útvonalat választanak, megtagadnak, megőriznek, vagy emberi döntést kérnek. Értéküket kevésbé a meglepetés, inkább az elkerült újramunka, a világosabb nyilvántartások, a biztonságosabb döntések, a kisebb függőség és a kevesebb ember méri, akinek egy átláthatatlan képernyővel kell vitatkoznia.
Ez a jövő ízlésbeli változást igényel. Csodálnunk kell azokat a rendszereket, amelyek betartják ígéreteiket, nem pedig azokat, amelyek csak újakat tesznek. Tiszteletben kell tartanunk a helyi ellenőrzést, amikor a felelősség helyi. Követelnünk kell az ellenőrzést, amikor a következmények valósak. Abba kell hagynunk, hogy az unalmas működést az innováció utáni fázisként kezeljük, és el kell kezdenünk úgy tekinteni rá, mint annak bizonyítékára, hogy az innováció felnőtté vált.
Még mindig lesznek áttörések. Néhány látványos lesz. Jó. De a tartós érték abból származik, hogy ezeket az áttöréseket úgy kapcsoljuk az intézményekhez, hogy azok megőrizzék az emlékezetet, a tekintélyt és a javítás képességét. A világnak nincs szüksége olyan mesterséges intelligenciára, amely csak intelligensebbnek hangzik. Olyan mesterséges intelligenciára van szüksége, amelyre hétköznapi feladatokat lehet bízni rendkívüli nyomás alatt. A hétköznapi feladatok azok, ahol a társadalmak többnyire élnek.
A jövő helyi, ellenőrzött és unalmas, mert ezek azok a tulajdonságok, amelyek elszámoltathatóvá teszik a képességet. A helyi a felelősség közelébe helyezi az ellenőrzést. Az ellenőrzött vizsgálhatóvá teszi az állításokat. Az unalmas kellően megismételhetővé teszi a rendszert ahhoz, hogy támaszkodhassunk rá. Ez nem a leghangosabb jövő. Ez az, amelyik túléli, hogy használják. Ez marad a legnehezebb bemutató.