Dáta v AI: prečo naozaj platí, že odpad vnútri znamená odpad von
Kuchárska kniha, ktorú tvoja mama nikdy nedokončila
Predstav si kuchyňu svojej mamy v roku 1990. V susedstve je známa svojím jablkovým koláčom. Každý chce recept. A tak sa rozhodne, že si ho zapíše.
Ale je tu problém. Za viac ako štyridsať rokov pečenia urobila ten koláč stokrát. Niekedy použila maslo, inokedy margarín (podľa toho, čo bolo ten týždeň lacnejšie). Niekedy také jablká, inokedy onaké, niekedy obyčajné. Niekedy piekla na 150 stupňov, inokedy na 250 (pretože rúra bola nevyspytateľná). Niekedy pridala vajíčko navyše, keď boli malé.
Flexibilita skúseností
Každý jeden koláč bol vynikajúci. Inštinktívne vedela, ako sa prispôsobiť. Trochu viac múky, keď je vlhko. Trochu menej cukru, keď sú jablká obzvlášť kyslé. Roky skúseností ju urobili flexibilnou.
Teraz si predstav, že si recept zapíše len na základe posledných piatich pokusov. Všetky v lete. Všetky s margarínom. Všetky s tou dávkou extra kyslých jabĺk, ktoré kúpila v zľave. Všetky s prehriatou rúrou.
Katastrofa úzkych príkladov
Niekto podľa toho receptu pečie v zime, s maslom, so sladkými jablkami, v normálnej rúre. Katastrofa. Suché, drobivé, príliš sladké. Recept nefunguje, pretože príklady, na ktorých bol založený, nezachytávali celú škálu situácií.
Presne takto sa AI učí z údajov. „Recept“ (AI) je len taký dobrý, ako príklady, z ktorých sa učil. Úzke príklady vytvárajú úzku AI. Zaujaté príklady vytvárajú zaujatú AI. Nesprávne príklady vytvárajú AI, ktorá jednoducho nefunguje.
Nejde o komplikované technológie. Ide o jednoduchú pravdu: môžeš naučiť len to, čo ukážeš. A ak to, čo ukážeš, je neúplné, zaujaté alebo jednoducho nesprávne, presne to sa naučí.
Prečo nikto nehovorí o nudnej časti (ale mal by)
Takto to vyzerá na každej AI konferencii, v každom technologickom článku, v každom marketingovom predstavení:
Čomu sa venuje všetka pozornosť
Veľa vzrušenia okolo algoritmov. Dômyselná matematika. Efektné architektúry. Neurónové siete s miliardami parametrov. Tréningové techniky s pôsobivými názvami. Optimalizačné stratégie, ktoré znejú ako mágia.
Čo sa ignoruje
Takmer nič o dátach. Odkiaľ pochádzajú. Ako sa zbierali. Či sú vôbec dobré. Čo v nich chýba. Aké predsudky obsahujú.
Prečo? Pretože algoritmy sú sexy. Dáta sú nudné. Algoritmy znejú múdro a sofistikovane. Dáta znejú ako... papierovačky. Kartotéky. Tabuľky. Vôbec nie vzrušujúce.
Ale tu je nepríjemná pravda, ktorú vám každý čestný výskumník AI povie súkromne:
Nepríjemná pravda
Geniálny algoritmus trénovaný na odpadových dátach produkuje odpadové výsledky. Priemerný algoritmus trénovaný na výborných dátach produkuje výborné výsledky. Zakaždým. Bez výnimky.
Predstavte si to ako učenie sa na test
Algoritmus je ako študent, ktorý sa učí na test. Dajte tomu študentovi zlú učebnicu a nezáleží na tom, aký je bystrý alebo ako usilovne sa učí. Test nespraví, pretože sa učil z nesprávnych informácií. Dajte priemernému študentovi správnu učebnicu, veľa príkladov na precvičenie a dobré ukážky? Bude v pohode. Možno nie dokonale, ale spoľahlivo užitočne.
Taká je realita umelej inteligencie. Na kvalite dát záleží viac než na sofistikovanosti algoritmu. Oveľa viac. A predsa o tom nechce hovoriť takmer nikto.
Predstavte si, že učíte niekoho rozoznávať jedovaté huby iba pomocou fotografií z jedného lesa, nasnímaných v lete, všetkých na jasnom slnku. V tom konkrétnom lese, v lete, na slnečných dňoch by si možno počínal skvele. Ale dajte ho do iného lesa na jeseň počas zamračeného dňa? Bude len hádať. Tréning bol príliš úzky. Rovnaký problém má aj umelá inteligencia: úzke dáta vytvárajú úzke, nespoľahlivé systémy. Dáta definujú hranice toho, čo sa umelá inteligencia vôbec môže naučiť.
Čo vlastne znamená „učenie sa z dát“
Keď niekto povie, že „umelá inteligencia sa učí z dát“, čo to vlastne znamená? Použime príklad, ktorému rozumie každý.
Učíte vnuka rozoznávať vtáky
Predstavte si, že učíte svojho desaťročného vnuka rozoznávať rôzne druhy vtákov. Vezmete ho do parku s atlasom vtáctva. Vždy, keď uvidíte vtáka, pozriete si ho spolu.
„Vidíš tamten? Modré perie, červená hruď, asi takýto veľký. To je belorítka.“ Pozrie sa naňho pozorne. Vníma farby, veľkosť, tvar. O týždeň neskôr ďalší vták. „A tamten? Celý čierny, väčší, hlasné krákanie. To je vrana.“ Pozoruje. Pamätá si.
Urobíte to päťdesiatkrát. Rôzne vtáky. Rôzne situácie. Rôzne osvetlenie. Niekedy letia, niekedy sedia. Po päťdesiatich vtákoch začne hádať správne. „Dedo, je to drozd?“ A má pravdu!
Naučil sa z príkladov. Z množstva príkladov. Každý z nich ho naučil niečo o vzorcoch: čo robí drozda drozdom, čo robí vranu vranou.
Umelá inteligencia sa učí presne rovnako
Ukážte jej príklady. Veľa príkladov. Pri každom príklade jej povedzte správnu odpoveď. „Tento e-mail je spam.“ „Táto fotografia obsahuje mačku.“ „Táto recenzia je pozitívna.“ Umelá inteligencia hľadá vzorce, ktoré spájajú príklady s odpoveďami.
Ale tu to začína byť zložité. Čo sa stane, ak vnukovi ukážete vtáky iba v lete? Možno si bude myslieť, že drozdy majú vždy jasne červenú hruď (v zime je matnejšia). Čo ak mu ukážete iba vtáky zo svojej záhrady? Tie isté vtáky by v inom prostredí možno nespoznal.
Učenie sa nesprávnych vzorov
Čo ak omylom nesprávne identifikuješ niekoľko vtákov? „To je vrabec“, hoci je to vlastne pinka. Naučí sa nesprávny vzor. Potom bude pinky nesprávne identifikovať navždy, pokiaľ ho niekto neopraví.
Kvalita a rozmanitosť príkladov určuje, čo sa naučí. Rovnako je to s AI. Dáta sú lekciou. Ak je lekcia neúplná, zaujatá alebo nesprávna, učenie bude neúplné, zaujaté alebo nesprávne.
Koľko dát vlastne potrebuješ?
Túto otázku si kladie každý. Odpoveď ľudí frustruje: záleží.
Premýšľaj o učení zručností v reálnom živote. Koľkokrát si musí niekto precvičiť, kým sa to naučí?
Učenie dieťaťa zaväzovať si topánky
Možno dvadsať tréningov. Je to jednoduchý, opakovateľný vzor. Rovnaké kroky zakaždým. Žiadna veľká variácia. Dvadsať príkladov to pokryje.
Učenie niekoho šoférovať
Stovky hodín. Prečo? Pretože šoférovanie zahŕňa nekonečné variácie. Mestské ulice, diaľnice, dážď, sneh, stavby, agresívni vodiči, chodci, cyklisti, prechádzajúce zvieratá. Každá situácia je trochu iná. Potrebuješ skúsenosť so všetkými týmito variáciami, aby si sa stal kompetentným vodičom.
AI je rovnaké. Jednoduché úlohy potrebujú menej príkladov. Zložité úlohy potrebujú obrovské množstvá.
Jednoduché rozpoznávanie vzorov (je to spam?)
Možno 10 000 príkladov. Spam má rozpoznateľné vzory. Keď už vidíš dosť príkladov „KÚP TERAZ!!!“ a „Vyhral si cenu!“, pochopíš to.
Stredná zložitosť (rozpoznávanie tvárí)
Desaťtisíce až státisíce. Tváre sa nesmierne líšia. Rôzne uhly, osvetlenie, výrazy, vek. Potrebuješ veľa rozmanitosti, aby si to všetko zachytil.
Vysoká zložitosť (identifikácia ľubovoľného objektu na fotografiách)
Milióny obrázkov. Tisíce typov objektov. Každý objekt v rôznych kontextoch, uhloch a osvetlení. Autá na uliciach, autá v showroomoch, autá pri nehodách. Stromy v lesoch, stromy na záhradách, stromy na maľbách. Obrovská rôznorodosť si vyžaduje obrovské množstvo dát.
Extrémna zložitosť (porozumenie jazyku)
Miliardy slov. Jazyk má nekonečnú rôznorodosť. Každá téma, každý štýl, každý kontext. Formálne správy, neformálne rozhovory, poézia, návody, vtipy, irónia. Aby ste to všetko zvládli, potrebujete vystavenie obrovskému množstvu textu.
Ale tu je kľúčový bod: samotné množstvo nestačí. Radšej budete mať 100 000 výborných, rôznorodých a správne označených príkladov ako 10 miliónov priemerných, opakujúcich sa a nedbale označených príkladov. Je to ako učiť sa variť. Chceli by ste radšej trénovať prípravu 100 rôznych jedál s dobrými inštrukciami, alebo robiť to isté priemerné cestoviny 10 000-krát s nejasnými pokynmi? Rôznorodosť a kvalita tréningu je dôležitejšia ako samotný počet opakovaní.
Päť ingrediencií kvalitných dát
Čo robí dáta dobrými alebo zlými? Päť kľúčových faktorov. Poďme si ich rozobrať na príkladoch, ktorým rozumie každý.
-
1
Presné označenia (správne odpovede)
Predstavte si, že učíte dieťa o zvieratách pomocou knihy s nesprávnymi popiskami. „Toto je pes" pri fotografii mačky. „Toto je krava" pri koni. Dieťa sa naučí úplne zle. Zvieratá bude nesprávne určovať navždy.
AI má rovnaký problém. Ak ju trénujete na rozpoznávanie mačiek, každá fotografia označená ako „mačka" musí byť naozaj mačka. Už 5 % chýb spôsobí vážne problémy. 10 % chýb? AI sa naučí nezmysly. Nedokáže rozlíšiť signál od šumu, keď sú odpovede nespoľahlivé.
-
2
Reprezentatívnosť (zodpovedá reálnemu životu)
Váš vnuk sa naučil určovať vtáky na vašom predmestskom dvore. Skvele rozpoznáva kardinály, drozdy, sojky. Potom ho vezmete na pláž. Čajky, pelikány, pieskomily. Je stratený. Nič nevyzerá ako vtáky, ktoré sa naučil.
Tréningové dáta musia reprezentovať prostredie, v ktorom sa AI bude skutočne používať. Trénujete systém rozpoznávania tváre na dobre osvetlených štúdiových fotografiách? Zlyhá v slabom osvetlení nočného klubu. Trénujete hlasového asistenta na čistej, tichej reči? Má problémy s prízvukom a okolitým hlukom. Rozloženie dát musí zodpovedať rozloženiu v reálnom svete.
-
3
Dostatočná rôznorodosť (pokrytie všetkých situácií)
Predstavte si, že sa učíte šoférovať, ale iba v dokonalom počasí na rovných cestách v slabej premávke. Všade inde by ste boli hrozný vodič. Zákruty? Panika. Dážď? Katastrofa. Dopravná špička? Ste zahltení.
AI potrebuje rôznorodosť v tréningových dátach. Fotografie na jasnom slnku aj v tieni. Formálne písanie aj bežný text. Mladé hlasy aj staré hlasy. Bežné prípady aj zriedkavé okrajové prípady. Bez rôznorodosti sa AI preučí. Zapamätá si konkrétne príklady namiesto toho, aby sa naučila všeobecné vzorce. Ukážte jej iba zlatých retrieverov a bude mať problémy s pudlmi. Ukážte jej mačky v každej farbe, veľkosti a polohe a bude ich spoľahlivo rozpoznávať.
-
4
Relevantnosť a aktuálnosť (držať krok s dobou)
Predstavte si, že učíte niekoho módu 60. rokov a očakávate, že bude určovať súčasné trendy. Zvonové nohavice, účesy ako úľ, go-go čižmy. Potom mu ukážete modernú módu. Je zmätený. Všetko sa zmenilo.
Dáta starnú. Jazyk sa vyvíja („cool" dnes znamená niečo iné ako v 60. rokoch). Taktiky spamu sa menia (včerajšie triky prestávajú fungovať). Módne trendy sa posúvajú. Technológie sa aktualizujú. Ak sú vaše tréningové dáta staré päť rokov, vzorce sa už posunuli. Aktuálne dáta zachytávajú aktuálne vzorce.
-
5
Bez predpojatosti (spravodlivé zastúpenie)
Toto je ten veľký. Ten nebezpečný. Ten, ktorý spôsobuje skutočnú ujmu v reálnom svete. Čoskoro sa do toho ponoríme oveľa hlbšie, pretože predpojatosť v dátach nie je len technický problém. Je to ľudský problém s vážnymi následkami. Ak vaše dáta odzrkadľujú historickú diskrimináciu, vaša AI sa naučí diskriminovať. Ak vaše dáta nadmerne zastupujú niektoré skupiny a nedostatočne iné, vaša AI funguje lepšie pre niektorých ľudí ako pre iných. Nezmysel dnu, nezmysel von. Predpojatosť dnu, predpojatosť von.
Predstavte si dáta ako suroviny na varenie. Môžete mať šéfkuchára s michelinskou hviezdou (sofistikovaný algoritmus), ale ak mu dáte zhnitú zeleninu, zatuchnutý chlieb a pokazené mlieko (zlé dáta), jedlo bude nepožívateľné. Na druhej strane, domáci kuchár (jednoduchý algoritmus) s čerstvými a kvalitnými surovinami pripraví niečo vynikajúce. Suroviny sú dôležitejšie ako kuchárove kvalifikácie. V AI sú dáta tými surovinami.
Nepôvabná realita (kde je skutočná práca)
Tu je to, čo vám nikto nepovie, keď predáva riešenia AI alebo učí kurzy o AI:
Väčšina práce nie je o budovaní AI. Je o príprave dát.
Dátoví vedci strávia približne 80 % svojho času prípravou dát. Len 20 % pripadá na samotné budovanie a trénovanie modelov. Tento pomer vám povie všetko o tom, kde sa nachádza skutočná výzva.
Čo zahŕňa príprava dát? Štyri obrovské, zdĺhavé a kritické úlohy:
Zber dát
Zhromažďovanie relevantných príkladov odkiaľkoľvek existujú. Scrapovanie webových stránok, prístup k databázam, zaznamenávanie údajov zo senzorov, agregovanie viacerých zdrojov. Časovo náročné. Často drahé. Často frustrujúce, keď zdroje nespolupracujú alebo dáta neexistujú.
Čistenie dát
Odstraňovanie duplicít. Oprava chýb. Riešenie chýbajúcich hodnôt. Štandardizácia formátov. Filtrovanie šumu. Je to ako triediť desaťročia papierov v neprehľadnej kartotéke. Pri veľkých dátových súboroch to samo o sebe môže trvať týždne až mesiace.
Anotácia dát
Manuálne označovanie príkladov správnymi odpoveďami. „Tento obrázok je mačka." „Táto recenzia je pozitívna." „Táto transakcia je podvodná." Pre milióny príkladov. Neuveriteľne únavné. Často sa to zadáva nízkoplatovým pracovníkom, ktorí robia chyby z nudy a vyčerpania.
Validácia dát
Kontrola, či sú anotácie správne. Či je dostatočná rôznorodosť. Či sú predsudky identifikované a riešené. Či dátový súbor skutočne reprezentuje realitu. Kontrola kvality pre milióny príkladov. Vyčerpávajúce, ale úplne kľúčové.
Nič z toho nie je okázalé. Nič z toho sa nedostane do titulkov. Nič z toho nezapôsobí na ľudí na večierkoch. Je to drina. Ale práve tu projekty umelej inteligencie uspejú alebo zlyhajú.
Algoritmus je pomerne jednoduchý. Existuje množstvo dobrých algoritmov. Väčšina je publikovaná otvorene. Môžete si ich stiahnuť, použiť, upraviť. Náročné sú dáta. Ich zber, čistenie, anotácia, validácia. Práve sem smeruje skutočné úsilie. Práve tu sa väčšina projektov zasekne. Práve to odlišuje fungujúcu umelú inteligenciu od planých sľubov. Spoločnosti s lepšími dátami porážajú spoločnosti s lepšími algoritmami. Vždy. Dáta sú priekopa. Obhájiteľná výhoda. Skutočná konkurenčná výhoda.
Problém predsudkov (najnebezpečnejšia chyba umelej inteligencie)
Teraz sa dostávame k naozaj nepríjemnej časti. K časti, ktorá spôsobuje skutočnú ujmu skutočným ľuďom. K časti, ktorá mení umelú inteligenciu z „mierne nespoľahlivej" na „aktívne nebezpečnú".
Umelá inteligencia sa z dát len neučí vzorce. Ona ich zosilňuje.
Ak vaše dáta obsahujú predsudky (a takmer všetky dáta z reálneho sveta ich obsahujú), umelá inteligencia ich neodfiltruje. Naučí sa ich. Zakóduje ich. Aplikuje ich systematicky. Ešte ich zhorší.
Vysvetlím to na príbehu, ktorému rozumie každý.
Učenie sa zo zaujatých historických údajov
Predstavte si, že učíte svojho vnuka o tom, koho prijímajú do zamestnania vo vašej firme. Ukážete mu spisy z posledných dvadsiatich rokov prijímania. Technické oddelenie: väčšinou muži. Sekretárske pozície: väčšinou ženy. Manažment: väčšinou belosi. Robotnícke pozície: rôznorodejšie.
Nikdy mu výslovne nepoviete, že „muži by mali byť inžiniermi“ alebo „ženy by mali byť sekretárkami“. Len mu ukážete historické údaje.
Teraz je zodpovedný za posudzovanie nových žiadostí. Čo urobí? Naučil sa vzorec z údajov. Uchádzačka o technickú pozíciu, ktorá je žena? Zdá sa to nezvyčajné, možno sa nehodí. Muž sa hlási na sekretársku pozíciu? Nezodpovedá vzorcu. Diskriminuje. Nie preto, že je zlý človek. Pretože sa naučil zo zaujatých historických údajov a aplikoval tieto vzorce, ako keby boli správne.
Presne to sa deje s umelou inteligenciou. Historické údaje odrážajú historickú diskrimináciu. Umelá inteligencia sa túto diskrimináciu naučí, ako keby išlo o platný vzorec, ktorý treba nasledovať. Potom ho systematicky aplikuje na milióny rozhodnutí.
Reálne príklady, kde sa to stalo:
⚠️ Náborová umelá inteligencia od Amazonu
Amazon vycvičil umelú inteligenciu na posudzovanie životopisov pomocou desiatich rokov historických údajov o prijímaní. Údaje ukázali, že na technické pozície väčšinou prijímali mužov. Umelá inteligencia sa naučila znehodnocovať životopisy žien. Všímala si náznaky ako „šachový klub žien“ v životopisoch a penalizovala ich. Amazon musel systém zrušiť. Algoritmus fungoval dokonale. Problémom boli údaje.
⚠️ Algoritmy v zdravotníctve
Viaceré systémy umelej inteligencie v zdravotníctve vykazovali rasovú zaujatosť. Uprednostňovali bielych pacientov pred černošskými pacientmi s rovnakými príznakmi. Prečo? Historické zdravotnícke údaje odrážali historické rozdiely v starostlivosti. Černošskí pacienti v minulosti dostávali menej liečby. Umelá inteligencia sa tento vzorec naučila a aplikovala ho, ako keby menšia starostlivosť bola medicínsky vhodná, a nie dôkazom diskriminácie.
⚠️ Systémy na rozpoznávanie tváre
Väčšina súborov údajov na rozpoznávanie tváre nadmerne zastupuje bielych mužov. Umelá inteligencia funguje najlepšie na bielych mužoch. Výrazne horšie na ženách. Ešte horšie na ľuďoch s tmavšou pokožkou. Nie preto, že by bol algoritmus rasistický, ale preto, že tréningové údaje boli nevyvážené. Umelá inteligencia doslova nevidela dostatok rôznorodých tvárí, aby sa ich naučila spoľahlivo rozpoznávať.
⚠️ Modely kreditného skóringu
AI kreditný skóring sa učil z historických údajov o poskytovaní úverov, ktoré odzrkadľovali desaťročia diskriminačných praktík. Redlining. Predátorské pôžičky v menšinových štvrtiach. AI tieto vzorce zakódovala ako „správne úverové rozhodnutia“ a ďalej ich udržiavala. Legálna diskriminácia, automatizovaná a škálovaná.
V každom jednom prípade algoritmus fungoval správne. Naučil sa vzorce v údajoch. Údaje boli zaujaté. A tak sa AI stala zaujatou. Odpad dnu, odpad von. Diskriminácia dnu, diskriminácia von.
Toto nie je drobný technický problém. Je to zásadná výzva. Zo zaujatých údajov nemôžete postaviť spravodlivú AI. Lepšie algoritmy nepomôžu. Pomôžu len lepšie údaje. Rozmanitejšie. Reprezentatívnejšie. Zámerne zbavené zaujatosti.
Najdesivejšia časť? Zaujatá AI pôsobí objektívne. „Povedal to počítač“ znie dôveryhodnejšie ako „rozhodol človek.“ Ale počítač sa učil od zaujatých ľudí, ktorí robili zaujaté rozhodnutia. AI len automatizuje a škáluje túto zaujatosť, vďaka čomu vyzerá vedecky a neutrálne, hoci nie je ani jedno. Zaujatosť údajov je miesto, kde sa AI mení z užitočného nástroja na nástroj škody.
Aké otázky si klásť o akomkoľvek systéme AI
Či už AI vytvárate, kupujete, alebo ju len používate v každodennom živote, tu sú otázky, ktoré by ste si mali položiť. Odpovede vám povedia, či jej môžete dôverovať.
-
?
Odkiaľ pochádzajú tréningové dáta?
Konkrétne zdroje sú dôležité. Dáta z verejného internetu? Kurátorské dátové sady? Firemné záznamy? Každý zdroj má iné predsudky a obmedzenia. Ak vám to nepovedia, je to obrovská výstražná vlajka.
-
?
Koľko dát sa použilo? Ako boli označené?
Čísla sú dôležité. Rozdiel medzi „tisíckami“ a „miliónmi“ je podstatný. Kto ich označoval? Odborníci alebo náhodní nízkoplatení pracovníci? Ako sa kontrolovala kvalita? Tieto detaily určujú spoľahlivosť.
-
?
Sú tréningové dáta v súlade s vaším prípadom použitia?
AI trénovaná na formálnych obchodných dokumentoch bude mať problémy s neformálnymi textovými správami. AI trénovaná na slnečných fotografiách z Kalifornie môže zlyhať v daždivom Seattli. Súlad je dôležitý. Nesúlad znamená zlyhania.
-
?
Aké skupiny sú v dátach zastúpené?
Všetky vekové kategórie? Všetky pohlavia? Všetky etniká? Všetky jazyky? Alebo prevažne jedna demografická skupina? Nevyvážené dáta vytvárajú systémy, ktoré fungujú skvele pre niektorých ľudí a hrozne pre iných.
-
?
Aké známe predsudky existujú? Ako sa riešili?
Každá dátová sada má predsudky. Čestní vývojári ich priznávajú a vysvetľujú snahy o ich zmiernenie. Ktokoľvek, kto tvrdí, že neexistujú žiadne predsudky, buď klame, alebo je nebezpečne nevšímavý.
-
?
S akými situáciami si táto AI poradí zle?
Každá AI má limity založené na svojich tréningových dátach. Čo nevidela? Čo nedokáže zvládnuť? Ak na to nevedia odpovedať, nerozumejú svojmu vlastnému systému dostatočne na to, aby ho bezpečne nasadili.
Ak vám predajca AI nevie odpovedať na tieto otázky, odíďte. Buď to nevie (nekompetentnosť), alebo vám to nepovie (skrýva problémy). V každom prípade mu nedôverujte.
Budúcnosť dát v AI
Výzvy súvisiace s dátami nezmiznú. Ale prístupy sa vyvíjajú. Tu je to, čo sa mení:
Syntetické dáta
Vytváranie umelých tréningových príkladov prostredníctvom simulácie. Užitočné pre zriedkavé scenáre, nebezpečné situácie (napríklad dopravné nehody pre autonómne autá) a oblasti citlivé na súkromie. Nie je to náhrada za reálne dáta, ale hodnotný doplnok, ktorý vypĺňa medzery.
Rozšírenie dát
Vytváranie variácií existujúcich príkladov. Otáčajte obrázky, prevracajte ich, upravujte osvetlenie. Preformulujte vety. Pridajte šum na pozadí do zvuku. Umelo znásobuje váš dátový súbor, čím zvyšuje rozmanitosť bez zbierania nových príkladov od začiatku.
Učenie z malého počtu príkladov
Techniky, ktoré umožňujú učiť sa z menšieho počtu príkladov prenosom vedomostí z predchádzajúcich úloh. Podobne ako keď sa po zvládnutí niekoľkých jazykov ľahšie učíte nový. Znižuje nároky na dáta pri nových úlohách využívaním existujúcich vedomostí.
Metódy zachovávajúce súkromie
Učenie sa z dát bez toho, aby ste ich priamo videli. Federované učenie (AI sa trénuje vo vašom telefóne bez odosielania dát na servery). Diferenciálne súkromie (pridanie starostlivého šumu, aby nebolo možné identifikovať jednotlivé záznamy). Umožňuje učenie sa z citlivých medicínskych, finančných a osobných údajov.
Aktívne učenie
AI žiada o označenie len tie príklady, pri ktorých si nie je istá. Namiesto označovania milióna náhodných príkladov označíte tisíc príkladov, pri ktorých je AI najviac zmätená. Zameriava ľudské úsilie tam, kde je to najdôležitejšie, a výrazne znižuje náklady na označovanie.
Tieto techniky pomáhajú, ale neodstraňujú základnú pravdu: kvalitné dáta sú nenahraditeľné. Môžete znížiť ich potrebné množstvo. Môžete vytvárať doplnky. Môžete sa učiť efektívnejšie. Ale neuniknete rovnicu smeti na vstupe, smeti na výstupe.
Zrátané a podčiarknuté (Čo naozaj potrebujete vedieť)
Poďme si to zhrnúť so základnými pravdami o dátach v AI:
Dáta sú dôležitejšie ako algoritmy. Vždy boli. Vždy budú. Najvymyslenejšia a najsofistikovanejšia AI na svete trénovaná na nekvalitných dátach prináša nekvalitné výsledky. Jednoduchá AI trénovaná na kvalitných dátach prináša kvalitné výsledky. Zakaždým. Bez výnimky.
Kvalita poráža kvantitu, ale potrebujete oboje. Lepšie je mať 100 000 rôznorodých, správne označených a reprezentatívnych príkladov ako 10 miliónov opakujúcich sa, nesprávne označených a skreslených príkladov. Ale ideálne? Chcete milióny kvalitných a rôznorodých príkladov. Kvantitu aj kvalitu.
Predsudky v dátach sa stávajú predsudkami v AI. Historická diskriminácia sa stáva algoritmickou diskrimináciou. Nevyvážené zastúpenie sa stáva nespoľahlivým výkonom pre nedostatočne zastúpené skupiny. AI predsudky neodfiltruje. Naučí sa ich, zakóduje ich, zosilní ich a systematicky ich aplikuje.
Väčšina práce s AI je príprava dát, nie budovanie algoritmov. 80% zber dát, čistenie, označovanie, validácia. 20% modelovanie. Tento pomer vám povie všetko. Algoritmus je ľahká časť. Dáta sú ťažká časť. A dôležitá časť.
Každá AI má limity definované svojimi tréningovými dátami. Čo nevidela, to nedokáže spracovať. Kde boli dáta zaujaté, bude zaujatá aj ona. Kde boli dáta neúplné, tam zlyhá. Žiadna AI nepresahuje svoje tréningové dáta. Dáta definujú strop.
Pamätáte si na maminu knihu receptov zo začiatku tohto článku? Recept je len taký dobrý, ako skúsenosti, na ktorých bol založený. Úzke skúsenosti vytvárajú úzke recepty. Zaujaté skúsenosti vytvárajú zaujaté recepty. Nesprávne informácie vytvárajú recepty, ktoré nefungujú.
Rovnako je to s AI. Systém je len taký dobrý, ako dáta, z ktorých sa učil. Úzke dáta vytvárajú úzku AI. Zaujaté dáta vytvárajú zaujatú AI. Zlé dáta vytvárajú AI, ktorá jednoducho nefunguje. „Smeti dnu, smeti von" nie je len chytľavé príslovie. Je to základný zákon AI. Ak máte dáta správne, aj jednoduché algoritmy sa dokážu naučiť užitočné vzorce. Ak máte dáta zlé, žiadna algoritmická sofistikovanosť vás nezachráni.
Teraz viete, prečo sú dáta v AI všetkým. A prečo každý, kto vám tvrdí niečo iné, buď niečo predáva, alebo nerozumie tomu, ako táto technológia skutočne funguje.
V spoločnosti Dweve sme transparentní, pokiaľ ide o požiadavky na dáta. Naše systémy založené na obmedzeniach potrebujú kvalitné, reprezentatívne príklady na objavenie platných logických vzťahov. Žiadne skratky. Žiadna mágia. Len poctivé inžinierstvo, ktoré uznáva jednoduchú pravdu: nemôžete postaviť spoľahlivú AI z nespoľahlivých dát. Pretože smeti dnu naozaj znamenajú smeti von, a to zakaždým.