Cuimhne san AI: conas a chuimhníonn samhlacha (agus cén fáth a ndéanann siad dearmad)
An TSeachrán Cuimhne
Comhrá a dhéanann tú le ChatGPT. Cuimhníonn sé ar a ndúirt tú trí theachtaireacht ó shin. Freagraíonn sé go comhleanúnach. Coinníonn sé comhthéacs. Dealraíonn sé go bhfuil cuimhne aige.
Níl. Ní dáiríre. Ní mar a shílfeá.
Tá cuimhne AI bunúsach difriúil ó chuimhne an duine. Tá sé tábhachtach tuiscint a fháil ar conas a oibríonn sé i ndáiríre, cad is féidir agus nach féidir leis a dhéanamh. Mar go bhfuil na teorainneacha fíor. Agus go minic iontasach.
Cad é Cuimhne AI i ndáiríre
Níl cuimhne sheasmhach ag samhlacha AI cosúil le daoine. Tá paraiméadair (meáchain) acu a fhoghlaimítear le linn oiliúna, agus tá fuinneoga comhthéacs acu chun ionchuir a phróiseáil.
Sin é. Dhá chineál "cuimhne," an dá cheann go hiomlán difriúil ó chuimhne bhitheolaíoch:
1. Cuimhne Pharaiméadrach (Na Meáchain):
Le linn oiliúna, foghlaimíonn an tsamhail patrúin. Ionchódaítear na patrúin sin i mbilliúin meáchain. Is é seo cuimhne pharaiméadrach. Eolas bácáilte isteach i struchtúr na samhla.
Sampla: "Tá a fhios" ag samhail teanga go bhfuil "Páras mar phríomhchathair na Fraince" mar gur tháinig an patrún sin le feiceáil i sonraí oiliúna. Tá an t-eolas ionchódaithe sna meáchain. Ní stóráiltear mar théacs é. Ní féidir é a aisghabháil mar fhíric. Díreach... ionchódaithe mar phatrúin ghníomhachtaithe.
2. Cuimhne Chomhthéacs (An tIonchur):
Nuair a úsáideann tú an tsamhail, soláthraíonn tú ionchur. Próiseálann an tsamhail an t-ionchur sin. Le haghaidh AI chomhrá, tá do stair chomhrá iomlán mar chuid den ionchur. Sin cuimhne chomhthéacs.
Ní cuimhníonn an tsamhail ar do chuid teachtaireachtaí roimhe seo. Soláthraíonn tusa (nó an feidhmchlár) iad arís le gach teachtaireacht nua. Próiseálann an tsamhail gach rud as an nua gach uair. Breathnaíonn sé cosúil le cuimhne. Is athrá é i ndáiríre.
Fuinneoga Comhthéacs (An Teorainn Chuimhne)
Tá teorainn chrua ag cuimhne chomhthéacs: méid na fuinneoige comhthéacs.
Ní féidir le samhlacha ach méid seasta comharthaí a phróiseáil ag an am céanna. GPT-4: 8K nó 32K comharthaí. Claude: 100K comharthaí. Llama: 4K-8K comharthaí.
Chomh luath agus a sháraíonn tú an fhuinneog chomhthéacs, ní féidir leis an tsamhail eolas níos luaithe a fheiceáil ar chor ar bith. Tá sé imithe. Dearmadta. Ní toisc gur dhearmad an tsamhail é, ach toisc nach féidir leis é a fheistiú san ionchur.
Cad a Chiallaíonn Seo go Praiticiúil:
Sa deireadh sáraíonn comhráite fada an fhuinneog. "Déanann" an AI dearmad ar an tús. Bíonn sé ag teacht salach air féin. Cailleann sé comhthéacs. Ní fabht é. Teorainn ailtireachta bhunúsach.
Láimhseálann feidhmchláir é seo trí sheanteachtaireachtaí a ghiorrú. Trí iad a achoimriú. Nó díreach iad a chaitheamh amach. Mothaíonn do chomhrá leanúnach. Faoin gcochall, tá eolas á chaitheamh amach go leanúnach.
Éifeachtúlacht Chuimhne (Dénártha vs. Snámhphointe)
Tá tábhacht le húsáid chuimhne. Go háirithe ar ghléasanna imeallacha. Athraíonn líonraí dénártha an chothromóid:
Samhlacha Snámhphointe:
Gach meáchan: is é 16 giotán (FP16) an caighdeán d'AI nua-aimseartha. Billiúin meáchain. Déan an mhatamaitic:
1 billiún paraiméadar × 16 giotán = 2GB díreach do na meáchain. Plus gníomhachtaithe. Plus staid optamóra le linn oiliúna. Pléascann an chuimhne.
Le haghaidh tátail, teastaíonn 2GB uait fós le haghaidh múnla FP16 le 1B paraiméadar. Bíonn deacrachtaí ag gléasanna imeallacha. Ní féidir le fóin é a láimhseáil. Tá comhbhrú riachtanach.
Múnlaí Dénártha:
Gach meáchan: 1 giotán. Go litriúil. 16× níos lú cuimhne ná FP16.
1 billiún paraiméadar × 1 giotán = 125MB. Luíonn sé go héasca ar fhóin. Gléasanna leabaithe. IoT. Cumasaíonn éifeachtúlacht chuimhne imscaradh i ngach áit.
Cur Chuige Dweve:
Stóráil shrianta dhénártha. Is patrún dénártha é gach srian. Eolas ollmhór i lorg cuimhne beag bídeach. Luíonn 456 tacar srianta speisialtóra fearainn Loom i gcuimhne oibre ar ghnáthchrua-earraí.
Ní toisc gur chomhbhrúigh muid go cliste é. Toisc go bhfuil ionadaíocht dhénártha níos éifeachtaí go bunúsach do chaidrimh loighciúla.
An Rud a Chaithfidh Tú a Mheabhrú
- 1. Ní chuimhne dhaonna í cuimhne AI. Códálann meáchain phatrúin. Próiseálann fuinneoga comhthéacs ionchuir. Ní oibríonn ceachtar acu cosúil le cuimhne bhitheolaíoch.
- 2. Tá teorainneacha crua ag fuinneoga comhthéacs. Go litriúil, ní féidir le múnlaí a fheiceáil thar a bhfuinneog. Caitear eolas amach. Giorraítear comhráite.
- 3. Athraíonn éifeachtúlacht chuimhne go mór. FP16: 2GB in aghaidh an bhilliúin paraiméadar. Dénártha: 125MB. Difríocht 16×. Cumasaíonn nó cuireann sé cosc ar imscaradh.
- 4. Is minic gur seachmall é "cuimhneamh". Soláthraíonn feidhmchláir stair chomhrá. Faigheann córais aisghabhála fíricí. Ní dhéanann an múnla ach próiseáil ar a dtugtar dó.
- 5. Ailtireachtaí éagsúla, cuimhne éagsúil. Trasfhoirmeoirí: comhthéacs comhuaineach. RNNanna: staid sheicheamhach. Córais srianta: caidrimh scoite.
An Bunlíne
Níl aon chosúlacht idir cuimhne AI agus cuimhne dhaonna. Cuimhnímid go leanúnach, déanaimid nuashonrú go solúbtha, faighimid ar ais go hiontaofa. Tá paraiméadair agus fuinneoga comhthéacs ag AI. Sin é.
Tagann seachmall na cuimhne ó innealtóireacht chliste. Feidhmchláir ag soláthar comhthéacs arís. Córais aisghabhála ag fáil fíricí. Cuardaigh bunachair shonraí ag ligean orthu gur cuimhne iad.
Cuidíonn tuiscint air seo leat oibriú le AI go héifeachtach. Na teorainneacha a bheith ar eolas agat. Oibriú laistigh díobh. Gan a bheith ag súil le cuimhne cosúil le cuimhne dhaonna ó chórais atá difriúil go bunúsach.
Tairgeann líonraí dénártha éifeachtúlacht chuimhne. Tairgeann córais srianta leithlisiú eolais níos fearr. Ach ní réitíonn ceachtar acu an fhadhb bhunúsach: tá cuimhne AI ailtireachta, ní cognaíoch. Paraiméadair agus fuinneoga, ní néaróin agus shionapsaí.
Ag iarraidh AI atá éifeachtúil ó thaobh cuimhne de? Fiosraigh Dweve Loom. Ionadaíocht shrianta dhénártha. 456 tacar speisialtóra fearainn i gcuimhne oibre. Caidrimh loighciúla scoite. An cineál códaithe eolais a thugann ómós do shrianta cuimhne.