Sábháilteacht AI: cad is brí léi i ndáiríre agus cén fáth a bhfuil tábhacht léi duitse

Sábháilteacht AI: cad is brí léi i ndáiríre agus cén fáth a bhfuil tábhacht léi duitse

An fhíorfhadhb sábháilteachta

Sábháilteacht AI. Tagann íomhánna de róbait mharfacha chun cuimhne. Skynet. Cásanna Terminator. Eagla ficsean eolaíochta.

Ní hé sin an fhíorfhadhb. Ní inniu. Ní ar feadh blianta.

Tá fíorcheisteanna sábháilteachta AI coitianta. Praiticiúil. Ag tarlú anois. Halgartaim earcaíochta claonta. Mí-dhiagnóis leighis. Feithiclí uathrialaitheacha ag déanamh cinntí míchearta i gcodán soicind. Ní ficsean eolaíochta iad seo. Is í réaltacht an lae inniu iad.

Má thuigeann tú cad a chiallaíonn sábháilteacht AI i ndáiríre, cabhraíonn sé leat córais AI a mheas. Éiligh níos fearr. Úsáid go sábháilte iad.

Cad is sábháilteacht AI i ndáiríre

Is éard is sábháilteacht AI ann ná a chinntiú go n-iompraíonn córais AI mar a bhí beartaithe. Déan cad ba mhaith linn. Ná déan cad nach bhfuil uainn. Fuaimeann sé simplí. Níl sé.

Trí Dhúshlán Lárnacha:

• 1. Sonraíocht: An rud a theastaíonn uainn a shainiú go beacht. Casadh amach gur deacair "dea-iompar" a shonrú go cruinn. Tá luachanna daonna casta. Braitheann siad ar chomhthéacs. Uaireanta bíonn siad contrártha.
• 2. Láidreacht: AI ag obair i gceart i ngach cás. Ní hamháin i gcásanna oiliúna. Cásanna imeallacha. Ionchuir chomhraiceacha. Praiseach an fhíorshaoil. Is minic a theipeann ar AI go díreach nuair is tábhachtaí é.
• 3. Ailíniú: Spriocanna AI ag teacht le spriocanna daonna. Gan an córas a imirt. Gan barrfheabhsú ar litir an rialach agus spiorad an rialach á shárú. Ailíniú fíor le hintinn an duine.

Faigh aon cheann díobh seo mícheart, agus déanann AI dochar. Fiú le dea-intinn. Fiú le teicneolaíocht sofaisticiúil.

Tuigeann rialtóirí Eorpacha é seo go domhain. Aicmíonn an tAcht AI AE córais AI de réir leibhéal riosca: íosta, teoranta, ard, agus do-ghlactha. Tá ceanglais dhian ar chórais ardriosca (feistí leighis, bonneagar criticiúil, forfheidhmiú an dlí, cinntí fostaíochta). Níl an mhíniúitheacht roghnach. Níl tástáil láidreachta idirbheartaithe. Níl maoirseacht dhaonna ina "deas a bheith ann". Is é an dlí é. Cuideachtaí Meiriceánacha atá ag fáil amach ar an mbealach crua é seo tugann siad "ualach rialála" air anois. Tugann cuideachtaí Eorpacha "bunfhreagracht innealtóireachta" air.

Cén fáth nach bhfuil AI reatha sábháilte (an fhírinne mhacánta)

Tá fadhbanna bunúsacha sábháilteachta ag AI nua-aimseartha:

Fadhb an Bhosca Dhubh:

Ní féidir leat féachaint isteach. Tá líonraí néaracha teimhneach. Na billiúin meáchain. Níl aon loighic is féidir le duine a thuiscint. Oibríonn an tsamhail (nó ní oibríonn). Ní féidir leat a fheiceáil cén fáth.

Ciallaíonn sé seo: ní féidir leat sábháilteacht a fhíorú. Ní féidir leat cinntí a iniúchadh. Ní féidir leat fadhbanna ar leith a réiteach gan athoiliúint. Déanann tú tástáil fhairsing agus tá súil agat go n-oibreoidh sé i dtáirgeadh. Ní sábháilteacht é sin. Is dóchasachas é.

Samhlaigh innealtóir sibhialta Ollannach ag moladh cora draenála ina bhfuil na ríomhanna "muinín a bheith agat asam, deir an líonra néarach go seasfaidh sé." Nó innealtóir feithicleach Gearmánach ag deimhniú coscáin le "rinneamar oiliúint air ar na milliúin samplaí." Bheadh TÜV ag gáire fúthu amach as an bhfoirgneamh. Ach is é seo go díreach an chaoi a n-imlonnaímid AI le haghaidh cinntí atá chomh criticiúil céanna: diagnóis leighis, tiomáint uathrialach, measúnú riosca airgeadais. Tá an cur chuige creidimh-bhunaithe i leith na hinnealtóireachta ar thréig Eorpaigh é na cianta ó shin tar éis filleadh, athbhrandáilte mar "meaisínfhoghlaim".

Spleáchas ar Shonraí Oiliúna:

Foghlaimíonn AI ó shamplaí. Má tá samplaí claonta, tá AI claonta. Má tá samplaí neamhiomlán, tá spotaí dalla ag AI. Má tá samplaí mícheart, tá AI mícheart.

Rud salach isteach, rud salach amach. Ach i gcás córas criticiúil sábháilteachta, ciallaíonn "salach" dochar. Cinntí iasachta claonta. Diúltaithe fostaíochta éagóracha. Diagnóisí leighis míchearta.

Leochaileacht:

Éiríonn le AI go hiontach ar ionchuir aithnidiúla. Teipeann go tubaisteach air ar ionchuir neamhaithnidiúla. Is cúis le hathruithe beaga san ionchur athruithe ollmhóra san aschur. Is é seo leochaileacht chomhraic.

Cuir torann dofheicthe le híomhá. Déanann an tsamhail mí-aicmiú iomlán. Ní teoiric é seo. Tá sé tástálaithe. Cruthaithe. In-atáirgthe. Tá AI reatha leochaileach.

Gan Réasún Coiteann:

Níl aon tuiscint ag AI. Níl aon mhúnla domhanda aige. Níl aon réasún coiteann aige. Meaitseálann sé patrúin. Uaireanta go hiontach. Uaireanta go tubaisteach mícheart.

Iarr rudaí dodhéanta air, déanfaidh sé iarracht ar aon nós. Iarr rudaí díobhálacha air, b'fhéidir go gcomhlíonfaidh sé iad. Ní thuigeann sé. Ní dhéanann sé ach ionchuir a phróiseáil.

Bíonn teipeanna iontacha mar thoradh air seo a bheadh greannmhar mura mbeidís in úsáid i gcórais ríthábhachtacha. AI leighis ag déanamh diagnóis go muiníneach ar othair le galair nach bhfuil ann toisc gur mheaitseáil patrún na siomptóm sonraí oiliúna. Feithiclí uathrialaitheacha ag stopadh do bhoscaí poist atá péinteáilte le bheith cosúil le comharthaí stad, aithint patrún atá ceart go teicniúil, tuiscint atá tubaisteach mícheart. AI dlí ag lua cásdlí atá déanta go hiomlán as bréag toisc gur mheaitseáil formáid an luaidh an méid a d'fhoghlaim sé. Fiafraigh de pháiste trí bliana an féidir leat análú faoi uisce, déarfaidh siad nach féidir. Fiafraigh d'AI reatha, b'fhéidir go nginfidh sé aiste láidir ag míniú teicnící análaithe faoi uisce, gan aon tuiscint go bhfuil sé dodhéanta go fisiciúil, gan ach meaitseáil patrún ó fhicsean eolaíochta ar ar oileadh é.

Teipeanna sábháilteachta ón bhfíorshaol

Ní hipitéisí iad seo. Tharla siad:

• Tuairteanna Feithiclí Uathrialaitheacha: Theip ar AI coisithe a aithint i ndálaí áirithe. Soilsiú. Éadaí. Comhthéacs. Fuair daoine bás. Bhí an AI optamaithe do chásanna meánacha, theip air ar chásanna imeallacha.
• Laofacht san Aithint Aghaidhe: Rátaí earráide níos airde do mhná agus do mhionlaigh. Cén fáth? Ba fir bhána iad formhór na sonraí oiliúna. Bhí laofacht sna sonraí ina laofacht i gcinntí. Idirdhealú ón bhfíorshaol uathoibrithe.
• Earráidí AI Leighis: AI ag moladh cóireálacha míchearta. Ag cailleadh diagnóisí. Cén fáth? Oiliúint ar shonraí ó ospidéil ar leith. Níor ghinearáltaigh sé do dhaonraí nó do dhálaí éagsúla. Optamú do mhéadrachtaí, ní do thorthaí othar.
• Teipeanna Modhnóireachta Ábhair: AI ag baint ábhar dlisteanach. Ag cailleadh ábhar díobhálach. Is cuma leis an gcomhthéacs. Is cuma leis na caolchúisí. Bíonn deacrachtaí ag AI leis an dá cheann. Cinsireacht agus mí-úsáid, uathoibrithe.

I ngach cás, rinne an AI an méid ar oileadh é lena dhéanamh. Bhí an oiliúint neamhleor. Bhí an daingneacht in easnamh. Bhí an tsonraíocht mícheart. Teipeanna sábháilteachta.

Buaileann samplaí Eorpacha níos gaire don bhaile. D'úsáid údarás cánach na hÍsiltíre AI chun calaois sochar cúram leanaí a bhrath: chuir an algartam míle teaghlach neamhchiontach in iúl, go leor acu ó chúlraí inimirceacha, rud a d'eascair scrios airgeadais do chuid acu. Gan aon mhíniú tugtha. Gan aon leigheas ar fáil. D'íoc rialtas na hÍsiltíre €30,000 cúiteamh in aghaidh an teaghlaigh sa deireadh, agus d'éirigh an comh-aireachta ar fad as. Sa Fhrainc, fuarthas go raibh córas AI a úsáideadh le haghaidh iontrála ollscoile ag idirdhealú bunaithe ar shloinnte, roghanna atá ionchódaithe go sainráite a tharla a bheith i gcomhghaol le bunús eitneach. Sa dá chás: d'oibrigh an AI go díreach mar a dearadh é. Ba é an dearadh an fhadhb.

Cad a dhéanann AI sábháilte i ndáiríre

Teastaíonn sraitheanna iomadúla le haghaidh sábháilteachta. Níl aon réiteach amháin ann:

Inmhínitheacht:

Ba cheart go mbeifeá in ann a fheiceáil cén fáth a rinne AI cinneadh. Ní hamháin "líonra néarach gníomhachtaithe." Cúiseanna iarbhír. Loighic inrianaithe. Céimeanna iniúchta.

Cabhraíonn córais atá bunaithe ar shrianta anseo. Leanann gach cinneadh srianta sainráite. Is féidir leat an réasúnaíocht a rianú. Deimhnigh cruinneas. Déan iniúchadh ar chinntí.

Tástáil Láidreachta:

Tástáil thar na sonraí oiliúna. Samplaí sáraitheacha. Cásanna imeallacha. Tástálacha struis. Má bhriseann sé, deisigh é roimh imscaradh. Ní tar éis dochair.

Fíorú foirmiúil nuair is féidir. Cruthúnais mhatamaiticiúla ar iompar. Raon teoranta faoi láthair, ach ag fás.

Éilíonn comhlachtaí deimhniúcháin Eorpacha an déine seo. Ní dheimhneoidh TÜV córais uathrialaitheacha gan tástáil fhairsing láidreachta thar gach cás inchoncheaptha. Éilíonn CNIL na Fraince measúnuithe tionchair ar chosaint sonraí roimh imscaradh AI. Éilíonn Garante na hIodáile iniúchtaí algartamacha le haghaidh cinnteoireachta uathoibrithe. Ní maorlathas é seo; is taithí foghlamtha é. Chonaic an Eoraip go leor titim droichid, teipeanna foirgneamh, agus tionóiscí tionsclaíocha chun a fhios go bhfuil "oibríonn sé an chuid is mó den am" neamhleor do chórais atá ríthábhachtach ó thaobh sábháilteachta de. Baineann na caighdeáin chéanna anois le AI.

Maoirseacht Dhaonna:

Molann AI. Socraíonn daoine. Go háirithe le haghaidh cinntí ard-gheallta. Diagnóis leighis, ceadú iasachta, breithiúnais dhlíthiúla. Tá an duine sa lúb éigeantach.

Ní "cinneann AI agus cuireann an duine stampa rubair air." Déanann an duine athbhreithniú iarbhír. Tá uirlisí aige le tuiscint a fháil. Is féidir leis sárú a dhéanamh.

D'fhoghlaim rialtóirí airgeadais Eorpacha é seo ar an mbealach crua le linn ghéarchéim 2008: ba chúis le córais trádála uathoibrithe le maoirseacht dhaonna neamhleor tuairteanna meandracha. Anois éilíonn rialacháin airgeadais an AE maoirseacht dhaonna bhríoch do chinntí uathoibrithe. Ciallaíonn "bríoch" go bhfuil dóthain faisnéise, dóthain ama, agus dóthain údaráis ag an duine chun idirghabháil a dhéanamh i ndáiríre. Duine ag cliceáil "ceadaigh" gach trí soicind ar chinntí iasachta AI ní maoirseacht é; is amharclannaíocht é. Seiceálann rialtóirí Eorpacha é seo: déanann siad iniúchadh ar uainiú cinntí, rátaí sáraithe, agus cibé an bhfuil uirlisí iarbhír ag daoine chun réasúnaíocht AI a thuiscint. Maoirseacht nach féidir fadhbanna a chosc ní maoirseacht í.

Imscaradh Céimnithe:

Ná himscar gach áit láithreach. Tosaigh beag. Déan monatóireacht ghéar. Leathnaigh de réir a chéile. Gabh fadhbanna go luath nuair atá na geallta íseal.

Tástáil A/B. Imscaradh canáraí. Rolladh amach forásach. Cleachtais innealtóireachta bogearraí curtha i bhfeidhm ar shábháilteacht AI.

Monatóireacht Leanúnach:

Teastaíonn monatóireacht chomhsheasmhach ó AI i dtáirgeadh. Méadracht feidhmíochta. Rátaí earráide. Seiceálacha claonta. Brath srutha.

Painéil fíor-ama. Foláirimh uathoibríocha. Freagairt thapa ar fhadhbanna. Ní rud aonuaire í an tsábháilteacht. Bíonn sí ar siúl i gcónaí.

Córais srianta dénártha agus sábháilteacht

Tá airíonna sábháilteachta éagsúla ag ailtireachtaí AI éagsúla:

• Líonraí Néaracha (Snámhphointe): Teimhneach. Deacair iad a fhíorú. Saincheisteanna leochaileachta. Leochaileacht chomhaimseartha. Sábháilteacht trí thástáil fhairsing agus trí dhóchas.
• Córais Bhunaithe ar Shrianta (Cosúil le Dweve Loom): Trédhearcach. Srianta sainráite. Réasúnaíocht inrianaithe. Leanann gach cinneadh rialacha loighciúla. In-iniúchta de réir dearadh.

Ní réitíonn sé seo gach saincheist sábháilteachta. Ach cuidíonn an in-mhínitheacht go mór. Feiceann tú cén fáth ar glacadh cinntí. Deimhníonn tú go bhfuil na srianta ceart. Réitíonn tú saincheisteanna sonracha gan athoiliúint iomlán.

Soláthraíonn oibríochtaí dénártha cinnteacht. Na hionchuir chéanna, na haschuir chéanna. In-athdhéanta. In-thástáilte. Infhíoraithe.

Cad is féidir leat a dhéanamh (céimeanna praiticiúla)

Mar dhuine a úsáideann AI nó a mbíonn tionchar ag AI air:

• 1. Éiligh Inmhínitheacht: Fiafraigh cén fáth ar ghlac AI cinneadh. Mura féidir leo é a mhíniú, is comhartha rabhaidh é sin.
• 2. Seiceáil le haghaidh Tástála Claonta: Ar tástáladh an AI ar dhaonraí éagsúla? Cad é an ráta earráide do ghrúpaí éagsúla?
• 3. Cuardaigh Maoirseacht Dhaonna: An bhfuil daoine ag athbhreithniú cinntí? An bhfuil cumhacht iarbhír acu chun iad a shárú?
• 4. Tuig Teorainneacha: Cé na cásanna ar eol go dteipeann ar AI iontu? An bhfuil siad sin doiciméadaithe? An gcuirtear in iúl iad?
• 5. Deimhnigh Imlonnú de réir a chéile: Ar imlonnadh é seo go cúramach? Nó ar caitheadh isteach i dtáirgeadh é i ngach áit ag an am céanna?
• 6. Déan Monatóireacht ar Shaincheisteanna: An bhfuil monatóireacht leanúnach ar siúl? Cé chomh tapa agus a fhreagraíonn siad d'fhadhbanna?
• 7. Comhlíonadh Rialála: An gcomhlíonann sé caighdeáin rialála (Acht AI an AE, srl.)? An bhfuil cuntasacht ann?

Tá cumhacht agat. Úsáid í. Éiligh AI sábháilte. Ná glac le "muinín a bheith agat asainn, is AI é" mar fhreagra.

Costas eacnamaíoch AI neamhshábháilte

Ní fadhbanna eiticiúla amháin iad teipeanna sábháilteachta; is tubaistí airgeadais iad. D'fhoghlaim cuideachtaí Eorpacha é seo ar chostas mór.

Costais Dhíreacha:

Chosain scannal sochair leanaí na hÍsiltíre breis agus €1 billiún ar cháiníocóirí i gcúiteamh. Bhí fíneáil €800,000 ar Air France nuair a rinne a gcóras bordála aitheantais aghaidhe idirdhealú i gcoinne paisinéirí. D'íoc árachóirí sláinte Gearmánacha na milliúin i bhfíneálacha nuair a sháraigh cinntí éileamh bunaithe ar AI rialacháin phríobháideachta leighis.

Ní cásanna imeallacha iad seo. Is é seo a tharlaíonn nuair a imlonnaíonn tú AI gan fíorú sábháilteachta.

Costais Deise:

Chaith bainc na Breataine córais iasachta AI i leataobh tar éis scannail chlaonta: blianta forbartha, na milliúin infheistithe, tréigthe toisc nár tugadh tosaíocht don tsábháilteacht ón tús. Chuir ospidéil na Spáinne deireadh le diagnóisic AI nuair nach raibh iniúchóirí in ann próisis chinnteoireachta a fhíorú. Chuir gníomhaireachtaí rialtais na Sualainne droim le pleananna uathoibrithe nuair nach raibh siad in ann comhlíonadh GDPR a léiriú.

Cosnaíonn sé níos mó é a thógáil faoi dhó (uair amháin go mícheart, uair amháin i gceart) ná é a thógáil i gceart ar dtús. Tuigeann oifigigh soláthair Eorpacha é seo. Tá caipitlithe fiontair Mheiriceánacha ag foghlaim é.

Fíneálacha Rialála:

Gearrann sáruithe ar Acht AI an AE fíneálacha suas le €35 milliún nó 7% de láimhdeachas bliantúil domhanda, cibé acu is airde. Léirigh GDPR cheana féin toilteanas na hEorpa forfheidhmiú a dhéanamh: €1.6 billiún i bhfíneálacha eisithe in 2023 amháin. Tá cuideachtaí a chaitheann le sábháilteacht AI mar rud roghnach ag fáil amach go bhfuil sé éigeantach.

Tá an mhatamaitic simplí: cosnaíonn infheistiú sa tsábháilteacht roimh ré níos lú ná teipeanna a cheartú ina dhiaidh sin. D'fhoghlaim cuideachtaí Eorpacha é seo trí thaithí phianmhar. Anois éilíonn siad é ón tús.

Cur chuige cultúrtha i leith shábháilteacht AI

Tá cur chuige Eorpach agus Meiriceánach i leith shábháilteacht AI difriúil go bunúsach, ní hamháin sa rialáil, ach i bhfealsúnacht innealtóireachta.

Cur Chuige Silicon Valley:

Bog go tapa, briseadh rudaí, atriall. Imlonnaigh ar dtús, déan fadhbanna a cheartú níos déanaí. Is gné í an tsábháilteacht a chuireann tú leis tar éis oiriúnacht táirge-mhargaidh a bhaint amach. Is é an ráta teipe inghlactha cibé rud a fhulaingeoidh úsáideoirí. Sáraíonn luas nuálaíochta bailíochtú cúramach. Iarr maithiúnas, ní cead.

Oibríonn sé seo d'fheidhmchláir ghréasáin. Cliceáil an cnaipe mícheart, athlódáil an leathanach. Ach diagnóis leighis? Feithiclí uathrialaitheacha? Cinntí airgeadais a théann i bhfeidhm ar shaol daoine? Ciallaíonn rudaí a bhriseadh dochar a dhéanamh do dhaoine.

Cur Chuige Innealtóireachta na hEorpa:

Tomhais faoi dhó, gearr uair amháin. Bailíochtaigh roimh imlonnú. Tá an tsábháilteacht ailtireachta, ní roghnach. Cinntear an ráta teipe inghlactha ag riosca, ní ag caoinfhulaingt úsáideoirí. Cumasaíonn bailíochtú cúramach nuálaíocht inbhuanaithe. Ní maorlathas é cead; is cuntasacht é.

Tagann sé seo ó chéadta bliain d'innealtóireacht fhisiciúil. Droichid a thiteann. Foirgnimh a theipeann. Cóireálacha leighis a dhéanann dochar. D'fhoghlaim cultúr innealtóireachta na hEorpa na ceachtanna seo trí thaithí thragóideach. Baineann na prionsabail chéanna anois le córais dhigiteacha.

An Íoróin:

Is minic a aththógann cuideachtaí Meiriceánacha córais AI chun caighdeáin Eorpacha a chomhlíonadh, agus ansin faigheann siad amach go n-oibríonn an leagan níos sábháilte níos fearr ar fud an domhain. Ní comhlíonadh rialála amháin é AI inláithrithe; cabhraíonn sé le fadhbanna a aithint agus a cheartú níos tapúla. Gabhann tástáil láidir fabhtanna sula ndéanann úsáideoirí iad. Coscann maoirseacht dhaonna teipeanna cascáideacha.

Ní a mhalairt de nuálaíocht í an tsábháilteacht. Is í a chumasaíonn nuálaíocht inbhuanaithe. Níorbh iad na hEorpaigh a chum an smaoineamh seo; níor dhearmad siad ach é nuair a rinne Silicon Valley dearmad air.

Bealaí praiticiúla chuig córais AI níos sábháilte

Éilíonn bogadh ó AI neamhshábháilte go AI sábháilte athruithe teicniúla coincréiteacha, ní polasaí amháin:

Roghnú Ailtireachta de réir Riosca:

Stad ag úsáid na hailtireachta céanna do gach rud. Teastaíonn córais infhíoraithe ó chinntí ard-gheallta. Diagnóis leighis, cinntí airgeadais, feithiclí uathrialaitheacha: éilíonn siad seo AI inláithrithe, iniúchta. Córais bhunaithe ar shrianta, réasúnaíocht shiombalach, cur chuige hibrideach a chomhcheanglaíonn líonraí néaracha le rialacha loighciúla.

Is féidir le feidhmchláir íseal-gheallta (moltaí ábhair, scagairí íomhá, AI cluichí) boscaí dubha a fhulaingt. Ach éilíonn Rialachán Feistí Leighis na hEorpa go sainráite go gcaithfidh bogearraí a dhéanann cinntí diagnóiseacha a bheith inláithrithe. Roghnaigh ailtireacht bunaithe ar iarmhairtí teipe.

Grúpaí Frithbheartaíochta Comhraic:

Sula gcuirtear i bhfeidhm é, fostaigh daoine chun d'AI a bhriseadh. Ní taighdeoirí slándála, ach saineolaithe réimse iarbhír a thuigeann conas a úsáidfear agus a mí-úsáidfear an córas. Éilíonn bainc Eorpacha anois tástáil fhrithbheartaíoch ar chórais chreidmheasa AI sula dtugtar cead rialála dóibh. Fostaíonn cuideachtaí gluaisteán na Gearmáine tástálaithe frithbheartaíochta a chaitheann míonna ag aimsiú cásanna imeallacha a dteipeann ar chórais uathrialacha iontu.

Níl sé seo costasach i gcomparáid le teipeanna iar-fheidhmithe. Cosnaíonn mí amháin de ghrúpaí frithbheartaíochta níos lú ná lá amháin d'fhíneálacha rialála nó cás dlí amháin ó dhamáiste de bharr AI.

Feidhmiú Céimneach Cumasach:

Tosaigh le cúnamh AI, ní le huathriail AI. Mol, ná cinntigh. Taispeáin réasúnaíocht, éiligh deimhniú daonna. Méadaigh an uathriail de réir a chéile ach amháin tar éis sábháilteacht a léiriú ag gach leibhéal.

Imlonnaíonn ospidéil na Danmhairge AI diagnóiseach ar an mbealach seo: ar dtús mar uirlis dara tuairime, ansin mar scagthástálaí príomhúil do chásanna íseal-riosca amháin, agus ar deireadh mar dhiagnóisí uathrialach do choinníollacha sonracha deimhnithe. Gach céim cruthaithe sábháilte sula leathnaítear raon feidhme. Cuir i gcomparáid le córais a imlonnaítear ag lánuathriail láithreach: tá na teipeanna intuartha.

Iniúchtaí Sábháilteachta Éigeantacha:

Iniúchtaí seachtracha, ní tástáil inmheánach. Éilíonn rialtóirí Eorpacha níos mó iniúchtaí AI tríú páirtí do chórais ardriosca. Ordaíonn údarás cosanta sonraí na hOstaire measúnuithe tionchair algartamaigh roimh imlonnú. Déanann comhlachtaí deimhniúcháin na Fraince iniúchadh ar chinnteoireacht AI i seirbhísí poiblí.

Aimsíonn iniúchóirí neamhspleácha fadhbanna a chailleann foirne inmheánacha, ní éagumas é, ach súile úra agus gan aon bhrú eagraíochtúil rudaí a dhearbhú sábháilte.

Clásail Dheiridh do Chórais AI:

Níor cheart do chórais AI rith go neamhtheoranta gan athdheimhniú. Sreabhann sonraí. Athraíonn daonraí. Tagann cásanna imeallacha chun cinn. Cuimsíonn conarthaí soláthair Eorpacha tréimhsí athdheimhnithe éigeantacha níos mó: gach 12-24 mí, cruthaigh go n-oibríonn an córas i gceart fós nó cuirtear as oifig é.

Coscann sé seo an fhadhb "imlonnaithe agus dearmadta" nuair a dhéanann córais AI a bhí optamaithe do shonraí 2020 cinntí fós in 2025, le torthaí atá intuartha go dona.

Todhchaí na sábháilteachta AI

Tá taighde sábháilteachta gníomhach. Ag feabhsú. Treoracha éagsúla:

• AI Bunreachtúil: AI a oiliúint le rialacha sainráite. Srianadh bunreachtúil ar iompar. Ní hamháin foghlaim ó shamplaí.
• Léirmhíniú Meicníoch: Tuiscint ar líonraí néaracha ag leibhéal níos doimhne. Ní hamháin ionchuir/aschuir. Meicníochtaí inmheánacha. Fós go luath ach gealltanach.
• Fíorú Foirmiúil: Cruthúnais mhatamaiticiúla ar iompar AI. Raon feidhme teoranta faoi láthair. Ag leathnú de réir a chéile. An caighdeán óir do ráthaíochtaí sábháilteachta.
• Oiliúint Fhrithbheartaíoch: Oiliúint ar shamplaí frithbheartaíochta. Múnlaí a dhéanamh láidir i gcoinne ionramhála. Rás arm leanúnach ach tá dul chun cinn fíor.
• Caighdeáin Sábháilteachta AI: IEEE, ISO, comhlachtaí rialtais. Caighdeáin a chruthú do shábháilteacht AI. Comhlíonadh ag éirí éigeantach.
• Taighde Sábháilteachta AI Eorpach: Tá institiúidí Eorpacha chun tosaigh in AI atá sábháilteacht-chéad. Tugann CLAIRE (Cónaidhm Saotharlanna um Thaighde Intleachta Saorga san Eoraip) tús áite go sainráite do AI iontaofa thar thagarmharcanna feidhmíochta. Díríonn institiúidí taighde na Gearmáine ar AI indeimhnithe: córais inar féidir sábháilteacht a chruthú, ní hamháin a thástáil. Forbraíonn INRIA na Fraince meaisínfhoghlaim fíoraithe go foirmiúil. Déanann ollscoileanna na hÍsiltíre taighde ar algartaim atá claontacht-fheasach de dhearadh. Tosaíochtaí éagsúla iad seo ná "bog go tapa agus bris rudaí" Silicon Valley. Cur chuige Eorpach: bog go cúramach agus cruthaigh go n-oibríonn sé.

Tá sábháilteacht ag feabhsú. Ach is minic a sháraíonn imlonnú sábháilteacht. Tá an bhearna imníoch.

Is ionann cur chuige rialála na hEorpa, a éilíonn sábháilteacht roimh imscaradh seachas leithscéal a ghabháil tar éis dochair, agus fealsúnacht atá bunúsach difriúil. Chonaic cuideachtaí teicneolaíochta Mheiriceá an tAcht AE um Intleacht Shaorga mar chonstaic ar an nuálaíocht. Chonaic innealtóirí Eorpacha é mar chóiriú ar an méid ar cheart a bheith mar ghnáthchleachtas le fada an lá. An difríocht idir innealtóireacht agus fiontraíocht: ní thrasnóidh innealtóirí droichead atá rátáilte do 10 dtona le trucail 11 thona, is cuma cé chomh muiníneach atá siad faoi.

An méid is gá duit a mheabhrú

• 1. Baineann sábháilteacht na hintleachta saorga le fíorfhadhbanna reatha. Ní ficsean eolaíochta é. Laofacht, earráidí, leochaileacht. Ag tarlú anois.
• 2. Níl an intleacht shaorga reatha sábháilte ó dhúchas. Boscaí dubha. Ag brath ar shonraí. Leochaileach. Gan chiall choiteann. Éilíonn sábháilteacht innealtóireacht ghníomhach.
• 3. Éilíonn sábháilteacht sraitheanna iolracha. Inmhínitheacht, tástáil, maoirseacht, monatóireacht. Níl aon réiteach amháin ann. Cosaint ar dhoimhneacht.
• 4. Tá tábhacht ag baint leis an ailtireacht don tsábháilteacht. Cumasaíonn córais thrédhearcacha fíorú. Soláthraíonn srianta dénártha cinnteacht. Roghnaigh ailtireacht de réir an cháis úsáide.
• 5. Is féidir leat intleacht shaorga níos sábháilte a éileamh. Cuir ceisteanna. Éiligh mínithe. Seiceáil le haghaidh maoirseachta. Úsáid do chumhacht mar úsáideoir/custaiméir.
• 6. Tá sábháilteacht leanúnach, ní aonuaire. Monatóireacht leanúnach. Freagraí tapa. Feabhsú oiriúnaitheach. Ná bí "déanta" riamh.
• 7. Tá dul chun cinn ag tarlú. Taighde gníomhach. Caighdeáin ag teacht chun cinn. Ach is minic a sháraíonn imscaradh an tsábháilteacht. Bí ar an eolas.

An bunlíne

Ní bhaineann sábháilteacht na hintleachta saorga le tiarnaí róbait a chosc. Baineann sé le cinntiú go n-oibríonn córais intleachta saorga an lae inniu i gceart, go cothrom, agus go trédhearcach. Cosc ar dhochar, ní ficsean eolaíochta.

Tá fíorfhadhbanna sábháilteachta ag baint leis an intleacht shaorga reatha. Doiléire. Laofacht. Leochaileacht. Is cúis le fíordhochar iad seo. Do dhaoine fíor. Anois díreach.

Tá intleacht shaorga níos sábháilte indéanta. Trí thástáil níos fearr. Ailtireachtaí inmhínithe. Maoirseacht dhaonna. Monatóireacht leanúnach. Is innealtóireacht í, ní draíocht.

Tá airíonna sábháilteachta éagsúla ag cur chuigí éagsúla. Tairgeann córais atá bunaithe ar shrianta trédhearcacht. Tairgeann líonraí néaracha cumas. Roghnaigh bunaithe ar riachtanais sábháilteachta, ní ar fheidhmíocht amháin.

Tá cumhacht agat. Éiligh sábháilteacht. Éiligh inmhínitheacht. Seas ar mhaoirseacht. Ná glac le córais dhoiléire do chinntí ard-geallta. Sábháilteacht trí chuntasacht.

Braitheann todhchaí na hintleachta saorga ar shábháilteacht a réiteach. Ní ar fheidhmíocht. Tá feidhmíocht go hiontach cheana féin. Tá sábháilteacht ag titim chun deiridh. Dún an bhearna sin, agus éiríonn an intleacht shaorga fíorluachmhar. Coinnigh an bhearna sin, agus fanann an intleacht shaorga ina riosca.

Ní chun cuideachtaí Eorpacha a chosaint a chruthaigh rialtóirí Eorpacha na ceanglais sábháilteachta seo; chruthaigh siad iad chun saoránaigh Eorpacha a chosaint. Ach tháinig iarmhairt shuimiúil chun cinn: fuair cuideachtaí a bhí ag tógáil intleachta saorga de réir caighdeáin sábháilteachta Eorpacha amach go n-oibríonn a gcórais níos fearr i ngach áit. Cinntí soiléirithe is féidir le húsáideoirí a thuiscint agus muinín a bheith acu astu. Córais láidre a láimhseálann cásanna imeallacha. Réasúnaíocht iniúchta a ghabhann earráidí sula seoltar iad. Casadh amach go bhfuil comhghaol láidir idir sábháilteacht agus cáilíocht.

Tá rogha roimh thionscal na hintleachta saorga: cur in aghaidh na gceanglas sábháilteachta mar rialáil throm, nó glacadh leo mar dhea-chleachtas innealtóireachta. Rinne cuideachtaí Eorpacha an rogha sin cheana. Tá cuideachtaí Meiriceánacha ag foghlaim, uaireanta trí fhíneálacha rialála na mbilliún dollar, uaireanta trí theipeanna tubaisteacha, agus ó am go chéile trí léamh iarbhír ar an litríocht innealtóireachta ó thionscail a réitigh sábháilteacht na mblianta fada ó shin.

Ní bhaineann sábháilteacht le heagla roimh an intleacht shaorga. Baineann sí le húsáid a bhaint as an intleacht shaorga ar fiú é. Córais ar féidir muinín a bheith agat astu. Cinntí ar féidir leat a fhíorú. Teicneolaíocht a chabhraíonn gan dochar a dhéanamh. Ní ualach rialála é sin; is é sin cuspóir iomlán na hintleachta saorga a thógáil ar an gcéad dul síos.

An bhfuil intleacht shaorga níos sábháilte uait? Déan iniúchadh ar Dweve Loom. Soláthraíonn srianta dénártha réasúnaíocht fhollasach iniúchta. Gach cinneadh inrianaithe trí rialacha loighciúla. Iompar cinntitheach. An cineál intleachta saorga ina bhfuil sábháilteacht mar chuid den ailtireacht, ní mar iar-smaoineamh.