Sábháilteacht AI ná mata, ní eitic

Sábháilteacht AI ná mata, ní eitic

An seachrán eitice

Siúil isteach in aon chomhdháil sábháilteachta AI, agus cloisfidh tú díospóireachtaí paiseanta faoi chonaic, faoi mhothúchán, agus faoi chreataí morálta. Ar cheart cearta a bheith ag AI? Conas a chinntímid go roinneann sé ár luachanna? Cad a tharlóidh nuair a éiríonn sé níos cliste ná sinne?

Is ceisteanna fealsúnachta suimiúla iad seo. Tá siad ag cailleadh an pointe go hiomlán freisin.

Ní faoin eitic atá an ghéarchéim fíor sábháilteachta AI. Is faoin matamaitic atá sí. Agus cé go bhfuil imní ar gach duine faoi fhorshuperintleacht hipitéiseach, tá córais AI reatha ag teip ar chúiseanna i bhfad níos coitianta: tá siad briste ó thaobh na matamaitice de.

An dea-scéal? Fadhb í seo is féidir linn a réiteach i ndáiríre.

An fhíorghéarchéim sábháilteachta

Seo mar a fhéachann sábháilteacht AI i ndáiríre in 2025: Córas diagnóis leighis atá ceart 95% den am i dtástáil ach nach bhfuil ach 73% i dtáirgeadh. Algartam trádála airgeadais a oibríonn go foirfe go dtí go n-athraíonn coinníollacha an mhargaidh beagán, agus a chailleann na milliúin ansin. Feithicil uathrialach a dhéanann mí-aicmiú ar chomhartha stad mar chomhartha teorann luais mar gheall ar shoilsiú neamhghnách.

Ní cásanna imeallacha iad seo. Is teipeanna sistéamacha iad de bharr éagobhsaíocht mhatamaiticiúil sna líonraí néaracha bunúsacha.

Tugann gach oibríocht ponc snámh earráidí slánúcháin isteach. Méadaíonn gach ciseal na hearráidí sin. Tógtar gach cinneadh ar bhunsraitheanna matamaiticiúla atá ag éirí níos laige. Agus táimid ag úsáid na gcóras seo in iarratais ríthábhachtacha agus muid ag plé an bhféadfaidís a bheith comhfhiosach.

Is ionann é agus a bheith buartha an bhfuil mothúcháin ag do charr agus neamhaird á déanamh agat ar an bhfíric nach n-oibríonn na coscáin go hiontaofa.

Cén fáth nach féidir leis an eitic sinn a shábháil

Tá dea-intinn ag an slua eitice AI. Ba mhaith leo a chinntiú go bhfuil córais AI cothrom, trédhearcach, cuntasach. Cruthaíonn siad creataí, treoirlínte, prionsabail.

Ach ní féidir leat d'eitic a úsáid chun éalú ó fhadhb mhatamaiticiúil.

Ní ceist eitice é líonra néarach a tháirgeann torthaí éagsúla ar ionchuir chomhionanna. Is ceist éagobhsaíochta matamaiticiúla é. Ní fadhb ailínithe luachanna é córas a chruthaíonn seafóid a fhuaimeann muiníneach. Is fadhb theorannaithe meaitseála patrún é.

Glacann creataí eitice leis go n-oibríonn an córas i gceart ar an gcéad dul síos. Baineann siad le roghnú an ghnímh cheart. Ach nuair nach féidir leis an gcóras aon ghníomh a fhorghníomhú go hiontaofa, níl aon ábhar san eitic.

Sin an fáth a bhfeicimid teipeanna AI i gcónaí in ainneoin na gcoistí eitice agus na dtreoirlínte sábháilteachta go léir. Táimid ag déileáil le comharthaí agus neamhaird á déanamh againn ar an ngalar.

An réiteach fíorúcháin fhoirmiúil

Tá réimse san eolaíocht ríomhaireachta atá tiomnaithe do chruthú go n-oibríonn córais i gceart: modhanna foirmiúla. Teicnící matamaiticiúla a fhíoraíonn iompar bogearraí go docht. Cruthaigh, ní tástáil. Ráthaigh, ní meastachán.

Tá fíorú foirmiúil in úsáid le blianta fada i gcórais ríthábhachtacha: bogearraí rialaithe aerárthaí, bainistíocht imoibreoirí núicléacha, loingseoireacht spásárthaí. Teastaíonn cinnteacht mhatamaiticiúil ó na córais seo, ní muinín staitistiúil.

Cén fáth nach bhfuil AI ag úsáid fíorú foirmiúil? Toisc go bhfuil líonraí néaracha ponc snámh dothuigthe ó thaobh na matamaitice de le fíorú.

Ní féidir leat airíonna córais a chruthú nuair atá an córas féin tógtha ar uimhríocht chomhfhogasach. Tugann ponc snámh éiginnteacht isteach ag gach céim. Scaipeann an éiginnteacht sin. Méadaíonn sí. Éiríonn sí dodhéanta le réasúnú foirmeálta a dhéanamh uirthi.

Ní fadhb uirlisí é seo. Is éard atá ann ná neamh-chomhoiriúnacht bhunúsach idir matamaitic na líonraí néarúla agus matamaitic an fhíoraithe fhoirmiúil.

Líonraí dénártha: AI le cruthúnas ceart

Athraíonn líonraí néarúla dénártha an chothromóid go hiomlán.

In ionad meastacháin ar phointe snámh, úsáideann líonraí dénártha oibríochtaí scoite. +1 nó -1. Fíor nó bréagach. Uimhríocht bheacht gan aon earráidí slánaithe.

Mar gheall air seo, bíonn siad oiriúnach d'fhíorú foirmiúil. Is féidir leat airíonna faoi iompar líonra dénártha a chruthú i ndáiríre. Ráthaíocht mhatamaiticiúil a thabhairt do thorthaí áirithe. Córais AI a chruthú leis an déine chéanna le bogearraí rialaithe aerárthaí.

Ag Dweve, thóg muid ár n-ardán iomlán ar an bprionsabal seo. Soláthraíonn Core an creat dénártha. Cuireann Loom réasúnaíocht bhunaithe ar shrianta i bhfeidhm le hairíonna in-chruthaithe. Tá gach oibríocht beacht go matamaiticiúil. Tá gach cinneadh inrianaithe.

Ní hamháin go bhfuil sé seo níos iontaofa. Tá sé i bhfad níos sábháilte ó bhonn. Sábháilteacht trí dhian-mhatamaitic, ní trí threoirlínte eitice.

Coinníollacha mar ráillí sábháilteachta

Seo buntáiste eile a bhaineann le líonraí dénártha: oibríonn siad le coinníollacha, ní le dóchúlachtaí.

Is riail chrua é coinníoll. "Ní mór don luach seo a bheith dearfach." "Ní mór don aschur seo na coinníollacha seo a shásamh." Is féidir le líonraí dénártha coinníollacha a ionchorprú go díreach ina n-ailtireacht.

Ciallaíonn sé seo go n-éiríonn ceanglais sábháilteachta ina gcoinníollacha matamaiticiúla, ní scagairí iar-phróiseála. Ní féidir leis an gcóras aschuir a sháraíonn coinníollacha a tháirgeadh, go litriúil. Tá sé dodhéanta go matamaiticiúil, ní hamháin go bhfuil sé neamhdhócha.

Cuir é seo i gcomparáid le líonraí néarúla traidisiúnta, áit a bhfuil an tsábháilteacht mar iar-smaoineamh. Traenáil an tsamhail, ansin cuir ráillí cosanta leis. Bí ag súil go mbeidh na ráillí cosanta in ann fadhbanna a ghabháil. Déileáil le teipeanna nuair a shleamhnaíonn siad tríd.

Tógann AI atá bunaithe ar choinníollacha an tsábháilteacht isteach sa mhatamaitic. Is é an difríocht é idir carr le droch-choscáin agus carr nach féidir leis luasanna contúirteacha a bhaint amach go fisiciúil.

An fhadhb ailínithe (réitithe i ndáiríre)

Fiafraíonn fadhb ailínithe an AI: conas a chinntímid go ndéanann córais AI an rud a theastaíonn uainn?

An cur chuige reatha: traenáil ar aiseolas daonna, cuir níos mó samplaí leis, bí ag súil go ngabhfaidh na patrúin staitistiúla luachanna daonna. Tá sé dóchúlachtaithe ó bhonn. Éiginnte ó bhonn.

Tairgeann líonraí dénártha le réasúnaíocht bhunaithe ar choinníollacha cur chuige difriúil: sonraigh go matamaiticiúil cad atá uait. Ní mór don chóras na coinníollacha sin a shásamh. Ní "de ghnáth" ná "le muinín 99.9%." Ní mór a shásamh. Ráthaithe go matamaiticiúil.

Ní réitíonn sé seo ailíniú fealsúnach. Má shonraíonn tú na coinníollacha míchearta, gheobhaidh tú an t-iompar mícheart. Ach réitíonn sé ailíniú teicniúil. Más féidir leat a fhoirmiú cad atá uait, déanfaidh an córas go díreach é sin. Gan aon sreabhadh. Gan aon ghinearálú gan choinne. Gan aon mhí-ailíniú atá ag teacht chun cinn.

Aistríonn an chuid chrua ó "conas a dhéanaimid iontaofa é" go "conas a shonraímid cad atá uainn." Is fadhb i bhfad níos fearr í sin a bheith agat.

Tá an cinntitheach sábháilte

Ceann de na gnéithe sábháilteachta is lú a bhfuil meas air i líonraí dénártha: tá siad cinntitheach.

Táirgeann an t-ionchur céanna an t-aschur céanna i gcónaí. Rith an córas milliún uair, faigh torthaí comhionanna. Is cosúil go bhfuil sé seo bunúsach, ach tá sé domhain don tsábháilteacht.

Ciallaíonn tástáil rud éigin i ndáiríre. Má éiríonn le tástáil, rachaidh an t-ionchur céanna tríd i gcónaí. Is féidir leat iompar a dheimhniú. Muinín a chothú trí ath-inúsáidteacht.

Níl sé seo ag líonraí snámhphointe. Is féidir leis an ionchur céanna aschuir éagsúla a tháirgeadh ag brath ar chrua-earraí, leaganacha bogearraí, fiú ord na n-oibríochtaí. Tugann tástáil sampla staitistiúil duit, ní ráthaíocht.

Maidir le córais ríthábhachtacha, is sábháilteacht é cinnteacht. Caithfidh tú a fhios go díreach cad a dhéanfaidh an córas, gach uair, i ngach cás. Soláthraíonn líonraí dénártha é seo. Ní féidir le líonraí snámhphointe é a dhéanamh go bunúsach.

Inléitheacht trí shrianta

Ba mhaith le gach duine AI inléite. Mura dtuigimid cén fáth ar ghlac córas cinneadh, conas is féidir linn muinín a bheith againn as?

An fhadhb le líonraí néaracha snámhphointe: is boscaí dubha iad. Na billiúin paraiméadar, idirghníomhaíochtaí casta, gan aon chonair chinnteoireachta soiléir. Fiú na taighdeoirí a thóg iad ní féidir leo aschuir shonracha a mhíniú.

Tá líonraí dénártha le réasúnaíocht bhunaithe ar shrianta níos inléite go bunúsach. Seiceálann an córas srianta. Is féidir leat a fheiceáil cé na srianta a comhlíonadh, cé na cinn nár comhlíonadh, conas a lean an cinneadh ó na srianta.

Ní trédhearcacht fhoirfe é. Tá córais chasta fós casta. Ach is é an difríocht idir "shann an tsamhail dóchúlacht 0.87 bunaithe ar phatrúin fhoghlaimithe" agus "chomhlíon an cinneadh srianta A, B, agus C, ach sháraigh sé srian D, mar sin roghnaíodh aschur X."

Staitisticí doiléire atá i gceann amháin. Réasúnaíocht loighciúil is féidir leat a leanúint agus a fhíorú atá sa cheann eile.

Sábháilteacht trí ailtireacht

Caithfidh pobal sábháilteachta AI iarracht ollmhór ar bhearta sábháilteachta iar-fhíorais. Oiliúint ailínithe, mionchoigeartú sábháilteachta, scagadh aschuir, maoirseacht dhaonna.

Is bindealáin iad seo ar ailtireachtaí neamhshábháilte go bunúsach. Tá tú ag iarraidh córas éagobhsaí a dhéanamh cobhsaí trí rialuithe seachtracha.

Léiríonn líonraí néaracha dénártha paraidím difriúil: sábháilteacht trí ailtireacht. Tá na bunsraitheanna matamaiticiúla cobhsaí. Tá na hoibríochtaí cruinn. Tá na srianta ionsuite. Ní chuirtear sábháilteacht ar bharr; tá sí lárnach don dearadh.

Léiríonn ailtireacht Dweve Core an prionsabal seo. 1,930 algartam, go léir dian ó thaobh matamaitice de. 415 primitive, 500 eithne, 191 ciseal, 674 algartam ardleibhéil. Gach ceann acu deartha le haghaidh cobhsaíochta agus infhíoraitheachta.

Tógann Loom 456 ar an mbunsraith seo le 456 saineolaí fearainn, gach ceann ag láimhseáil cineálacha sonracha réasúnaíochta. Ciallaíonn gníomhachtú scaoilte go nglacann ach saineolaithe fearainn ábhartha páirt. Ciallaíonn loighic bhunaithe ar shrianta go gcaithfidh aschuir ceanglais fhoirmiúla a chomhlíonadh.

Seo sábháilteacht AI ag leibhéal na hailtireachta, ní ag leibhéal an bheartais.

An buntáiste Eorpach

Tá rialacháin dhian ag an Eoraip maidir le sábháilteacht AI. GDPR, an tAcht AI, dlíthe cosanta sonraí. Cruthaíonn siad seo ualaí comhlíonta do chórais nach féidir leo iompar a ráthú.

Ach cruthaíonn siad deiseanna do chórais ar féidir leo.

Is féidir le líonraí néaracha dénártha le fíorú foirmiúil ceanglais rialála a chomhlíonadh i ndáiríre. Cothroime a chruthú. Neamh-idirdhealú a léiriú. Láimhseáil sonraí a ráthú. Iniúchthacht a thaispeáint.

Ní féidir le líonraí néaracha traidisiúnta é seo a dhéanamh. Is féidir leo airíonna staidrimh a thaispeáint, samplaí a sholáthar, dearbhuithe dóchúlachta a thairiscint. Ach ní féidir leo aon rud a chruthú go matamaiticiúil.

Ciallaíonn sé seo go bhfuil buntáiste rialála ag cuideachtaí AI Eorpacha a úsáideann líonraí dénártha. Is féidir leo sábháilteacht a dheimhniú ar bhealaí nach féidir le córais snámhphointe a mheaitseáil ar chor ar bith.

Is buntáiste iomaíoch é comhlíonadh seachas ualach.

Ceanglais rialála Eorpacha (cén fáth a bhfuil tábhacht leis an matamaitic go dlíthiúil)

Éilíonn Airteagal 13 d'Acht AI an AE doiciméadú teicniúil a léiríonn comhlíonadh na gceanglas sábháilteachta. Éilíonn Airteagal 15 cruinneas, láidreacht, agus bearta cibearshlándála. Cruthaíonn na ceanglais seo dúshláin do chórais nach féidir iompar a chruthú go foirmiúil.

Dúshláin dheimhniúcháin d'AI atá ríthábhachtach ó thaobh sábháilteachta de: Éilíonn comhlachtaí deimhniúcháin Gearmánacha ar nós TÜV sonraíochtaí foirmiúla d'AI in iarratais ríthábhachtacha. Soláthraíonn torthaí tástála staidrimh ("cruinneas 99%") dearbhuithe éagsúla ó chruthúnais mhatamaiticiúla ar shástacht srianta. Tá cosáin dheimhniúcháin níos réidhe ag córais ar féidir leo ráthaíochtaí foirmiúla a sholáthar ná ag córais atá ag brath ar bhailíochtú eimpíreach amháin.

Rialachán na bhFeistí Leighis (MDR): Ní mór do dhiagnóisic atá bunaithe ar AI a éilíonn marcáil CE sábháilteacht a léiriú trí mhodheolaíocht dhian. Tá ceanglais an MDR maidir le hiompar intuartha, infhíoraithe ina ndúshlán do líonraí néaracha a bhfuil stoichisteachas ionchasach iontu. Tá córais a thairgeann ráthaíochtaí cinntitheacha ag teacht níos fearr leis na ceanglais dheimhniúcháin atá deartha do fheistí leighis ina bhfuil sábháilteacht thar a bheith tábhachtach.

Caighdeáin sábháilteachta aeraspáis: Éilíonn deimhniú DO-178C do bhogearraí avionics atá ríthábhachtach ó thaobh sábháilteachta de, go háirithe Leibhéal A (áit a mbíonn iarmhairtí tubaisteacha ag teip), modhanna foirmiúla a chruthaíonn ceartacht. Téann nádúr dóchúlachta líonraí néaracha traidisiúnta salach ar riachtanais DO-178C go bunúsach. Cruthaíonn sé seo constaicí d'fheidhmiú AI i gcórais atá ríthábhachtach d'eitilt mura n-úsáidtear ailtireachtaí malartacha le cumais fhíoraithe fhoirmiúla.

Rialachán airgeadais: Éilíonn MiFID II ar chórais trádála algartamacha rialuithe a léiriú a chuireann cosc ar ionramháil mhargaidh. Tá difríocht shuntasach idir easpa iompraíochtaí sonracha a chruthú go matamaiticiúil agus rátaí tarlaithe eimpíreacha ísle a thaispeáint. Is féidir le córais le sonraíochtaí foirmiúla srianta argóintí comhlíonta níos láidre a sholáthar ná córais ina dtagann iompar chun cinn ó fhoghlaim staidrimh amháin.

Conas a oibríonn fíorú foirmiúil i ndáiríre

Cuireann fíorú foirmiúil teicníochtaí cruthúnais matamaiticiúla i bhfeidhm chun airíonna córas AI a ráthú.

Cur chuige ionchódaithe srianta: Smaoinigh ar AI diagnóisic leighis nach mór dó cóireálacha atá contrártha le cógais othar a sheachaint go hiomlán. Cur chuige traidisiúnta: traenáil an tsamhail, déan tástáil fhairsing, bí ag súil go bhfoghlaimeoidh sé an srian, cuir scagairí sábháilteachta leis. Cur chuige bunaithe ar shrianta: ionchódaigh an riachtanas go matamaiticiúil mar shrian crua. Eascraíonn teaglamaí contrártha as spás réitigh an chórais go sainráite, ní 99.99% sábháilte, ach dodhéanta go matamaiticiúil iad a shárú.

Ceanglais sábháilteachta feithicleacha: Éilíonn caighdeán sábháilteachta feidhmiúla ISO 26262 do chórais fheithicleacha cruthúnas ar mhaolú guaise. Léiríonn an difríocht idir "braitheadh 99.8% de choisithe sa tástáil" agus "is féidir braite a chruthú do gach coisí a chomhlíonann critéir infheictheachta X laistigh d'fholáis Y" leibhéil ráthaíochta atá bunúsach éagsúil. Is fianaise eimpíreach an chéad cheann; is cruthúnas matamaiticiúil an dara ceann. Éilíonn deimhniú ASIL-D (an leibhéal is airde sláine sábháilteachta feithicleach) ráthaíochtaí ar leibhéal cruthúnais nach féidir le tástáil staitistiúil amháin a sholáthar.

Caighdeáin uathoibrithe thionsclaíoch: Éilíonn IEC 61508 Leibhéal Sláine Sábháilteachta (SIL) 3 nó 4 do chórais ríthábhachtacha thionsclaíocha. Éilíonn SIL 4 go léireofaí dóchúlacht <10⁻⁸ teipe contúirtí in aghaidh na huaire. Cuireann seachantacht dhúchasach meaisínfhoghlama traidisiúnta cosc ar ráthaíochtaí foirmiúla ag an leibhéal seo. Teastaíonn cruthúnais mhatamaiticiúla ar theorainneacha teipe ó chórais a dteastaíonn deimhniú SIL 4 uathu, teicníochtaí fíoraithe a bhaineann le córais chinntitheacha atá bunaithe ar shrianta ach ní le líonraí néaracha iondúla.

Impleachtaí tráchtála an fhíoraithe sábháilteachta

Cruthaíonn fíorú sábháilteachta matamaiticiúil dinimic tráchtála thar chomhlíonadh rialála.

Soláthar agus rochtain ar an margadh: Éilíonn soláthar earnála poiblí na hEorpa deimhniú sábháilteachta AI inléirithe níos mó agus níos mó d'fheidhmchláir ardriosca. Cuirtear córais nach féidir leo ráthaíochtaí foirmiúla sábháilteachta a sholáthar as an áireamh ó thairiscintí beag beann ar fheidhmíocht eimpíreach. Cinnfidh an cumas cruthúnais mhatamaiticiúla a sholáthar rochtain ar an margadh, ní hamháin torthaí tástála suntasacha.

Cúrsaí árachais agus dliteanais: Is dúshlán é measúnú achtúireach ar rioscaí córas AI nuair nach féidir iompar a chruthú go foirmiúil. Éilíonn clúdach árachais d'fheidhmchláir ríthábhachtacha, diagnóisic leighis, feithiclí uathrialaitheacha, uathoibriú tionsclaíoch, go léireodh córais airíonna foirmiúla sábháilteachta níos mó agus níos mó. Cruthaíonn sé seo deighilt: bíonn córais le ráthaíochtaí matamaiticiúla inárachaithe; bíonn deacrachtaí clúdaigh nó préimheanna toirmiscthe ag córais atá íon-staitistiúil.

Amchláir dheimhniúcháin: Tagann patrún frith-intuigthe chun cinn: is féidir le córais le fíorú foirmiúil ceadú rialála a bhaint amach níos tapúla ná iad siúd a bhraitheann ar thástáil eimpíreach fhairsing. Soláthraíonn cruthúnas foirmiúil cosáin dheimhniúcháin chinntitheacha: cruthaigh sásamh srianta, faigh ceadú. Bíonn timthriallta tástála athchleachtacha agus ceisteanna rialála faoi chásanna imeallacha roimh chur chuige eimpíreach nach féidir le bailíochtú staitistiúil a fhreagairt go cinntitheach. Is féidir le cinnteacht mhatamaiticiúil imscaradh a luathú seachas a mhoilliú.

Dinimic muiníne custaiméirí: Éilíonn custaiméirí fiontraíochta na hEorpa AI inléirithe níos mó agus níos mó, go háirithe i gcomhthéacsanna B2B. Athraíonn "Cén fáth ar ghlac an córas an cinneadh seo?" ó rud deas a bheith ann go dtí rud a bhriseann an margadh. Is féidir le córais le réasúnaíocht bhunaithe ar shrianta míniúcháin loighciúla a sholáthar; ní féidir le líonraí néaracha bhosca dhubh. Comhghaolaíonn muinín le hintuigtheacht, agus cuireann an mhatamaitic ar chumas tuisceana ar bhealaí nach ndéanann patrúin staitistiúla foghlamtha.

Cur i bhfeidhm teicniúil: conas a ráthaíonn srianta sábháilteacht

Is fiú míniú a thabhairt ar mheicnic na sábháilteachta atá bunaithe ar shrianta. Cén chaoi go díreach a chuireann an mhatamaitic cosc ar theipeanna AI?

Ionchódú srianta: Aistrítear ceanglais sábháilteachta go srianta matamaiticiúla roimh an oiliúint. Ní "níor cheart don tsamhail X a sheachaint", sin smaointeoireacht mhianach. "Eisiann an spás aschuir X", sin matamaitic. Sampla diagnóis leighis: déantar cóireáil T atá contrártha le cógais M ina srian C: ¬(recommend(T) ∧ patient_takes(M)). Ní féidir leis an gcóras aschuir a sháraíonn C a tháirgeadh ar chor ar bith. Sainmhínítear an spás réitigh le srianta. Caithfidh gach aschur féideartha na srianta go léir a shásamh. Ní hé nach dócha go dtarlóidh aschuir dodhéanta; tá siad eisiata go matamaiticiúil.

Próiseas fíoraithe: Tar éis na hoiliúna, cruthaíonn uirlisí fíoraithe foirmiúla go sásaítear na srianta. Seiceáil samhla, cruthúnas teoirim, réiteach sásaitheachta, teicnící ó mhodhanna foirmiúla. Do líonraí dénártha: ríomh inláimhsithe. Do líonraí snámhphointe: doríofa. Táirgeann an fíorú cruthúnas matamaiticiúil: "Do gach ionchur bailí I, sásaíonn na haschuir O go léir na srianta C." Ní éileamh staitistiúil é. Cainníochtú uilíoch thar an spás ionchuir. Tuigeann rialtóirí Eorpacha an difríocht. Is fianaise ceann amháin. Is cruthúnas an ceann eile.

Ráthaíochtaí ag am rite: Ní hamháin go srianann na srianta an oiliúint; srianann siad gach aschur. Téann gach cinneadh trí sheiceálaí srianta. Moltar aschur, fíoraítear na srianta, ní cheadaítear ach aschuir chomhlíontacha. An gcuireann sé seo moill air? Íosta: tá oibríochtaí dénártha tapa. An gcuireann sé sábháilteacht leis? Iomlán: dodhéantacht mhatamaiticiúil sárú srianta. Tá an anailís costais is tairbhe soiléir: micrea-soicindí seiceála i gcomparáid le teipeanna tubaisteacha ó aschuir neamhshrianta.

Sábháilteacht chomhshuiteach: Comhshuiteann il-srianta go matamaiticiúil. Srian sábháilteachta S1 móide srian cothroime F1 móide srian feidhmíochta P1: caithfidh an córas S1 ∧ F1 ∧ P1 a shásamh ag an am céanna. Cur chuige traidisiúnta: oiliúint le haghaidh sábháilteachta, athoiliúint le haghaidh cothroime, súil a choinneáil nach dtagann meath ar fheidhmíocht. Cur chuige atá bunaithe ar shrianta: sonraigh na ceanglais go léir roimh ré, faigh réiteach a shásaíonn an comhchuingiú. Ní bhíonn sé ann i gcónaí: uaireanta bíonn coinbhleacht idir srianta. Ach is fearr dodhéantacht a fháil amach le linn an dearadh ná le linn an imlonnaithe. Cuireann an mhatamaitic ionracas i bhfeidhm maidir le comhbhabhtálacha.

Anailís ar chásanna teipe: Nuair a theipeann ar chórais atá bunaithe ar shrianta, tá an modh teipe go bunúsach difriúil. Líonraí néaracha traidisiúnta: teipeanna ciúine, aschuir inchreidte ach mícheart, gan aon chomhartha éiginnteachta. Córais atá bunaithe ar shrianta: brath sáraithe srianta go sainráite. Aithníonn an córas nach féidir leis na srianta go léir a shásamh, diúltaíonn sé aschur a thabhairt, tuairiscíonn sé cén srian ar theip air. Teip chosantach: tá a fhios ag an gcóras nach bhfuil a fhios aige. Sampla diagnóis leighis: d'fhéadfadh córas traidisiúnta diagnóis a thabhairt in ainneoin easpa faisnéise. Braitheann córas atá bunaithe ar shrianta sárú sriain faisnéise, agus tugann sé "gan dóthain sonraí le haghaidh diagnóis" ina ionad. Ní áisiúil i gcónaí. Sábháilte i gcónaí. Is fearr le rialtóirí feistí leighis Eorpacha sábháilteacht neamh-áisiúil ná tubaiste áisiúil. Foghlaimíonn Meiriceánaigh an ceacht seo go costasach.

Thar eagla, i dtreo cinnteachta

Tá eagla i gceannas ar an díospóireacht faoi shábháilteacht AI. Eagla roimh chórais neamhrialaithe. Eagla roimh mhí-ailíniú. Eagla roimh iarmhairtí neamhbheartaithe.

Tá na himní seo bailí. Ach is comharthaí iad d'éiginnteacht mhatamaiticiúil. Nuair a bhíonn d'AI tógtha ar bhunsraitheanna éagobhsaí, ar ndóigh bíonn imní ort faoi cad a d'fhéadfadh sé a dhéanamh.

Cuireann líonraí néaracha dénártha rud éigin difriúil ar fáil: cinnteacht mhatamaiticiúil. Ní cinnteacht faoi gach toradh, ach cinnteacht faoi airíonna matamaiticiúla an chórais. Cinnteacht go gcomhlíonfar srianta. Cinnteacht go bhfuil iompar in-atáirgthe.

Aistríonn sé seo an comhrá ó "conas a rialaímid an córas dothuartha seo" go dtí "conas a shonraímid iompar ceart." Ó eagla go hinnealtóireacht.

Institiúidí Eorpacha ag déanamh an aistrithe seo cheana féin. Institiúid Max Planck um Chórais Chliste ag díriú ar thaighde fíorúcháin fhoirmiúil. INRIA na Fraince ag imscaradh AI atá bunaithe ar shrianta i gcórais rialtais. Institiúidí Fraunhofer na Gearmáine ag forbairt AI in-dheimhnithe d'fheidhmchláir thionsclaíocha. Ní toisc go n-ordaíonn rialachán é, ach toisc go gcumasaíonn matamaitic é. Nuair is féidir leat sábháilteacht a chruthú, ní gá duit díospóireacht a dhéanamh faoi. Nuair is féidir leat iompar a ráthú, ní gá duit súil a bheith agat air. Laghdaíonn an eagla nuair a bhíonn na bunsraitheanna soladach.

An fíor-chonair chuig AI sábháilte

Ní bhaineann sábháilteacht AI le comhfhiosacht, le braistint, ná le hailíniú luachanna sa chiall fhealsúnach teibí. Baineann sé le córais a thógáil a dhéanann cad ba cheart dóibh a dhéanamh, go hiontaofa, gach uair.

Tá tábhacht leis an eitic. Ach is smaointeoireacht ghuí í an eitic gan bunsraitheanna matamaiticiúla. Ní féidir leat do bhealach a rialáil chuig AI sábháilte má tá an mhatamaitic bhunúsach briste.

Tá an chonair ar aghaidh soiléir: tóg AI ar bhunsraitheanna atá fónta ó thaobh na matamaitice de. Úsáid ailtireachtaí a thacaíonn le fíorú foirmiúil. Ionchorpraigh srianta go díreach sa dearadh. Déan an tsábháilteacht intreach, ní seachtrach.

Ní réiteach iomlán iad líonraí néaracha dénártha ar gach imní faoi shábháilteacht AI. Ach réitíonn siad an fhadhb bhunúsach: éagobhsaíocht mhatamaiticiúil. Agus sin an réamhriachtanas do gach rud eile.

Ní féidir leat córas a ailíniú nach n-oibríonn go hiontaofa. Ní féidir leat cinntí eiticiúla a dhéanamh le huirlisí a tháirgeann aschuir neamh-chomhsheasmhacha. Ní féidir leat AI iontaofa a thógáil ar thalamh mhatamaiticiúil chroitheadh.

Ach is féidir leat córais atá sábháilte go cruthaithe a thógáil le matamaitic dhian. Is féidir leat AI a chruthú a shásaíonn srianta trí dhearadh. Is féidir leat teicneolaíocht a fhorbairt ina bhfuil sábháilteacht ráthaithe, ní ina bhfuil súil léi.

Sin é a sheachadann ardán Dweve. Dianmhatamaitic. Infhíoraitheacht fhoirmiúil. Sábháilteacht atá bunaithe ar shrianta. Ní trí chreatacha eiticiúla, ach trí mhatamaitic níos fearr.

Tá géarchéim sábháilteachta AI fíor. Ach is fadhb mhatamaitice í, ní fadhb fhealsúnachta. Agus tá réitigh mhatamaiticiúla ar fhadhbanna matamaitice.

Thuig an Eoraip é seo ón tús. Mhúin cianta de thubaistí innealtóireachta ceacht simplí: ní straitéis í an dóchas, ní cruthúnas é an tástáil, agus ní choscann dea-intinn teipeanna tubaisteacha. Déanann an mhatamaitic. Ní bhíonn cuideachtaí AI Eorpacha atá ag tógáil ar an mbunsraith seo faoi mhíbhuntáiste ag an rialachán; cumasaítear iad aige. Nuair atá sábháilteacht ráthaithe go matamaiticiúil, luathaíonn imscaradh. Nuair atá iompar fíoraithe go foirmiúil, leanann muinín go nádúrtha. Ní díospóireachtaí fealsúnacha faoin gcomhfhiosacht atá i dtodhchaí an AI. Is matamaitic dhian í a chinntíonn go n-oibríonn córais i gceart. Ní raibh cur chuige na hEorpa cosantach. Bhí sé ceart ón tús.

Réidh le haghaidh AI ar féidir leat muinín a bheith agat as i ndáiríre? Tá líonraí néaracha dénártha atá infhíoraithe go foirmiúil ó Dweve Core ag teacht. Sábháilteacht trí mhatamaitic, ní trí dhóchas. Bí ar ár liosta feithimh.