Proposta ta’ qafas regolatorju dwar l-intelliġenza artifiċjali

Il-proposta regolatorja għandha l-għan li tipprovdi lill-iżviluppaturi, lill-implimentaturi u lill-utenti tal-IA b’rekwiżiti u obbligi ċari fir-rigward tal-użi speċifiċi tal-IA. Fl-istess ħin, il-proposta tfittex li tnaqqas il-piżijiet amministrattivi u finanzjarji għan-negozji, b’mod partikolari l-intrapriżi żgħar u ta’ daqs medju (SMEs).

Il-proposta hija parti minn pakkett usa’ tal-IA, li jinkludi wkoll il-Pjan Ikkoordinat aġġornat dwar l-IA. Flimkien, il-Qafas Regolatorju u l-Pjan Ikkoordinat se jiggarantixxu s-sikurezza u d-drittijiet fundamentali tan-nies u tan-negozji f’dak li għandu x’jaqsam mal-IA. U, dawn se jsaħħu l-adozzjoni, l-investiment u l-innovazzjoni fl-IA madwar l-UE.

Għaliex għandna bżonn regoli dwar l-IA?

Ir-regolament propost dwar l-IA jiżgura li l-Ewropej ikunu jistgħu jafdaw dak li għandha x’toffri l-IA. Filwaqt li l-biċċa l-kbira tas-sistemi tal-IA huma limitati għal ebda riskju u jistgħu jikkontribwixxu għas-soluzzjoni ta’ ħafna sfidi tas-soċjetà, ċerti sistemi tal-IA joħolqu riskji li rridu nindirizzaw biex nevitaw riżultati mhux mixtieqa.

Pereżempju, ħafna drabi ma jkunx possibbli li wieħed ikun jaf għaliex sistema tal-IA ħadet deċiżjoni jew tbassir u ħadet azzjoni partikolari. Għalhekk, jista’ jkun diffiċli li jiġi vvalutat jekk xi ħadd kienx żvantaġġat b’mod inġust, bħal f’deċiżjoni ta’ reklutaġġ jew f’applikazzjoni għal skema ta’ benefiċċju pubbliku.

Għalkemm il-leġiżlazzjoni eżistenti tipprovdi xi protezzjoni, mhijiex biżżejjed biex tindirizza l-isfidi speċifiċi li s-sistemi tal-IA jistgħu jġibu magħhom.

Ir-regoli proposti se:

• jindirizzaw ir-riskji maħluqa speċifikament mill-applikazzjonijiet tal-IA;
• tipproponi lista ta’ applikazzjonijiet b’riskju għoli;
• tistabbilixxi rekwiżiti ċari għas-sistemi tal-AI għal applikazzjonijiet ta’ riskju għoli;
• tiddefinixxi obbligi speċifiċi għall-utenti tal-IA u l-fornituri ta’ applikazzjonijiet ta’ riskju għoli;
• tipproponi valutazzjoni tal-konformità qabel ma s-sistema tal-AI titqiegħed fis-servizz jew titqiegħed fis-suq;
• tipproponi infurzar wara li tali sistema tal-AI titqiegħed fis-suq;
• tipproponi struttura ta’ governanza fil-livell Ewropew u nazzjonali.

Approċċ ibbażat fuq ir-riskju

Il-Qafas Regolatorju jiddefinixxi 4 livelli ta’ riskju fl-AI:

• Riskju mhux aċċettabbli
• Riskju għoli
• Riskju limitat
• Riskju minimu jew l-ebda riskju

Riskju mhux aċċettabbli

Is-sistemi kollha tal-IA meqjusa bħala theddida ċara għas-sikurezza, l-għajxien u d-drittijiet tan-nies se jiġu pprojbiti, mill-għoti ta’ punti soċjali mill-gvernijiet għal ġugarelli bl-użu ta’ assistenza bil-vuċi li tinkoraġġixxi mġiba perikoluża.

Riskju għoli

Is-sistemi tal-AI identifikati bħala b’riskju għoli jinkludu t-teknoloġija tal-IA użata fi:

• infrastrutturi kritiċi (eż. it-trasport), li jistgħu jpoġġu l-ħajja u s-saħħa taċ-ċittadini f’riskju;
• taħriġ edukattiv jew vokazzjonali, li jista’ jiddetermina l-aċċess għall-edukazzjoni u l-kors professjonali tal-ħajja ta’ xi ħadd (eż. punteġġ ta’ eżamijiet);
• il-komponenti tas-sikurezza tal-prodotti (eż. l-applikazzjoni tal-AI f’kirurġija assistita mir-robot);
• l-impjieg, il-ġestjoni tal-ħaddiema u l-aċċess għal impjieg indipendenti (eż. software għall-għażla ta’ CVs għall-proċeduri ta’ reklutaġġ);
• servizzi essenzjali privati u pubbliċi (eż. punteġġ ta’ kreditu li jċaħħad liċ-ċittadini mill-opportunità li jiksbu self);
• l-infurzar tal-liġi li jista’ jinterferixxi mad-drittijiet fundamentali tan-nies (eż. evalwazzjoni tal-affidabbiltà tal-evidenza);
• il-ġestjoni tal-migrazzjoni, l-ażil u l-kontroll tal-fruntieri (eż. il-verifika tal-awtentiċità tad-dokumenti tal-ivvjaġġar);
• l-amministrazzjoni tal-ġustizzja u l-proċessi demokratiċi (eż. l-applikazzjoni tal-liġi għal sett konkret ta’ fatti).

Is-sistemi tal-AI b’riskju kbir se jkunu soġġetti għal obbligi stretti qabel ma jkunu jistgħu jitqiegħdu fis-suq:

• sistemi adegwati ta’ valutazzjoni tar-riskju u ta’ mitigazzjoni;
• kwalità għolja tas-settijiet tad-data li jikkontribwixxu għas-sistema biex jiġu minimizzati r-riskji u l-eżiti diskriminatorji;
• l-illoggjar tal-attività biex tiġi żgurata t-traċċabbiltà tar-riżultati;
• dokumentazzjoni dettaljata li tipprovdi l-informazzjoni kollha meħtieġa dwar is-sistema u l-għan tagħha għall-awtoritajiet biex jivvalutaw il-konformità tagħha;
• informazzjoni ċara u adegwata għall-utent;
• miżuri xierqa ta’ sorveljanza umana biex jitnaqqas ir-riskju;
• livell għoli ta ‘robustezza, sigurtà u preċiżjoni.

Is-sistemi kollha ta’ identifikazzjoni bijometrika remota huma meqjusa ta’ riskju għoli u soġġetti għal rekwiżiti stretti. L-użu ta’ identifikazzjoni bijometrika remota fi spazji aċċessibbli għall-pubbliku għal skopijiet ta’ infurzar tal-liġi huwa, fil-prinċipju, ipprojbit.

Eċċezzjonijiet stretti huma definiti u regolati b’mod strett, bħal pereżempju meta jkun meħtieġ għat-tfittxija ta’ tfal neqsin, għall-prevenzjoni ta’ theddida terroristika speċifika u imminenti jew għall-kxif, il-lokalizzazzjoni, l-identifikazzjoni jew il-prosekuzzjoni ta’ awtur jew suspett ta’ reat kriminali serju.

Dan l-użu huwa soġġett għal awtorizzazzjoni minn korp ġudizzjarju jew korp indipendenti ieħor u għal limiti ta’ żmien xierqa, il-firxa ġeografika u l-bażijiet tad-data mfittxija.

Riskju limitat

Riskju limitat jirreferi għal sistemi tal-AI b’obbligi speċifiċi ta’ trasparenza. Meta jużaw sistemi tal-IA bħal chatbots, l-utenti għandhom ikunu konxji li qed jinteraġixxu ma’ magna sabiex ikunu jistgħu jieħdu deċiżjoni infurmata biex ikomplu jew jieħdu pass lura.

Riskju minimu jew l-ebda riskju

Il-proposta tippermetti l-użu liberu ta’ AI b’riskju minimu. Dan jinkludi applikazzjonijiet bħal logħob tal-kompjuter abilitat bl-IA jew filtri tal-ispam. Il-maġġoranza l-kbira tas-sistemi tal-IA li jintużaw bħalissa fl-UE jaqgħu f’din il-kategorija.

Ladarba sistema tal-IA tkun fis-suq, l-awtoritajiet ikunu inkarigati mis-sorveljanza tas-suq, l-utenti jiżguraw is-sorveljanza u l-monitoraġġ tal-bniedem, u l-fornituri jkollhom fis-seħħ sistema ta’ monitoraġġ ta’ wara t-tqegħid fis-suq. Il-fornituri u l-utenti se jirrappurtaw ukoll inċidenti serji u funzjonament ħażin.

Leġiżlazzjoni li tibqa’ valida għall-futur

Peress li l-IA hija teknoloġija li qed tevolvi malajr, il-proposta għandha approċċ li jibqa’ validu fil-futur, li jippermetti li r-regoli jadattaw għall-bidla teknoloġika. L-applikazzjonijiet tal-IA għandhom jibqgħu affidabbli anki wara li jkunu tqiegħdu fis-suq. Dan jeħtieġ il-kwalità kontinwa u l-ġestjoni tar-riskju mill-fornituri.

Il-passi li jmiss

Wara l-proposta tal-Kummissjoni f’April 2021, ir-regolament jista’ jidħol fis-seħħ tard fl-2022/bidu tal-2023 f’perjodu tranżitorju. F’dan il-perjodu, l-istandards ikunu awtorizzati u żviluppati, u l-istrutturi ta’ governanza stabbiliti jkunu operattivi. It-tieni nofs tal-2024 huwa l-aktar żmien bikri li r-regolament jista’ jsir applikabbli għall-operaturi bl-istandards lesti u l-ewwel valutazzjonijiet tal-konformità mwettqa.