Alfabetizarea AI - Întrebări și amplificatoare; Răspunsuri

Articolul 4 din Regulamentul privind IA prevede că furnizorii și implementatorii de sisteme de IA ar trebui să ia măsuri pentru a asigura un nivel suficient de alfabetizare în domeniul IA a personalului lor și a altor persoane care se ocupă de operarea și utilizarea sistemelor de IA în numele lor. Acestea sunt obligate să facă acest lucru ținând seama de cunoștințele lor tehnice, de experiența, de educația și formarea personalului și a altor persoane, precum și de contextul în care urmează să fie utilizate sistemele de IA și de persoanele cărora urmează să le fie utilizate sistemele de IA.

Conceptul de alfabetizare în domeniul IA menționat la articolul 4 din Regulamentul privind IA se bazează pe definiția termenului prevăzută la articolul 3 punctul 56 din Regulamentul privind IA, potrivit căreia: „alfabetizare în domeniul IA” înseamnă competențe, cunoștințe și înțelegere care permit furnizorilor, implementatorilor și persoanelor afectate, ținând seama de drepturile și obligațiile lor respective în contextul prezentului regulament, să implementeze sistemele de IA în cunoștință de cauză, precum și să conștientizeze oportunitățile și riscurile IA și posibilele prejudicii pe care aceasta le poate cauza. 

Articolul 4 din Regulamentul privind IA este o dispoziție esențială pentru a se asigura că toți furnizorii și operatorii de sisteme de IA își dotează personalul cu competențele, cunoștințele și înțelegerea adecvate ale sistemului (sistemelor) furnizat(e) sau implementat(e). Acest lucru se referă la orice persoană din organizație care se ocupă în mod direct de un sistem de IA și consolidează dispozițiile privind transparența (articolul 13 din Regulamentul privind IA) și supravegherea umană (articolul 14 din Regulamentul privind IA) incluse în regulament. În același timp, articolul 4 contribuie indirect la protecția persoanelor afectate, deoarece asigură o aplicare eficace a normelor Regulamentului privind IA.  

„Persoanele care se ocupă de operarea și utilizarea sistemelor de IA în numele furnizorilor/utilizatorilor” înseamnă că aceștia nu sunt angajați, ci persoane care intră, în linii mari, în sfera de competență organizațională. Ar putea fi, de exemplu, un contractant, un furnizor de servicii, un client. 

Articolul 3 alineatul (56) menționează persoanele afectate. De asemenea, considerentul (20) are următorul cuprins: „Pentrua obține cele mai mari beneficii de pe urma sistemelor de IA, protejând în același timp drepturile fundamentale, sănătatea și siguranța și pentru a permite controlul democratic, alfabetizarea în domeniul IA ar trebui să doteze furnizorii, implementatorii și persoanele afectate cu noțiunile necesare pentru a lua decizii în cunoștință de cauză cu privire la sistemele de IA. Aceste noțiuni pot varia în funcție de contextul relevant și pot include înțelegerea aplicării corecte a elementelor tehnice în faza de dezvoltare a sistemului de IA, măsurile care trebuie aplicate în timpul utilizării sale, modalitățile adecvate de interpretare a rezultatelor sistemului de IA și, în cazul persoanelor afectate, cunoștințele necesare pentru a înțelege modul în care deciziile luate cu ajutorul IA vor avea un impact asupra acestora. În contextul aplicării prezentului regulament, alfabetizarea în domeniul IA ar trebui să ofere tuturor actorilor relevanți din lanțul valoric al IA informațiile necesare pentru a asigura conformitatea adecvată și aplicarea corectă a acesteia. În plus, punerea în aplicare pe scară largă a măsurilor de alfabetizare în domeniul IA și introducerea unor acțiuni ulterioare adecvate ar putea contribui la îmbunătățirea condițiilor de muncă și, în cele din urmă, ar putea susține consolidarea și calea de inovare a unei IA de încredere în Uniune”. Având în vedere cele de mai sus, în funcție de riscul specific, poate fi util să existe alfabetizare și pentru clienți/clienți.”

Articolul 4 din Regulamentul privind IA nu implică obligația de a măsura cunoștințele angajaților cu privire la IA. Cu toate acestea, afirmă că furnizorii și implementatorii de IA ar trebui să asigure un nivel suficient de alfabetizare în domeniul IA, ținând seama de cunoștințele tehnice, experiența, educația și formarea angajaților.

Da, Regulamentul privind IA face distincție între modelele de IA (modelele GPAI), sistemele de IA, inclusiv sistemele GPAI, interzise și sistemele cu risc ridicat. Pentru mai multe detalii, vă rugăm să consultați, de asemenea, orientările privind definirea sistemului de IA, publicate de Comisie la 6 februarie, pentru a ajuta furnizorii și alte persoane relevante să stabilească dacă un sistem software constituie un sistem de IA și pentru a facilita aplicarea eficace a normelor. Prezentele orientări, care nu au caracter obligatoriu și sunt concepute să evolueze în timp, explică aplicarea practică a conceptului juridic, astfel cum este ancorat în Regulamentul privind IA. Orientările privind definirea sistemelor de IA au fost publicate în plus față de Orientările privind practicile interzise în materie de inteligență artificială (IA), astfel cum sunt definite în Regulamentul privind IA. 

Pentru moment, informații privind activitățile Comisiei în legătură cu articolul 4 din Regulamentul privind IA pot fi găsite pe pagina web aPactului privindIA, inclusiv înregistrarea webinarului care a avut loc la 20 februarie șiregistrul viuprivind alfabetizarea în domeniul IA. Este în curs de pregătire o pagină web dedicată alfabetizării și competențelor în domeniul IA.

Oficiul pentru IA nu va impune cerințe stricte în ceea ce privește articolul 4 din Regulamentul privind IA și „nivelul suficient de alfabetizare în domeniul IA”. Dimpotrivă, consideră că este necesar un anumit grad de flexibilitate, având în vedere subiectul larg al alfabetizării în domeniul IA și tehnologia cu evoluție rapidă pe care o reprezintă IA. Cu toate acestea, pentru a respecta cel puțin articolul 4 din Regulamentul privind IA, furnizorii și implementatorii de sisteme de IA ar trebui:

a) asigurarea unei înțelegeri generale a IA în cadrul organizației lor: Ce este IA? Cum funcționează? Ce IA este utilizată în organizația noastră? Care sunt oportunitățile și pericolele?

b) să ia în considerare rolul organizației lor (furnizor sau operator de sisteme de IA): Organizația mea dezvoltă sisteme de IA sau utilizează doar sisteme de IA dezvoltate de o altă organizație?

c) Să ia în considerare riscul sistemelor de IA furnizate sau implementate: Ce trebuie să știe angajații atunci când au de-a face cu un astfel de sistem de IA? Care sunt riscurile de care trebuie să fie conștienți și de care trebuie să fie conștienți în ceea ce privește atenuarea?

d) să își construiască în mod concret acțiunile de alfabetizare în domeniul IA pe baza analizei precedente, având în vedere

• diferențe în ceea ce privește cunoștințele tehnice, experiența, educația și formarea personalului și a altor persoane – Cât de mult știu angajații/persoana despre IA și sistemele organizației pe care le utilizează? Ce altceva ar trebui să știe?
• precum și contextul în care urmează să fie utilizate sistemele de IA și persoanele cărora urmează să le fie utilizate sistemele de IA – în ce sector și în ce scop/serviciu este utilizat sistemul de IA?

Considerentele a, b, c și d includ aspecte juridice și etice. Prin urmare, sunt încurajate conexiunile cu Regulamentul UE privind IA (și anume, înțelegerea Regulamentului privind IA) și cu principiile eticii și guvernanței.

Astfel cum s-a raportat în răspunsul la întrebarea anterioară, pentru a se conforma articolului 4 din Regulamentul privind IA, organizațiile ar trebui să ia în considerare rolul lor (de furnizori sau implementatori de sisteme de IA), precum și riscurile asociate sistemelor de IA pe care le furnizează și/sau le implementează. În acest sens, organizațiile ar trebui să își adapteze abordarea în materie de alfabetizare în domeniul IA. De exemplu, în cazul în care sistemele de IA ale organizației prezintă un grad ridicat de risc, în conformitate cu capitolul III din Regulamentul privind IA, ar putea fi relevante măsuri suplimentare pentru a se asigura că angajații sunt conștienți de modul de gestionare a sistemelor de IA respective și de evitare și/sau atenuare a riscurilor acestora.

Acest lucru depinde de răspunsurile organizației la considerațiile de la întrebarea 1. Cu toate acestea, în multe cazuri, simplul fapt de a se baza pe instrucțiunile de utilizare ale sistemelor de IA sau de a solicita personalului să le citească ar putea fi ineficient și insuficient. Articolul 4 din Regulamentul privind IA este menit să ofere cursuri de formare și orientări, după caz, pe baza nivelului și a tipului de cunoștințe ale fiecărui grup-țintă, precum și având în vedere contextul și scopul sistemelor de IA utilizate în organizație.

Acest lucru este, de asemenea, în concordanță cu alte dispoziții ale Regulamentului privind IA. De exemplu, articolul 26 introduce o obligație pentru operatorii de sisteme cu grad ridicat de risc de a se asigura că personalul care se ocupă de sistemele de IA în practică este suficient de instruit pentru a gestiona sistemul și pentru a asigura supravegherea umană. Prin urmare, nu este suficient să se recurgă la instrucțiunile de utilizare, fiind necesare măsuri suplimentare.

Nu există o soluție universală în ceea ce privește alfabetizarea în domeniul IA, iar Oficiul pentru IA nu intenționează să impună cerințe stricte sau cursuri de formare obligatorii. Cerințele pentru o formare depind de contextul concret. Deși reproducerea practicilor colectate nu acordă în mod automat prezumția de conformitate cu articolul 4, inițiativele dinregistrul viu privind alfabetizarea în domeniul IA ar putea oferi o anumită sursă de inspirație.

Nu, Oficiul pentru IA nu impune cerințe pentru sectoare specifice. Cu toate acestea, astfel cum s-a raportat în răspunsul la întrebarea 1, contextul – inclusiv sectorul și scopul – în care sunt furnizate/puse în aplicare sistemele de IA ar trebui să fie relevant atunci când se dezvoltă și se lansează inițiativa privind alfabetizarea în domeniul IA. În plus, ar trebui luat în considerare nivelul de risc al sistemelor de IA.

Acest lucru depinde de tipul concret de sistem de IA și de risc (de exemplu, pentru un risc ridicat). În general, persoanele care lucrează pentru un furnizor de servicii sau un contractant trebuie să aibă competențele adecvate în materie de IA pentru a îndeplini sarcina în cauză (la fel ca angajații).

Da, ar trebui să fie informați cu privire la riscurile specifice, de exemplu halucinații.

Acestea sunt două întrebări distincte. Angajații și human-in-the-loop au nevoie de abilitățile adecvate, orientate în funcție de sistemul pe care îl folosesc.

În mod normal, da, dar depinde de instrumentul IA în cauză și de calificarea lor specifică. Acest lucru este deosebit de relevant având în vedere viteza evoluțiilor tehnologice.

Organizația ar trebui să ia în considerare în continuare etapele răspunsului la întrebarea 1 și să se întrebe: Acești angajați tehnici știu ce trebuie să știe despre sistemele de IA ale organizației și cum să le gestioneze? Sunt conștienți de toate riscurile și de modul în care pot fi evitate/atenuate? În plus, organizația ar trebui să ia în considerare ce altceva ar putea avea nevoie să știe acești angajați; de exemplu, aspectele juridice și etice ale IA.

Da, articolul 4 din Regulamentul privind IA încurajează furnizorii și operatorii să ia în considerare cunoștințele, experiența, educația și formarea angajaților și a altor persoane pentru a asigura un nivel suficient de alfabetizare în domeniul IA. Având în vedere diferența dintre sistemele de IA și faptul că nivelul de cunoștințe și experiență, precum și tipul de educație și formare primită ar putea varia, pot fi adecvate niveluri diferite de formare sau abordări de învățare.

Nu este nevoie de certificat. Organizațiile pot ține o evidență internă a cursurilor de formare și/sau a altor inițiative orientative.

Nu, nicio structură de guvernanță specifică nu este mandatată să respecte articolul 4 din Regulamentul privind IA.

Comisia Europeană a propus Omnibusul digital cu modificări specifice ale Regulamentului privind IA, ca parte a efortului mai amplu al Comisiei de a simplifica și de a spori eficacitatea cadrului de reglementare digital al UE. 

În ceea ce privește articolul 4, Comisia a propus să se transfere obligația statelor membre și a Comisiei de a promova alfabetizarea și perfecționarea și recalificarea în domeniul IA, mai degrabă decât să se impună organizațiilor o obligație nespecifică. Procedând astfel, Comisia va asigura, de asemenea, continuitatea eforturilor întreprinse până în prezent (în special prin intermediul acestui Q&A privind alfabetizarea în domeniul IA și registrul de practici de alfabetizare în domeniul IA).

Este important să se sublinieze că, pentru cei care implementează sisteme de IA cu grad ridicat de risc, obligația de a se asigura că personalul lor este instruit pentru a asigura supravegherea umană rămâne în vigoare.

Articolul 4 din Regulamentul privind IA a intrat în vigoare la 2 februarie 2025 și, prin urmare, se aplică deja obligația de a lua măsuri pentru a asigura alfabetizarea în domeniul IA a personalului lor. Normele de supraveghere și de asigurare a respectării legislației se aplică începând cu 3 august 2026.

Supravegherea și asigurarea respectării articolului 4 din Regulamentul privind IA nu intră în sfera de competență a Oficiului pentru IA, ci în sfera de competență aautorităților naționale desupraveghere a pieței. Autoritățile naționale de supraveghere a pieței vor începe să supravegheze și să asigure respectarea normelor începând cu 2 august 2026. Deși deciziile privind asigurarea respectării legislației sunt luate de autoritățile naționale de supraveghere a pieței din diferite state membre, Oficiul pentru IA va colabora îndeaproape cu Comitetul pentru IA pentru a sprijini o punere în aplicare adecvată.

Interdicțiile se aplică de la 2 februarie 2025. Prin intermediul Comitetului pentru IA și al cooperării dintre toate autoritățile relevante, se va asigura o aplicare coerentă a normelor.

Asigurarea respectării legislației la nivel public înseamnă că fiecare stat membru va numi autorități responsabile cu asigurarea respectării dispozițiilor Legii privind IA, care să supravegheze și să asigure respectarea acestei legi. Executarea la nivel privat se referă la scenariul în care o persoană privată suferă un prejudiciu și consideră că acest lucru se datorează faptului că o organizație nu respectă obligația prevăzută la articolul 4 și dă în judecată organizația pentru a primi despăgubiri.

Atunci când există un prejudiciu/prejudiciu, furnizorul unui sistem de IA poate fi acționat în justiție, în conformitate cu legislația națională. Legea privind IA nu creează infracțiuni sau un drept la despăgubiri.

Comisia va publica orientări privind aplicarea cerințelor și a obligațiilor menționate la articolele 8-15 și la articolul 25 din Legea privind IA, iar aceste orientări vor aborda, de asemenea, aspecte legate de alfabetizare, atunci când se discută, de exemplu, despre supravegherea umană sau gestionarea riscurilor.

În prezent, multe dintre agenții au deja acces la platforma de învățare a Comisiei (EU-Learn), precum și la resurse precum pachetele de învățare în domeniul IA și alte cursuri de formare ale Comisiei.

Pentru a sprijini punerea în aplicare și respectarea articolului 4 din Regulamentul privind IA, Oficiul pentru IA va continua să promovezeregistrul viu privind practicile de alfabetizare în domeniul IA, colectând exemple suplimentare de la organizații și actualizând Întrebări și răspunsuri;A la îndemână. Vor fi organizate activități suplimentare de sensibilizare și va fi lansată o pagină web dedicată activităților legate de alfabetizarea în domeniul IA (în cadrul și în afara domeniului de aplicare al articolului 4), de competențe și talente, cu scopul de a promova accesul la alfabetizarea în domeniul IA și de a încuraja dialogul privind IA pentru toți.

Registrul viu privind practicile de alfabetizare în domeniul IA este disponibil gratuit pe site-ul nostru: Repertoriu viu pentru a încuraja învățarea și schimbul de cunoștințe în domeniul IA

Un exemplu de inițiativă a UE care ar putea sprijini IMM-urile este rețeaua centrelor europene de inovare digitală (EDIH). Centrele europene de inovare digitală sunt 251 de ghișee unice în întreaga Europă (27 de state membre, 3 țări AELS – Norvegia, Islanda și Liechtenstein; 8 țări asociate: Albania, Bosnia și Herțegovina, Kosovo, Muntenegru, Macedonia de Nord, Serbia, Turcia și Ucraina), sprijinind IMM-urile și organizațiile din sectorul public să își digitalizeze procesele. 80 % dintre centrele europene de inovare digitală furnizează deja servicii axate pe IA, inclusiv cursuri de formare, ateliere, tabere de pregătire pentru diferite nevoi și niveluri de cunoaștere a IA. IMM-urile și organizațiile din sectorul public pot contacta centrele europene de inovare digitală pentru a primi sprijin în ceea ce privește tehnologiile IA și obiectivele lor de digitalizare în sens mai larg. Centrele europene de inovare digitală pot oferi asistență ca prim serviciu de asistență cu privire la Regulamentul privind IA și pot servi drept punctede intrare pentru alte măsuri de sprijin finanțate de UE,cum ar fi, printre altele, instalațiile de testare și experimentare (TEF) sau fabricile de IA. Puteți găsi EDIH cel mai apropiat de dumneavoastră în acest catalog.