Definițiile articolului 4 și ale Regulamentului privind IA
Furnizorii și operatorii de sisteme de IA ar trebui să ia măsuri pentru a asigura un nivel suficient de alfabetizare în domeniul IA a personalului lor și a altor persoane care se ocupă de operarea și utilizarea sistemelor de IA în numele lor. Acestea ar trebui să facă acest lucru ținând seama de cunoștințele lor tehnice, de experiența, de educația și formarea personalului și a altor persoane, precum și de contextul în care urmează să fie utilizate sistemele de IA și de persoanele cărora urmează să le fie utilizate sistemele de IA.
Conceptul de alfabetizare în domeniul IA menționat la articolul 4 din Regulamentul privind IA se bazează pe definiția termenului prevăzută la articolul 3 punctul 56 din Regulamentul privind IA, potrivit căreia: „alfabetizare în domeniul IA” înseamnă competențe, cunoștințe și înțelegere care permit furnizorilor, implementatorilor și persoanelor afectate, ținând seama de drepturile și obligațiile lor respective în contextul prezentului regulament, să implementeze sistemele de IA în cunoștință de cauză, precum și să conștientizeze oportunitățile și riscurile IA și posibilele prejudicii pe care aceasta le poate cauza.
Articolul 4 din Regulamentul privind IA este o dispoziție esențială pentru a se asigura că toți furnizorii și operatorii de sisteme de IA își dotează personalul cu competențele, cunoștințele și înțelegerea adecvate ale sistemului (sistemelor) furnizat(e) sau implementat(e). Acest lucru se referă la orice persoană din organizație care se ocupă în mod direct de un sistem de IA și consolidează dispozițiile privind transparența (articolul 13 din Regulamentul privind IA) și supravegherea umană (articolul 14 din Regulamentul privind IA) incluse în regulament. În același timp, articolul 4 contribuie indirect la protecția persoanelor afectate, deoarece asigură o aplicare eficace a normelor Regulamentului privind IA.
„Persoanele care se ocupă de operarea și utilizarea sistemelor de IA în numele furnizorilor/utilizatorilor” înseamnă că aceștia nu sunt angajați, ci persoane care intră, în linii mari, în sfera de competență organizațională. Ar putea fi, de exemplu, un contractant, un furnizor de servicii, un client.
Articolul 4 din Regulamentul privind IA nu implică obligația de a măsura cunoștințele angajaților cu privire la IA. Cu toate acestea, afirmă că furnizorii și implementatorii de IA ar trebui să asigure un nivel suficient de alfabetizare în domeniul IA, ținând seama de cunoștințele tehnice, experiența, educația și formarea angajaților.
Da, Regulamentul privind IA face distincție între modelele de IA (modelele GPAI), sistemele de IA, inclusiv sistemele GPAI, interzise și sistemele cu risc ridicat. Pentru mai multe detalii, vă rugăm să consultați, de asemenea, orientările privind definirea sistemului de IA, publicate de Comisie la 6 februarie, pentru a ajuta furnizorii și alte persoane relevante să stabilească dacă un sistem software constituie un sistem de IA și pentru a facilita aplicarea eficace a normelor. Prezentele orientări, care nu au caracter obligatoriu și sunt concepute să evolueze în timp, explică aplicarea practică a conceptului juridic, astfel cum este ancorat în Regulamentul privind IA. Orientările privind definirea sistemelor de IA au fost publicate în plus față de Orientările privind practicile interzise în materie de inteligență artificială (IA), astfel cum sunt definite în Regulamentul privind IA.
Pentru moment, informații privind activitățile Comisiei în legătură cu articolul 4 din Regulamentul privind IA pot fi găsite pe pagina web aPactului privindIA, inclusiv înregistrarea webinarului care a avut loc la 20 februarie șiregistrul viuprivind alfabetizarea în domeniul IA. Este în curs de pregătire o pagină web dedicată alfabetizării și competențelor în domeniul IA.
Respectarea articolului 4
Oficiul pentru IA nu va impune cerințe stricte în ceea ce privește articolul 4 din Regulamentul privind IA și „nivelul suficient de alfabetizare în domeniul IA”. Dimpotrivă, consideră că este necesar un anumit grad de flexibilitate, având în vedere subiectul larg al alfabetizării în domeniul IA și tehnologia cu evoluție rapidă pe care o reprezintă IA. Cu toate acestea, pentru a respecta cel puțin articolul 4 din Regulamentul privind IA, furnizorii și implementatorii de sisteme de IA ar trebui:
a) asigurarea unei înțelegeri generale a IA în cadrul organizației lor: Ce este IA? Cum funcționează? Ce IA este utilizată în organizația noastră? Care sunt oportunitățile și pericolele?
b) să ia în considerare rolul organizației lor (furnizor sau operator de sisteme de IA): Organizația mea dezvoltă sisteme de IA sau utilizează doar sisteme de IA dezvoltate de o altă organizație?
c) Să ia în considerare riscul sistemelor de IA furnizate sau implementate: Ce trebuie să știe angajații atunci când au de-a face cu un astfel de sistem de IA? Care sunt riscurile de care trebuie să fie conștienți și de care trebuie să fie conștienți în ceea ce privește atenuarea?
d) să își construiască în mod concret acțiunile de alfabetizare în domeniul IA pe baza analizei precedente, având în vedere
- diferențe în ceea ce privește cunoștințele tehnice, experiența, educația și formarea personalului și a altor persoane – Cât de mult știu angajații/persoana despre IA și sistemele organizației pe care le utilizează? Ce altceva ar trebui să știe?
- precum și contextul în care urmează să fie utilizate sistemele de IA și persoanele cărora urmează să le fie utilizate sistemele de IA – în ce sector și în ce scop/serviciu este utilizat sistemul de IA?
Considerentele a, b, c și d includ aspecte juridice și etice. Prin urmare, sunt încurajate conexiunile cu Regulamentul UE privind IA (și anume, înțelegerea Regulamentului privind IA) și cu principiile eticii și guvernanței.
Astfel cum s-a raportat în răspunsul la întrebarea anterioară, pentru a se conforma articolului 4 din Regulamentul privind IA, organizațiile ar trebui să ia în considerare rolul lor (de furnizori sau implementatori de sisteme de IA), precum și riscurile asociate sistemelor de IA pe care le furnizează și/sau le implementează. În acest sens, organizațiile ar trebui să își adapteze abordarea în materie de alfabetizare în domeniul IA. De exemplu, în cazul în care sistemele de IA ale organizației prezintă un grad ridicat de risc, în conformitate cu capitolul III din Regulamentul privind IA, ar putea fi relevante măsuri suplimentare pentru a se asigura că angajații sunt conștienți de modul de gestionare a sistemelor de IA respective și de evitare și/sau atenuare a riscurilor acestora.
Acest lucru depinde de răspunsurile organizației la considerațiile de la întrebarea 1. Cu toate acestea, în multe cazuri, simplul fapt de a se baza pe instrucțiunile de utilizare ale sistemelor de IA sau de a solicita personalului să le citească ar putea fi ineficient și insuficient. Articolul 4 din Regulamentul privind IA este menit să ofere cursuri de formare și orientări, după caz, pe baza nivelului și a tipului de cunoștințe ale fiecărui grup-țintă, precum și având în vedere contextul și scopul sistemelor de IA utilizate în organizație.
Acest lucru este, de asemenea, în concordanță cu alte dispoziții ale Regulamentului privind IA. De exemplu, articolul 26 introduce o obligație pentru operatorii de sisteme cu grad ridicat de risc de a se asigura că personalul care se ocupă de sistemele de IA în practică este suficient de instruit pentru a gestiona sistemul și pentru a asigura supravegherea umană. Prin urmare, nu este suficient să se recurgă la instrucțiunile de utilizare, fiind necesare măsuri suplimentare.
Nu există o soluție universală în ceea ce privește alfabetizarea în domeniul IA, iar Oficiul pentru IA nu intenționează să impună cerințe stricte sau cursuri de formare obligatorii. Cerințele pentru o formare depind de contextul concret. Deși reproducerea practicilor colectate nu acordă în mod automat prezumția de conformitate cu articolul 4, inițiativele dinregistrul viu privind alfabetizarea în domeniul IA ar putea oferi o anumită sursă de inspirație.
Nu, Oficiul pentru IA nu impune cerințe pentru sectoare specifice. Cu toate acestea, astfel cum s-a raportat în răspunsul la întrebarea 1, contextul – inclusiv sectorul și scopul – în care sunt furnizate/puse în aplicare sistemele de IA ar trebui să fie relevant atunci când se dezvoltă și se lansează inițiativa privind alfabetizarea în domeniul IA. În plus, ar trebui luat în considerare nivelul de risc al sistemelor de IA.
Acest lucru depinde de tipul concret de sistem de IA și de risc (de exemplu, pentru un risc ridicat). În general, persoanele care lucrează pentru un furnizor de servicii sau un contractant trebuie să aibă competențele adecvate în materie de IA pentru a îndeplini sarcina în cauză (la fel ca angajații).
Da, ar trebui să fie informați cu privire la riscurile specifice, de exemplu halucinații.
Acestea sunt două întrebări distincte. Angajații și human-in-the-loop au nevoie de abilitățile adecvate, orientate în funcție de sistemul pe care îl folosesc.
În mod normal, da, dar depinde de instrumentul IA în cauză și de calificarea lor specifică. Acest lucru este deosebit de relevant având în vedere viteza evoluțiilor tehnologice.
Organizația ar trebui să ia în considerare în continuare etapele răspunsului la întrebarea 1 și să se întrebe: Acești angajați tehnici știu ce trebuie să știe despre sistemele de IA ale organizației și cum să le gestioneze? Sunt conștienți de toate riscurile și de modul în care pot fi evitate/atenuate? În plus, organizația ar trebui să ia în considerare ce altceva ar putea avea nevoie să știe acești angajați; de exemplu, aspectele juridice și etice ale IA.
Da, articolul 4 din Regulamentul privind IA încurajează furnizorii și operatorii să ia în considerare cunoștințele, experiența, educația și formarea angajaților și a altor persoane pentru a asigura un nivel suficient de alfabetizare în domeniul IA. Având în vedere diferența dintre sistemele de IA și faptul că nivelul de cunoștințe și experiență, precum și tipul de educație și formare primită ar putea varia, pot fi adecvate niveluri diferite de formare sau abordări de învățare.
Nu este nevoie de certificat. Organizațiile pot ține o evidență internă a cursurilor de formare și/sau a altor inițiative orientative.
Nu, nicio structură de guvernanță specifică nu este mandatată să respecte articolul 4 din Regulamentul privind IA.
Aplicarea articolului 4
Articolul 4 din Regulamentul privind IA a intrat în vigoare la 2 februarie 2025 și, prin urmare, se aplică deja obligația de a lua măsuri pentru a asigura alfabetizarea în domeniul IA a personalului lor. Normele de supraveghere și de asigurare a respectării legislației se aplică începând cu 3 august 2026.
Supravegherea și asigurarea respectării articolului 4 din Regulamentul privind IA nu intră în sfera de competență a Oficiului pentru IA, ci în sfera de competență a autorităților naționale de supraveghere a pieței, care vor trebui să fie desemnate până la 2 august 2025. Autoritățile naționale de supraveghere a pieței vor începe să supravegheze și să asigure respectarea normelor începând cu 2 august 2026. Deși deciziile privind asigurarea respectării legislației sunt luate de autoritățile naționale de supraveghere a pieței din diferite state membre, Oficiul pentru IA va colabora îndeaproape cu Comitetul pentru IA pentru a sprijini o punere în aplicare adecvată.
Interdicțiile se aplică de la 2 februarie 2025. Prin intermediul Comitetului pentru IA și al cooperării dintre toate autoritățile relevante, se va asigura o aplicare coerentă a normelor.
Autoritățile naționale de supraveghere a pieței ar putea impune sancțiuni și alte măsuri de asigurare a respectării legislației pentru a sancționa încălcările articolului 4. Aceasta se va baza pe legislația națională pe care statele membre urmează să o adopte până la 2 august 2025.
Este important să se sublinieze că punerea în aplicare a Regulamentului privind IA urmează o abordare proporțională. Orice sancțiune trebuie să fie proporțională, să se bazeze pe fiecare caz în parte și să ia în considerare factori precum natura și gravitatea, precum și caracterul intenționat și neglijent al încălcării. Cu toate acestea, acest lucru ar putea fi mai probabil în cazul în care există dovezi ale unui incident din cauza lipsei unei formări și orientări adecvate a angajaților sau a altor persoane.
Cadrul juridic al Regulamentului privind IA se aplică atât actorilor publici, cât și celor privați din interiorul și din afara UE, atât timp cât sistemul de IA este introdus pe piața Uniunii, utilizat în Uniune sau utilizarea sa are un impact asupra persoanelor situate în UE. Acest lucru este valabil și pentru articolul 4 din Regulamentul privind IA.
Asigurarea respectării legislației la nivel public înseamnă că fiecare stat membru va numi autorități responsabile cu asigurarea respectării dispozițiilor Legii privind IA, care să supravegheze și să asigure respectarea acestei legi. Executarea la nivel privat se referă la scenariul în care o persoană privată suferă un prejudiciu și consideră că acest lucru se datorează faptului că o organizație nu respectă obligația prevăzută la articolul 4 și dă în judecată organizația pentru a primi despăgubiri.
Atunci când există un prejudiciu/prejudiciu, furnizorul unui sistem de IA poate fi acționat în justiție, în conformitate cu legislația națională. Legea privind IA nu creează infracțiuni sau un drept la despăgubiri.
Abordarea Oficiului pentru IA în ceea ce privește alfabetizarea în domeniul IA
Pentru moment, vor fi furnizate orientări prin intermediul altor exemple de practici, seminare online și clarificări prin intermediul acestui Q&A.
Odată desemnate, autoritățile naționale relevante de supraveghere a pieței ar putea oferi orientări suplimentare privind asigurarea respectării legislației. Oficiul pentru IA va colabora îndeaproape cu Comitetul pentru IA pe tema alfabetizării în domeniul IA, în conformitate cu articolul 66 litera (f) și cu articolul 95 alineatul (2f) din Regulamentul privind IA.
Comisia va publica orientări privind aplicarea cerințelor și a obligațiilor menționate la articolele 8-15 și la articolul 25 din Legea privind IA, iar aceste orientări vor aborda, de asemenea, aspecte legate de alfabetizare, atunci când se discută, de exemplu, despre supravegherea umană sau gestionarea riscurilor.
Comunicarea AI@EC a identificat deja ca acțiune operațională dezvoltarea unei politici de construire și menținere a unei forțe de muncă calificate în domeniul IA. Comisia Europeană a pus deja în aplicare mai multe măsuri pentru personalul său în ceea ce privește alfabetizarea în domeniul IA:
- Crearea unui portal web intern specific IA ca ghișeu unic accesibil întregului personal pentru conținutul legat de IA – orientări privind IA, resurse de formare în domeniul IA, evenimente și știri.
- Definirea pe platforma de formare a Comisiei a pachetelor de învățare în domeniul IA, orientate către diferite obiective – generaliști, manageri și dezvoltatori (specialiști). Aceste pachete conțin o listă structurată a cursurilor de formare relevante, clasificându-le apoi în categorii esențiale, foarte recomandate și recomandate. Pe platformă sunt disponibile, de asemenea, cursuri de formare suplimentare și înregistrarea seminarelor online.
- Instruiri privind instrumentele de IA – Secțiunea specifică din portalul privind IA enumeră instrumentele de IA, disponibile pentru întregul personal, care includ resursele de învățare relevante pentru fiecare instrument. Există sesiuni periodice de Q&A privind utilizarea IA în activitatea dvs. zilnică.
- Există o comunitate de practici în domeniul IA în care orice persoană poate adresa întrebări legate de IA și poate interacționa cu experți în IA.
În prezent, multe dintre agenții au deja acces la platforma de învățare a Comisiei (EU-Learn), precum și la resurse precum pachetele de învățare în domeniul IA și alte cursuri de formare ale Comisiei.
Pentru a sprijini punerea în aplicare și respectarea articolului 4 din Regulamentul privind IA, Oficiul pentru IA va continua să promovezeregistrul viu privind practicile de alfabetizare în domeniul IA, colectând exemple suplimentare de la organizații și actualizând Întrebări și răspunsuri;A la îndemână. Vor fi organizate activități suplimentare de sensibilizare și va fi lansată o pagină web dedicată activităților legate de alfabetizarea în domeniul IA (în cadrul și în afara domeniului de aplicare al articolului 4), de competențe și talente, cu scopul de a promova accesul la alfabetizarea în domeniul IA și de a încuraja dialogul privind IA pentru toți.
Oficiul pentru IA apreciază în mod deosebit cunoștințele și expertiza tuturor părților interesate, inclusiv ale industriei. Din acest motiv, am creat Pactul privind IA pentru a promova crearea unei comunități colaborative, în care părțile interesate să poată face schimb de bune practici și de politici interne care ar putea fi utile altora în procesul lor de asigurare a conformității. În ceea ce privește alfabetizarea în domeniul IA, în cadrul Pactului privind IA am publicat recent un registru viu al practicilor de alfabetizare în domeniul IA; orice furnizor și/sau dezvoltator de sisteme de IA care a instituit un program de alfabetizare în domeniul IA este invitat săîși prezinte contribuția.
Oficiul pentru IA va verifica în mod regulat dacă toate contribuțiile primite îndeplinesc criteriile minime de transparență și fiabilitate înainte de a le accepta în registrul public. În timpul perioadei de verificare, ancheta ar putea fi închisă temporar.
Alte resurse utile
Registrul viu privind practicile de alfabetizare în domeniul IA este disponibil gratuit pe site-ul nostru: Repertoriu viu pentru a încuraja învățarea și schimbul de cunoștințe în domeniul IA
Registrul include mai multe exemple de inițiative în curs de desfășurare de promovare a organizațiilor de alfabetizare în domeniul IA de diferite dimensiuni care furnizează și/sau implementează diferite tipuri de sisteme de IA în diferite sectoare private și publice. Practicile oferă exemple cu privire la modul de abordare a cunoștințelor diferiților angajați (de exemplu, cea tehnică – cum ar fi cea a dezvoltatorilor, față de cea netehnică, cum ar fi cea a unui administrator sau a unui consilier juridic), dar se referă, de asemenea, la inițiative pentru alte persoane, inclusiv vânzători, parteneri, clienți. Lista practicilor nu este exhaustivă și va fi actualizată periodic cu practici suplimentare.
Deși reproducerea practicilor colectate în acest registru viu nu acordă în mod automat prezumția de conformitate cu articolul 4, registrul urmărește să încurajeze învățarea și schimbul între furnizorii și implementatorii de sisteme de IA. Prin publicarea practicilor, Comisia nu implică în niciun fel nici aprobarea, nici evaluarea.
Un exemplu de inițiativă a UE care ar putea sprijini IMM-urile este rețeaua centrelor europene de inovare digitală (EDIH). Centrele europene de inovare digitală sunt 251 de ghișee unice în întreaga Europă (27 de state membre, 3 țări AELS – Norvegia, Islanda și Liechtenstein; 8 țări asociate: Albania, Bosnia și Herțegovina, Kosovo, Muntenegru, Macedonia de Nord, Serbia, Turcia și Ucraina), sprijinind IMM-urile și organizațiile din sectorul public să își digitalizeze procesele. 80 % dintre centrele europene de inovare digitală furnizează deja servicii axate pe IA, inclusiv cursuri de formare, ateliere, tabere de pregătire pentru diferite nevoi și niveluri de cunoaștere a IA. IMM-urile și organizațiile din sectorul public pot contacta centrele europene de inovare digitală pentru a primi sprijin în ceea ce privește tehnologiile IA și obiectivele lor de digitalizare în sens mai larg. Centrele europene de inovare digitală pot oferi asistență ca prim serviciu de asistență cu privire la Regulamentul privind IA și pot servi drept punctede intrare pentru alte măsuri de sprijin finanțate de UE,cum ar fi, printre altele, instalațiile de testare și experimentare (TEF) sau fabricile de IA. Puteți găsi EDIH cel mai apropiat de dumneavoastră în acest catalog.
În contextul Pactului privind IA, Oficiul pentru IA găzduiește evenimente și seminare online pentru a implica comunitatea IA, pentru a promova schimbul de cunoștințe și de bune practici pentru a promova o IA de încredere. Puteți găsi toate înregistrările evenimentelor trecute și anunțarea celor viitoare pe pagina dedicată: Evenimentele Pactului privind IA
Alte materiale utile privind IA pot fi accesate gratuit prin intermediulPlatformei pentru competențe și locuri de muncă în sectorul digital, inclusiv:
- Oferte de formare profesională
Întrucât nu există o abordare universală pentru alfabetizarea în domeniul IA, nu există nici un cadru unic. Mai jos sunt raportate unele dintre cele mai utilizate cadre la nivel european și internațional, în funcție de grupul lor țintă.
Pentru toți cetățenii
- Cadrul competențelor digitale pentru cetățeni oferă o înțelegere comună a competențelor digitale. Publicația are două părți principale: cadrul integrat DigComp 2.2 oferă peste 250 de noi exemple de cunoștințe, competențe și atitudini care îi ajută pe cetățeni să se implice cu încredere, în mod critic și în condiții de siguranță în tehnologiile digitale, inclusiv în IA. O nouă versiune a cadrului va fi publicată în 2025.
- Platforma pentru competențe și locuri de muncă în sectorul digital oferă acces deschis la o gamă largă de informații și resurse de înaltă calitate pentru toți cei interesați de tema amplă a competențelor și locurilor de muncă în sectorul digital, inclusiv pe tema inteligenței artificiale.
Pentru sectorul educației, cadrele didactice și cursanții:
- Aceste orientări etice privind IA și utilizarea datelor în procesul de predare și învățare sunt concepute pentru a ajuta cadrele didactice să înțeleagă potențialul pe care îl pot avea aplicațiile IA și utilizarea datelor în educație și pentru a sensibiliza publicul cu privire la posibilele riscuri, astfel încât să fie în măsură să se implice în mod pozitiv, critic și etic în sistemele de IA și să își exploateze întregul potențial.
- Platforma europeană pentru educația școlară oferăo serie demateriale privind IA pentru profesori și cursanți.
- Comunitatea de practici aCentrului pentru educație digitală oferă părților interesate din domeniul educației și formării posibilitatea de a discuta și de a face schimb de opinii pe teme legate de educația digitală, inclusiv IA. În cadrul centrului, un grup de lucru dedicat (echipa) a publicat un raport privind IA în educație, care oferă informații suplimentare cu privire la dezvoltarea competențelor în materie de IA și la formarea cadrelor didactice.
- Cadrul de competențe în materie de IA al UNESCO pentru profesori este menit să sprijine dezvoltarea competențelor în materie de IA în rândul cadrelor didactice pentru a le permite să utilizeze aceste instrumente tehnologice în practicile lor de predare într-un mod sigur, eficace și etic.
- Cadrul de competențe în materie de IA al UNESCO pentru studenți urmărește să servească drept ghid pentru sistemele publice de educație pentru a construi competențele necesare tuturor studenților și cetățenilor pentru punerea în aplicare eficace a strategiilor naționale în materie de IA și pentru construirea unui viitor favorabil incluziunii, just și durabil în această nouă eră tehnologică.
Related content
Comisia urmărește să crească numărul de experți în domeniul IA prin formarea și atragerea mai multor cercetători și profesioniști și prin îmbunătățirea competențelor în materie de IA ale lucrătorilor și ale populației generale.