Modele de IA de uz general în Regulamentul privind IA – întrebări și amprentă; răspunsuri

Inteligența artificială („IA”) promite beneficii uriașe pentru economia și societatea noastră. Modelele de IA de uz general joacă un rol important în această privință, deoarece pot fi utilizate pentru o varietate de sarcini și, prin urmare, constituie baza pentru o serie de sisteme de IA din aval, utilizate în Europa și în întreaga lume.

Regulamentul privind IA urmărește să asigure faptul că modelele de IA de uz general sunt sigure și de încredere. 

Pentru a atinge acest obiectiv, este esențial ca furnizorii de modele de IA de uz general să asigure o bună înțelegere a modelelor lor de-a lungul întregului lanț valoric al IA, astfel încât să permită furnizorilor din aval atât să integreze astfel de modele în sistemele de IA, cât și să își îndeplinească propriile obligații în temeiul Regulamentului privind IA. Mai precis, astfel cum se explică mai detaliat mai jos, furnizorii de modele de IA de uz general trebuie să întocmească o documentație tehnică pentru modelele lor, pe care să o pună la dispoziția furnizorilor din aval și să o furnizeze, la cerere, Oficiului pentru IA și autorităților naționale competente, să instituie o politică privind drepturile de autor și să publice un rezumat al conținutului formării. În plus, furnizorii de modele de IA de uz general care prezintă riscuri sistemice, ceea ce se poate întâmpla fie pentru că modelele sunt foarte capabile, fie pentru că au un impact semnificativ asupra pieței interne din alte motive, trebuie să notifice Comisiei modelele respective, să evalueze și să atenueze riscurile sistemice care decurg din acestea, inclusiv prin efectuarea de evaluări ale modelelor, prin raportarea incidentelor grave și prin asigurarea unei securități cibernetice adecvate a acestor modele. 

Astfel, Regulamentul privind IA contribuie la o inovare sigură și fiabilă în Uniunea Europeană.  

Regulamentul privind IA definește un model de IA de uz general ca fiind „un model de IA, inclusiv în cazul în care un astfel de model de IA este antrenat cu un volum mare de date utilizând autosupravegherea la scară largă, care prezintă o generalitate semnificativă și este capabil să îndeplinească în mod competent o gamă largă de sarcini distincte, indiferent de modul în care modelul este introdus pe piață și care poate fi integrat într-o varietate de sisteme sau aplicații din aval” [articolul 3 alineatul (63) din Regulamentul privind IA].

Considerentele Regulamentului privind IA clarifică și mai mult ce modele ar trebui considerate ca prezentând o generalitate semnificativă și ca fiind capabile să îndeplinească o gamă largă de sarcini distincte.

În conformitate cu considerentul 98 din Regulamentul privind IA, „în timp ce generalitatea unui model ar putea fi determinată, printre altele, și de o serie de parametri, ar trebui să se considere că modelele cu cel puțin un miliard de parametri și antrenate cu un volum mare de date utilizând autosupravegherea la scară largă prezintă o generalitate semnificativă și îndeplinesc în mod competent o gamă largă de sarcini distincte.”

Considerentul 99 din Regulamentul privind IA adaugă că „modelele mari de IA generativă sunt un exemplu tipic pentru un model de IA de uz general, având în vedere că acestea permit generarea flexibilă de conținut, cum ar fi sub formă de text, audio, imagini sau video, care poate găzdui cu ușurință o gamă largă de sarcini distincte.”

Rețineți că generalitatea semnificativă și capacitatea de a efectua în mod competent o gamă largă de sarcini distincte pot fi realizate de modele într-o singură modalitate, cum ar fi text, audio, imagini sau video, dacă modalitatea este suficient de flexibilă. Acest lucru poate fi realizat, de asemenea, prin modele care au fost dezvoltate, reglate fin sau modificate în alt mod pentru a fi deosebit de bune pentru o anumită sarcină sau pentru o serie de sarcini într-un anumit domeniu.

Diferitele etape ale dezvoltării unui model nu constituie modele diferite.

Comisia oferă clarificări suplimentare în secțiunea 2.1 din orientările sale cu privire la domeniul de aplicare al obligațiilor pentru modelele de IA de uz general.  În special, un criteriu orientativ pentru ca un model să fie considerat un model de IA de uz general este faptul că calculul său de antrenament este mai mare de 10^23 FLOP și poate genera limbaj (sub formă de text sau audio), text-la-imagine sau text-la-video.

Riscurile sistemice sunt riscuri de vătămare la scară largă cauzate de cele mai avansate modele (și anume, cele de ultimă generație) în orice moment sau de alte modele care au un impact echivalent [a se vedea articolul 3 alineatul (65) din Regulamentul privind IA]. Astfel de riscuri se pot manifesta, de exemplu, prin reducerea barierelor din calea dezvoltării armelor chimice sau biologice sau prin probleme neintenționate de control asupra modelelor autonome de IA de uz general (considerentul 110 din Regulamentul privind IA). Modelele cele mai avansate în orice moment pot prezenta riscuri sistemice, inclusiv riscuri noi, deoarece împing stadiul actual al tehnologiei. În același timp, unele modele aflate sub pragul corespunzător stadiului actual al tehnologiei pot prezenta, de asemenea, riscuri sistemice, de exemplu prin acoperire, scalabilitate sau schele.

În consecință, Regulamentul privind IA clasifică un model de IA de uz general drept model de IA de uz general cu risc sistemic dacă este unul dintre cele mai avansate modele la momentul respectiv sau dacă are un impact echivalent [articolul 51 alineatul (1) din Regulamentul privind IA]. Ce modele sunt considerate modele de IA de uz general cu risc sistemic se pot schimba în timp, reflectând evoluția stadiului actual al tehnologiei și potențiala adaptare a societății la modele din ce în ce mai avansate. În prezent, modelele de IA de uz general cu risc sistemic sunt dezvoltate de câteva întreprinderi, deși acest lucru se poate schimba în viitor.  

Pentru a surprinde cele mai avansate modele, și anume modelele care corespund sau depășesc capacitățile înregistrate în cele mai avansate modele până în prezent, Regulamentul privind IA stabilește un prag de 10^25 de operațiuni cu virgulă mobilă (FLOP) utilizate pentru antrenarea modelului [articolul 51 alineatul (1) litera (a) și alineatul (2) din Regulamentul privind IA]. Formarea unui model care atinge acest prag este estimată în prezent la zeci de milioane de euro (Epoch AI, 2024). Oficiul pentru IA monitorizează în permanență evoluțiile tehnologice și industriale, iar Comisia poate actualiza pragul, prin adoptarea unui act delegat [articolul 51 alineatul (3) din Regulamentul privind IA], pentru a se asigura că acesta continuă să identifice cele mai avansate modele pe măsură ce evoluează stadiul actual al tehnologiei. De exemplu, valoarea pragului în sine ar putea fi ajustată și/sau ar putea fi introduse praguri suplimentare.  

Pentru a surprinde modelele cu un impact echivalent cu cel al celor mai avansate modele, Regulamentul privind IA împuternicește Comisia să desemneze modele suplimentare ca prezentând un risc sistemic, pe baza unor criterii precum evaluările capacităților modelului, numărul de utilizatori, scalabilitatea sau accesul la instrumente [articolul 51 alineatul (1) litera (b) și anexa XIII la Regulamentul privind IA].

Comisia oferă clarificări suplimentare în secțiunea 2.3 din Orientările sale privind domeniul de aplicare al obligațiilor pentru modelele de IA de uz general. În special, orientările prezintă modul în care furnizorii trebuie să notifice Oficiului pentru IA modelele de IA de uz general cu risc sistemic și modul în care aceștia pot contesta clasificarea unui model ca model de IA de uz general cu risc sistemic.

Normele Regulamentului privind IA privind modelele de IA de uz general se aplică furnizorilor care introduc astfel de modele pe piață în Uniune, indiferent dacă furnizorii respectivi sunt stabiliți sau situați în Uniune sau într-o țară terță [articolul 2 alineatul (1) litera (a) din Regulamentul privind IA].

Un furnizor al unui model de IA de uz general înseamnă o persoană fizică sau juridică, o autoritate publică, o agenție sau un alt organism care dezvoltă un model de IA de uz general sau care dispune dezvoltarea unui astfel de model și îl introduce pe piață, contra cost sau gratuit [articolul 3 alineatul (3) din Regulamentul privind IA].

Introducerea unui model pe piață înseamnă punerea la dispoziție pentru prima dată pe piața Uniunii [articolul 3 alineatul (9) din Regulamentul privind IA], și anume furnizarea acestuia pentru distribuție sau utilizare pe piața Uniunii pentru prima dată în cursul unei activități comerciale, fie în schimbul unei plăți, fie gratuit [articolul 3 alineatul (10) din Regulamentul privind IA]. De reținut că un model de IA de uz general este, de asemenea, considerat a fi introdus pe piață dacă furnizorul modelului respectiv integrează modelul în propriul sistem de IA care este pus la dispoziție pe piață sau pus în funcțiune, cu excepția cazului în care modelul este (a) utilizat pentru procese pur interne care nu sunt esențiale pentru furnizarea unui produs sau a unui serviciu terților, (b) drepturile persoanelor fizice nu sunt afectate și (c) modelul nu este un model de IA de uz general cu risc sistemic (considerentul 97 din Regulamentul privind IA).

Comisia oferă clarificări suplimentare în secțiunea 3 din Orientările sale privind domeniul de aplicare al obligațiilor pentru modelele de IA de uz general. 

Furnizorii de modele de IA de uz general trebuie să documenteze informațiile tehnice cu privire la modelele lor cu scopul de a furniza informațiile respective, la cerere, Oficiului pentru IA și autorităților naționale competente [articolul 53 alineatul (1) litera (a) din Regulamentul privind IA] și de a le pune la dispoziția furnizorilor din aval [articolul 53 alineatul (1) litera (b) din Regulamentul privind IA]. De asemenea, acestea trebuie să instituie o politică de respectare a dreptului Uniunii privind dreptul de autor și drepturile conexe [articolul 53 alineatul (1) litera (c) din Legea privind IA] și să elaboreze și să pună la dispoziția publicului un rezumat suficient de detaliat cu privire la conținutul utilizat pentru antrenarea modelului [articolul 53 alineatul (1) litera (d) din Legea privind IA].

Codul de bune practici privind IA de uz general oferă semnatarilor detalii suplimentare cu privire la modul de asigurare a respectării obligațiilor prevăzute la articolul 53 alineatul (1) literele (a), (b) și (c) în capitolele referitoare la transparență și la drepturile de autor (conduse de Grupul de lucru 1), iar modelul Comisiei pentru rezumatul public al conținutului de formare pentru modelele de IA de uz general prezintă conținutul necesar pentru articolul 53 alineatul (1) litera (d) din Regulamentul privind IA.

În temeiul Regulamentului privind IA, furnizorii de modele de IA de uz general cu risc sistemic au obligații suplimentare. Acestea trebuie să evalueze și să atenueze riscurile sistemice, în special prin efectuarea de evaluări ale modelelor, prin urmărirea, documentarea și raportarea incidentelor grave și prin asigurarea unei protecții adecvate în materie de securitate cibernetică a modelului și a infrastructurii sale fizice (articolul 55 din Regulamentul privind IA).

Codul general de bune practici privind IA oferă semnatarilor detalii suplimentare cu privire la modul de asigurare a respectării acestor obligații în capitolul referitor la evaluarea riscurilor sistemice, atenuarea tehnică a riscurilor și atenuarea riscurilor de guvernanță (condus de grupurile de lucru 2, 3 și, respectiv, 4).

Obligațiile furnizorilor de modele de IA de uz general se aplică de la 2 august 2025 [articolul 113 litera (b) din Regulamentul privind IA], cu norme speciale pentru modelele de IA de uz general introduse pe piață înainte de data respectivă [articolul 111 alineatul (3) din Regulamentul privind IA].

Obligațiile de a elabora și de a furniza documentație Oficiului pentru IA, autorităților naționale competente și furnizorilor din aval [articolul 53 alineatul (1) literele (a) și (b) din Regulamentul privind IA] nu se aplică în cazul în care modelul este pus la dispoziție în temeiul unei licențe gratuite și cu sursă deschisă, iar parametrii săi, inclusiv ponderile, informațiile privind arhitectura modelului și informațiile privind utilizarea modelului, sunt puse la dispoziția publicului [articolul 53 alineatul (2) din Regulamentul privind IA]. Considerentele 102 și 103 din Legea privind IA clarifică și mai mult ceea ce constituie o licență gratuită și cu sursă deschisă, iar Comisia oferă clarificări suplimentare în secțiunea 4 din Orientările sale privind domeniul de aplicare al obligațiilor pentru modelele de IA de uz general.

Această excepție nu se aplică modelelor de IA de uz general cu risc sistemic. După lansarea unui model cu sursă deschisă, măsurile necesare pentru a asigura respectarea obligațiilor prevăzute la articolul 55 pot fi mai dificil de pus în aplicare (considerentul 112 din Regulamentul privind IA). În consecință, furnizorii de modele de IA de uz general cu risc sistemic ar putea fi nevoiți să evalueze și să atenueze riscurile sistemice înainte de a-și publica modelele ca surse deschise.

Codul de bune practici privind IA de uz general oferă semnatarilor detalii suplimentare cu privire la modul de respectare a obligațiilor prevăzute la articolele 53 și 55 în ceea ce privește diferitele modalități de publicare a modelelor de IA de uz general, inclusiv a surselor deschise.

O întrebare importantă, dar dificilă, care a stat la baza procesului de elaborare a Codului de bune practici privind IA de uz general este aceea de a găsi un echilibru între urmărirea beneficiilor și atenuarea riscurilor generate de aprovizionarea deschisă cu modele avansate de IA de uz general: modelele avansate de IA de uz general cu sursă deschisă pot aduce, într-adevăr, beneficii societale semnificative, inclusiv prin promovarea cercetării în domeniul siguranței IA; în același timp, atunci când astfel de modele sunt cu sursă deschisă, măsurile de atenuare a riscurilor sunt eludate sau eliminate mai ușor. 
 

Articolul 2 alineatul (8) din Regulamentul privind IA prevede că, în general, Regulamentul privind IA „nu se aplică niciunei activități de cercetare, testare sau dezvoltare privind sistemele sau modelele de IA înainte de introducerea lor pe piață sau de punerea lor în funcțiune”.

În același timp, anumite obligații pentru furnizorii de modele de IA de uz general (cu și fără risc sistemic) se referă în mod explicit sau implicit la faza de dezvoltare a modelelor destinate introducerii pe piață, dar anterioare introducerii pe piață. Acesta este cazul, de exemplu, al obligațiilor furnizorilor de a notifica Comisiei faptul că modelul lor de IA de uz general îndeplinește sau va îndeplini pragul de calcul pentru antrenament prevăzut la articolul 51 alineatul (2) din Regulamentul privind IA (articolele 51 și 52 din Regulamentul privind IA), de a documenta informațiile despre formare și testare (articolul 53 din Regulamentul privind IA) și de a evalua și atenua riscul sistemic (articolul 55 din Regulamentul privind IA). În special, articolul 55 alineatul (1) litera (b) din Regulamentul privind IA prevede în mod explicit că „furnizorii de modele de IA de uz general cu risc sistemic evaluează și atenuează posibilele riscuri sistemice la nivelul Uniunii, inclusiv sursele acestora, care pot decurge din dezvoltarea (...) modelelor de IA de uz general cu risc sistemic.”

Oficiul pentru IA se așteaptă ca discuțiile cu furnizorii de modele de IA de uz general cu risc sistemic să înceapă devreme în faza de dezvoltare. Acest lucru este în concordanță cu obligația furnizorilor de modele de IA de uz general care îndeplinesc pragul de calcul pentru antrenament de a „notifica Comisia fără întârziere și, în orice caz, în termen de două săptămâni de la îndeplinirea cerinței respective sau de la constatarea faptului că aceasta va fi îndeplinită” [articolul 52 alineatul (1) din Regulamentul privind IA]. Într-adevăr, antrenarea modelelor de IA de uz general necesită o planificare considerabilă, care include alocarea în avans a resurselor de calcul, iar furnizorii de modele de IA de uz general sunt, prin urmare, în măsură să știe dacă modelul lor va atinge pragul de calcul al antrenamentului înainte de finalizarea antrenamentului (considerentul 112 din Regulamentul privind IA). Comisia oferă clarificări suplimentare cu privire la această chestiune în secțiunea 2.3 din Orientările sale privind domeniul de aplicare al obligațiilor pentru modelele de IA de uz general.

În temeiul articolului 56 din Regulamentul privind IA, Codul de bune practici privind IA de uz general detaliază modul în care furnizorii de modele de IA de uz general și de modele de IA de uz general cu risc sistemic își pot respecta obligațiile care le revin în temeiul Regulamentului privind IA. Oficiul pentru IA a facilitat elaborarea acestui Cod de bune practici, cu patru grupuri de lucru prezidate de experți independenți și la care au participat aproape 1 000 de părți interesate, reprezentanți ai statelor membre ale UE, precum și observatori europeni și internaționali.

Mai precis, Codul de bune practici detaliază modul în care furnizorii de modele de IA de uz general pot respecta obligațiile prevăzute la articolele 53 și 55 din Regulamentul privind IA. Comisia  și Comitetul pentru IA  au evaluat Codul de bune practici publicat la 10 iulie 2025 ca fiind adecvat.

Codul de bune practici include angajamente din partea furnizorilor de modele de IA de uz general care semnează codul de a documenta și raporta informații suplimentare, precum și de a implica Oficiul pentru IA și părți terțe pe parcursul întregului ciclu de viață al modelului, în măsura în care acest lucru este considerat necesar pentru ca furnizorii să își respecte efectiv obligațiile care le revin în temeiul Regulamentului privind IA.

Codul de bune practici nu abordează, printre altele, următoarele aspecte: definirea conceptelor și definițiilor-cheie din Regulamentul privind IA (cum ar fi „modelul de IA de uz general”), actualizarea criteriilor sau a pragurilor pentru clasificarea unui model de IA de uz general ca model de IA de uz general cu risc sistemic (articolul 51), evidențiind modul în care Oficiul pentru IA va asigura respectarea obligațiilor furnizorilor de modele de IA de uz general (capitolul IX, secțiunea 5) și întrebările privind amenzile, sancțiunile și răspunderea.

Aceste aspecte au fost și vor fi abordate prin alte mijloace (Orientări ale Comisiei, decizii, acte delegate, acte de punere în aplicare, comunicări suplimentare din partea Oficiului pentru IA etc.).

Regulamentul privind IA face distincție între sistemele de IA și modelele de IA, impunând cerințe pentru anumite sisteme de IA (capitolele II-IV) și obligații pentru furnizorii de modele de IA de uz general (capitolul V). În timp ce dispozițiile Regulamentului privind IA referitoare la sistemele de IA depind de contextul de utilizare a sistemului, dispozițiile Regulamentului privind IA referitoare la modelele de IA de uz general se aplică modelului în sine, indiferent de ceea ce este sau va fi utilizarea sa finală. Codulde bune practici se referă numai la obligațiile prevăzute în Regulamentul privind IA pentru furnizorii de modele de IA de uz general.

Cu toate acestea, există interacțiuni între cele două seturi de norme, deoarece modelele de IA de uz general sunt, de regulă, integrate în sistemele de IA și fac parte din acestea. În cazul în care un furnizor al unui model de IA de uz general integrează modelul respectiv într-un sistem de IA, furnizorul respectiv trebuie să respecte obligațiile furnizorilor de modele de IA de uz general și, în cazul în care sistemul de IA intră în domeniul de aplicare al Regulamentului privind IA, cerințele pentru sistemele de IA. În cazul în care un furnizor din aval integrează un model de IA de uz general într-un sistem de IA, furnizorul modelului de IA de uz general trebuie să coopereze cu furnizorul din aval al sistemului de IA pentru a se asigura că acesta din urmă își poate respecta obligațiile care îi revin în temeiul Regulamentului privind IA dacă sistemul de IA intră în domeniul de aplicare al Regulamentului privind IA (de exemplu, prin furnizarea anumitor informații furnizorului din aval).

Având în vedere aceste interacțiuni între modele și sisteme, precum și între obligații și cerințe pentru fiecare, o chestiune importantă care stă la baza Codului de bune practici se referă la măsurile care sunt adecvate la nivelul modelului și care trebuie luate în schimb la nivelul sistemului.

Codul de bune practici stabilește obiective, angajamente și măsuri. Angajamentele și măsurile legate de obligațiile aplicabile furnizorilor tuturor modelelor de IA de uz general țin seama în mod corespunzător de dimensiunea furnizorului și permit modalități simplificate de conformitate pentru IMM-uri, inclusiv pentru întreprinderile nou-înființate, pentru a nu reprezenta un cost excesiv și pentru a nu descuraja utilizarea unor astfel de modele (considerentul 109 din Regulamentul privind IA). În plus, angajamentele de raportare legate de obligațiile aplicabile furnizorilor de modele de IA de uz general cu risc sistemic reflectă diferențele în ceea ce privește dimensiunea și capacitatea dintre diferiții furnizori [articolul 56 alineatul (5) din Regulamentul privind IA], asigurându-se, în același timp, că acestea sunt proporționale cu riscurile [articolul 56 alineatul (2) litera (d) din Regulamentul privind IA].

Odată evaluată ca fiind adecvată, aderarea la Codul de bune practici devine un mijloc de a demonstra conformitatea cu Regulamentul privind IA, fără a oferi însă o prezumție de conformitate cu Regulamentul privind IA. Furnizorii pot demonstra, de asemenea, conformitatea cu Regulamentul privind IA și în alte moduri. În acest caz, furnizorii ar trebui să adopte măsuri alternative adecvate pentru a asigura respectarea obligațiilor care le revin în temeiul Regulamentului privind IA, care pot include raportarea către Oficiul pentru IA. Furnizorii care nu semnează și nu aderă la Codul de bune practici trebuie să fie în măsură să justifice de ce mijloacele lor alternative de conformitate propuse sunt adecvate, de exemplu prin efectuarea unei analize a lacunelor în comparație cu Codul de bune practici care a fost evaluat ca fiind adecvat.

Pe baza Regulamentului privind IA, efectele juridice suplimentare ale Codului de bune practici constau în faptul că Oficiul pentru IA poate lua în considerare aderarea unui furnizor la Codul de bune practici atunci când monitorizează punerea sa efectivă în aplicare și respectarea Regulamentului privind IA [articolul 89 alineatul (1) din Regulamentul privind IA] și poate lua în considerare angajamentele asumate în Codul de bune practici ca factor atenuant atunci când stabilește cuantumul amenzilor în funcție de circumstanțele specifice [articolul 101 alineatul (1) din Regulamentul privind IA]. Comisia oferă clarificări suplimentare în secțiunea 5 din Orientările sale privind domeniul de aplicare al obligațiilor pentru modelele de IA de uz general.

În temeiul articolului 56 alineatul (8) din Regulamentul privind IA, „Oficiul pentru IA încurajează și facilitează, de asemenea, după caz, revizuirea și adaptarea codurilor de bune practici, în special având în vedere standardele emergente”. Comisia oferă detalii suplimentare cu privire la acest aspect în secțiunea 4 din evaluarea caracterului adecvat al Codului de bune practici. 

Oficiul pentru IA va supraveghea și va asigura respectarea obligațiilor prevăzute în Regulamentul privind IA pentru furnizorii de modele de IA de uz general (articolul 88 din Regulamentul privind IA) și, în mod excepțional, a obligațiilor pentru furnizorii de sisteme de IA bazate pe modele de IA de uz general, dacă furnizorul modelului și al sistemului sunt aceiași [articolul 75 alineatul (1) din Regulamentul privind IA]. Oficiul pentru IA va sprijini autoritățile relevante de supraveghere a pieței din statele membre în asigurarea respectării cerințelor pentru sistemele de IA [articolul 75 alineatele (2) și (3) din Regulamentul privind IA], printre alte sarcini. Asigurarea respectării normelor de către Oficiul pentru IA se bazează pe competențele care îi sunt conferite prin Regulamentul privind IA, și anume competențele de a solicita informații (articolul 91 din Regulamentul privind IA), de a efectua evaluări ale modelelor de IA de uz general (articolul 92 din Regulamentul privind IA), de a solicita măsuri din partea furnizorilor, inclusiv de a pune în aplicare măsuri de atenuare a riscurilor și de a rechema modelul de pe piață (articolul 93 din Regulamentul privind IA), precum și de a impune amenzi de până la 3 % din cifra de afaceri anuală globală sau de 15 milioane EUR, luându-se în considerare valoarea cea mai mare (articolul 101 din Regulamentul privind IA). Comisia oferă detalii suplimentare cu privire la acest aspect în secțiunea 5 din Orientările sale privind domeniul de aplicare al obligațiilor pentru modelele de IA de uz general.