Usmernenia o povinnostiach poskytovateľov umelej inteligencie na všeobecné účely

Modely umelej inteligencie na všeobecné účely zohrávajú významnú úlohu v inováciách umelej inteligencie, pretože sa môžu používať na rôzne úlohy a integrovať do mnohých nadväzujúcich systémov umelej inteligencie. To kladie osobitnú zodpovednosť na ich poskytovateľov. Predovšetkým musia sprístupniť informácie poskytovateľom systémov umelej inteligencie, ktorí majú v úmysle integrovať model do svojich systémov umelej inteligencie, aby týmto nadväzujúcim poskytovateľom umožnili pochopiť schopnosti a obmedzenia modelu a plniť si vlastné povinnosti podľa aktu o umelej inteligencii.

Keďže tieto modely sa zvyčajne trénujú na veľkom množstve údajov, ktoré môžu zahŕňať obsah chránený autorským právom, v akte o umelej inteligencii sa od poskytovateľov vyžaduje, aby zaviedli politiky v oblasti autorských práv a zverejnili zhrnutia obsahu použitého na trénovanie svojich modelov umelej inteligencie na všeobecné účely.

Napokon modely AI na všeobecné účely môžu predstavovať systémové riziká, ktoré môžu mať významný vplyv na trh Únie. Poskytovatelia takýchto modelov podliehajú dodatočným povinnostiam zameraným na posúdenie a zmiernenie týchto systémových rizík. Tieto povinnosti zahŕňajú vykonávanie hodnotení modelov, nahlasovanie incidentov a zabezpečenie primeranej ochrany kybernetickej bezpečnosti.

V týchto usmerneniach sa objasňuje, ako Komisia vykladá kľúčové pojmy v akte o umelej inteligencii, najmä pokiaľ ide o povinnosti poskytovateľov modelov umelej inteligencie na všeobecné účely, ktoré sa začnú uplatňovať 2. augusta 2025. Usmernenia tak poskytujú poskytovateľom právnu istotu. Pomáhajú aktérom v celom hodnotovom reťazci umelej inteligencie určiť, či sa ich model kvalifikuje ako model umelej inteligencie na všeobecné účely, či sú poskytovateľom, ktorý ho uvádza na trh, či sú oprávnení na výnimky a čo očakávať, pokiaľ ide o presadzovanie povinností stanovených v akte o umelej inteligencii Komisiou.

Tieto usmernenia sa vzťahujú výlučne na akt o umelej inteligencii, a nie na iné právne predpisy Únie.

Poskytovatelia modelov AI na všeobecné účely musia:

• vypracúva a uchováva technickú dokumentáciu o modeli vrátane podrobností o procese vývoja, ktorú na požiadanie poskytne úradu pre umelú inteligenciu. Príslušné vnútroštátne orgány môžu takisto požiadať úrad pre umelú inteligenciu, aby požiadal o informácie v ich mene, ak sú tieto informácie potrebné na ich úlohy dohľadu;
• poskytovať informácie a dokumentáciu nadväzujúcim poskytovateľom systémov umelej inteligencie s cieľom pomôcť im pochopiť schopnosti a obmedzenia modelu a plniť si vlastné povinnosti;
• vykonávať politiku dodržiavania právnych predpisov Únie v oblasti autorského práva a súvisiacich práv s využitím najmodernejších technológií na identifikáciu a dodržiavanie výhrad práv;
• uverejní dostatočne podrobné zhrnutie obsahu použitého na školenie modelu;
• ak sú usadené mimo EÚ, pred uvedením svojho modelu na trh vymenujú splnomocneného zástupcu v Únii.

Poskytovatelia modelov AI na všeobecné účely uvoľnených na základe bezplatnej licencie s otvoreným zdrojovým kódom môžu byť za určitých podmienok oslobodení od prvých povinností.

Poskytovatelia modelov AI na všeobecné účely so systémovým rizikom vrátane modelov s otvoreným zdrojovým kódom však čelia ďalším povinnostiam. Títo poskytovatelia musia napríklad informovať Komisiu pri vývoji modelu so systémovým rizikom a prijať opatrenia na zaistenie bezpečnosti a ochrany modelu.

Poskytovatelia môžu preukázať súlad prostredníctvom kódexu postupov, ktorý sa považuje za primeraný, alebo alternatívnymi primeranými prostriedkami.

Usmernenia pomáhajú určiť, či sa model kvalifikuje ako model AI na všeobecné účely, ak výpočtové zdroje použité na jeho trénovanie (výcvik výpočtov) presahujú 10 23 operácií s pohyblivou rádovou čiarkou (FLOP) a môžu generovať jazyk (text alebo zvuk), text na obraz alebo text na video. Táto prahová hodnota výpočtu zodpovedá tomu, čo sa zvyčajne používa na trénovanie modelov s miliardou parametrov na veľkých súboroch údajov. Zvolené spôsoby navyše umožňujú flexibilnú tvorbu obsahu schopnú vykonávať širokú škálu rôznych úloh. Nejde však o absolútne pravidlo – modely, ktoré spĺňajú toto kritérium, sa výnimočne nemusia považovať za modely AI na všeobecné účely, ak im chýba významná všeobecná platnosť, zatiaľ čo modely pod touto prahovou hodnotou môžu byť stále modelmi AI na všeobecné účely, ak vykazujú významnú všeobecnú platnosť a môžu kompetentne vykonávať širokú škálu úloh.

Spoločnosti pôsobiace v oblasti umelej inteligencie musia dodržiavať povinnosti poskytovateľov modelov umelej inteligencie na všeobecné účely, ak sú poskytovateľmi, ktorí uvádzajú takýto model na trh Únie.

1. Kvalifikácia ako model umelej inteligencie na všeobecné účely: Na základe orientačného kritéria uvedeného v usmerneniach sa modely trénované s množstvom výpočtov presahujúcim 10^23 FLOP, ktoré dokážu generovať jazyk, text na obraz alebo text na video, považujú za modely AI na všeobecné účely, hoci môžu existovať výnimky.
2. Ako „poskytovateľ“: „Poskytovateľ“ je subjekt, ktorý vyvíja alebo má vyvinutý model AI na všeobecné účely a uvádza ho na trh pod vlastným menom alebo ochrannou známkou. Patria sem spoločnosti usadené mimo EÚ, ktoré uvádzajú modely na trh Únie.
3. „Uvedenie na trh“: To znamená prvú dostupnosť na trhu Únie, či už prostredníctvom rozhraní API, sťahovania, cloudových služieb, integrácie do aplikácií alebo iných prostriedkov. Platí to aj vtedy, keď sú modely integrované do systémov umelej inteligencie alebo sa používajú v interných procesoch nevyhnutných na poskytovanie produktu alebo služby tretím stranám alebo keď majú vplyv na práva fyzických osôb v Únii.

V usmerneniach sa uvádzajú príklady na identifikáciu poskytovateľa v rôznych scenároch vrátane kolaboratívneho vývoja a dohôd s tretími stranami a objasňuje sa, aké opatrenia predstavujú uvedenie na trh.

V akte o umelej inteligencii sa vyvažuje inovácia a regulácia tým, že sa uznáva, že nie každá zmena alebo doladenie modelu umelej inteligencie na všeobecné účely by sa mali považovať za vytvorenie nového modelu. Subjekty, ktoré upravujú alebo dolaďujú model, ako také automaticky nepodliehajú všetkým povinnostiam poskytovateľov modelov AI na všeobecné účely.  V usmerneniach sa objasňuje, že títo aktéri sa stávajú poskytovateľmi len za výnimočných okolností, najmä ak sa pri úprave alebo dolaďovaní používa viac ako jedna tretina výpočtu odbornej prípravy pôvodného modelu.

Táto vysoká prahová hodnota znamená, že väčšina doladení, úprav a menších úprav nepodriadi vývojárov povinnostiam poskytovateľov.

Komisia v záujme podpory inovácií ďalej obmedzuje povinnosti týkajúce sa významných úprav na zdokumentovanie samotnej úpravy– vykonaných zmien a použitých nových trénovacích údajov – namiesto toho, aby vyžadovala úplnú dokumentáciu celého modelu. 

Tento prístup zabezpečuje, že prevažná väčšina vývojárov môže inovovať na základe existujúcich modelov bez nadmerného regulačného zaťaženia.

Tieto usmernenia nie sú právne záväzné. Autoritatívny výklad aktu o umelej inteligencii môže poskytnúť len Súdny dvor Európskej únie. V týchto usmerneniach sa však stanovuje výklad a uplatňovanie aktu o umelej inteligencii zo strany Komisie, na ktorom bude Komisia zakladať svoje opatrenia na presadzovanie práva. To pomáha poskytovateľom plniť si povinnosti a podporuje účinné vykonávanie aktu o umelej inteligencii. Napriek tomu bude vždy potrebné individuálne posúdenie, aby sa zohľadnili špecifiká každého jednotlivého prípadu.

Model AI na všeobecné účely sa klasifikuje ako model so systémovým rizikom, ak spĺňa jednu z dvoch podmienok.

• Podmienka výpočtu prahovej hodnoty: Model má schopnosti, ktoré zodpovedajú alebo presahujú tie najpokročilejšie modely. V akte o umelej inteligencii sa to predpokladá v prípade modelov trénovaných s kumulatívnym množstvom výpočtových zdrojov presahujúcim 10^25 FLOP (ďalej len „výpočtová prahová hodnota“), ktoré majú takéto schopnosti. Táto prahová hodnota naznačuje, že model by mohol výrazne ovplyvniť trh Únie vzhľadom na jeho dosah alebo potenciálne negatívne účinky na verejné zdravie, bezpečnosť, ochranu, základné práva alebo spoločnosť. Komisia musí v prípade potreby upraviť túto prahovú hodnotu, aby zohľadnila technologický vývoj.
• Podmienka označenia: Komisia môže určiť model ako model AI na všeobecné účely so systémovým rizikom buď z vlastnej iniciatívy, alebo v reakcii na kvalifikované varovanie vedeckého panelu, ak sú schopnosti alebo vplyv modelu rovnocenné schopnostiam alebo vplyvu najpokročilejších modelov. V tejto rezerve sa zohľadňujú modely, ktoré môžu predstavovať systémové riziká, aj keď nespĺňajú výpočtovú prahovú hodnotu.

Keď model spĺňa ktorúkoľvek z týchto podmienok, jeho poskytovateľ musí splniť dodatočné povinnosti vrátane posúdenia a zmiernenia systémových rizík.

Ak model AI na všeobecné účely spĺňa výpočtovú prahovú hodnotu alebo sa zistí, že táto prahová hodnota bude splnená, poskytovateľ to musí bezodkladne, najneskôr však do dvoch týždňov, oznámiť Komisii.

V tomto oznámení môže poskytovateľ predložiť argumenty na preukázanie toho, že napriek dosiahnutiu prahovej hodnoty model nemá schopnosti zodpovedajúce alebo presahujúce schopnosti najpokročilejších modelov alebo že nepredstavuje systémové riziká z iných dôvodov. Preto by sa nemal klasifikovať ako model AI na všeobecné účely so systémovým rizikom. 

Poskytovatelia môžu konkrétne tvrdiť, že ich model nepredstavuje systémové riziká, pretože mu chýbajú spôsobilosti s veľkým vplyvom – tie, ktoré zodpovedajú spôsobilostiam najpokročilejších modelov alebo ich presahujú, a systémové riziká spojené s takýmito spôsobilosťami s veľkým vplyvom.

Komisia posúdi argumenty predložené poskytovateľom a rozhodne, či ich prijme alebo zamietne.  

Ak Komisia prijme argumenty, model sa už nebude klasifikovať ako model AI na všeobecné účely so systémovým rizikom a jeho poskytovateľ nebude podliehať súvisiacim povinnostiam od okamihu, keď bude informovaný o rozhodnutí o prijatí.

Ak Komisia argumenty zamietne, model sa potvrdí ako model AI na všeobecné účely so systémovým rizikom a na poskytovateľa sa budú vzťahovať povinnosti týkajúce sa takýchto modelov od okamihu, keď model dosiahne výpočtovú prahovú hodnotu.

Nie všetci poskytovatelia modelov AI na všeobecné účely podliehajú rovnakým požiadavkám, keďže existujú výnimky pre poskytovateľov modelov vydaných na základe bezplatných licencií a licencií s otvoreným zdrojovým kódom. Poskytovatelia takýchto modelov môžu byť konkrétne oslobodení od požiadavky:

• viesť technickú dokumentáciu pre orgány;
• poskytovať dokumentáciu nadväzujúcim poskytovateľom systémov umelej inteligencie;
• vymenovať zástupcu EÚ (pre poskytovateľov z krajín mimo EÚ).

Tieto výnimky sa uplatňujú len vtedy, ak model:

• je vydaný na základe skutočne bezplatnej licencie s otvoreným zdrojovým kódom, ktorá umožňuje prístup, používanie, úpravu a distribúciu bez speňaženia;
• má verejne dostupné parametre vrátane hmotností, architektúry a informácií o používaní;
• nie je klasifikovaný ako model AI na všeobecné účely so systémovým rizikom,keďže poskytovatelia týchto modelov musia dodržiavať všetky povinnosti bez ohľadu na to, či ide o model s otvoreným zdrojovým kódom. 

Výnimky uznávajú, že modely s otvoreným zdrojovým kódom podporujú výskum a inovácie a zároveň zabezpečujú transparentnosť prostredníctvom svojej otvorenej povahy. Od poskytovateľov modelov s otvoreným zdrojovým kódom sa však stále vyžaduje, aby splnili povinnosť týkajúcu sa politiky v oblasti autorských práv a uverejnili zhrnutie školiacich údajov. 

Okrem štandardných povinností musia poskytovatelia všetkých modelov AI na všeobecné účely a poskytovatelia modelov AI na všeobecné účely so systémovým rizikom:

• Modelové hodnotenie: Vykonať hodnotenie modelu s použitím štandardizovaných protokolov a najmodernejších nástrojov vrátane vykonania a zdokumentovania testovania na zistenie a zmiernenie systémových rizík.
• Hodnotenie rizika: Posúdiť a zmierniť možné systémové riziká na úrovni Únie vrátane ich zdrojov, ktoré môžu vyplývať z vývoja, uvádzania na trh alebo používania týchto modelov.
• Hlásenie incidentov: Bez zbytočného odkladu sledovať, dokumentovať a oznamovať relevantné informácie o závažných incidentoch a možných nápravných opatreniach úradu pre umelú inteligenciu a prípadne vnútroštátnym orgánom.
• Záruky kybernetickej bezpečnosti: Zabezpečiť primeranú kybernetickú ochranu modelu aj jeho fyzickej infraštruktúry s cieľom zabrániť krádeži, zneužitiu alebo rozsiahlym dôsledkom poruchy.

Poskytovatelia môžu preukázať súlad dodržiavaním Kódexu postupov pre umelú inteligenciu na všeobecné účely alebo preukázaním alternatívnych primeraných prostriedkov súladu. Ak sa poskytovatelia rozhodnú pre druhú možnosť, musia predložiť argumenty, prečo sú takéto prostriedky primerané, čo posúdi Komisia.

Usmernenia dopĺňajú kódex postupov objasnením kľúčových pojmov v akte o umelej inteligencii vrátane toho, ako sa kódex môže použiť na preukázanie súladu. Hoci usmernenia poskytujú výkladový rámec na pochopenie povinností poskytovateľov modelov AI na všeobecné účely, kódex ponúka konkrétne opatrenia, ktoré môžu poskytovatelia zaviesť na preukázanie toho, že tieto povinnosti spĺňajú.

Komisia vypracovala tieto usmernenia prostredníctvom inkluzívneho konzultačného procesu s cieľom zabezpečiť, aby odrážali praktické skúsenosti a rôzne perspektívy. Od 22. apríla do 22. mája 2025 sa uskutočnila verejná konzultácia s viacerými zainteresovanými stranami, na ktorú boli pozvaní poskytovatelia modelov umelej inteligencie na všeobecné účely, nadväzujúci poskytovatelia, občianska spoločnosť, akademická obec, odborníci, verejné orgány a iné zainteresované strany. Usmernenia zahŕňali aj spätnú väzbu od členských štátov prostredníctvom Európskej rady pre umelú inteligenciu a čerpali z odborných znalostí skupiny expertov Spoločného výskumného centra Komisie. 

Poskytovatelia modelov umelej inteligencie na všeobecné účely musia splniť dve hlavné povinnosti týkajúce sa dokumentácie podľa aktu o umelej inteligencii:

• Technická dokumentácia pre orgány: Poskytovatelia musia vypracovať a viesť komplexnú technickú dokumentáciu pre orgány. To zahŕňa informácie o architektúre modelu, tréningovom procese, tréningových, testovacích a validačných údajoch, výpočtových zdrojoch a spotrebe energie. Táto dokumentácia sa musí na požiadanie sprístupniť úradu pre umelú inteligenciu, ktorý môže konať aj v mene príslušných vnútroštátnych orgánov.
• Dokumentácia pre nadväzujúcich poskytovateľov: Poskytovatelia musia takisto vytvoriť a viesť samostatnú dokumentáciu – tí, ktorí majú v úmysle integrovať príslušný model AI na všeobecné účely do systémov AI (ďalej len „nadväzujúci poskytovatelia“). Táto dokumentácia by mala obsahovať všeobecné informácie o plánovaných úlohách modelu, požiadavkách na technickú integráciu, špecifikáciách vstupov/výstupov a údajoch o odbornej príprave. Musí byť proaktívne sprístupnená nadväzujúcim poskytovateľom, aby im umožnila pochopiť schopnosti a obmedzenia modelu a plniť si povinnosti podľa aktu o umelej inteligencii. 

Oba súbory dokumentácie sa musia aktualizovať počas celého životného cyklu modelu. Modely AI na všeobecné účely vydané na základe bezplatnej licencie s otvoreným zdrojovým kódom môžu byť oslobodené od týchto požiadaviek na dokumentáciu za predpokladu, že spĺňajú určité podmienky týkajúce sa dodatočných informácií, ktoré sa musia sprístupniť. Táto výnimka sa však nevzťahuje na modely AI na všeobecné účely so systémovým rizikom.

Poskytovatelia modelov umelej inteligencie na všeobecné účely musia spĺňať dve hlavné povinnosti týkajúce sa verejnej transparentnosti a autorských práv podľa aktu o umelej inteligencii:

• Politika v oblasti autorských práv: Poskytovatelia musia zaviesť politiku, ktorá bude v súlade s právnymi predpismi Únie v oblasti autorských práv a s nimi súvisiacich práv. To zahŕňa identifikáciu a dodržiavanie výhrad k právam podľa právnych predpisov Únie v oblasti autorského práva.
• Verejné zhrnutie obsahu odbornej prípravy: Poskytovatelia musia zverejniť dostatočne podrobné zhrnutie obsahu použitého na školenie svojich modelov.

Tieto povinnosti sa vzťahujú na všetkých poskytovateľov modelov AI na všeobecné účely vrátane poskytovateľov modelov s otvoreným zdrojovým kódom. Kódex postupov pre umelú inteligenciu na všeobecné účely poskytuje podrobné usmernenia o tom, ako môžu poskytovatelia splniť povinnosť dodržiavať autorské práva.

Pokiaľ ide o požiadavku týkajúcu sa verejného zhrnutia, Komisia vypracúva vzor a sprievodné usmernenia, ktoré budú musieť poskytovatelia použiť na predloženie verejného zhrnutia.

Akt o umelej inteligencii zabezpečuje, aby následní vývojári mali dostatočné informácie prostredníctvom povinných požiadaviek na dokumentáciu pre poskytovateľov modelov umelej inteligencie na všeobecné účely. Poskytovatelia musia vytvoriť a aktívne poskytovať dokumentáciu určenú osobitne pre nadväzujúcich poskytovateľov systémov umelej inteligencie, ktorá zahŕňa:

• plánované úlohy modelu a politiky prijateľného používania;
• technické špecifikácie vrátane architektúry, parametrov, vstupných/výstupných modalít a formátu;
• integračné požiadavky, ako sú návod na použitie, potreby infraštruktúry a potrebné nástroje;
• informácie o type trénovacích, testovacích a validačných údajov, o pôvode a metodikách kurácie.

Nariadením tejto výmeny informácií sa aktom vytvára rámec transparentnosti, ktorý podporuje zodpovedné inovácie v celom hodnotovom reťazci umelej inteligencie.

Povinnosti poskytovateľov modelov umelej inteligencie na všeobecné účely vyplývajúce z aktu o umelej inteligenciisazačnú uplatňovať 2. augusta 2025. Od tohto dátumu musia poskytovatelia, ktorí uvádzajú tieto modely na trh, dodržiavať svoje povinnosti vyplývajúce z aktu o umelej inteligencii a bezodkladne informovať úrad pre umelú inteligenciu o modeloch so systémovým rizikom, ktoré sa majú uviesť na trh EÚ. 

V prvom roku od 2. augusta 2025 ponúkne úrad pre umelú inteligenciu úzku spoluprácu najmä s poskytovateľmi, ktorí dodržiavajú kódex postupov, s cieľom zabezpečiť, aby sa modely mohli bezodkladne uviesť na trh EÚ. Ak poskytovatelia, ktorí dodržiavajú kódex, okamžite neplnia všetky záväzky v plnej miere, úrad pre umelú inteligenciu ich nebude považovať za poskytovateľov, ktorí porušili svoje záväzky podľa kódexu. Úrad pre umelú inteligenciu ich namiesto toho bude považovať za konajúcich v dobrej viere a bude pripravený spolupracovať na zabezpečení úplného súladu. Od 2. augusta 2026 však bude Komisia presadzovať úplné dodržiavanie všetkých povinností poskytovateľov modelov AI na všeobecné účely, a to aj prostredníctvom pokút.

Poskytovatelia modelov umelej inteligencie na všeobecné účely uvedených na trh pred 2. augustom 2025 musia splniť povinnosti vyplývajúce z aktu o umelej inteligencii do 2. augusta 2027.