Pokyny k povinnostem pro obecné poskytovatele UI

Obecné modely UI hrají významnou úlohu v inovacích UI, protože mohou být použity pro různé úkoly a integrovány do mnoha navazujících systémů UI. To klade zvláštní odpovědnost na jejich poskytovatele. Zejména musí zpřístupnit informace poskytovatelům systémů UI, kteří hodlají model začlenit do svých systémů UI, aby tito navazující poskytovatelé mohli porozumět schopnostem a omezením modelu a plnit své vlastní povinnosti podle aktu o UI.

Vzhledem k tomu, že tyto modely jsou obvykle trénovány na obrovském množství dat, která mohou zahrnovat obsah chráněný autorským právem, vyžaduje akt o umělé inteligenci, aby poskytovatelé zavedli politiky v oblasti autorského práva a zveřejňovali shrnutí obsahu použitého k trénování svých obecných modelů umělé inteligence.

V neposlední řadě mohou obecné modely UI představovat systémová rizika, která mohou mít významný dopad na trh Unie. Poskytovatelé těchto modelů podléhají dalším povinnostem zaměřeným na posouzení a zmírnění těchto systémových rizik. Tyto povinnosti zahrnují provádění hodnocení modelů, hlášení incidentů a zajištění odpovídající ochrany kybernetické bezpečnosti.

Tyto pokyny objasňují, jak Komise vykládá klíčové pojmy v aktu o umělé inteligenci, konkrétně ve vztahu k povinnostem poskytovatelů obecných modelů umělé inteligence, které vstoupí v platnost dne 2. srpna 2025. Pokyny tak poskytovatelům poskytují právní jistotu. Pomáhají aktérům v hodnotovém řetězci UI určit, zda se jejich model kvalifikuje jako obecný model UI, zda jsou poskytovatelem, který jej uvádí na trh, zda splňují podmínky pro výjimky a co lze očekávat, pokud jde o prosazování povinností stanovených v aktu o UI ze strany Komise.

Tyto pokyny se vztahují pouze na akt o umělé inteligenci, a nikoli na jiné právní předpisy Unie.

Poskytovatelé obecných modelů AI musí:

• vypracovává a udržuje technickou dokumentaci o modelu, včetně podrobností o procesu vývoje, aby ji na požádání poskytl úřadu pro umělou inteligenci. Příslušné vnitrostátní orgány mohou rovněž požádat úřad pro umělou inteligenci, aby si jejich jménem vyžádal informace, pokud jsou tyto informace potřebné pro jejich úkoly v oblasti dohledu;
• poskytovat informace a dokumentaci navazujícím poskytovatelům systémů UI s cílem pomoci jim porozumět schopnostem a omezením modelu a plnit jejich vlastní povinnosti;
• provádět politiku dodržování právních předpisů Unie v oblasti autorského práva a práv s ním souvisejících s využitím nejmodernějších technologií k identifikaci a dodržování výhrad k právům;
• zveřejní dostatečně podrobné shrnutí obsahu použitého pro školení modelu;
• je-li usazen mimo EU, jmenuje před uvedením svého modelu na trh zplnomocněného zástupce v Unii.

Poskytovatelé obecných modelů AI uvolněných na základě bezplatné licence s otevřeným zdrojovým kódem mohou být za určitých podmínek osvobozeni od prvních povinností.

Poskytovatelé obecných modelů AI se systémovým rizikem, včetně modelů s otevřeným zdrojovým kódem, však čelí dalším povinnostem. Tito poskytovatelé musí například informovat Komisi při vývoji modelu se systémovým rizikem a přijmout opatření k zajištění bezpečnosti a zabezpečení modelu.

Poskytovatelé mohou prokázat soulad prostřednictvím kodexu zásad, který byl posouzen jako přiměřený, nebo alternativními vhodnými prostředky.

Pokyny pomáhají určit, zda se model kvalifikuje jako obecný model AI, pokud výpočetní zdroje použité pro jeho trénink (tréninkový počítač) překračují 10^23 operací s pohyblivou řádovou čárkou (FLOP) a mohou generovat jazyk (text nebo audio), text-to-image nebo text-to-video. Tento výpočetní práh odpovídá tomu, co se obvykle používá k trénování modelů s jednou miliardou parametrů na velkých datových souborech. Zvolené modality navíc umožňují flexibilní generování obsahu schopného široké škály různých úkolů. Nejedná se však o absolutní pravidlo – modely splňující toto kritérium nemusí být výjimečně považovány za obecné modely AI, pokud postrádají významnou obecnost, zatímco modely pod touto prahovou hodnotou mohou být stále obecnými modely AI, pokud vykazují značnou obecnost a mohou kompetentně plnit širokou škálu úkolů.

Společnosti zabývající se UI musí plnit povinnosti poskytovatelů obecných modelů UI, pokud jsou poskytovateli uvádějícími takový model na trh Unie.

1. Kvalifikace jako obecný model UI: Na základě orientačního kritéria uvedeného v pokynech jsou modely trénované s množstvím výpočtů, které přesahuje 10^23 FLOP a které mohou generovat jazyk, text-to-image nebo text-to-video, považovány za obecné modely AI, i když mohou existovat výjimky.
2. Být „poskytovatelem“: „Poskytovatelem“ se rozumí subjekt, který vyvíjí nebo nechá vyvinout obecný model UI a uvádí jej na trh pod svým vlastním jménem nebo ochrannou známkou. Patří sem společnosti usazené mimo EU, které uvádějí modely na trh Unie.
3. „uváděním na trh“: To znamená první dostupnost na trhu Unie, ať už prostřednictvím rozhraní API, stahování, cloudových služeb, integrace do aplikací nebo jiných prostředků. To platí i v případě, že jsou modely integrovány do systémů UI nebo používány pro vnitřní procesy, které jsou nezbytné pro poskytování produktu nebo služby třetím stranám nebo ovlivňují práva fyzických osob v Unii.

Pokyny poskytují příklady pro identifikaci poskytovatele v různých scénářích, včetně vývoje založeného na spolupráci a ujednání s třetími stranami, a objasňují, jaké kroky představují uvedení na trh.

Akt o UI vyvažuje inovace a regulaci tím, že uznává, že ne každá změna nebo doladění obecného modelu UI by měla být považována za vytvoření nového modelu. Subjekty modifikující nebo dolaďující model proto automaticky nepodléhají všem povinnostem poskytovatelů obecných modelů AI.  Pokyny objasňují, že tyto subjekty se stávají poskytovateli pouze za výjimečných okolností, zejména pokud úprava nebo doladění využívá více než jednu třetinu tréninkového výpočtu původního modelu.

Tato vysoká prahová hodnota znamená, že většina doladění, úprav a drobných změn nebude vývojářům ukládat povinnosti poskytovatelů.

Komise na podporu inovací dále omezuje povinnosti týkající se významných změn na dokumentaci samotné změny– provedených změn a použitých nových údajů o odborné přípravě – namísto toho, aby vyžadovala úplnou dokumentaci celého modelu. 

Tento přístup zajišťuje, že převážná většina vývojářů může inovovat na základě stávajících modelů bez nadměrné regulační zátěže.

Tyto pokyny nejsou právně závazné. Spolehlivý výklad aktu o umělé inteligenci může podat pouze Soudní dvůr Evropské unie. Tyto pokyny však stanoví výklad a uplatňování aktu o umělé inteligenci ze strany Komise, z něhož bude vycházet její donucovací opatření. To poskytovatelům pomáhá plnit jejich povinnosti a podporuje účinné provádění aktu o umělé inteligenci. Posouzení každého jednotlivého případu však bude vždy nezbytné, aby se zohlednila specifika každého jednotlivého případu.

Obecný model AI je klasifikován jako model se systémovým rizikem, pokud splňuje jednu ze dvou podmínek.

• Podmínka vypočtené prahové hodnoty: Model má schopnosti, které odpovídají nebo přesahují schopnosti nejpokročilejších modelů. Akt o umělé inteligenci předpokládá, že takové schopnosti mají modely vyškolené s kumulativním množstvím výpočetních zdrojů přesahujícím 10^25 FLOP (dále jen „počítačová prahová hodnota“). Tato prahová hodnota naznačuje, že model by mohl mít významný dopad na trh Unie kvůli svému dosahu nebo potenciálním negativním dopadům na veřejné zdraví, bezpečnost, ochranu, základní práva nebo společnost. Komise musí tuto prahovou hodnotu v případě potřeby upravit, aby zohlednila technologický vývoj.
• Podmínka označení: Komise může určit model jako obecný model UI se systémovým rizikem buď z vlastního podnětu, nebo v reakci na kvalifikovanou výstrahu vědecké komise, pokud jsou schopnosti nebo dopad modelu rovnocenné schopnostem nebo dopadu nejpokročilejších modelů. Tato rezerva zahrnuje modely, které mohou představovat systémová rizika, i když nedosahují výpočetní prahové hodnoty.

Jakmile model splní některou z těchto podmínek, musí jeho poskytovatel splnit další povinnosti, včetně posouzení a zmírnění systémových rizik.

Pokud obecný model UI dosáhne výpočetní prahové hodnoty nebo se zjistí, že této prahové hodnoty bude dosaženo, musí to poskytovatel neprodleně, nejpozději však do dvou týdnů, oznámit Komisi.

V tomto oznámení může poskytovatel předložit argumenty prokazující, že navzdory splnění prahové hodnoty nemá model schopnosti odpovídající nebo přesahující schopnosti nejpokročilejších modelů nebo že nepředstavuje systémová rizika z jiných důvodů. Proto by neměl být klasifikován jako obecný model UI se systémovým rizikem. 

Poskytovatelé mohou konkrétně tvrdit, že jejich model nepředstavuje systémová rizika, protože postrádá schopnosti s vysokým dopadem - ty, které odpovídají schopnostem nejpokročilejších modelů nebo je přesahují, a systémová rizika spojená s těmito schopnostmi s vysokým dopadem.

Komise posoudí argumenty předložené poskytovatelem a rozhodne, zda je přijme, nebo zamítne.  

Pokud Komise argumenty přijme, model již nebude klasifikován jako obecný model AI se systémovým rizikem a na jeho poskytovatele se nebudou vztahovat související povinnosti od okamžiku, kdy budou informováni o rozhodnutí o přijetí.

Pokud Komise argumenty zamítne, bude model potvrzen jako obecný model UI se systémovým rizikem a na poskytovatele se budou vztahovat povinnosti týkající se těchto modelů od okamžiku, kdy model dosáhne výpočetní prahové hodnoty.

Ne všichni poskytovatelé obecných modelů AI podléhají stejným požadavkům, neboť existují výjimky pro poskytovatele modelů uvolněných na základě bezplatných licencí a licencí s otevřeným zdrojovým kódem. Poskytovatelé těchto modelů mohou být konkrétně osvobozeni od požadavku:

• vést technickou dokumentaci pro orgány;
• poskytovat dokumentaci navazujícím poskytovatelům systémů UI;
• jmenuje zástupce EU (pro poskytovatele ze zemí mimo EU).

Tyto výjimky se použijí pouze v případě, že model:

• je vydáván pod skutečně svobodnou licencí s otevřeným zdrojovým kódem, která umožňuje přístup, použití, úpravu a distribuci bez zpeněžení;
• má veřejně dostupné parametry, včetně vah, architektury a informací o používání;
• není klasifikován jako obecný model UI se systémovým rizikem,neboť poskytovatelé těchto modelů musí dodržovat všechny povinnosti bez ohledu na to, zda se jedná o model s otevřeným zdrojovým kódem. 

Výjimky uznávají, že modely s otevřeným zdrojovým kódem podporují výzkum a inovace a zároveň zajišťují transparentnost prostřednictvím své otevřené povahy. Poskytovatelé modelů s otevřeným zdrojovým kódem jsou však stále povinni splnit povinnost vyplývající z politiky v oblasti autorského práva a zveřejnit shrnutí vzdělávacích údajů. 

Kromě standardních povinností musí poskytovatelé všech obecných modelů AI a poskytovatelé obecných modelů AI se systémovým rizikem:

• Hodnocení modelu: Provádět hodnocení modelů pomocí standardizovaných protokolů a nejmodernějších nástrojů, včetně provádění a dokumentace kontradiktorního testování za účelem identifikace a zmírnění systémových rizik.
• Posouzení rizik: Posoudit a zmírnit možná systémová rizika na úrovni Unie, včetně jejich zdrojů, která mohou vyplývat z vývoje, uvádění na trh nebo používání těchto modelů.
• Hlášení incidentů: Bez zbytečného odkladu sledovat, dokumentovat a oznamovat relevantní informace o závažných incidentech a možných nápravných opatřeních úřadu pro AI a případně vnitrostátním orgánům.
• Záruky kybernetické bezpečnosti: Zajistit odpovídající kybernetickou bezpečnost modelu i jeho fyzické infrastruktury, aby se zabránilo krádeži, zneužití nebo rozsáhlým důsledkům poruchy.

Poskytovatelé mohou prokázat soulad dodržováním všeobecného kodexu zásad UI nebo prokázáním alternativních vhodných způsobů dodržování. Pokud si poskytovatelé zvolí druhou možnost, musí předložit argumenty, proč jsou tyto prostředky přiměřené, což Komise posoudí.

Pokyny doplňují kodex zásad tím, že objasňují klíčové pojmy v aktu o umělé inteligenci, včetně toho, jak lze kodex použít k prokázání souladu. Zatímco pokyny poskytují výkladový rámec pro pochopení povinností poskytovatelů obecných modelů AI, kodex nabízí konkrétní opatření, která mohou poskytovatelé zavést, aby prokázali, že tyto povinnosti plní.

Komise tyto pokyny vypracovala prostřednictvím inkluzivního konzultačního procesu, aby zajistila, že budou odrážet praktické zkušenosti a různé perspektivy. Ve dnech 22. dubna až 22. května 2025 proběhla veřejná mnohostranná konzultace, v níž byli vyzváni poskytovatelé obecných modelů AI, navazující poskytovatelé, občanská společnost, akademická obec, odborníci, veřejné orgány a další zúčastněné strany. Pokyny rovněž zahrnovaly zpětnou vazbu od členských států prostřednictvím Evropské rady pro umělou inteligenci a vycházely z odborných znalostí skupiny odborníků Společného výzkumného střediska Komise. 

Poskytovatelé obecných modelů AI musí splnit dvě hlavní povinnosti týkající se dokumentace podle aktu o AI:

• Technická dokumentace pro orgány: Poskytovatelé musí vypracovat a vést komplexní technickou dokumentaci pro orgány. To zahrnuje informace o architektuře modelu, tréninkovém procesu, tréninkových, testovacích a validačních datech, výpočetních zdrojích a spotřebě energie. Tato dokumentace musí být na požádání zpřístupněna úřadu pro umělou inteligenci, který může rovněž jednat jménem příslušných vnitrostátních orgánů.
• Dokumentace pro navazující poskytovatele: Poskytovatelé musí rovněž vytvořit a vést samostatnou dokumentaci – ti, kteří hodlají dotčený obecný model UI integrovat do systémů UI (dále jen „navazující poskytovatelé“). Tato dokumentace by měla obsahovat obecné informace o zamýšlených úkolech modelu, požadavcích na technickou integraci, vstupních/výstupních specifikacích a tréninkových údajích. Musí být proaktivně zpřístupněn navazujícím poskytovatelům, aby mohli porozumět schopnostem a omezením modelu a plnit své povinnosti podle aktu o umělé inteligenci. 

Oba soubory dokumentace musí být aktualizovány po celou dobu životního cyklu modelu. Obecné modely AI vydané na základě bezplatné licence s otevřeným zdrojovým kódem mohou být od těchto požadavků na dokumentaci osvobozeny, pokud splňují určité podmínky týkající se dodatečných informací, které musí být zpřístupněny. Tato výjimka se však nevztahuje na obecné modely AI se systémovým rizikem.

Poskytovatelé obecných modelů AI musí plnit dvě hlavní povinnosti týkající se veřejné transparentnosti a autorského práva podle aktu o AI:

• Politika v oblasti autorského práva: Poskytovatelé musí zavést politiku dodržování právních předpisů Unie v oblasti autorského práva a práv s ním souvisejících. To zahrnuje identifikaci a dodržování výhrad k právům podle právních předpisů Unie v oblasti autorského práva.
• Veřejné shrnutí obsahu školení: Poskytovatelé musí zveřejnit dostatečně podrobné shrnutí obsahu použitého pro školení svých modelů.

Tyto povinnosti se vztahují na všechny poskytovatele obecných modelů AI, včetně poskytovatelů modelů s otevřeným zdrojovým kódem. Obecný kodex zásad umělé inteligence poskytuje podrobné pokyny, jak mohou poskytovatelé splnit povinnost dodržovat autorská práva.

Pokud jde o požadavek na veřejné shrnutí, Komise připravuje šablonu a doprovodné pokyny, které budou muset poskytovatelé použít k předložení veřejného shrnutí.

Akt o umělé inteligenci zajišťuje, aby následní vývojáři měli dostatečné informace, a to prostřednictvím povinných požadavků na dokumentaci pro poskytovatele obecných modelů umělé inteligence. Poskytovatelé musí vytvořit a aktivně poskytovat dokumentaci navrženou speciálně pro navazující poskytovatele systémů UI, která zahrnuje:

• zamýšlené úkoly modelu a zásady přijatelného používání;
• technické specifikace včetně architektury, parametrů, vstupních/výstupních modalit a formátu;
• požadavky na integraci, jako jsou návod k použití, potřeby infrastruktury a nezbytné nástroje;
• informace o typu údajů o školení, testování a validaci, provenienci a metodice kurátorství.

Pověřením tohoto sdílení informací vytváří akt rámec transparentnosti, který podporuje odpovědné inovace v celém hodnotovém řetězci umělé inteligence.

Povinnosti vyplývající z aktu o umělé inteligenci pro poskytovatele obecných modelů umělé inteligence vstoupí v platnost dne 2. srpna 2025. Od tohoto data musí poskytovatelé uvádějící tyto modely na trh dodržovat své povinnosti vyplývající z aktu o umělé inteligenci a neprodleně informovat úřad pro umělou inteligenci o modelech se systémovým rizikem, které mají být uvedeny na trh EU. 

V prvním roce počínaje 2. srpnem 2025 nabídne Úřad pro umělou inteligenci úzkou spolupráci zejména s poskytovateli, kteří dodržují kodex zásad, s cílem zajistit, aby modely mohly být neprodleně uvedeny na trh EU. Pokud poskytovatelé, kteří kodex dodržují, neplní všechny závazky okamžitě v plném rozsahu, úřad pro umělou inteligenci nebude mít za to, že své závazky podle kodexu porušili. Místo toho bude mít úřad pro umělou inteligenci za to, že jednají v dobré víře, a bude připraven spolupracovat na zajištění plného souladu. Od 2. srpna 2026 však bude Komise prosazovat plné dodržování všech povinností poskytovatelů obecných modelů AI, a to i prostřednictvím pokut.

Poskytovatelé obecných modelů AI uvedených na trh před 2. srpnem 2025 musí splnit povinnosti vyplývající z aktu o AI do 2. srpna 2027.