Povinnosti týkající se transparentnosti podle článku 50 aktu o umělé inteligenci

Podle čl. 3 odst. 3 aktu o UI jsou poskytovateli systémů UI fyzické nebo právnické osoby, orgány veřejné moci, agentury nebo jiné subjekty, které vyvíjejí nebo nechávají vyvíjet systémy UI a uvádějí je na trh EU nebo do provozu pod svým vlastním jménem nebo ochrannou známkou. To platí bez ohledu na to, zda jsou tito poskytovatelé usazeni nebo se nacházejí v EU nebo ve třetí zemi. 

Ustanovení aktu o umělé inteligenci se vztahují i na poskytovatele systémů UI usazené nebo nacházející se mimo EU, pokud se výstup jejich systému UI používá v EU. 

Poskytovatelé musí před uvedením svých systémů UI na trh nebo do provozu zajistit, aby jejich systémy UI splňovaly příslušné povinnosti týkající se transparentnosti stanovené v čl. 50 odst. 1, 2 a 5 aktu o UI. 

Podle čl. 50 odst. 2 aktu o UI musí poskytovatelé navrhovat a vyvíjet systémy UI, které přímo komunikují s fyzickými osobami – jako jsou chatboti, agenti UI a avataři – s cílem zajistit, aby byli lidé informováni o tom, že komunikují s UI. Poskytovatelé musí rovněž zajistit, aby výstupy jejich generativních systémů UI byly označeny účinnými, spolehlivými, robustními a interoperabilními strojově čitelnými značkami, které umožňují detekovat výstupy jako generované systémy UI nebo s nimi manipulované.

Zavádějícími subjekty systémů UI jsou fyzické nebo právnické osoby, orgány veřejné moci, agentury nebo jiné subjekty, které používají systémy UI spadající do jejich pravomoci, s výjimkou použití pro osobní, neprofesionální činnosti. 

Pokud fyzická osoba používá systém UI za svou osobu – například k vytváření deepfakes a jejich šíření na sociálních médiích –, považuje se to za osobní činnost. Takové použití je z oblasti působnosti aktu o umělé inteligenci vyloučeno. Pokud se však jedná o činnost, jejímž prostřednictvím pravidelně získávají hospodářský prospěch (nebo jsou jinak zapojeni do podnikatelské, obchodní, profesní nebo nezávislé činnosti), považuje se za „odbornou“ činnost. V tomto případě se fyzická osoba považuje za provozovatele tohoto systému UI. 

Pokud je provozovatelem systému UI právnická osoba, v jejímž pravomoci je systém používán (např. reklamní společnost), neměli by být jednotliví zaměstnanci, kteří jednají podle pokynů a pod kontrolou této právnické osoby (např. digitální animátoři, webdesignéři, tvůrci obsahu, novináři), považováni za samostatné provozovatele tohoto systému. Právnická osoba zůstává provozovatelem i v případě, že se třetí strany (např. dodavatelé, osoby samostatně výdělečně činné) podílejí na provozu systému jejím jménem, na její odpovědnost a pod její kontrolou. 

Podle aktu o umělé inteligenci musí provozovatelé zajistit, aby informovali lidi, pokud používají systémy rozpoznávání emocí nebo biometrické kategorizace (čl. 50 odst. 3 aktu o umělé inteligenci) a jasně označili deepfakes a text vytvořený umělou inteligencí nebo zmanipulovaný text zveřejněný o záležitostech veřejného zájmu bez lidského přezkumu nebo redakční kontroly (čl. 50 odst. 4 aktu o umělé inteligenci). 

Podle čl. 50 odst. 1 aktu o UI musí poskytovatelé systémů UI, které přímo interagují s lidmi, navrhnout a vyvinout tyto systémy tak, aby byly dotčené osoby informovány o tom, že interagují se systémem UI, není-li to zřejmé. 

Pokynyk transparentnosti obsahu vytvořeného umělou inteligencí objasňují čtyři kumulativní kritéria, na něž se tato povinnost vztahuje: 

1. systém musí být považován za systém UI; 

2. musí být navržen pro skutečnou obousměrnou výměnu s lidmi, a nikoli pouze pro shromažďování údajů nebo poskytování automatizovaných odpovědí; 

3. interakce musí být přímá, což znamená, že samotná umělá inteligence komunikuje s osobou spíše než prostřednictvím lidského prostředníka; 

4. interakce musí probíhat s fyzickými osobami, ať už se jedná o spotřebitele, odborníky nebo jiné uživatele. 

Do oblasti působnosti této povinnosti nespadají systémy UI fungující výhradně na pozadí, prostřednictvím komunikace mezi stroji nebo bez přímého kontaktu s lidmi.

Lidé musí být o interakci se systémem UI informováni od začátku první interakce jasným a rozlišitelným způsobem a v souladu s požadavky na přístupnost.

To jim umožní přijímat informovaná rozhodnutí týkající se jejich interakce se systémem a odpovídajícím způsobem kalibrovat jejich důvěru v obsah.

Lidé nemusí být informováni, pokud je zřejmé, že komunikují se systémem umělé inteligence. V praxi bude muset poskytovatel k posouzení toho, jak zřejmá je interakce s umělou inteligencí, identifikovat průměrnou osobu, která je přiměřeně dobře informovaná, obezřetná a pozorná. Tato osoba vyhodnocuje, zda je zřejmé, že přímo interaguje se systémem UI.

Pokyny poskytují další pokyny a praktické příklady, jak tuto výjimku uplatňovat. Měl by být vykládán restriktivně vzhledem k tomu, že zbavuje lidi transparentnosti. 

Podle čl. 50 odst. 2 aktu o UImusí poskytovatelé systémů UI, včetně obecných systémů UI, které vytvářejí syntetický zvukový, obrazový, video nebo textový obsah, zajistit, aby obsah vytvořený nebo zmanipulovaný UI byl označen ve strojově čitelném formátu a bylo možné jej detekovat jako uměle vytvořený nebo zmanipulovaný. 

Pokynyk transparentnosti obsahu vytvořeného umělou inteligencí objasňují, že některé výstupy nespadají do oblasti působnosti povinností, jako jsou: 

• krátká posloupnost čísel, symbolů nebo písmen,  

• zdrojový kód 

• výstupy systému UI určené k tomu, aby byly sdělovány výhradně mezi stroji a zpracovávány automaticky bez jakékoli expozice člověka, nebo  

• výstupy, které se používají pouze v uzavřených průmyslových a vývojových prostředích, například pro filmovou výrobu, pokud nejsou konečným výstupem. 

Povinnost označovat syntetický obsah vytvořený umělou inteligencí nebo manipulovaný syntetický obsah se nevztahuje na případy, kdy systém umělé inteligence vykonává pomocnou funkci pro standardní editaci. Pokyny poskytují různorodý soubor praktických příkladů toho, co lze považovat za standardní editaci a co přesahuje rámec. 

Aby se zajistilo, že čl. 50 odst. 2 aktu o UI bude prováděn přiměřeným způsobem, předpokládá se úzká výjimka z povinnosti označování pro systémy UI, které vytvářejí výstupy používané v „mezi podniky“ nebo „průmyslových souvislostech“ (za předpokladu, že jsou splněny podmínky uvedené v pokynech). 

Rovněž je třeba vzít v úvahu specifika a omezení různých druhů obsahu, náklady na provádění a obecně uznávaný stav techniky. Tyto pojmy jsou dále vysvětleny v pokynech.

Kodex zásad transparentnosti obsahu vytvořeného umělou inteligencí stanoví opatření, na jejichž základě mohou poskytovatelé, kteří kodex dodržují, právně jistým a předvídatelným způsobem prokázat dodržování těchto povinností označování a odhalování, a to bez ohledu na místo usazení, provoz nebo příslušný orgán dozoru nad trhem. 

Podlečl. 50 odst. 3 aktu o umělé inteligenci musí provozovatelé systémů rozpoznávání emocí a systémů biometrické kategorizace informovat fyzické osoby, které jsou těmto systémům vystaveny, o svém provozu za účelem ochrany svého soukromí. To nezahrnuje poskytování informací týkajících se např. účelu provozu systému. 

Tato povinnost platí bez ohledu na to, zda jsou osoby těmto systémům vystaveny v reálném čase nebo zda jsou provozovány ex post. 

Deepfakes jsou definovány včl. 3 bodě 60 aktu o umělé inteligenci jako obrazový, zvukový nebo video obsah vytvořený umělou inteligencí nebo s ním manipulovaný, který se podobá existujícím osobám, objektům, místům, subjektům nebo událostem a který by se dané osobě nepravdivě jevil jako autentický nebo pravdivý. 

Aby obsah představoval „deepfake“, musí být splněna tři kumulativní kritéria: 

1. Podobnost: vysoká míra podobnosti mezi obsahem deepfake a simulovaným subjektem. 

2. Stávající: simulované osoby, objekty, místa, entity nebo události se musí podobat někomu nebo něčemu, co existuje, může věrohodně existovat nebo mohlo věrohodně existovat ve skutečnosti. 

3. Falešný vzhled, aby byl autentický nebo pravdivý: to se týká základní charakteristiky deepfake obsahu a jeho schopnosti potenciálně klamat nebo uvádět osobu v omyl, pokud jde o pravdivost nebo pravdivost obsahu. 

Pro posouzení posledního výše uvedeného kritéria umožňují pokyny k transparentnosti obsahu vytvořeného umělou inteligencí zúčastněným stranám zohlednit: 

• úroveň podobnosti,  

• potenciální věcné sdělení obsahu 

• zamýšlené a předvídatelné souvislosti zavádění, 

• zamýšlené a rozumně předvídatelné složení publika a jejich očekávání. 

To umožňuje provozovatelům řádně zvážit konkrétní kontext, v němž působí, a publikum, kterému bude jejich obsah vystaven. Pokud zamýšlené publikum v konkrétním kontextu nasazení neočekává, že obsah bude autentický nebo pravdivý, nemusí se obsah vytvořený umělou inteligencí nebo zmanipulovaný obsah nepravdivě jevit jako autentický nebo pravdivý. Například generování umělé inteligence nebo manipulace se scénami na pozadí, speciálními efekty nebo technickým předběžným a následným zpracováním v rámci standardních procesů filmové produkce pravděpodobně nezpůsobí, že se obsah bude divákům nepravdivě jevit jako autentický nebo pravdivý. 

Provozovatelé musí zveřejnit deepfake obsah fyzické osobě nejpozději při první expozici. K tomuto zveřejnění by mělo dojít jasným a rozlišitelným způsobem. Mělo by být srozumitelné a vnímatelné fyzickými osobami (např. pomocí viditelných nebo zvukových štítků), aniž by byly zapotřebí zvláštní technické nástroje nebo provádění zvláštních opatření. Provozovatelé se proto nemohou při plnění své informační povinnosti spoléhat pouze na strojově čitelné označení vložené poskytovatelem do obsahu podle čl. 50 odst. 2 aktu o umělé inteligenci. 

Některé deepfakes jsou součástí zjevně uměleckých, tvůrčích, satirických, fiktivních nebo analogických děl nebo programů. V těchto případech je povinnost transparentnosti omezena na zveřejnění obsahu deepfake vhodným způsobem, který nebrání zobrazení nebo požívání díla. 

Podlečl. 50 odst. 4 aktu o umělé inteligenci musí provozovatelé generativních systémů umělé inteligence jasně označit text vytvořený umělou inteligencí nebo zmanipulovaný text zveřejněný za účelem informování veřejnosti o záležitostech veřejného zájmu. Aby text spadal do této povinnosti, musí být splněna tři kritéria. Text musí být:

• Zveřejněno

• Informativní pro veřejnost 

• ve věcech veřejného zájmu, jako jsou:
  • politiky a demokratických procesů,
  • veřejná správa a služby,
  • výkon spravedlnosti a prosazování práva,
  • základní práva,
  • veřejná bezpečnost,
  • veřejné zdraví,
  • ochrana životního prostředí,
  • bezpečnost spotřebitelů a jakékoli ekonomické, 
  • finanční, politický, vědecký nebo kulturní vývoj, který může být relevantním předmětem veřejné diskuse.

Kodex zásad transparentnosti obsahu vytvořeného umělou inteligencí poskytuje dobrovolný praktický nástroj, který má poskytovatelům a provozovatelům generativních systémů UI pomoci prokázat soulad s povinnostmi značení a označování podle čl. 50 odst. 2, 4 a 5 aktu o UI. Kodex byl posouzen jako přiměřený jak Komisí, tak Radou pro umělou inteligenci. Umožňuje signatářům využívat právní jistoty, předvídatelnosti a důvěry, neboť se mohou spolehnout na schválený kodex, který podepsali, bez ohledu na místo usazení, provoz nebo příslušný dozorový úřad. 

Poskytovatelé a provozovatelé generativních systémů UI, kteří se rozhodnou kodex nedodržovat, budou muset dodržování kodexu prokázat alternativními vhodnými prostředky. Mohou být předmětem většího počtu žádostí o informace, neboť existuje menší transparentnost, pokud jde o to, jak plní povinnosti týkající se transparentnosti podle čl. 50 odst. 2, 4 a 5 aktu o umělé inteligenci. 

U ostatních povinností týkajících se transparentnosti (např. těch, které jsou stanoveny v čl. 50 odst. 1 a 3 aktu o umělé inteligenci) mohou poskytovatelé a provozovatelé sami určit vhodná opatření k zajištění souladu, přičemž zohlední pokyny k transparentnosti obsahu vytvořeného umělou inteligencí. 

Povinnosti týkající se transparentnosti stanovené včlánku 50 aktu o UI doplňují pravidla transparentnosti použitelná na obecné modely UI stanovená v článcích 53 a 55 aktu o UI. Prostředky k dosažení souladu s těmito pravidly jsou podrobněji popsány v Kodexu zásad pro modely umělé inteligence pro všeobecné účely (GPAI) a v šabloně Komise pro shrnutí obsahu použitého pro modelovou přípravu. 

Kodex zásad GPAI se zaměřuje zejména na modely GPAI a dokumentaci a informace, které mají být poskytnuty úřadu pro umělou inteligenci, příslušným vnitrostátním orgánům a navazujícím poskytovatelům, a na transparentnost vstupních tréninkových údajů. Kodex zásad transparentnosti obsahu vytvořeného umělou inteligencí se zabývá technikami označování a transparentností výstupů vytvořených nebo zmanipulovaných umělou inteligencí vůči osobám, které jsou jim vystaveny. 

Kodex zásad transparentnosti obsahu vytvořeného umělou inteligencí se zaměřuje na povinnosti transparentnosti na úrovni systému, mimo jiné včetně systémů GPAI. V souvislosti s tímto kodexem budou rovněž zváženy techniky transparentnosti, které mohou poskytovatelé modelů GPAI zavést s cílem usnadnit navazujícím poskytovatelům systémů UI dodržování povinností transparentnosti podle článku 50 aktu o UI. 

Článek 50 aktu o umělé inteligenci se použije ode dne 2. srpna 2026. Od tohoto data musí poskytovatelé a provozovatelé systémů UI dodržovat povinnosti týkající se transparentnosti stanovené v uvedeném ustanovení. Omezená odkladná lhůta se předpokládá pouze pro systémy UI uvedené na trh před 2. srpnem 2026 a pouze pokud jde o povinnost označování a detekce obsahu vytvořeného UI (čl. 50 odst. 2 aktu o UI). Poskytovatelé těchto systémů musí tyto povinnosti plnit až od 2. prosince 2026. 

Obsah vytvořený před 2. srpnem 2026 nemusí být označen se zpětnou platností. Komise však vybízí příslušné zavádějící subjekty, aby tak pokud možno činily, neboť to přispívá k cílům sledovaným článkem 50 aktu o umělé inteligenci.

Dodržování pravidel budou prosazovat především příslušné vnitrostátní orgány dozoru nad trhem. Úřad pro umělou inteligenci má při monitorování a prosazování omezenou úlohu, neboť je příslušný pouze pro systémy UI, které jsou založeny na obecných modelech UI, pokud stejný subjekt poskytuje systém a model nebo pokud je systém UI integrován do velmi velkého internetového vyhledávače nebo velmi velké online platformy určené podle aktu o digitálních službách. Evropský inspektor ochrany údajů bude prosazovat pravidla ve vztahu k systémům UI používaným orgány, institucemi a jinými subjekty EU. 

Pokuty mohou dosáhnout až 15 milionů EUR nebo 3 % celkového celosvětového obratu za předchozí účetní období, přičemž v případě malých a středních podniků a malých společností se střední tržní kapitalizací lze zohlednit proporcionalitu.