Pokyny a kodex zásad pro transparentní systémy UI

• Zásadní význam má transparentnost, pokud jde o umělý původ obsahu vytvořeného nebo manipulovaného umělou inteligencí. Vzhledem k dostupnosti různých systémů umělé inteligence s rostoucími schopnostmi vytvářet všechny druhy obsahu je stále obtížnější odlišit obsah umělé inteligence od autentického obsahu vytvořeného člověkem. To zvyšuje nová rizika dezinformací a manipulace ve velkém měřítku, podvodů, vydávání se za jinou osobu a klamání spotřebitelů.
• V této souvislosti stanoví článek 50 aktu o UI povinnosti týkající se transparentnosti pro poskytovatele a provozovatele některých systémů UI, včetně generativních a interaktivních systémů UI a deep fakes.
• Cílem těchto povinností je snížit riziko klamání, vydávání se za jinou osobu a dezinformací a podpořit důvěru a integritu v informačním ekosystému. Lidé budou vědět, kdy komunikují s umělou inteligencí nebo jsou vystaveni obsahu vytvořenému umělou inteligencí, což jim pomůže přijímat informovaná rozhodnutí. 

• Článek 50 aktu o UI se vztahuje na čtyři typy systémů UI. Za prvé, poskytovatelé systémů UI, kteří komunikují s lidmi, je musí informovat o tom, že komunikují se systémem UI, a nikoli s člověkem, pokud to není zřejmé.
• Za druhé, poskytovatelé obsahu vytvořeného nebo zmanipulovaného umělou inteligencí musí usnadnit identifikaci a označit tento obsah strojově čitelným způsobem a umožnit související detekční mechanismy.
• Za třetí, provozovatelé systémů rozpoznávání emocí nebo biometrické kategorizace musí zajistit, aby osoby vystavené těmto systémům byly informovány.
• Za čtvrté, provozovatelé systémů UI vytvářejících nebo manipulujících s hluboce falešným obsahem nebo textovými publikacemi vytvořenými nebo zmanipulovanými UI, které mají informovat veřejnost o záležitostech veřejného zájmu, musí informovat uživatele o umělém původu obsahu, s výjimkou vymezených případů. Poskytnuté informace by měly být v jasném a přístupném formátu.

• Techniky nebo metody označování a detekce obsahu vytvořeného umělou inteligencí zahrnují vodoznaky, identifikaci metadat a kryptografické metody pro prokázání původu a pravosti obsahu, metody protokolování, otisky prstů nebo jiné techniky.
• Příslušné techniky a metody by měly být dostatečně spolehlivé, interoperabilní, účinné a spolehlivé, pokud je to technicky proveditelné. Poskytovatelé by měli rovněž zohlednit specifika a omezení různých druhů obsahu a příslušný technologický a tržní vývoj v této oblasti.
• Důležitou součástí práce, která má být vykonána v souvislosti s kodexem zásad pro transparentní generativní systémy UI, bude další identifikace nových nejmodernějších technik a postupů.

Kodex zásad pro transparentní systémy generativní UI bude dobrovolným nástrojem k zajištění řádného dodržování povinností stanovených v čl. 50 odst. 2 a 4 aktu o UI pro poskytovatele a provozovatele systémů generativní UI. Pokud ji Komise schválí jako přiměřenou, poskytne provozovatelům a poskytovatelům, kteří vyvíjejí nebo plánují vyvíjet generativní systémy UI spadající do oblasti působnosti, jasná opatření. Kodex zaručí, že generativní systémy UI uváděné na evropský trh přistoupivšími poskytovateli a zavádějícími subjekty budou dostatečně transparentní v souladu s příslušnými požadavky na transparentnost stanovenými v aktu o UI.

• Praktická opatření kodexu se budou vztahovat pouze na povinnosti stanovené v čl. 50 odst. 2 a 4 aktu o umělé inteligenci. Pokyny se budou vztahovat na článek 50 jako celek.
• Kodex zásad bude navíc vypracován prostřednictvím procesu zahrnujícího více zúčastněných stran a bude poskytovat technické prováděcí prostředky.
• Pokyny, které má Komise vypracovat a přijmout, objasní oblast působnosti, příslušné právní definice, povinnosti týkající se transparentnosti, výjimky a související horizontální otázky. 

• Hlavními adresáty kodexu jsou poskytovatelé a provozovatelé systémů generativní umělé inteligence, včetně malých a středních podniků, na něž se tyto povinnosti vztahují. Poskytovatelé technik transparentnosti, organizace občanské společnosti, akademičtí odborníci a další příslušné organizace nebo odvětvová sdružení se vyzývají, aby proces vypracovávání návrhu podpořili. Zapojením všech těchto zúčastněných stran usnadní kodex účinné provádění příslušných povinností v oblasti transparentnosti. Kodex rovněž podpoří praktická opatření pro zpřístupnění detekčních mechanismů a usnadní spolupráci s dalšími aktéry v celém hodnotovém řetězci.
• Zúčastněné strany se vyzývají, aby do 9. října vyjádřily svůj zájem o účast na procesu vypracovávání. Úřad pro umělou inteligenci ověří způsobilost na základě předložených a veřejně dostupných informací a potvrdí účast příslušným zúčastněným stranám.

• Povinnosti týkající se transparentnosti podle článku 50 aktu o UI doplňují pravidla transparentnosti platná pro obecné modely UI (články 53 a 55). Ty byly podrobněji popsány v Kodexu zásad pro modely všeobecné umělé inteligence (GPAI) a v šabloně Komise pro shrnutí obsahu použitého pro modelové školení.
• Zatímco kodex zásad GPAI se zaměřuje na modely GPAI a dokumentaci a informace, které mají být poskytovány úřadu pro umělou inteligenci, příslušným vnitrostátním orgánům a navazujícím poskytovatelům, a na transparentnost vstupních tréninkových údajů, kodex o transparentních generativních systémech UI se zabývá technikami označování a transparentností výstupů vytvořených nebo zmanipulovaných umělou inteligencí vůči osobám, které jsou jim vystaveny.
• Kodex o transparentních systémech generativní umělé inteligence se zaměřuje na povinnosti transparentnosti na úrovni systému, mimo jiné včetně systémů GPAI. V souvislosti s tímto kodexem budou rovněž zváženy techniky transparentnosti, které mohou poskytovatelé modelů GPAI zavést s cílem usnadnit povinnosti transparentnosti pro navazující poskytovatele systémů UI.

• Úřad pro umělou inteligenci vyzve všechny způsobilé zúčastněné strany k účasti na procesu vypracovávání kodexu a vybere předsedy a místopředsedy pro různé pracovní skupiny.
• Zahajovací plenární zasedání se uskuteční začátkem listopadu za účasti všech vybraných účastníků. Očekává se, že přípravný proces potrvá nejdéle do začátku června 2026.

Pokud kodex schválí Komise, budou se signatáři moci při prokazování souladu s povinnostmi spolehnout na kodex. Pokud jde o poskytovatele a provozovatele, kteří kodex dodržují, zaměří Komise své činnosti v oblasti prosazování na sledování jejich dodržování kodexu.

Budou těžit ze zvýšené důvěry Komise a dalších zúčastněných stran.