Usmernenia a kódex postupov pre transparentné systémy umelej inteligencie

• Transparentnosť, pokiaľ ide o umelý pôvod obsahu vytvoreného umelou inteligenciou alebo zmanipulovaného umelou inteligenciou, je nevyhnutná. Dostupnosť rôznych systémov umelej inteligencie s rastúcimi schopnosťami generovať všetky druhy obsahu spôsobuje, že je čoraz ťažšie odlíšiť obsah umelej inteligencie od autentického obsahu vytvoreného človekom. Zvyšujú sa tým nové riziká dezinformácií a manipulácie vo veľkom rozsahu, podvodov, napodobňovania identity a zavádzania spotrebiteľov.
• V tejto súvislosti sa v článku 50 aktu o umelej inteligencii stanovujú povinnosti týkajúce sa transparentnosti pre poskytovateľov a nasadzujúce subjekty určitých systémov umelej inteligencie vrátane generatívnych a interaktívnych systémov umelej inteligencie a deepfake.
• Cieľom týchto povinností je znížiť riziko podvodu, zosobnenia a dezinformácií a posilniť dôveru a integritu v informačnom ekosystéme. Ľudia budú vedieť, kedy komunikujú s umelou inteligenciou alebo sú vystavení obsahu vytvorenému umelou inteligenciou, čo im pomôže prijímať informované rozhodnutia. 

• Článok 50 aktu o umelej inteligencii sa vzťahuje na štyri typy systémov umelej inteligencie. Po prvé, poskytovatelia systémov umelej inteligencie, ktorí komunikujú s ľuďmi, ich musia informovať, že komunikujú so systémom umelej inteligencie, a nie s človekom, pokiaľ to nie je zrejmé.
• Po druhé, poskytovatelia obsahu vytvoreného alebo zmanipulovaného umelou inteligenciou musia uľahčiť identifikáciu a označovanie takéhoto obsahu strojovo čitateľným spôsobom a umožniť súvisiace detekčné mechanizmy.
• Po tretie, subjekty nasadzujúce systémy rozpoznávania emócií alebo biometrickej kategorizácie musia zabezpečiť, aby osoby vystavené týmto systémom boli informované.
• Po štvrté subjekty nasadzujúce systémy umelej inteligencie, ktoré vytvárajú deepfake obsah alebo s ním manipulujú, alebo textové publikácie vytvorené umelou inteligenciou alebo zmanipulované textové publikácie určené na informovanie verejnosti o záležitostiach verejného záujmu musia používateľov informovať o umelom pôvode obsahu, s výnimkou vymedzených prípadov. Napokon, poskytnuté informácie by mali byť v jasnom a prístupnom formáte.

• Techniky alebo metódy označovania a odhaľovania obsahu vytvoreného umelou inteligenciou zahŕňajú vodoznaky, identifikáciu metaúdajov a kryptografické metódy na preukázanie pôvodu a pravosti obsahu, metódy protokolovania, odtlačky prstov alebo iné techniky.
• Príslušné techniky a metódy by mali byť dostatočne spoľahlivé, interoperabilné, účinné a spoľahlivé, pokiaľ je to technicky možné. Poskytovatelia by mali zohľadniť aj špecifiká a obmedzenia rôznych druhov obsahu a príslušný technologický a trhový vývoj v tejto oblasti.
• Ďalšia identifikácia vznikajúcich najmodernejších techník a postupov bude dôležitou súčasťou práce, ktorá sa má vykonať v kontexte Kódexu postupov pre transparentné generatívne systémy umelej inteligencie.

Kódex postupov pre transparentné generatívne systémy umelej inteligencie bude dobrovoľným nástrojom na zabezpečenie riadneho dodržiavania povinností stanovených v článku 50 ods. 2 a 4 aktu o umelej inteligencii pre poskytovateľov a nasadzujúce subjekty generatívnych systémov umelej inteligencie. Ak ho Komisia schváli ako primeraný, poskytne nasadzujúcim subjektom a poskytovateľom, ktorí vyvíjajú alebo plánujú vyvinúť generatívne systémy umelej inteligencie v rozsahu pôsobnosti, jasné opatrenia. Kódexom sa zaručí, aby systémy generatívnej umelej inteligencie uvádzané na európsky trh pristupujúcimi poskytovateľmi a nasadzujúcimi subjektmi boli dostatočne transparentné v súlade s príslušnými požiadavkami na transparentnosť stanovenými v akte o umelej inteligencii.

• Praktické opatrenia kódexu postupov sa budú vzťahovať len na povinnosti stanovené v článku 50 ods. 2 a 4 aktu o umelej inteligencii. Usmernenia sa budú vzťahovať na článok 50 ako celok.
• Okrem toho sa kódex postupov vypracuje prostredníctvom procesu viacerých zainteresovaných strán a poskytne technické vykonávacie prostriedky.
• Usmernenia, ktoré má Komisia vypracovať a prijať, objasnia rozsah uplatňovania, príslušné právne definície, povinnosti týkajúce sa transparentnosti, výnimky a súvisiace horizontálne otázky. 

• Hlavnými adresátmi kódexu sú poskytovatelia a subjekty nasadzujúce generatívne systémy umelej inteligencie vrátane MSP, na ktoré sa vzťahujú povinnosti. Poskytovatelia techník transparentnosti, organizácie občianskej spoločnosti, akademickí experti a iné príslušné organizácie alebo priemyselné združenia sa vyzývajú, aby podporili proces navrhovania. Zapojením všetkých týchto zainteresovaných strán sa kódexom postupov uľahčí účinné vykonávanie príslušných povinností týkajúcich sa transparentnosti. Kódexom sa podporia aj praktické opatrenia na sprístupnenie mechanizmov odhaľovania a uľahčí sa spolupráca s inými aktérmi v celom hodnotovom reťazci.
• Zainteresované strany sa vyzývajú, aby prejavili záujem o účasť na procese navrhovania do 9. októbra. Úrad pre umelú inteligenciu overí oprávnenosť na základe predložených a verejne dostupných informácií a potvrdí účasť príslušným zainteresovaným stranám.

• Povinnosti týkajúce sa transparentnosti podľa článku 50 aktu o umelej inteligencii dopĺňajú pravidlá transparentnosti uplatniteľné na modely umelej inteligencie na všeobecné účely (články 53 a 55). Tie boli podrobnejšie opísané v Kódexe postupov pre modely umelej inteligencie na všeobecné účely (GPAI) a vo vzore Komisie na zhrnutie obsahu použitého na trénovanie modelov.
• Konkrétne, zatiaľ čo kódex postupov GPAI sa zameriava na modely GPAI a dokumentáciu a informácie, ktoré sa majú poskytovať úradu pre umelú inteligenciu, príslušným vnútroštátnym orgánom a nadväzujúcim poskytovateľom, a na transparentnosť vstupných trénovacích údajov, kódex o transparentných generatívnych systémoch umelej inteligencie sa zaoberá technikami označovania a transparentnosťou vytvorených alebo zmanipulovaných výstupov umelej inteligencie voči osobám, ktoré sú im vystavené.
• Kódex o transparentných generatívnych systémoch umelej inteligencie sa zameriava na povinnosti týkajúce sa transparentnosti na systémovej úrovni, okrem iného vrátane systémov GPAI. V kontexte tohto kódexu sa zvážia aj techniky transparentnosti, ktoré môžu zaviesť poskytovatelia modelov GPAI na uľahčenie povinností týkajúcich sa transparentnosti pre nadväzujúcich poskytovateľov systémov umelej inteligencie.

• Úrad pre umelú inteligenciu vyzve všetky oprávnené zainteresované strany, aby sa zúčastnili na procese vypracúvania kódexu postupov, a vyberie predsedov a podpredsedov pre rôzne pracovné skupiny.
• Začiatkom novembra sa uskutoční úvodné plenárne zasadnutie so všetkými vybranými účastníkmi. Očakáva sa, že proces navrhovania bude trvať najneskôr do začiatku júna 2026.

Ak kódex schváli Komisia, signatári sa budú môcť pri preukazovaní súladu s povinnosťami spoľahnúť na kódex. Pokiaľ ide o poskytovateľov a nasadzujúce subjekty, ktoré dodržiavajú kódex, Komisia zameria svoje činnosti v oblasti presadzovania práva na monitorovanie ich dodržiavania kódexu.

Budú ťažiť zo zvýšenej dôvery zo strany Komisie a iných zainteresovaných strán.