Povinnosti týkajúce sa transparentnosti podľa článku 50 aktu o umelej inteligencii

Podľa článku3 ods. 3 aktu o umelej inteligencii sú poskytovateľmi systémov umelej inteligencie fyzické alebo právnické osoby, orgány verejnej moci, agentúry alebo iné subjekty, ktoré vyvíjajú alebo nechávajú vyvíjať systémy umelej inteligencie a uvádzajú ich na trh EÚ alebo do prevádzky pod vlastným menom alebo ochrannou známkou. Platí to bez ohľadu na to, či sú títo poskytovatelia usadení alebo sa nachádzajú v EÚ alebo v tretej krajine. 

Ustanovenia aktu o umelej inteligencii sa vzťahujú aj na poskytovateľov systémov umelej inteligencie usadených alebo umiestnených mimo EÚ, ak sa výstup ich systému umelej inteligencie používa v EÚ. 

Poskytovatelia musia zabezpečiť, aby ich systémy umelej inteligencie spĺňali príslušné povinnosti týkajúce sa transparentnosti stanovené včlánku 50 ods. 1, 2 a 5 aktu o umelej inteligencii pred uvedením týchto systémov na trh alebo do prevádzky. 

Podľa článku 50 ods. 2 aktu o umelej inteligencii musia poskytovatelia navrhovať a vyvíjať systémy umelej inteligencie, ktoré komunikujú priamo s fyzickými osobami – ako sú chatboty, agenti umelej inteligencie a avatary – s cieľom zabezpečiť, aby boli ľudia informovaní o tom, že komunikujú s umelou inteligenciou. Poskytovatelia musia takisto zabezpečiť, aby výstupy ich generatívnych systémov umelej inteligencie boli označené účinnými, spoľahlivými, robustnými a interoperabilnými strojovo čitateľnými značkami, ktoré umožňujú detekciu výstupov ako generovaných alebo manipulovaných systémami umelej inteligencie.

Nasadzujúcimi subjektmi systémov umelej inteligencie sú fyzické alebo právnické osoby, orgány verejnej moci, agentúry alebo iné subjekty, ktoré používajú systémy umelej inteligencie v rámci svojej právomoci, s výnimkou použitia na osobné, neprofesionálne činnosti. 

Ak fyzická osoba používa systém umelej inteligencie ako svoju osobnú činnosť – napríklad na vytváranie deepfake a ich šírenie na sociálnych médiách – považuje sa to za osobnú činnosť. Takéto použitie je vylúčené z rozsahu pôsobnosti aktu o umelej inteligencii. Ak však ide o činnosť, prostredníctvom ktorej pravidelne získavajú hospodársky prospech (alebo sa inak podieľajú na podnikateľskej, obchodnej, pracovnej alebo samostatnej zárobkovej činnosti), považuje sa to za „profesionálnu“ činnosť. V tomto prípade sa fyzická osoba považuje za subjekt nasadzujúci daný systém umelej inteligencie. 

Ak je nasadzujúcim subjektom systému umelej inteligencie právnická osoba, v ktorej právomoci sa systém používa (napr. reklamná spoločnosť), jednotliví zamestnanci, ktorí konajú podľa pokynov a pod kontrolou danej právnickej osoby (napr. digitálni animátori, webdizajnéri, tvorcovia obsahu, novinári), by sa nemali považovať za samostatných nasadzujúcich subjektov daného systému. Právnická osoba zostáva nasadzujúcim subjektom aj vtedy, ak sú do prevádzky systému v jej mene a pod jej zodpovednosťou a kontrolou zapojené tretie strany (napr. dodávatelia, osoby na voľnej nohe). 

Podľa aktu o umelej inteligencii musia nasadzujúce subjekty zabezpečiť, aby informovali ľudí, keď používajú systémy rozpoznávania emócií alebo biometrickej kategorizácie (článok 50 ods. 3 aktu o umelej inteligencii), a jasne označovali deepfake a text vytvorený alebo zmanipulovaný umelou inteligenciou uverejnený vo veciach verejného záujmu bez ľudského preskúmania alebo redakčnej kontroly (článok 50 ods. 4 aktu o umelej inteligencii). 

Podľa článku50 ods. 1 aktu o umelej inteligencii poskytovatelia systémov umelej inteligencie, ktorí priamo komunikujú s ľuďmi, musia tieto systémy navrhovať a vyvíjať tak, aby boli dotknutí jednotlivci informovaní o tom, že komunikujú so systémom umelej inteligencie, pokiaľ to nie je zrejmé. 

Vusmerneniach o transparentnosti obsahu vytvoreného umelou inteligenciou sa objasňujú štyri kumulatívne kritériá, na ktoré sa táto povinnosť vzťahuje: 

1. systém sa musí považovať za systém umelej inteligencie; 

2. musí byť navrhnutý tak, aby umožňoval skutočnú obojsmernú výmenu s ľuďmi, a nie len zhromažďovanie údajov alebo poskytovanie automatizovaných odpovedí; 

3. interakcia musí byť priama, čo znamená, že samotná umelá inteligencia komunikuje s osobou, a nie prostredníctvom ľudského sprostredkovateľa; 

4. interakcia musí prebiehať s fyzickými osobami, či už spotrebiteľmi, odborníkmi alebo inými používateľmi. 

Systémy umelej inteligencie, ktoré fungujú výlučne na pozadí, prostredníctvom komunikácie medzi strojmi alebo bez priameho kontaktu s ľuďmi, nepatria do rozsahu pôsobnosti tejto povinnosti.

Ľudia musia byť informovaní o interakcii so systémom umelej inteligencie od začiatku prvej interakcie jasným a rozlíšiteľným spôsobom a v súlade s požiadavkami na prístupnosť.

To im umožní prijímať informované rozhodnutia týkajúce sa ich interakcie so systémom a zodpovedajúcim spôsobom nastaviť svoju dôveru v obsah.

Ľudia nemusia byť informovaní, keď je zrejmé, že komunikujú so systémom umelej inteligencie. V praxi bude musieť poskytovateľ na posúdenie toho, aká zrejmá je interakcia s umelou inteligenciou, identifikovať priemernú osobu, ktorá je primerane dobre informovaná, obozretná a pozorná. Takáto osoba hodnotí, či je zrejmé, že priamo komunikuje so systémom umelej inteligencie.

V usmerneniach sa uvádzajú ďalšie usmernenia a praktické príklady uplatňovania tejto výnimky. Mal by sa vykladať reštriktívne vzhľadom na to, že zbavuje ľudí transparentnosti. 

Podľa článku50 ods. 2 aktu o umelej inteligencii musia poskytovatelia systémov umelej inteligencie vrátane systémov umelej inteligencie na všeobecné účely generujúcich syntetický zvukový, obrazový, video alebo textový obsah zabezpečiť, aby bol obsah vytvorený umelou inteligenciou alebo zmanipulovaný obsah označený v strojovo čitateľnom formáte a zistiteľný ako umelo vytvorený alebo zmanipulovaný. 

Vusmerneniach o transparentnosti obsahu vytvoreného umelou inteligenciou sa objasňuje, že určité výstupy nepatria do rozsahu povinností, ako napríklad: 

• krátka sekvencia čísel, symbolov alebo písmen,  

• zdrojový kód 

• výstupy systému umelej inteligencie, ktoré sa majú prenášať výlučne zo stroja do stroja a spracúvať automaticky bez akejkoľvek expozície ľudí, alebo  

• výstupy, ktoré sa používajú len v priemyselnom prostredí a prostredí vývoja výrobkov s uzavretým cyklom, napríklad na výrobu filmov, pokiaľ nie sú konečným výstupom. 

Povinnosť označovať syntetický obsah vytvorený umelou inteligenciou alebo zmanipulovaný syntetický obsah sa neuplatňuje, ak systém umelej inteligencie vykonáva pomocnú funkciu pri štandardnej úprave. Usmernenia poskytujú rôznorodý súbor praktických príkladov toho, čo možno považovať za štandardnú úpravu a čo presahuje jej rámec. 

S cieľom zabezpečiť, aby sa článok 50 ods. 2 aktu o umelej inteligencii vykonával primeraným spôsobom, sa predpokladá úzka výnimka z povinnosti označovania pre systémy umelej inteligencie, ktoré generujú výstupy používané v „medzipodnikových“ alebo „priemyselných kontextoch“ (za predpokladu, že sú splnené podmienky uvedené v usmerneniach). 

Musia sa zohľadniť aj špecifiká a obmedzenia rôznych druhov obsahu, náklady na vykonávanie a všeobecne uznávaný stav techniky. Tieto pojmy sa ďalej vysvetľujú v usmerneniach.

Vkódexe postupov pre transparentnosť obsahu vytvoreného umelou inteligenciou sa stanovujú opatrenia, na základe ktorých sa poskytovatelia, ktorí dodržiavajú kódex, môžu spoľahnúť na preukázanie súladu s týmito povinnosťami označovania a odhaľovania právne istým a predvídateľným spôsobom bez ohľadu na ich sídlo, prevádzku alebo príslušný orgán dohľadu nad trhom. 

Podľačlánku 50 ods. 3 aktu o umelej inteligencii musia nasadzujúce subjekty systémov rozpoznávania emócií a systémov biometrickej kategorizácie informovať fyzické osoby, ktoré sú vystavené týmto systémom, o svojej činnosti v záujme ochrany svojho súkromia. To neznamená poskytovanie informácií týkajúcich sa napr. účelu prevádzky systému. 

Táto povinnosť sa uplatňuje bez ohľadu na to, či sú osoby vystavené takýmto systémom v reálnom čase alebo sú prevádzkované ex post. 

Deepfakes sú vymedzené včlánku 3 ods. 60 aktu o umelej inteligencii ako obrazový, zvukový alebo obrazový obsah vytvorený alebo zmanipulovaný umelou inteligenciou, ktorý sa podobá existujúcim osobám, objektom, miestam, subjektom alebo udalostiam a ktorý by sa osobe falošne javil ako autentický alebo pravdivý. 

Na to, aby obsah predstavoval „deepfake“, musia byť splnené tri kumulatívne kritériá: 

1. Podobnosť: vysoká úroveň podobnosti medzi obsahom deepfake a simulovaným subjektom. 

2. Existujúce: simulované osoby, predmety, miesta, entity alebo udalosti sa musia podobať na niekoho alebo niečo, čo existuje, môže vierohodne existovať alebo by mohlo vierohodne existovať v skutočnosti. 

3. Falošný vzhľad, ktorý je pravdivý alebo pravdivý: súvisí to so základnou vlastnosťou obsahu deepfake a jeho schopnosťou potenciálne oklamať alebo uviesť osobu do omylu, pokiaľ ide o pravosť alebo pravdivosť obsahu 

Na posúdenie posledného uvedeného kritéria umožňujú usmernenia o transparentnosti obsahu vytvoreného umelou inteligenciou zainteresovaným stranám zohľadniť: 

• úroveň podobnosti,  

• potenciálneho podstatného posolstva obsahu 

• plánované a predvídateľné kontexty zavádzania, 

• zamýšľané a logicky predvídateľné zloženie publika a jeho očakávania. 

Nasadzujúce subjekty tak môžu náležite zohľadniť osobitný kontext, v ktorom pôsobia, a publikum, ktorému bude ich obsah vystavený. Ak zamýšľané publikum v konkrétnom kontexte nasadenia neočakáva, že obsah bude autentický alebo pravdivý, obsah vytvorený alebo zmanipulovaný umelou inteligenciou sa nesmie falošne javiť ako autentický alebo pravdivý. Napríklad pri generácii umelej inteligencie alebo manipulácii so scénami na pozadí, špeciálnymi efektmi alebo technickým predbežným a následným spracovaním v rámci štandardných procesov filmovej produkcie nie je pravdepodobné, že by sa obsah divákom falošne javil ako autentický alebo pravdivý. 

Nasadzujúce subjekty musia zverejniť obsah deepfake fyzickej osobe najneskôr pri prvej expozícii. Toto zverejnenie by sa malo uskutočniť jasným a odlíšiteľným spôsobom. Malo by byť zrozumiteľné a vnímateľné pre fyzické osoby (napr. s viditeľnými alebo počuteľnými označeniami) bez toho, aby boli potrebné akékoľvek osobitné technické nástroje alebo vykonávanie špecializovaných opatrení. Nasadzujúce subjekty sa preto pri plnení svojej povinnosti zverejňovania nemôžu jednoducho spoliehať na strojovo čitateľné označenie vložené do obsahu poskytovateľom podľa článku 50 ods. 2 aktu o umelej inteligencii. 

Niektoré deepfake sú súčasťou zjavne umeleckých, kreatívnych, satirických, fiktívnych alebo podobných diel alebo programov. V tomto prípade sa povinnosť transparentnosti obmedzuje na zverejnenie obsahu deepfake vhodným spôsobom, ktorý nebráni zobrazeniu alebo užívaniu diela. 

Podľa článku50 ods. 4 aktu o umelej inteligencii musia subjekty nasadzujúce generatívne systémy umelej inteligencie jasne označiť uverejnený text vytvorený umelou inteligenciou alebo zmanipulovaný text s cieľom informovať verejnosť o záležitostiach verejného záujmu. Na to, aby sa na text vzťahovala táto povinnosť, musia byť splnené tri kritériá. Text musí byť:

• Uverejnené

• Informatívne pre verejnosť 

• Vo veciach verejného záujmu, ako sú:
  • politické a demokratické procesy,
  • verejná správa a služby,
  • výkon spravodlivosti a presadzovanie práva,
  • základné práva,
  • verejná bezpečnosť,
  • verejné zdravie,
  • ochrana životného prostredia,
  • bezpečnosť spotrebiteľov a akékoľvek ekonomické, 
  • finančný, politický, vedecký alebo kultúrny vývoj, ktorý môže byť relevantným predmetom verejnej diskusie.

Kódexpostupov pre transparentnosť obsahu vytvoreného umelou inteligenciouposkytuje dobrovoľný praktický nástroj, ktorý pomáha poskytovateľom a nasadzujúcim subjektom generatívnych systémov umelej inteligencie preukázať súlad s povinnosťami označovania a označovania podľa článku 50 ods. 2, 4 a 5 aktu o umelej inteligencii. Komisia aj Rada pre umelú inteligenciu posúdili kódex ako primeraný. Signatárom umožňuje využívať výhody právnej istoty, predvídateľnosti a dôvery, keďže sa môžu spoliehať na schválený kódex, ktorý podpísali, bez ohľadu na miesto ich usadenia, prevádzky alebo príslušného dozorného orgánu. 

Poskytovatelia a nasadzujúce subjekty systémov generatívnej umelej inteligencie, ktoré sa rozhodnú nedodržiavať kódex, budú musieť preukázať súlad alternatívnymi primeranými prostriedkami. Môžu byť predmetom väčšieho počtu žiadostí o informácie, keďže ich súlad s povinnosťami týkajúcimi sa transparentnosti podľa článku 50 ods. 2, 4 a 5 aktu o umelej inteligencii je menej transparentný. 

Pokiaľ ide o ďalšie povinnosti týkajúce sa transparentnosti (napr. povinnosti stanovené v článku 50 ods. 1 a 3 aktu o umelej inteligencii), poskytovatelia a nasadzujúce subjekty môžu sami určiť primerané opatrenia na zabezpečenie súladu, pričom zohľadnia usmernenia o transparentnosti obsahu vytvoreného umelou inteligenciou. 

Povinnosti týkajúce sa transparentnosti stanovené včlánku 50 aktu o umelej inteligencii dopĺňajú pravidlá transparentnosti uplatniteľné na modely umelej inteligencie na všeobecné účely stanovené v článkoch 53 a 55 aktu o umelej inteligencii. Prostriedky na dosiahnutie súladu s týmito pravidlami boli podrobnejšie opísané v Kódexe postupov pre modely umelej inteligencie na všeobecné účely (GPAI) a vo vzore Komisie na zhrnutie obsahu použitého na trénovanie modelov. 

Kódex postupov GPAI sa zameriava najmä na modely GPAI a dokumentáciu a informácie, ktoré sa majú poskytovať úradu pre umelú inteligenciu, príslušným vnútroštátnym orgánom a nadväzujúcim poskytovateľom, ako aj na transparentnosť vstupných trénovacích údajov. Kódex postupov pre transparentnosť obsahu vytvoreného umelou inteligenciou sa zaoberá technikami označovania a transparentnosťou výstupov vytvorených umelou inteligenciou alebo zmanipulovaných výstupov voči osobám, ktoré sú im vystavené. 

Kódex postupov pre transparentnosť obsahu vytvoreného umelou inteligenciou sa zameriava na povinnosti týkajúce sa transparentnosti na úrovni systému, okrem iného vrátane systémov GPAI. Techniky transparentnosti, ktoré môžu zaviesť poskytovatelia modelov GPAI s cieľom uľahčiť dodržiavanie povinností týkajúcich sa transparentnosti podľa článku 50 aktu o umelej inteligencii zo strany nadväzujúcich poskytovateľov systémov umelej inteligencie, sa budú posudzovať aj v kontexte tohto kódexu. 

Článok 50 aktu o umelej inteligencii sa uplatňuje od 2. augusta 2026. Od tohto dátumu musia poskytovatelia a subjekty nasadzujúce systémy umelej inteligencie dodržiavať povinnosti týkajúce sa transparentnosti stanovené v uvedenom ustanovení. Obmedzené obdobie odkladu sa predpokladá len v prípade systémov umelej inteligencie uvedených na trh pred 2. augustom 2026 a len pokiaľ ide o povinnosť označovania a detekcie obsahu vytvoreného umelou inteligenciou (článok 50 ods. 2 aktu o umelej inteligencii). Poskytovatelia takýchto systémov musia tieto povinnosti plniť až od 2. decembra 2026. 

Obsah vytvorený pred 2. augustom 2026 nemusí byť označený spätne. Komisia však nabáda príslušné nasadzujúce subjekty, aby tak urobili, ak je to možné, keďže to prispieva k cieľom sledovaným článkom 50 aktu o umelej inteligencii.

Dodržiavanie pravidiel budú presadzovať najmä príslušné vnútroštátne orgány dohľadu nad trhom. Úrad pre umelú inteligenciu má obmedzenú úlohu pri monitorovaní a presadzovaní, keďže je príslušný len pre systémy umelej inteligencie, ktoré sú postavené na modeloch umelej inteligencie na všeobecné účely, ak ten istý subjekt poskytuje systém a model alebo ak je systém umelej inteligencie integrovaný do veľmi veľkého internetového vyhľadávača alebo veľmi veľkej online platformy určenej podľa aktu o digitálnych službách. Európsky dozorný úradník pre ochranu údajov bude presadzovať pravidlá vo vzťahu k systémom umelej inteligencie, ktoré používajú inštitúcie, orgány a agentúry EÚ. 

Pokuty môžu dosiahnuť až 15 miliónov EUR alebo 3 % celkového celosvetového obratu za predchádzajúci finančný rok, pričom proporcionalitu možno zohľadniť v prípade malých a stredných podnikov (MSP) a malých spoločností so strednou trhovou kapitalizáciou (SMC).