MI akta 50. pantā noteiktie pārredzamības pienākumi

Saskaņā ar MI akta 3. panta 3. punktu MI sistēmu sagādātāji ir fiziskas vai juridiskas personas, publiskas iestādes, aģentūras vai citas struktūras, kas izstrādā vai liek izstrādāt MI sistēmas un laiž tās ES tirgū vai nodod ekspluatācijā ar savu vārdu vai preču zīmi. Tas nav atkarīgs no tā, vai šie pakalpojumu sniedzēji veic uzņēmējdarbību vai atrodas ES vai trešā valstī. 

MI akta noteikumi attiecas arī uz MI sistēmu sagādātājiem, kas iedibināti vai atrodas ārpus ES, ja to MI sistēmas iznākumu izmanto ES. 

Sagādātājiem pirms minēto sistēmu laišanas tirgū vai nodošanas ekspluatācijā ir jānodrošina, ka to MI sistēmas atbilst attiecīgajiem MI akta 50. panta 1., 2. un 5. punktā noteiktajiem pārredzamības pienākumiem. 

Saskaņā ar MI akta 50. panta 2. punktu sagādātājiem ir jāprojektē un jāizstrādā MI sistēmas, kas tieši mijiedarbojas ar fiziskām personām, piemēram, sarunbotiem, MI aģentiem un iemiesotājiem, lai nodrošinātu, ka cilvēki tiek informēti par to, ka viņi mijiedarbojas ar MI. Nodrošinātājiem ir arī jānodrošina, ka to ģeneratīvo MI sistēmu iznākumi ir marķēti ar efektīvām, uzticamām, stabilām un sadarbspējīgām mašīnlasāmām zīmēm, kas ļauj konstatēt iznākumus kā tādus, ko ģenerējušas vai manipulējušas MI sistēmas.

MI sistēmu ieviesēji ir fiziskas vai juridiskas personas, publiskas iestādes, aģentūras vai citas struktūras, kas izmanto MI sistēmas to pakļautībā, izņemot izmantošanu personīgām, neprofesionālām darbībām. 

Ja fiziska persona izmantoAI sistēmu savā personīgajā statusā, piemēram, lai ģenerētu dziļviltojumus un izplatītu tos sociālajos medijos, to uzskata par personisku darbību. Šāda izmantošana ir izslēgta no MI akta darbības jomas. Tomēr, ja tā ir darbība, ar kuru viņi regulāri gūst ekonomisku labumu (vai citādi ir iesaistīti uzņēmējdarbībā, tirdzniecībā, profesionālā vai ārštata darbībā), to uzskata par “profesionālu” darbību. Šajā gadījumā fizisko personu uzskata par minētās MI sistēmas ieviesēju. 

Ja MI sistēmas ieviesējs ir juridiska persona, kuras pakļautībā sistēma tiek izmantota (piemēram, reklāmas uzņēmums), atsevišķie darbinieki, kas rīkojas saskaņā ar minētās juridiskās personas norādījumiem un tās kontrolē (piemēram, digitālie animatori, tīmekļa dizaineri, satura radītāji, žurnālisti), nebūtu jāuzskata par atsevišķiem minētās sistēmas ieviesējiem. Juridiska persona joprojām ir ieviesējs pat tad, ja sistēmas darbībā tās vārdā, tās atbildībā un kontrolē ir iesaistītas trešās personas (piemēram, darbuzņēmēji, ārštata darbinieki). 

Saskaņā ar MI aktu ieviesējiem ir jānodrošina, ka viņi informē cilvēkus, kad viņi izmanto emociju atpazīšanas vai biometriskās kategorizācijas sistēmas (MI akta 50. panta 3. punkts), un skaidri marķē dziļviltojumus un MI radītu vai manipulētu tekstu, kas publicēts par sabiedrības interešu jautājumiem bez cilvēka veiktas pārskatīšanas vai redakcionālas kontroles (MI akta 50. panta 4. punkts). 

Saskaņā arMI akta 50. panta 1. punktu MI sistēmu sagādātājiem, kas tieši mijiedarbojas ar cilvēkiem, minētās sistēmas jāprojektē un jāizstrādā tā, lai attiecīgās personas tiktu informētas par to, ka tās mijiedarbojas ar MI sistēmu, ja vien tas nav acīmredzams. 

Pamatnostādnēs par MI radīta satura pārredzamību ir precizēti četri kumulatīvie kritēriji, uz kuriem attiecas šis pienākums: 

1. sistēmai ir jābūt kvalificētai kā AI sistēmai; 

2. tai jābūt izstrādātai tā, lai nodrošinātu patiesu divvirzienu apmaiņu ar cilvēkiem, nevis tikai vāktu datus vai sniegtu automatizētas atbildes; 

3. mijiedarbībai ir jābūt tiešai, proti, MI pats sazinās ar personu, nevis ar cilvēka starpniecību; 

4. mijiedarbībai jābūt ar fiziskām personām – patērētājiem, profesionāļiem vai citiem lietotājiem. 

Šis pienākums neattiecas uz AI sistēmām, kas darbojas tikai fonā, izmantojot mašīnas-mašīnas sakarus vai bez tieša kontakta ar cilvēkiem.

Cilvēki ir skaidri un atšķirami, kā arī saskaņā ar piekļūstamības prasībām jāinformē par to, ka viņi mijiedarbojas ar MI sistēmu jau no pirmās mijiedarbības sākuma.

Tas ļaus viņiem pieņemt uz informāciju balstītus lēmumus par mijiedarbību ar sistēmu un attiecīgi pielāgot savu uzticēšanos saturam.

Cilvēki nav jāinformē, ja ir acīmredzams, ka viņi mijiedarbojas ar MI sistēmu. Praksē, lai novērtētu, cik acīmredzama ir MI mijiedarbība, nodrošinātājam būs jāidentificē vidusmēra persona, kas ir samērā labi informēta, apdomīga un uzmanīga. Šāda persona novērtē, vai ir acīmredzams, ka tā tieši mijiedarbojas ar MI sistēmu.

Pamatnostādnēs ir sniegti papildu norādījumi un praktiski piemēri par to, kā piemērot šo izņēmumu. Tas būtu jāinterpretē šauri, ņemot vērā, ka tas liedz cilvēkiem pārredzamību. 

Saskaņā ar MI akta 50. panta 2. punktuMI sistēmu, tostarp vispārīga lietojuma MI sistēmu, nodrošinātājiem, kas rada sintētisku audio, attēlu, video vai teksta saturu, ir jānodrošina, ka MI radīts vai manipulēts saturs tiek marķēts mašīnlasāmā formātā un ir nosakāms kā mākslīgi radīts vai manipulēts. 

Pamatnostādnēs par MI radīta satura pārredzamību ir precizēts, ka daži iznākumi neietilpst pienākumu darbības jomā, piemēram: 

• īsa ciparu, simbolu vai burtu secība,  

• pirmkods 

• tādas AI sistēmas iznākumus, kas paredzēta vienīgi nosūtīšanai no mašīnas uz mašīnu un automātiskai apstrādei bez jebkādas saskares ar cilvēkiem, vai  

• izlaide, ko izmanto tikai slēgta cikla rūpniecības un produktu izstrādes vidēs, piemēram, filmu ražošanai, ja vien tā nav galīgā izlaide. 

Pienākums marķēt MI radītu vai manipulētu sintētisko saturu neattiecas uz gadījumiem, kad MI sistēma veic palīgfunkciju standarta rediģēšanai. Vadlīnijās ir sniegts daudzveidīgs praktisku piemēru kopums par to, ko var uzskatīt par standarta rediģēšanu un kas pārsniedz to. 

Lai nodrošinātu, ka MI akta 50. panta 2. punkts tiek īstenots samērīgi, ir paredzēts šaurs atbrīvojums no marķēšanas pienākuma attiecībā uz MI sistēmām, kas rada iznākumus, kurus izmanto “uzņēmumu savstarpējos darījumos” vai “rūpnieciskos kontekstos” (ar noteikumu, ka ir izpildīti pamatnostādnēs paredzētie nosacījumi). 

Jāņem vērā arī dažādu satura veidu īpatnības un ierobežojumi, īstenošanas izmaksas un vispāratzītie jaunākie sasniegumi. Pamatnostādnēs šie jēdzieni ir izskaidroti sīkāk.

MI radīta satura pārredzamības prakses kodeksā ir izklāstīti pasākumi, uz kuriem nodrošinātāji, kas ievēro kodeksu, var paļauties, lai juridiski noteiktā un paredzamā veidā pierādītu atbilstību šiem marķēšanas un atklāšanas pienākumiem neatkarīgi no to iedibinājuma vietas, darbības vietas vai kompetentās tirgus uzraudzības iestādes. 

Saskaņā arMI akta 50. panta 3. punktu emociju atpazīšanas sistēmu un biometriskās kategorizācijas sistēmu uzturētājiem ir jāinformē fiziskas personas, kuras ir pakļautas minēto sistēmu iedarbībai, par to darbību, lai aizsargātu viņu privātumu. Tas nenozīmē informācijas sniegšanu, piemēram, par sistēmas darbības mērķi. 

Pienākums ir piemērojams neatkarīgi no tā, vai personas ir pakļautas šādām sistēmām reāllaikā vai arī tās darbojas ex post. 

MI akta 3. panta 60.punktā dziļviltojumi ir definēti kā MI radīts vai manipulēts attēlu, audio vai video saturs, kas atgādina esošas personas, objektus, vietas, vienības vai notikumus un personai maldinoši šķistu autentisks vai patiess. 

Lai saturs būtu “dziļviltojums”, ir jāizpilda trīs kumulatīvi kritēriji: 

1. Līdzība: augsta līdzības pakāpe starp dziļviltojumu saturu un imitēto tematu. 

2. Esošais: simulētām personām, objektiem, vietām, vienībām vai notikumiem ir jālīdzinās kādam vai kaut kam, kas pastāv, var ticami pastāvēt vai varētu ticami pastāvēt realitātē. 

3. Nepatiess izskats, lai būtu autentisks vai patiess: tas attiecas uz dziļviltota satura būtisko pazīmi un tā spēju potenciāli maldināt vai maldināt personu par satura autentiskumu vai patiesumu. 

Lai novērtētu pēdējo iepriekš minēto kritēriju, Pamatnostādnes par MI radīta satura pārredzamību ļauj ieinteresētajām personām ņemt vērā: 

• līdzības pakāpe,  

• satura iespējamais būtiskais vēstījums; 

• paredzēto un paredzamo izvēršanas kontekstu, 

• plānotais un saprātīgi paredzamais auditorijas sastāvs un to gaidas. 

Tas ļauj ieviesējiem pienācīgi ņemt vērā konkrēto kontekstu, kurā tie darbojas, un auditoriju, kurai viņu saturs tiks pakļauts. Ja paredzētā auditorija konkrētā ieviešanas kontekstā nesagaida, ka saturs būs autentisks vai patiess, MI radītais vai manipulētais saturs nedrīkst nepatiesi šķist autentisks vai patiess. Piemēram, mākslīgā intelekta ģenerēšana vai manipulācijas ar fona ainām, īpašiem efektiem vai tehnisko priekšapstrādi un pēcapstrādi kā daļu no standarta filmu ražošanas procesiem, visticamāk, nepatiesi neparādīs auditorijai, ka saturs ir autentisks vai patiess. 

Ieviesējiem ir jāatklāj dziļviltots saturs fiziskai personai ne vēlāk kā pēc pirmās saskares. Šādai informācijas atklāšanai būtu jānotiek skaidrā un atšķiramā veidā. Fiziskām personām tai vajadzētu būt saprotamai un uztveramai (piemēram, ar redzamu vai dzirdamu marķējumu), bez vajadzības pēc īpašiem tehniskiem instrumentiem vai īpašām darbībām. Tāpēc ieviesēji nevar vienkārši paļauties uz mašīnlasāmo marķējumu, ko saturā iegulis nodrošinātājs saskaņā ar MI akta 50. panta 2. punktu, lai izpildītu savu izpaušanas pienākumu. 

Daži dziļviltojumi ir daļa no acīmredzami mākslinieciskiem, radošiem, satīriskiem, izdomātiem vai analogiem darbiem vai programmām. Attiecībā uz tiem pārredzamības pienākums attiecas tikai uz dziļviltota satura izpaušanu piemērotā veidā, kas nekavē darba attēlošanu vai baudīšanu. 

Saskaņā arMI akta 50. panta 4. punktu ģeneratīvo MI sistēmu ieviesējiem ir skaidri jāmarķē MI ģenerēts vai manipulēts teksts, kas publicēts, lai informētu sabiedrību par sabiedrības interešu jautājumiem. Lai uz tekstu attiektos šis pienākums, ir jāizpilda trīs kritēriji. Tekstam jābūt šādam:

• Publicēts

• Sabiedrības informēšana 

• Sabiedrības interešu jautājumos, piemēram:
  • politika un demokrātiskie procesi,
  • valsts pārvalde un pakalpojumi,
  • tiesvedību un tiesībaizsardzību,
  • pamattiesības,
  • sabiedrības drošība,
  • sabiedrības veselība,
  • vides aizsardzība,
  • patērētāju drošība un visi ekonomiskie aspekti, 
  • finansiālas, politiskas, zinātniskas vai kultūras norises, kas var būt nozīmīgs sabiedriskās apspriešanas temats.

MI radīta satura pārredzamības prakses kodekssir brīvprātīgs praktisks rīks, kas palīdz ģeneratīvā MI sistēmu sagādātājiem un ieviesējiem pierādīt atbilstību MI akta 50. panta 2., 4. un 5. punktā noteiktajiem marķēšanas un etiķetēšanas pienākumiem. Gan Komisija, gan MI padome ir novērtējušas kodeksu kā atbilstošu. Tas ļauj parakstītājiem gūt labumu no juridiskās noteiktības, paredzamības un uzticēšanās, jo viņi var paļauties uz apstiprinātu kodeksu, ko viņi ir parakstījuši, neatkarīgi no uzņēmējdarbības veikšanas vietas, darbības vietas vai kompetentās uzraudzības iestādes. 

Ģeneratīvā MI sistēmu sagādātājiem un ieviesējiem, kas nolemj neievērot kodeksu, būs jāpierāda atbilstība, izmantojot alternatīvus piemērotus līdzekļus. Uz tiem var attiekties vairāk informācijas pieprasījumu, jo ir mazāka pārredzamība par to, kā tie izpilda MI akta 50. panta 2., 4. un 5. punktā noteiktos pārredzamības pienākumus. 

Attiecībā uz citiem pārredzamības pienākumiem (piemēram, tiem, kas noteikti MI akta 50. panta 1. un 3. punktā) sagādātāji un ieviesēji paši var noteikt pienācīgus atbilstības nodrošināšanas pasākumus, vienlaikus ņemot vērā Pamatnostādnes par MI radīta satura pārredzamību. 

MI akta 50. pantā noteiktie pārredzamības pienākumi papildina MI akta 53. un 55. pantā noteiktos pārredzamības noteikumus, kas piemērojami vispārīga lietojuma MI modeļiem. Veidi, kā panākt atbilstību minētajiem noteikumiem, ir sīkāk izklāstīti vispārīga lietojuma MI prakses kodeksa (GPAI) modeļos un Komisijas paraugmācībās izmantotā satura kopsavilkuma veidnē. 

Proti, GPAI prakses kodekss ir vērsts uz GPAI modeļiem un dokumentāciju un informāciju, kas jāsniedz MI birojam, valstu kompetentajām iestādēm un lejupējiem pakalpojumu sniedzējiem, kā arī ievades apmācības datu pārredzamību. MI radītā satura pārredzamības prakses kodekss attiecas uz MI ģenerēto vai manipulēto iznākumu marķēšanas metodēm un pārredzamību attiecībā uz personām, kas pakļautas to iedarbībai. 

MI radīta satura pārredzamības prakses kodekss attiecas uz pārredzamības pienākumiem sistēmas līmenī, tostarp, bet ne tikai, uz GPAI sistēmām. Šā kodeksa kontekstā tiks apsvērtas arī pārredzamības metodes, ko GPAI modeļu nodrošinātāji var ieviest, lai atvieglotu lejupējo MI sistēmu nodrošinātāju atbilstību MI akta 50. pantā noteiktajiem pārredzamības pienākumiem. 

MI akta 50. pantu piemēro no 2026. gada 2. augusta. No minētā datuma MI sistēmu sagādātājiem un ieviesējiem ir jāievēro minētajā noteikumā noteiktie pārredzamības pienākumi. Ierobežots labvēlības periods ir paredzēts tikai MI sistēmām, kas laistas tirgū pirms 2026. gada 2. augusta, un tikai attiecībā uz MI radīta satura marķēšanas un atklāšanas pienākumu (MI akta 50. panta 2. punkts). Šādu sistēmu nodrošinātājiem minētie pienākumi jāpilda tikai no 2026. gada 2. decembra. 

Saturs, kas radīts pirms 2026. gada 2. augusta, nav jāmarķē ar atpakaļejošu spēku. Tomēr Komisija mudina attiecīgos ieviesējus to darīt, ja iespējams, jo tas palīdz sasniegt MI akta 50. pantā izvirzītosmērķus.

Atbilstību noteikumiem galvenokārt panāks valstu kompetentās tirgus uzraudzības iestādes. MI birojam ir ierobežota loma uzraudzībā un izpildes panākšanā, jo tas ir kompetents tikai attiecībā uz MI sistēmām, kas balstītas uz vispārīga lietojuma MI modeļiem, ja viena un tā pati vienība nodrošina sistēmu un modeli vai ja MI sistēma ir integrēta ļoti lielā tiešsaistes meklētājprogrammā vai ļoti lielā tiešsaistes platformā, kas noteikta saskaņā ar Digitālo pakalpojumu aktu.Eiropas Datu aizsardzības uzraudzītājs panāks noteikumu izpildi attiecībā uz MI sistēmām, ko izmanto ES iestādes, struktūras un aģentūras. 

Naudas sodi var sasniegt līdz 15 miljoniem EUR jeb 3 % no kopējā pasaules apgrozījuma iepriekšējā finanšu gadā, savukārt proporcionalitāti var ņemt vērā attiecībā uz maziem un vidējiem uzņēmumiem (MVU) un maziem uzņēmumiem ar vidēji lielu kapitālu (SMC).