Ovo pitanje i upitnik; priloženo je savjetovanju Komisije i pozivu na iskaz interesa za dionike da daju svoj doprinos smjernicama i Kodeksu dobre prakse za transparentne generativne sustave umjetne inteligencije te da sudjeluju u postupku kodeksa dobre prakse.
- Transparentnost u pogledu umjetnog podrijetla sadržaja generiranog umjetnom inteligencijom ili sadržaja manipuliranog umjetnom inteligencijom ključna je. Zbog dostupnosti različitih sustava umjetne inteligencije sa sve većim mogućnostima generiranja svih vrsta sadržaja sve je teže razlikovati sadržaj umjetne inteligencije od autentičnog sadržaja koji stvaraju ljudi. Time se povećavaju novi rizici od dezinformacija i manipulacije u širim razmjerima, prijevara, lažnog predstavljanja i obmane potrošača.
- U tom se kontekstu člankom 50. Akta o umjetnoj inteligenciji utvrđuju obveze u pogledu transparentnosti za dobavljače i subjekte koji uvode određene UI sustave, uključujući generativne i interaktivne UI sustave i uvjerljive krivotvorine.
- Tim se obvezama nastoje smanjiti rizici od obmane, lažnog predstavljanja i pogrešnih informacija te potaknuti povjerenje i integritet u informacijskom ekosustavu. Ljudi će znati kada stupaju u interakciju s umjetnom inteligencijom ili su izloženi sadržaju generiranom umjetnom inteligencijom, što će im pomoći da donesu informirane odluke.
- Člankom 50. Akta o umjetnoj inteligenciji obuhvaćene su četiri vrste UI sustava. Prvo, dobavljači UI sustava koji su u interakciji s ljudima moraju ih obavijestiti da su u interakciji s UI sustavom, a ne s čovjekom, osim ako je to očito.
- Drugo, dobavljači sadržaja generiranog umjetnom inteligencijom ili manipuliranog sadržaja moraju olakšati identifikaciju i označivanje takvog sadržaja na strojno čitljiv način te omogućiti povezane mehanizme otkrivanja.
- Treće, subjekti koji uvode sustave za prepoznavanje emocija ili biometrijsku kategorizaciju moraju osigurati da pojedinci izloženi tim sustavima budu informirani.
- Četvrto, subjekti koji uvode UI sustave koji generiraju ili manipuliraju uvjerljivim krivotvorenim sadržajem ili tekstualnim publikacijama koje generira ili manipuliraju umjetnom inteligencijom i koje su namijenjene informiranju javnosti o pitanjima od javnog interesa moraju obavijestiti korisnike o umjetnom podrijetlu sadržaja, osim u definiranim slučajevima. Naposljetku, dostavljene informacije trebale bi biti u jasnom i pristupačnom obliku.
- Tehnike ili metode za označivanje i otkrivanje sadržaja generiranog umjetnom inteligencijom uključuju vodene žigove, identifikaciju metapodataka i kriptografske metode za dokazivanje podrijetla i autentičnosti sadržaja, metode bilježenja, otiske prstiju ili druge tehnike.
- Relevantne tehnike i metode trebale bi biti dovoljno pouzdane, interoperabilne, učinkovite i pouzdane u mjeri u kojoj je to tehnički izvedivo. Pružatelji bi trebali uzeti u obzir i posebnosti i ograničenja različitih vrsta sadržaja te relevantna tehnološka i tržišna kretanja u tom području.
- Daljnje utvrđivanje najnovijih tehnika i praksi bit će važan dio rada koji treba obaviti u kontekstu Kodeksa prakse za transparentne generativne UI sustave.
Kodeks dobre prakse za transparentne generativne UI sustave bit će dobrovoljni alat za osiguravanje pravilne usklađenosti dobavljača i subjekata koji uvode generativne UI sustave s obvezama utvrđenima u članku 50. stavcima 2. i 4. Akta o umjetnoj inteligenciji. Ako Komisija to odobri kao primjereno, osigurat će jasne mjere za subjekte koji uvode sustav i dobavljače koji razvijaju ili planiraju razviti generativne UI sustave unutar područja primjene. Kodeksom će se zajamčiti da su generativni UI sustavi koje dobavljači i subjekti koji primjenjuju sustav stavljaju na europsko tržište dovoljno transparentni, u skladu s odgovarajućim zahtjevima u pogledu transparentnosti iz Akta o umjetnoj inteligenciji.
- Praktičnim mjerama Kodeksa dobre prakse obuhvatit će se samo obveze utvrđene u članku 50. stavcima 2. i 4. Akta o umjetnoj inteligenciji. Smjernice će obuhvaćati članak 50. u cjelini.
- Osim toga, kodeks prakse razvit će se u okviru postupka koji uključuje više dionika i njime će se osigurati tehnička sredstva za provedbu.
- U smjernicama koje će izraditi i donijeti Komisija pojasnit će se područje primjene, relevantne pravne definicije, obveze transparentnosti, iznimke i povezana horizontalna pitanja.
- Dobavljači i subjekti koji uvode generativne UI sustave, uključujući MSP-ove, koji podliježu obvezama glavni su adresati Kodeksa. Pružatelji tehnika transparentnosti, organizacije civilnog društva, akademski stručnjaci i druge relevantne organizacije ili industrijska udruženja pozivaju se da podrže postupak izrade nacrta. Uključivanjem svih tih dionika Kodeks prakse olakšat će učinkovitu provedbu odgovarajućih obveza transparentnosti. Kodeksom će se poduprijeti i praktična rješenja za osiguravanje dostupnosti mehanizama za otkrivanje i olakšavanje suradnje s drugim akterima duž lanca vrijednosti.
- Dionike se potiče da do 9. listopada izraze interes za sudjelovanje u postupku izrade nacrta. Ured za umjetnu inteligenciju provjerit će prihvatljivost na temelju podnesenih i javno dostupnih informacija te potvrditi sudjelovanje odgovarajućih dionika.
- Obveze transparentnosti iz članka 50. Akta o umjetnoj inteligenciji dopunjuju pravila o transparentnosti koja se primjenjuju na UI modele opće namjene (članci 53. i 55.). Potonje su detaljnije opisane u modelima iz Kodeksa dobre prakse za umjetnu inteligenciju opće namjene (GPAI) i Komisijinu predlošku za sažetak sadržaja koji se upotrebljava za treniranje modela.
- Konkretno, iako je Kodeks dobre prakse GPAI-ja usmjeren na modele i dokumentaciju GPAI-ja te informacije koje treba dostaviti Uredu za umjetnu inteligenciju, nacionalnim nadležnim tijelima i daljnjim dobavljačima te na transparentnost ulaznih podataka za učenje, Kodeks o transparentnim generativnim UI sustavima bavi se tehnikama označivanja i transparentnošću proizvedene umjetne inteligencije ili manipuliranih izlaznih podataka prema osobama koje su im izložene.
- Kodeks o transparentnim generativnim UI sustavima usmjeren je na obveze transparentnosti na razini sustava, uključujući, među ostalim, sustave GPAI. U kontekstu ovog Kodeksa razmotrit će se i tehnike transparentnosti koje dobavljači modela GPAI-ja mogu primijeniti kako bi olakšali obveze transparentnosti za dobavljače UI sustava niže u lancu.
- Ured za umjetnu inteligenciju pozvat će sve dionike koji ispunjavaju uvjete da sudjeluju u postupku izrade Kodeksa prakse te će za različite radne skupine odabrati predsjednike i potpredsjednike.
- Uvodni plenarni sastanak održat će se početkom studenoga sa svim odabranim sudionicima. Očekuje se da će postupak izrade nacrta trajati najkasnije do početka lipnja 2026.
Ako Komisija odobri Kodeks, potpisnici će se moći osloniti na Kodeks kako bi dokazali usklađenost s obvezama. Kad je riječ o dobavljačima i subjektima za uvođenje koji se pridržavaju Kodeksa, Komisija će svoje provedbene aktivnosti usmjeriti na praćenje njihova poštovanja Kodeksa.
Imat će koristi od povećanog povjerenja Komisije i drugih dionika.
Related content
Akt o umjetnoj inteligenciji prvi je pravni okvir o umjetnoj inteligenciji koji se bavi rizicima umjetne inteligencije i postavlja Europu u vodeću ulogu na globalnoj razini.