Vprašanja in odgovori spremljajo posvetovanje Komisije in razpis za prijavo interesa za deležnike, da bi prispevali k smernicam in kodeksu ravnanja za pregledne generativne umetnointeligenčne sisteme ter sodelovali v postopku kodeksa ravnanja.
- Preglednost v zvezi z umetnim izvorom vsebin, ki jih ustvarja ali upravlja umetna inteligenca, je bistvenega pomena. Zaradi razpoložljivosti različnih umetnointeligenčnih sistemov z vse večjimi zmogljivostmi za ustvarjanje vseh vrst vsebin je vse težje razlikovati med umetnointeligenčno vsebino ter pristno vsebino, ki jo ustvari človek. To povečuje nova tveganja napačnih informacij in manipulacij v velikem obsegu, goljufij, lažnega predstavljanja in zavajanja potrošnikov.
- V zvezi s tem člen 50 akta o umetni inteligenci določa obveznosti glede preglednosti za ponudnike in uvajalce nekaterih umetnointeligenčnih sistemov, vključno z generativnimi in interaktivnimi umetnointeligenčnimi sistemi ter globokimi ponaredki.
- Namen teh obveznosti je zmanjšati tveganja zavajanja, lažnega predstavljanja in napačnih informacij ter spodbujati zaupanje in celovitost v informacijskem ekosistemu. Ljudje bodo vedeli, kdaj so v stiku z umetno inteligenco ali izpostavljeni vsebinam, ustvarjenim z umetno inteligenco, kar jim bo pomagalo pri sprejemanju informiranih odločitev.
- Člen 50 akta o umetni inteligenci zajema štiri vrste umetnointeligenčnih sistemov. Prvič, ponudniki umetnointeligenčnih sistemov, ki komunicirajo z ljudmi, jih morajo obvestiti, da komunicirajo z umetnointeligenčnim sistemom in ne s človekom, razen če je to očitno.
- Drugič, ponudniki umetnointeligenčno ustvarjenih ali prirejenih vsebin morajo olajšati identifikacijo in označevanje takih vsebin na strojno berljiv način ter omogočiti povezane mehanizme odkrivanja.
- Tretjič, uvajalci sistemov za prepoznavanje čustev ali biometrično kategorizacijo morajo zagotoviti, da so posamezniki, izpostavljeni tem sistemom, obveščeni.
- Četrtič, uvajalci umetnointeligenčnih sistemov, ki ustvarjajo ali manipulirajo z globoko ponarejeno vsebino, ali besedilnih publikacij, ki jih ustvarja ali manipulira umetna inteligenca in so namenjene obveščanju javnosti o zadevah v javnem interesu, morajo uporabnike obvestiti o umetnem izvoru vsebine, razen v določenih primerih. Nazadnje, zagotovljene informacije bi morale biti v jasni in dostopni obliki.
- Tehnike ali metode za označevanje in odkrivanje vsebin, ustvarjenih z umetno inteligenco, vključujejo vodne žige, identifikacijo metapodatkov in kriptografske metode za dokazovanje izvora in avtentičnosti vsebine, metode beleženja, prstne odtise ali druge tehnike.
- Ustrezne tehnike in metode bi morale biti dovolj zanesljive, interoperabilne, učinkovite in zanesljive, kolikor je to tehnično izvedljivo. Ponudniki bi morali upoštevati tudi posebnosti in omejitve različnih vrst vsebin ter ustrezen tehnološki in tržni razvoj na tem področju.
- Nadaljnje opredeljevanje nastajajočih najsodobnejših tehnik in praks bo pomemben del dela, ki ga je treba opraviti v okviru kodeksa ravnanja za pregledne generativne umetnointeligenčne sisteme.
Kodeks ravnanja za pregledne generativne umetnointeligenčne sisteme bo prostovoljno orodje za zagotavljanje ustreznega izpolnjevanja obveznosti iz člena 50(2) in (4) akta o umetni inteligenci za ponudnike in uvajalce generativnih umetnointeligenčnih sistemov. Če ga bo Komisija odobrila kot ustreznega, bo zagotovil jasne ukrepe za uvajalce in ponudnike, ki razvijajo ali načrtujejo razvoj generativnih umetnointeligenčnih sistemov na področju uporabe. Kodeks bo zagotovil, da bodo generativni umetnointeligenčni sistemi, ki jih na evropski trg dajo povezani ponudniki in uvajalci, dovolj pregledni v skladu z ustreznimi zahtevami glede preglednosti iz akta o umetni inteligenci.
- Praktični ukrepi kodeksa ravnanja bodo zajemali le obveznosti iz člena 50(2) in (4) akta o umetni inteligenci. Smernice bodo zajemale člen 50 kot celoto.
- Poleg tega bo kodeks ravnanja pripravljen v okviru postopka z več deležniki in bo zagotavljal tehnična sredstva za izvajanje.
- Smernice, ki jih bo pripravila in sprejela Komisija, bodo pojasnile področje uporabe, ustrezne pravne opredelitve, obveznosti glede preglednosti, izjeme in s tem povezana horizontalna vprašanja.
- Glavni naslovniki kodeksa so ponudniki in uvajalci generativnih umetnointeligenčnih sistemov, vključno z MSP, za katere veljajo obveznosti. Ponudniki tehnik preglednosti, organizacije civilne družbe, akademski strokovnjaki in druge ustrezne organizacije ali industrijska združenja so pozvani, naj podprejo postopek priprave. Kodeks ravnanja bo z vključitvijo vseh teh deležnikov olajšal učinkovito izvajanje zadevnih obveznosti glede preglednosti. Kodeks bo podpiral tudi praktične ureditve za dostopnost mehanizmov odkrivanja in olajšal sodelovanje z drugimi akterji vzdolž vrednostne verige.
- Zainteresirane strani se spodbuja, da do 9. oktobra izrazijo svoj interes za sodelovanje v postopku priprave osnutka. Urad za umetno inteligenco bo preveril upravičenost na podlagi predloženih in javno dostopnih informacij ter potrdil sodelovanje zadevnim deležnikom.
- Obveznosti glede preglednosti iz člena 50 akta o umetni inteligenci dopolnjujejo pravila o preglednosti, ki se uporabljajo za umetnointeligenčne modele za splošne namene (člena 53 in 55). Slednji so bili podrobneje opredeljeni v kodeksu ravnanja za modele umetne inteligence za splošne namene (GPAI) in predlogi Komisije za povzetek vsebine, uporabljene za učenje modelov.
- Medtem ko se kodeks ravnanja GPAI osredotoča na modele in dokumentacijo GPAI ter informacije, ki jih je treba predložiti uradu za umetno inteligenco, pristojnim nacionalnim organom in ponudnikom nižje v prodajni verigi, ter preglednost vhodnih učnih podatkov, kodeks o preglednih generativnih umetnointeligenčnih sistemih obravnava tehnike označevanja in preglednost umetnointeligenčnih ustvarjenih ali prirejenih izhodnih podatkov za osebe, ki so jim izpostavljene.
- Kodeks o preglednih generativnih umetnointeligenčnih sistemih je usmerjen v obveznosti glede preglednosti na sistemski ravni, med drugim vključno s sistemi GPAI. V okviru tega kodeksa se bodo obravnavale tudi tehnike preglednosti, ki jih lahko ponudniki modelov GPAI izvajajo za olajšanje obveznosti glede preglednosti za ponudnike umetnointeligenčnih sistemov nižje v prodajni verigi.
- Urad za umetno inteligenco bo k sodelovanju v postopku priprave kodeksa ravnanja povabil vse upravičene deležnike ter izbral predsednike in podpredsednike za različne delovne skupine.
- V začetku novembra bo potekalo otvoritveno plenarno zasedanje z vsemi izbranimi udeleženci. Postopek priprave naj bi trajal najpozneje do začetka junija 2026.
Če bo kodeks odobrila Komisija, se bodo podpisniki pri dokazovanju izpolnjevanja obveznosti lahko zanesli nanj. Kar zadeva ponudnike in uvajalce, ki spoštujejo kodeks, bo Komisija svoje dejavnosti izvrševanja osredotočila na spremljanje njihovega spoštovanja kodeksa.
Imeli bodo koristi od večjega zaupanja Komisije in drugih zainteresiranih strani.
Related content
Policy
Akt o umetni inteligenci je prvi pravni okvir o umetni inteligenci, ki obravnava tveganja umetne inteligence in Evropi daje vodilno vlogo na svetovni ravni.