Riktlinjer och uppförandekod för transparenta AI-system

• Öppenhet när det gäller det artificiella ursprunget för AI-genererat eller AI-manipulerat innehåll är avgörande. Tillgången till en mängd olika AI-system med växande kapacitet att generera alla typer av innehåll gör det allt svårare att skilja AI-innehåll från mänskligt genererat och autentiskt innehåll. Detta medför nya risker för felaktig information och manipulation i stor skala, bedrägeri, imitation och vilseledande av konsumenterna.
• I detta sammanhang fastställs i artikel 50 i AI-akten transparensskyldigheter för leverantörer och spridare av vissa AI-system, inbegripet generativa och interaktiva AI-system och deepfake-system.
• Syftet med dessa skyldigheter är att minska riskerna för bedrägeri, imitation och felaktig information och att främja förtroendet för och integriteten i informationsekosystemet. Människor kommer att veta när de interagerar med AI eller exponeras för AI-genererat innehåll, vilket kommer att hjälpa dem att fatta välgrundade beslut. 

• Artikel 50 i AI-akten omfattar fyra typer av AI-system. För det första måste leverantörer av AI-system som interagerar med människor informera dem om att de interagerar med ett AI-system och inte med en människa, såvida inte detta är uppenbart.
• För det andra måste leverantörer av AI-genererat eller manipulerat innehåll underlätta identifiering och märkning av sådant innehåll på ett maskinläsbart sätt och möjliggöra relaterade detekteringsmekanismer.
• För det tredje måste användare av system för känsloigenkänning eller biometrisk kategorisering se till att personer som exponeras för dessa system informeras.
• För det fjärde måste spridare av AI-system som genererar eller manipulerar deepfake-innehåll eller AI-genererade eller manipulerade textpublikationer som är avsedda att informera allmänheten om frågor av allmänt intresse informera användarna om innehållets artificiella ursprung, utom i definierade fall. Slutligen bör den information som lämnas vara i ett tydligt och tillgängligt format.

• Tekniker eller metoder för märkning och detektering av AI-genererat innehåll omfattar vattenmärken, identifiering av metadata och kryptografiska metoder för att bevisa innehållets ursprung och autenticitet, loggningsmetoder, fingeravtryck eller andra tekniker.
• Relevanta tekniker och metoder bör vara tillräckligt tillförlitliga, driftskompatibla, effektiva och robusta i den mån det är tekniskt genomförbart. Leverantörerna bör också ta hänsyn till särdragen och begränsningarna hos de olika typerna av innehåll och den relevanta tekniska utvecklingen och marknadsutvecklingen på området.
• Att ytterligare identifiera framväxande toppmodern teknik och praxis kommer att vara en viktig del av det arbete som ska utföras inom ramen för uppförandekoden om transparenta generativa AI-system.

Uppförandekoden för transparenta generativa AI-system kommer att vara ett frivilligt verktyg för att säkerställa korrekt efterlevnad av de skyldigheter som fastställs i artikel 50.2 och 50.4 i AI-akten för leverantörer och spridare av generativa AI-system. Om den godkänns av kommissionen som lämplig kommer den att tillhandahålla tydliga åtgärder för spridare och leverantörer som utvecklar eller planerar att utveckla generativa AI-system inom tillämpningsområdet. Koden kommer att garantera att generativa AI-system som släpps ut på den europeiska marknaden av anslutna leverantörer och spridare är tillräckligt transparenta, i linje med respektive transparenskrav i AI-akten.

• De praktiska åtgärderna i uppförandekoden kommer endast att omfatta de skyldigheter som fastställs i artikel 50.2 och 50.4 i AI-akten. Riktlinjerna kommer att omfatta artikel 50 som helhet.
• Dessutom kommer uppförandekoden att utarbetas genom en flerpartsprocess och tillhandahålla tekniska genomförandemedel.
• De riktlinjer som ska utarbetas och antas av kommissionen kommer att klargöra tillämpningsområdet, relevanta rättsliga definitioner, transparenskraven, undantagen och relaterade övergripande frågor. 

• Leverantörer och spridare av generativa AI-system, inbegripet små och medelstora företag, som omfattas av skyldigheterna är uppförandekodens huvudsakliga mottagare. Tillhandahållare av öppenhetsteknik, organisationer i det civila samhället, akademiska experter och andra relevanta organisationer eller branschorganisationer uppmanas att stödja utarbetandet. Genom att involvera alla dessa berörda parter kommer uppförandekoden att underlätta ett effektivt genomförande av respektive öppenhetskrav. Koden kommer också att stödja praktiska arrangemang för att göra detektionsmekanismer tillgängliga och underlätta samarbetet med andra aktörer längs värdekedjan.
• Berörda parter uppmanas att senast den 9 oktober anmäla sitt intresse för att delta i utarbetandet. AI-byrån kommer att kontrollera behörigheten på grundval av inlämnad och offentligt tillgänglig information och bekräfta deltagandet för respektive berörda parter.

• Transparensskyldigheterna enligt artikel 50 i AI-akten kompletterar de transparensregler som är tillämpliga på AI-modeller för allmänna ändamål (artiklarna 53 och 55). De senare har beskrivits närmare i modellerna för uppförandekoden för allmän AI (GPAI) ochkommissionens mall för sammanfattningen av det innehåll som används för modellutbildningen.
• Medan GPAI:s uppförandekod är inriktad på GPAI-modeller och dokumentation och information som ska lämnas till AI-byrån, nationella behöriga myndigheter och leverantörer i senare led och transparens när det gäller träningsdata, behandlar koden om transparenta generativa AI-system märkningsteknik och transparens när det gäller AI-genererade eller manipulerade utdata gentemot de personer som exponeras för dem.
• Koden om transparenta generativa AI-system är inriktad på transparenskrav på systemnivå, inbegripet, men inte begränsat till, GPAI-system. Transparensteknik som kan genomföras av leverantörer av GPAI-modeller för att underlätta transparensskyldigheter för leverantörer av AI-system i senare led kommer också att övervägas inom ramen för denna kod.

• AI-byrån kommer att bjuda in alla berättigade berörda parter att delta i utarbetandet av uppförandekoden och kommer att välja ordförande och vice ordförande för de olika arbetsgrupperna.
• En inledande plenarsession kommer att äga rum i början av november med alla utvalda deltagare. Utarbetandet förväntas pågå till senast i början av juni 2026.

Om koden godkänns av kommissionen kommer undertecknarna att kunna förlita sig på koden för att visa att skyldigheterna fullgörs. När det gäller leverantörer och spridare som följer koden kommer kommissionen att inrikta sin tillsynsverksamhet på att övervaka att de följer koden.

De kommer att gynnas av ökat förtroende från kommissionen och andra berörda parter.