Denne Q&A ledsager Kommissionens høring og indkaldelse af interessetilkendegivelser, således at interessenterne kan komme med input til retningslinjerne og en adfærdskodeks for gennemsigtige generative AI-systemer og deltage i processen med adfærdskodeksen.
- Gennemsigtighed med hensyn til kunstig oprindelse af AI-genereret eller AI-manipuleret indhold er afgørende. Tilgængeligheden af en række AI-systemer med voksende kapacitet til at generere alle former for indhold gør det stadig vanskeligere at skelne AI-indhold fra menneskeskabt og autentisk indhold. Dette skaber nye risici for misinformation og manipulation i stort omfang, svig, efterligning og vildledning af forbrugerne.
- I denne forbindelse fastsætter artikel 50 i forordningen om kunstig intelligens gennemsigtighedsforpligtelser for udbydere og udbredere af visse AI-systemer, herunder generative og interaktive AI-systemer og deepfakes.
- Disse forpligtelser har til formål at mindske risikoen for vildledning, efterligning og misinformation og fremme tilliden til og integriteten af informationsøkosystemet. Folk vil vide, hvornår de interagerer med AI eller eksponeres for AI-genereret indhold, hvilket vil hjælpe dem med at træffe informerede beslutninger.
- Artikel 50 i forordningen om kunstig intelligens omfatter fire typer AI-systemer. For det første skal udbydere af AI-systemer, der interagerer med mennesker, informere dem om, at de interagerer med et AI-system og ikke et menneske, medmindre dette er indlysende.
- For det andet skal udbydere af AI-genereret eller manipuleret indhold lette identifikation og mærkning af sådant indhold på en maskinlæsbar måde og muliggøre relaterede detektionsmekanismer.
- For det tredje skal udbredere af systemer til følelsesgenkendelse eller biometrisk kategorisering sikre, at personer, der udsættes for disse systemer, informeres.
- For det fjerde skal udbredere af AI-systemer, der genererer eller manipulerer deepfake-indhold, eller AI-genererede eller manipulerede tekstpublikationer, der har til formål at informere offentligheden om spørgsmål af offentlig interesse, informere brugerne om indholdets kunstige oprindelse, undtagen i definerede tilfælde. Endelig bør de oplysninger, der gives, være i et klart og tilgængeligt format.
- Teknikker eller metoder til mærkning og påvisning af AI-genereret indhold omfatter vandmærker, metadataidentifikation og kryptografiske metoder til at bevise indholdets oprindelse og ægthed, logningsmetoder, fingeraftryk eller andre teknikker.
- Relevante teknikker og metoder bør være tilstrækkeligt pålidelige, interoperable, effektive og robuste, i det omfang det er teknisk muligt. Udbydere bør også tage hensyn til de særlige forhold og begrænsningerne ved de forskellige typer indhold og den relevante teknologiske og markedsmæssige udvikling på området.
- Yderligere identifikation af nye avancerede teknikker og praksisser vil være en vigtig del af det arbejde, der skal udføres i forbindelse med adfærdskodeksen for gennemsigtige generative AI-systemer.
Adfærdskodeksen for gennemsigtige generative AI-systemer vil være et frivilligt redskab til at sikre korrekt overholdelse af de forpligtelser, der er fastsat i artikel 50, stk. 2 og 4, i forordningen om kunstig intelligens for udbydere og udbredere af generative AI-systemer. Hvis den godkendes af Kommissionen som tilstrækkelig, vil den indeholde klare foranstaltninger for udbredere og udbydere, der udvikler eller planlægger at udvikle generative AI-systemer inden for anvendelsesområdet. Kodeksen vil sikre, at generative AI-systemer, der bringes i omsætning på det europæiske marked af tilsluttede udbydere og udbredere, er tilstrækkeligt gennemsigtige i overensstemmelse med de respektive gennemsigtighedskrav i AI-forordningen.
- De praktiske foranstaltninger i adfærdskodeksen vil kun omfatte de forpligtelser, der er fastsat i artikel 50, stk. 2 og 4, i forordningen om kunstig intelligens. Retningslinjerne vil dække artikel 50 som helhed.
- Desuden vil adfærdskodeksen blive udviklet gennem en proces med flere interessenter og tilvejebringe tekniske gennemførelsesmidler.
- De retningslinjer, som Kommissionen skal udarbejde og vedtage, vil præcisere anvendelsesområdet, de relevante juridiske definitioner, gennemsigtighedsforpligtelserne, undtagelserne og relaterede horisontale spørgsmål.
- Udbydere og udbredere af generative AI-systemer, herunder SMV'er, der er omfattet af forpligtelserne, er kodeksens vigtigste adressater. Udbydere af gennemsigtighedsteknikker, civilsamfundsorganisationer, akademiske eksperter og andre relevante organisationer eller industrisammenslutninger opfordres til at støtte udarbejdelsesprocessen. Ved at inddrage alle disse interessenter vil adfærdskodeksen fremme en effektiv gennemførelse af de respektive gennemsigtighedsforpligtelser. Kodeksen vil også støtte praktiske ordninger for at gøre sporingsmekanismer tilgængelige og lette samarbejdet med andre aktører i værdikæden.
- Interessenter opfordres til at tilkendegive deres interesse indtil den 9. oktober for at deltage i udarbejdelsesprocessen. AI-kontoret kontrollerer støtteberettigelsen på grundlag af indsendte og offentligt tilgængelige oplysninger og bekræfter deltagelsen over for de respektive interessenter.
- Gennemsigtighedsforpligtelserne i artikel 50 i forordningen om kunstig intelligens supplerer de gennemsigtighedsregler, der gælder for AI-modeller til almen brug (artikel 53 og 55). Sidstnævnte er nærmere beskrevet i adfærdskodeksen for AI-modeller til generelle formål (GPAI) og Kommissionens skabelon til resuméet af det indhold, der anvendes til modeluddannelsen.
- Selv om GPAI-adfærdskodeksen fokuserer på GPAI-modeller og dokumentation og oplysninger, der skal leveres til AI-kontoret, de nationale kompetente myndigheder og downstreamudbydere, og gennemsigtigheden af inputtræningsdataene, omhandler kodeksen om gennemsigtige generative AI-systemer mærkningsteknikker og gennemsigtigheden af de AI-genererede eller manipulerede output over for de personer, der eksponeres for dem.
- Kodeksen for gennemsigtige generative AI-systemer er rettet mod gennemsigtighedsforpligtelser på systemniveau, herunder, men ikke begrænset til, GPAI-systemer. Gennemsigtighedsteknikker, der kan gennemføres af udbydere af GPAI-modeller for at lette gennemsigtighedsforpligtelserne for udbydere af downstream-AI-systemer, vil også blive overvejet i forbindelse med denne kodeks.
- AI-kontoret vil indbyde alle støtteberettigede interessenter til at deltage i udarbejdelsen af adfærdskodeksen og udvælge formænd og næstformænd for de forskellige arbejdsgrupper.
- Der vil blive afholdt en indledende plenarforsamling i begyndelsen af november med alle udvalgte deltagere. Udarbejdelsen forventes at vare indtil senest i begyndelsen af juni 2026.
Hvis kodeksen godkendes af Kommissionen, vil underskriverne kunne påberåbe sig kodeksen for at påvise overholdelse af forpligtelserne. Med hensyn til udbydere og udbredere, der overholder kodeksen, vil Kommissionen fokusere sine håndhævelsesaktiviteter på at overvåge deres overholdelse af kodeksen.
De vil drage fordel af øget tillid fra Kommissionen og andre interessenter.
Related content
Forordningen om kunstig intelligens er den første retlige ramme for kunstig intelligens nogensinde, som imødegår risiciene ved kunstig intelligens og sætter Europa i stand til at spille en førende rolle på globalt plan.