Le présent questionnaire accompagne la consultation de la Commission et l’appel à manifestation d’intérêt lancé aux parties prenantes afin qu’elles apportent leur contribution aux lignes directrices et à un code de bonnes pratiques sur les systèmes d’IA générative transparents et qu’elles participent au processus relatif au code de bonnes pratiques.
- La transparence concernant l’origine artificielle des contenus générés ou manipulés par l’IA est essentielle. La disponibilité d'une variété de systèmes d'IA avec des capacités croissantes pour générer toutes sortes de contenu rend de plus en plus difficile de distinguer le contenu d'IA du contenu généré par l'homme et authentique. Cela soulève de nouveaux risques de désinformation et de manipulation à grande échelle, de fraude, d'usurpation d'identité et de tromperie des consommateurs.
- Dans ce contexte, l’article 50 de la législation sur l’IA établit des obligations de transparence pour les fournisseurs et les déployeurs de certains systèmes d’IA, y compris les systèmes d’IA génératifs et interactifs et les deep fakes.
- Ces obligations visent à réduire les risques de tromperie, d'usurpation d'identité et de désinformation et à favoriser la confiance et l'intégrité dans l'écosystème de l'information. Les gens sauront quand ils interagissent avec l'IA ou sont exposés au contenu généré par l'IA, ce qui les aidera à prendre des décisions éclairées.
- L’article 50 de la législation sur l’IA couvre quatre types de systèmes d’IA. Premièrement, les fournisseurs de systèmes d’IA qui interagissent avec des personnes doivent les informer qu’ils interagissent avec un système d’IA et non avec un être humain, à moins que cela ne soit évident.
- Deuxièmement, les fournisseurs de contenus générés ou manipulés par l’IA doivent faciliter l’identification et le marquage de ces contenus d’une manière lisible par machine et permettre des mécanismes de détection connexes.
- Troisièmement, les déployeurs de systèmes de reconnaissance des émotions ou de catégorisation biométrique doivent veiller à ce que les personnes exposées à ces systèmes soient informées.
- Quatrièmement, les déployeurs de systèmes d’IA générant ou manipulant de faux contenus profonds, ou de publications textuelles générées ou manipulées par l’IA destinées à informer le public sur des questions d’intérêt public doivent informer les utilisateurs de l’origine artificielle du contenu, sauf dans des cas définis. Enfin, les informations fournies devraient être présentées dans un format clair et accessible.
- Les techniques ou méthodes de marquage et de détection du contenu généré par l’IA comprennent les filigranes, les identifications de métadonnées et les méthodes cryptographiques permettant de prouver l’origine et l’authenticité du contenu, les méthodes d’enregistrement, les empreintes digitales ou d’autres techniques.
- Les techniques et méthodes pertinentes devraient être suffisamment fiables, interopérables, efficaces et robustes dans la mesure où cela est techniquement possible. Les fournisseurs devraient également tenir compte des spécificités et des limites des différents types de contenu ainsi que des évolutions technologiques et commerciales pertinentes dans ce domaine.
- L’identification plus poussée des nouvelles techniques et pratiques de pointe constituera une partie importante des travaux à effectuer dans le cadre du code de bonnes pratiques sur les systèmes d’IA générative transparents.
Le code de bonnes pratiques sur les systèmes d’IA générative transparents sera un outil volontaire visant à garantir le respect approprié des obligations énoncées à l’article 50, paragraphes 2 et 4, de la législation sur l’IA pour les fournisseurs et les déployeurs de systèmes d’IA générative. S’il est approuvé par la Commission comme adéquat, il prévoira des mesures claires pour les déployeurs et les fournisseurs qui développent ou prévoient de développer des systèmes d’IA générative dans le champ d’application. Le code garantira que les systèmes d’IA générative mis sur le marché européen par les fournisseurs et les déployeurs adhérents sont suffisamment transparents, conformément aux exigences de transparence respectives de la législation sur l’IA.
- Les mesures pratiques du code de bonnes pratiques ne couvriront que les obligations énoncées à l’article 50, paragraphes 2 et 4, de la législation sur l’IA. Les lignes directrices couvriront l'article 50 dans son ensemble.
- En outre, le code de bonnes pratiques sera élaboré dans le cadre d'un processus multipartite et fournira des moyens techniques de mise en œuvre.
- Les lignes directrices qui seront élaborées et adoptées par la Commission préciseront le champ d’application, les définitions juridiques pertinentes, les obligations de transparence, les exceptions et les questions horizontales connexes.
- Les fournisseurs et les déployeurs de systèmes d’IA générative, y compris les PME, soumis aux obligations sont les principaux destinataires du code. Les fournisseurs de techniques de transparence, les organisations de la société civile, les experts universitaires et d’autres organisations ou associations professionnelles concernées sont invités à soutenir le processus de rédaction. En associant toutes ces parties prenantes, le code de bonnes pratiques facilitera la mise en œuvre effective des obligations de transparence respectives. Le code soutiendra également les dispositions pratiques visant à rendre les mécanismes de détection accessibles et facilitera la coopération avec d’autres acteurs tout au long de la chaîne de valeur.
- Les parties prenantes sont encouragées à exprimer leur intérêt jusqu'au 9 octobre pour participer au processus de rédaction. Le Bureau de l’IA vérifiera l’éligibilité sur la base des informations soumises et accessibles au public et confirmera la participation aux parties prenantes respectives.
- Les obligations de transparence prévues à l’article 50 de la législation sur l’IA complètent les règles de transparence applicables aux modèles d’IA à usage général (articles 53 et 55). Ces derniers ont été détaillés dans le code de bonnes pratiques pour les modèles d’IA à usage général (GPAI) et dans le modèle de la Commission pour le résumé du contenu utilisé pour le modèle de formation.
- En particulier, alors que le code de bonnes pratiques GPAI se concentre sur les modèles GPAI et la documentation et les informations à fournir au Bureau de l’IA, aux autorités nationales compétentes et aux fournisseurs en aval, ainsi que sur la transparence des données de formation sous-jacentes, le code sur les systèmes d’IA générative transparents traite des techniques de marquage et de la transparence des résultats générés ou manipulés par l’IA à l’égard des personnes qui y sont exposées.
- Le code sur les systèmes d’IA générative transparents vise les obligations de transparence au niveau du système, y compris, mais sans s’y limiter, les systèmes d’IAGP. Les techniques de transparence qui peuvent être mises en œuvre par les fournisseurs de modèles GPAI pour faciliter les obligations de transparence pour les fournisseurs de systèmes d’IA en aval seront également examinées dans le contexte du présent code.
- Le Bureau de l’IA invitera toutes les parties prenantes éligibles à participer au processus d’élaboration du code de bonnes pratiques et sélectionnera les présidents et les vice-présidents des différents groupes de travail.
- Une séance plénière d'ouverture aura lieu début novembre avec tous les participants sélectionnés. Le processus de rédaction devrait durer jusqu’au début du mois de juin 2026 au plus tard.
Si le Code est approuvé par la Commission, les signataires pourront s'appuyer sur le Code pour démontrer le respect des obligations. En ce qui concerne les fournisseurs et les déployeurs qui adhèrent au Code, le Conseil concentrera ses activités d'application de la loi sur la surveillance de leur adhésion au Code.
Ils bénéficieront d’une confiance accrue de la part de la Commission et d’autres parties prenantes.
Related content
La législation sur l’IA est le tout premier cadre juridique en matière d’IA, qui traite des risques liés à l’IA et positionne l’Europe comme un acteur de premier plan au niveau mondial.