A presente sessão de perguntas e respostas acompanha a consulta e o convite à manifestação de interesse da Comissão para que as partes interessadas contribuam para as orientações e para um código de boas práticas sobre sistemas de IA generativa transparentes e participem no processo do código de boas práticas.
- A transparência no que diz respeito à origem artificial dos conteúdos gerados ou manipulados por IA é essencial. A disponibilidade de uma variedade de sistemas de IA com capacidades crescentes para gerar todos os tipos de conteúdos torna cada vez mais difícil distinguir os conteúdos de IA dos conteúdos autênticos e gerados pelo ser humano. Esta situação está a criar novos riscos de desinformação e manipulação em grande escala, fraude, usurpação de identidade e engano dos consumidores.
- Neste contexto, o artigo 50.o do Regulamento Inteligência Artificial estabelece obrigações de transparência para os fornecedores e responsáveis pela implantação de determinados sistemas de IA, incluindo sistemas de IA generativa e interativa e falsificações profundas.
- Estas obrigações visam reduzir os riscos de engano, usurpação de identidade e desinformação e promover a confiança e a integridade no ecossistema da informação. As pessoas saberão quando estão a interagir com a IA ou expostas a conteúdos gerados pela IA, o que as ajudará a tomar decisões informadas.
- O artigo 50.o do Regulamento Inteligência Artificial abrange quatro tipos de sistemas de IA. Em primeiro lugar, os fornecedores de sistemas de IA que interagem com pessoas devem informá-las de que estão a interagir com um sistema de IA e não com um ser humano, a menos que tal seja óbvio.
- Em segundo lugar, os fornecedores de conteúdos gerados ou manipulados por IA devem facilitar a identificação e a marcação desses conteúdos de forma legível por máquina e permitir mecanismos de deteção conexos.
- Em terceiro lugar, os responsáveis pela implantação de sistemas de reconhecimento de emoções ou de categorização biométrica devem assegurar que as pessoas expostas a esses sistemas são informadas.
- Em quarto lugar, os responsáveis pela implantação de sistemas de IA que geram ou manipulam conteúdos falsos profundos ou publicações de texto geradas ou manipuladas por IA destinadas a informar o público sobre questões de interesse público devem informar os utilizadores sobre a origem artificial dos conteúdos, exceto em casos definidos. Por último, as informações fornecidas devem ser apresentadas num formato claro e acessível.
- As técnicas ou métodos de marcação e deteção de conteúdos gerados por IA incluem marcas de água, identificações de metadados e métodos criptográficos para provar a origem e a autenticidade dos conteúdos, métodos de registo, impressões digitais ou outras técnicas.
- As técnicas e os métodos pertinentes devem ser suficientemente fiáveis, interoperáveis, eficazes e sólidos, na medida em que tal seja tecnicamente viável. Os fornecedores devem também ter em conta as especificidades e as limitações dos diferentes tipos de conteúdos e a evolução tecnológica e do mercado neste domínio.
- Uma maior identificação de técnicas e práticas emergentes de ponta será uma parte importante do trabalho a realizar no contexto do Código de Conduta sobre sistemas de IA generativa transparentes.
O Código de Conduta sobre sistemas de IA generativa transparentes será um instrumento voluntário para assegurar o cumprimento adequado das obrigações estabelecidas no artigo 50.o, n.os 2 e 4, do Regulamento Inteligência Artificial para os fornecedores e responsáveis pela implantação de sistemas de IA generativa. Se for aprovada pela Comissão como adequada, proporcionará medidas claras para os responsáveis pela implantação e os fornecedores que desenvolvam ou planeiem desenvolver sistemas de IA generativa abrangidos pelo âmbito de aplicação. O Código garantirá que os sistemas de IA generativa colocados no mercado europeu por fornecedores e responsáveis pela implantação aderentes sejam suficientemente transparentes, em conformidade com os respetivos requisitos de transparência do Regulamento Inteligência Artificial.
- As medidas práticas do Código de Conduta abrangerão apenas as obrigações estabelecidas no artigo 50.o, n.os 2 e 4, do Regulamento Inteligência Artificial. As orientações abrangerão o artigo 50.o no seu conjunto.
- Além disso, o Código de Conduta será desenvolvido através de um processo multilateral e proporcionará meios técnicos de execução.
- As orientações a elaborar e a adotar pela Comissão clarificarão o âmbito de aplicação, as definições jurídicas pertinentes, as obrigações de transparência, as exceções e as questões horizontais conexas.
- Os fornecedores e responsáveis pela implantação de sistemas de IA generativa, incluindo PME, sujeitos às obrigações são os principais destinatários do Código. Os fornecedores de técnicas de transparência, as organizações da sociedade civil, os peritos académicos e outras organizações ou associações industriais pertinentes são convidados a apoiar o processo de redação. Ao envolver todas estas partes interessadas, o Código de Conduta facilitará a aplicação efetiva das respetivas obrigações de transparência. O Código apoiará igualmente disposições práticas para tornar acessíveis os mecanismos de deteção e facilitará a cooperação com outros intervenientes ao longo da cadeia de valor.
- As partes interessadas são incentivadas a manifestar o seu interesse até 9 de outubro para participarem no processo de redação. O Serviço para a IA verificará a elegibilidade com base nas informações apresentadas e disponíveis ao público e confirmará a participação das respetivas partes interessadas.
- As obrigações de transparência previstas no artigo 50.o do Regulamento Inteligência Artificial complementam as regras de transparência aplicáveis aos modelos de IA de finalidade geral (artigos 53.o e 55.o). Estes últimos foram pormenorizados no Código de Práticas para os modelos de IA de finalidade geral (GPAI) e no modelo da Comissão para o resumo dos conteúdos utilizados no modelo de formação.
- Nomeadamente, enquanto o Código de Conduta da GPAI se centra nos modelos de GPAI e na documentação e informações a fornecer ao Serviço para a IA, às autoridades nacionais competentes e aos fornecedores a jusante, bem como na transparência dos dados de treino de entrada, o Código sobre sistemas de IA generativa transparentes aborda as técnicas de marcação e a transparência dos resultados gerados ou manipulados pela IA em relação às pessoas a elas expostas.
- O Código relativo a sistemas de IA generativa transparentes visa obrigações de transparência a nível do sistema, incluindo, entre outros, os sistemas de IA de finalidade geral. As técnicas de transparência que podem ser aplicadas pelos fornecedores de modelos de IA de finalidade geral para facilitar as obrigações de transparência para os fornecedores de sistemas de IA a jusante serão igualmente consideradas no contexto do presente código.
- O Serviço para a IA convidará todas as partes interessadas elegíveis a participar no processo de elaboração do Código de Conduta e selecionará presidentes e vice-presidentes para os diferentes grupos de trabalho.
- No início de novembro, terá lugar uma reunião plenária de abertura com todos os participantes selecionados. Prevê-se que o processo de redação dure, o mais tardar, até ao início de junho de 2026.
Se o Código for aprovado pela Comissão, os signatários poderão basear-se no Código para demonstrar o cumprimento das obrigações. No que diz respeito aos fornecedores e responsáveis pela implantação que aderem ao Código, a Comissão centrará as suas atividades de execução no acompanhamento da sua adesão ao Código.
Beneficiarão de uma maior confiança por parte da Comissão e de outras partes interessadas.
Related content
O Regulamento Inteligência Artificial é o primeiro quadro jurídico em matéria de IA, que aborda os riscos da IA e posiciona a Europa para desempenhar um papel de liderança a nível mundial.