Esta página fornece respostas a perguntas frequentes relacionadas com conceitos e obrigações clarificados nas Orientações da Comissão relativas ao artigo 50.o do Regulamento Inteligência Artificial.
Quem é o fornecedor de um sistema de IA e que obrigações de transparência lhes são aplicáveis?
Nos termos do artigo 3.o, n.o 3, do Regulamento Inteligência Artificial, os fornecedores de sistemas de IA são pessoas singulares ou coletivas, autoridades públicas, agências ou outros organismos que desenvolvem sistemas de IA, ou os fazem desenvolver, e os colocam no mercado da UE ou os colocam em serviço sob o seu próprio nome ou marca. independentemente de esses prestadores estarem estabelecidos ou localizados na UE ou num país terceiro.
Os fornecedores de sistemas de IA estabelecidos ou localizados fora da UE também estão sujeitos às disposições do Regulamento Inteligência Artificial se o resultado do seu sistema de IA for utilizado na UE.
Os fornecedores devem assegurar que os seus sistemas de IA cumprem as obrigações de transparência pertinentes estabelecidas noartigo 50.o, n.os 1, 2 e 5, do Regulamento Inteligência Artificial antes de colocarem esses sistemas no mercado ou em serviço.
Nos termos do artigo 50.o, n.o 2, do Regulamento Inteligência Artificial, os fornecedores devem conceber e desenvolver sistemas de IA que interajam diretamente com pessoas singulares — como robôs de conversação, agentes de IA e avatares — para assegurar que as pessoas são informadas de que estão a interagir com a IA. Os fornecedores devem também assegurar que os resultados dos seus sistemas de IA generativa são marcados com marcas de leitura automática eficazes, fiáveis, robustas e interoperáveis que permitam detetar os resultados gerados ou manipulados por sistemas de IA.
Quem é o responsável pela implantação e que obrigações de transparência lhes são aplicáveis?
Os responsáveis pela implantação de sistemas de IA são pessoas singulares ou coletivas, autoridades públicas, agências ou outros organismos que utilizam sistemas de IA sob a sua autoridade, excluindo a utilização para atividades pessoais e não profissionais.
Quando uma pessoa singular utilizaum sistema de IA a título pessoal — por exemplo, para gerar falsificações profundas e divulgá-las nas redes sociais — tal é considerado uma atividade pessoal. Essa utilização está excluída do âmbito de aplicação do Regulamento Inteligência Artificial. No entanto, se se tratar de uma atividade através da qual obtêm regularmente um benefício económico (ou estão de outra forma envolvidos numa atividade empresarial, comercial, profissional ou freelance), esta é considerada uma atividade «profissional». Neste caso, a pessoa singular é considerada responsável pela implantação desse sistema de IA.
Se o responsável pela implantação de um sistema de IA for uma pessoa coletiva sob cuja autoridade o sistema é utilizado (por exemplo, uma empresa de publicidade), os trabalhadores individuais que atuam sob as instruções e o controlo dessa pessoa coletiva (por exemplo, animadores digitais, criadores de sítios Web, criadores de conteúdos, jornalistas) não devem ser considerados responsáveis pela implantação separados desse sistema. Uma pessoa coletiva continua a ser um responsável pela implantação, mesmo que terceiros (por exemplo, contratantes, trabalhadores independentes) estejam envolvidos no funcionamento do sistema em seu nome e sob a sua responsabilidade e controlo.
Nos termos do Regulamento Inteligência Artificial, os responsáveis pela implantação devem assegurar que informam as pessoas quando utilizam sistemas de reconhecimento de emoções ou de categorização biométrica (artigo 50.o, n.o 3, do Regulamento Inteligência Artificial) e rotulam claramente as falsificações profundas e os textos gerados ou manipulados por IA publicados sobre questões de interesse público sem revisão humana ou controlo editorial (artigo 50.o, n.o 4, do Regulamento Inteligência Artificial).
Quando é que os fornecedores de sistemas de IA têm de informar as pessoas de que estão a interagir com um sistema de IA?
Nos termos do artigo 50.o, n.o 1, do Regulamento Inteligência Artificial, os fornecedores de sistemas de IA que interagem diretamente com pessoas devem conceber e desenvolver esses sistemas de forma a que as pessoas em causa sejam informadas de que estão a interagir com um sistema de IA, a menos que tal seja óbvio.
AsOrientações sobre a transparência dos conteúdos gerados por IA clarificam os quatro critérios cumulativos em que esta obrigação se aplica:
- O sistema deve ser considerado um sistema de IA;
- deve ser concebido para um verdadeiro intercâmbio bidirecional com as pessoas, em vez de se limitar a recolher dados ou a fornecer respostas automatizadas;
- a interação deve ser direta, ou seja, a própria IA comunica com a pessoa e não através de um intermediário humano;
- a interação deve ser com pessoas singulares, quer sejam consumidores, profissionais ou outros utilizadores.
Os sistemas de IA que funcionam exclusivamente em segundo plano, através de comunicação máquina-máquina, ou sem contacto direto com as pessoas, não são abrangidos pelo âmbito de aplicação desta obrigação.
As pessoas devem ser notificadas quando interagem com um sistema de IA desde o início da primeira interação de forma clara e distinguível e em conformidade com os requisitos de acessibilidade.
Tal permitir-lhes-á tomar decisões informadas sobre a sua interação com o sistema e calibrar a sua confiança no conteúdo em conformidade.
As pessoas não precisam de ser informadas quando é óbvio que estão a interagir com um sistema de IA. Na prática, para avaliar o quão óbvia é uma interação com a IA, um prestador terá de identificar uma pessoa média, razoavelmente bem informada, avisada e observadora. Essa pessoa avalia se é óbvio que está a interagir diretamente com um sistema de IA.
As orientações fornecem orientações adicionais e exemplos práticos sobre a forma de aplicar esta exceção. Deve ser interpretada de forma restritiva, uma vez que priva as pessoas de transparência.
Quando é que os fornecedores de sistemas de IA têm de marcar os resultados dos seus sistemas de IA generativa e assegurar a sua detetabilidade?
Nos termos do artigo 50.o, n.o 2, do Regulamento Inteligência Artificial, os fornecedores de sistemas de IA, incluindo sistemas de IA de finalidade geral, que geram conteúdos sintéticos de áudio, imagem, vídeo ou texto, devem assegurar que os conteúdos gerados ou manipulados por IA são marcados num formato legível por máquina e detetáveis como gerados ou manipulados artificialmente.
AsOrientações sobre a Transparência dos Conteúdos Gerados por IA esclarecem que determinados resultados não são abrangidos pelo âmbito de aplicação das obrigações, tais como:
- uma breve sequência de números, símbolos ou letras,
- código-fonte
- os resultados de um sistema de IA destinado a ser exclusivamente comunicado de máquina a máquina e processado automaticamente sem qualquer exposição a seres humanos, ou
- saídas que só são utilizadas em ambientes industriais e de desenvolvimento de produtos em circuito fechado, por exemplo, para a produção de filmes, a menos que sejam a saída final.
A obrigação de marcar conteúdos sintéticos gerados ou manipulados por IA não se aplica quando o sistema de IA desempenha uma função de assistência para edição normalizada. As diretrizes fornecem um conjunto diversificado de exemplos práticos do que pode ser considerado edição padrão e o que vai além.
A fim de assegurar que o artigo 50.o, n.o 2, do Regulamento Inteligência Artificial é aplicado de forma proporcionada, está prevista uma isenção estrita da obrigação de marcação para os sistemas de IA que geram resultados utilizados em «contextos empresariais» ou «industriais» (desde que estejam preenchidas as condições especificadas nas orientações).
Devem também ser tidas em conta as especificidades e limitações dos vários tipos de conteúdos, os custos de aplicação e o estado da arte geralmente reconhecido. As orientações explicam melhor estes conceitos.
OCódigo de Conduta sobre a Transparência dos Conteúdos Gerados por IA estabelece medidas em que os fornecedores que aderem ao Código podem basear-se para demonstrar o cumprimento destas obrigações de marcação e deteção de forma juridicamente segura e previsível, independentemente do seu local de estabelecimento, do seu local de funcionamento ou da sua autoridade competente de fiscalização do mercado.
Quando devem os responsáveis pela implantação de sistemas de reconhecimento de emoções ou de categorização biométrica baseados na IA informar as pessoas singulares expostas a esses sistemas?
Nos termos do artigo 50.o, n.o 3, do Regulamento Inteligência Artificial, os responsáveis pela implantação de sistemas de reconhecimento de emoções e de sistemas de categorização biométrica devem informar as pessoas singulares expostas a esses sistemas do seu funcionamento, a fim de proteger a sua privacidade. Tal não implica a prestação de informações sobre, por exemplo, o objetivo do funcionamento do sistema.
A obrigação aplica-se independentemente de as pessoas estarem expostas a esses sistemas em tempo real ou serem exploradas ex post.
O que é um «deepfake» e quando deve ser rotulado?
As falsificações profundas são definidas noartigo 3.o, n.o 60, do Regulamento Inteligência Artificial como conteúdos de imagem, áudio ou vídeo gerados ou manipulados por IA que se assemelham a pessoas, objetos, locais, entidades ou eventos existentes e que, falsamente, parecem ser autênticos ou verdadeiros para uma pessoa.
É necessário cumprir três critérios cumulativos para que o conteúdo constitua uma «falsificação profunda»:
- Semelhança: um elevado nível de semelhança entre o conteúdo de deepfake e o objeto simulado.
- Existência: pessoas, objetos, lugares, entidades ou acontecimentos simulados têm de se assemelhar a alguém ou a algo que existe, que pode existir plausivelmente ou que poderia ter existido plausivelmente na realidade.
- A aparência falsa é autêntica ou verdadeira: está relacionada com a característica essencial do conteúdo «deepfake» e a sua capacidade para potencialmente enganar ou induzir uma pessoa em erro quanto à autenticidade ou veracidade do conteúdo
Para a avaliação do último critério acima referido, as Orientações sobre a Transparência dos Conteúdos Gerados por IA permitem que as partes interessadas tenham em conta:
- o nível de semelhança,
- a potencial mensagem substantiva do conteúdo
- os contextos de implantação previstos e previsíveis,
- A composição pretendida e razoavelmente previsível do público-alvo e as suas expectativas.
Tal permite aos responsáveis pela implantação ter devidamente em conta o contexto específico em que operam e o público a que os seus conteúdos serão expostos. Se o público-alvo num contexto de implantação específico não esperar que os conteúdos sejam autênticos ou verdadeiros, os conteúdos gerados ou manipulados por IA podem não parecer falsamente autênticos ou verdadeiros. Por exemplo, a geração de IA ou a manipulação de cenas de fundo, efeitos especiais ou pré-processamento técnico e pós-processamento como parte de processos normais de produção de filmes não são suscetíveis de fazer com que o conteúdo pareça falsamente autêntico ou verdadeiro para o público.
Os responsáveis pela implantação devem divulgar o conteúdo de falsificações profundas a uma pessoa singular, o mais tardar aquando da primeira exposição. Esta divulgação deve ocorrer de forma clara e distinguível. Deve ser compreensível e percetível para as pessoas singulares (por exemplo, com rótulos visíveis ou audíveis), sem necessidade de quaisquer instrumentos técnicos específicos ou de realizar ações específicas. Por conseguinte, os responsáveis pela implantação não podem simplesmente basear-se na marcação legível por máquina incorporada nos conteúdos pelo fornecedor nos termos do artigo 50.o, n.o 2, do Regulamento Inteligência Artificial para cumprir a sua obrigação de divulgação.
Algumas falsificações profundas fazem parte de obras ou programas evidentemente artísticos, criativos, satíricos, ficcionais ou análogos. Para estes, a obrigação de transparência limita-se à divulgação do conteúdo deepfake de uma forma adequada que não prejudique a exibição ou o usufruto da obra.
Que texto gerado ou manipulado por IA deve ser claramente rotulado pelos responsáveis pela implantação?
Nos termos do artigo 50.o, n.o 4, do Regulamento Inteligência Artificial, os responsáveis pela implantação de sistemas de IA generativa devem rotular claramente o texto gerado ou manipulado por IA publicado com o objetivo de informar o público sobre questões de interesse público. Para que o texto seja abrangido por esta obrigação, devem ser preenchidos três critérios. O texto deve ser:
- Publicado
- Informação ao público
- Em questões de interesse público, tais como:
- política e processos democráticos,
- administração e serviços públicos,
- administração da justiça e aplicação da lei,
- direitos fundamentais,
- segurança pública,
- saúde pública,
- protecção do ambiente,
- a segurança dos consumidores e qualquer situação económica,
- desenvolvimentos financeiros, políticos, científicos ou culturais que possam ser objeto de debate público.
O que constitui a revisão humana ou o controlo/responsabilidade editorial necessários para beneficiar de uma isenção da obrigação de rotulagem?
Texto publicado que tenha sido objeto de revisão humana ou de controlo editorial – não necessita de ser rotulado.
A revisão humana refere-se ao exame deliberado da substância do conteúdo por uma ou mais pessoas singulares que possuam conhecimentos relevantes e juízo profissional sobre o assunto em análise (por exemplo, revisão académica pelos pares ou cadeias de validação profissional). O controlo editorial refere-se ao controlo exercido na prática por uma entidade editorial responsável (por exemplo, um chefe de redação) sobre o conteúdo com autoridade para aprovar, alterar ou rejeitar a substância do texto com base em fundamentos substantivos (incluindo a verificação de factos das informações e a garantia da fiabilidade das fontes).
Os controlos superficiais, exclusivamente formais ou processuais (por exemplo, verificação ortográfica ou correção gramatical) não são considerados revisão humana ou controlo editorial.
A responsabilidade editorial significa que uma pessoa deve deter a responsabilidade legal final sobre a publicação do conteúdo, incluindo a revisão humana ou o controlo editorial.
Como podem os fornecedores e os responsáveis pela implantação demonstrar a conformidade e quais são os efeitos do Código de Conduta na transparência dos conteúdos gerados pela IA?
OCódigo de Conduta sobre a Transparência dos Conteúdos Gerados por IAproporciona uma ferramenta prática voluntária para ajudar os fornecedores e responsáveis pela implantação de sistemas de IA generativa a demonstrar o cumprimento das obrigações de marcação e rotulagem previstas no artigo 50.o, n.os 2, 4 e 5, do Regulamento Inteligência Artificial. O código foi considerado adequado pela Comissão e pelo Comité para a IA. Permite que os signatários beneficiem de segurança jurídica, previsibilidade e confiança, uma vez que podem basear-se num código aprovado que tenham assinado, independentemente do seu local de estabelecimento, operação ou autoridade de controlo competente.
Os fornecedores e responsáveis pela implantação de sistemas de IA generativa que decidam não aderir ao código terão de demonstrar a conformidade através de meios alternativos adequados. Podem ser objeto de mais pedidos de informação, uma vez que existe menos transparência sobre a forma como cumprem as obrigações de transparência previstas no artigo 50.o, n.os 2, 4 e 5, do Regulamento Inteligência Artificial.
Para as outras obrigações de transparência (por exemplo, as estabelecidas no artigo 50.o, n.os 1 e 3, do Regulamento Inteligência Artificial), os fornecedores e os responsáveis pela implantação podem determinar eles próprios medidas de conformidade adequadas, tendo simultaneamente em conta as Orientações sobre a Transparência dos Conteúdos Gerados por IA.
De que forma interage o Código de Conduta sobre sistemas de IA generativa transparentes com o recente Código de Conduta sobre IA de finalidade geral?
As obrigações de transparência estabelecidas noartigo 50.o do Regulamento Inteligência Artificial complementam as regras de transparência aplicáveis aos modelos de IA de finalidade geral estabelecidas nos artigos 53.o e 55.o do Regulamento Inteligência Artificial. Os meios para cumprir estes últimos foram descritos mais pormenorizadamente no Código de Conduta para os modelos de IA de finalidade geral (GPAI) e no modelo da Comissão para o resumo dos conteúdos utilizados para a formação de modelos.
Nomeadamente, o Código de Conduta da GPAI centra-se nos modelos de GPAI e na documentação e informações a fornecer ao Serviço IA, às autoridades nacionais competentes e aos prestadores a jusante, bem como na transparência dos dados de treino de entrada. O Código de Conduta sobre a transparência dos conteúdos gerados por IA aborda as técnicas de marcação e a transparência dos resultados gerados ou manipulados por IA em relação às pessoas a elas expostas.
O Código de Conduta sobre a transparência dos conteúdos gerados por IA visa obrigações de transparência a nível do sistema, incluindo, entre outros, os sistemas de IA de finalidade geral. As técnicas de transparência que podem ser aplicadas pelos fornecedores de modelos de IA de finalidade geral para facilitar o cumprimento, pelos fornecedores de sistemas de IA a jusante, das obrigações de transparência previstas no artigo 50.o do Regulamento Inteligência Artificial serão igualmente tidas em conta no contexto do presente código.
Quando começa a aplicar-se o artigo 50.o do Regulamento Inteligência Artificial e existe um período de tolerância?
O artigo 50.o do Regulamento Inteligência Artificial é aplicável a partir de 2 de agosto de 2026. A partir dessa data, os fornecedores e responsáveis pela implantação de sistemas de IA devem cumprir as obrigações de transparência estabelecidas nessa disposição. Está previsto um período de tolerância limitado apenas para os sistemas de IA colocados no mercado antes de 2 de agosto de 2026 e apenas no que diz respeito à obrigação de marcação e deteção de conteúdos gerados por IA (artigo 50.o, n.o 2, do Regulamento Inteligência Artificial). Os fornecedores desses sistemas só devem cumprir essas obrigações a partir de 2 de dezembro de 2026.
Os conteúdos gerados antes de 2 de agosto de 2026 não têm de ser rotulados retroativamente. No entanto, a Comissão incentiva os responsáveis pela implantação pertinentes a fazê-lo, sempre que possível, uma vez que contribui para os objetivos visados pelo artigo 50.o do Regulamento Inteligência Artificial.
Quem supervisionará a aplicação do artigo 50.o do Regulamento Inteligência Artificial e terá poderes para aplicar coimas?
O cumprimento das regras será principalmente assegurado pelas autoridades nacionais competentes de fiscalização do mercado. O Serviço para a IA tem um papel limitado no acompanhamento e na execução, uma vez que só é competente para sistemas de IA baseados em modelos de IA de finalidade geral, se a mesma entidade fornecer o sistema e o modelo, ou se o sistema de IA estiver integrado num motor de pesquisa em linha de muito grande dimensão ou numa plataforma em linha de muito grande dimensão designada ao abrigo do Regulamento dos Serviços Digitais. A Autoridade Europeia para a Proteção de Dados aplicará as regras em relação aos sistemas de IA utilizados pelas instituições, órgãos e organismos da UE.
As coimas podem atingir 15 milhões de euros ou 3 % do volume de negócios total a nível mundial no exercício anterior, ao passo que a proporcionalidade pode ser tida em conta no caso das pequenas e médias empresas (PME) e das pequenas empresas de média capitalização.