Esta página ofrece respuestas a preguntas frecuentes relacionadas con conceptos y obligaciones aclarados en las Directrices de la Comisión sobre el artículo 50 de la Ley de IA.
¿Quién es proveedor de un sistema de IA y qué obligaciones de transparencia se les aplican?
De conformidad con el artículo 3, apartado 3, de la Ley de IA,los proveedores de sistemas de IA son personas físicas o jurídicas, autoridades públicas, agencias u otros organismos que desarrollan sistemas de IA, o los hacen desarrollar, y los introducen en el mercado de la UE o los ponen en servicio con su propio nombre o marca comercial. Esto es independiente de si dichos proveedores están establecidos o ubicados dentro de la UE o en un tercer país.
Los proveedores de sistemas de IA establecidos o situados fuera de la UE también están sujetos a las disposiciones de la Ley de IA si la salida de su sistema de IA se utiliza en la UE.
Los proveedores deben garantizar que sus sistemas de IA cumplen las obligaciones de transparencia pertinentes establecidas enel artículo 50, apartados 1, 2 y 5, de la Ley de IA antes de introducirlos en el mercado o ponerlos en servicio.
De conformidad con el artículo 50, apartado 2, de la Ley de IA, los proveedores deben diseñar y desarrollar sistemas de IA que interactúen directamente con personas físicas —como chatbots, agentes de IA y avatares— para garantizar que las personas estén informadas de que interactúan con la IA. Los proveedores también deben garantizar que las salidas de sus sistemas de IA generativa estén marcadas con marcas eficaces, fiables, sólidas e interoperables legibles por máquina que permitan detectar las salidas generadas o manipuladas por los sistemas de IA.
¿Quién es un implementador y qué obligaciones de transparencia se les aplican?
Los implementadores de sistemas de IA son personas físicas o jurídicas, autoridades públicas, agencias u otros organismos que utilizan sistemas de IA bajo su autoridad, excluido el uso para actividades personales y no profesionales.
Cuando una persona física utilizaun sistema de IA a título personal —por ejemplo, para generar deepfakes y difundirlos en las redes sociales—, esto se considera una actividad personal. Este uso está excluido del ámbito de aplicación de la Ley de IA. Sin embargo, si se trata de una actividad a través de la cual obtienen un beneficio económico de forma regular (o participan de otro modo en una actividad empresarial, comercial, profesional o independiente), se considera una actividad «profesional». En este caso, se considera que la persona física es un implementador de dicho sistema de IA.
Cuando el implementador de un sistema de IA sea una persona jurídica bajo cuya autoridad se utilice el sistema (por ejemplo, una empresa de publicidad), los empleados individuales que actúen bajo las instrucciones y el control de dicha persona jurídica (por ejemplo, animadores digitales, diseñadores web, creadores de contenidos, periodistas) no deben considerarse implementadores independientes de dicho sistema. Una persona jurídica sigue siendo un implementador incluso si terceros (por ejemplo, contratistas, autónomos) participan en el funcionamiento del sistema en su nombre y bajo su responsabilidad y control.
En virtud de la Ley de IA, los responsables del despliegue deben garantizar que informan a las personas cuando utilizan sistemas de reconocimiento de emociones o de categorización biométrica (artículo 50, apartado 3, de la Ley de IA) y etiquetan claramente las falsificaciones profundas y los textos generados o manipulados por IA publicados sobre asuntos de interés público sin revisión humana ni control editorial (artículo 50, apartado 4, de la Ley de IA).
¿Cuándo tienen que informar los proveedores de sistemas de IA a las personas de que están interactuando con un sistema de IA?
De conformidad con el artículo 50, apartado 1, de la Ley de IA, los proveedores de sistemas de IA que interactúen directamente con las personas deben diseñar y desarrollar dichos sistemas de manera que se informe a las personas afectadas de que están interactuando con un sistema de IA, a menos que esto sea obvio.
LasDirectrices sobre la transparencia de los contenidos generados por IA aclaran los cuatro criterios acumulativos en los que se aplica esta obligación:
- el sistema debe considerarse un sistema de IA;
- debe diseñarse para un verdadero intercambio bidireccional con las personas, en lugar de limitarse a recopilar datos o proporcionar respuestas automatizadas;
- la interacción debe ser directa, es decir, la propia IA se comunica con la persona en lugar de a través de un intermediario humano;
- la interacción debe ser con personas físicas, ya sean consumidores, profesionales u otros usuarios.
Los sistemas de IA que funcionan únicamente en segundo plano, a través de la comunicación máquina a máquina, o sin contacto directo con las personas, quedan fuera del ámbito de aplicación de esta obligación.
Las personas deben ser notificadas cuando interactúen con un sistema de IA desde el inicio de la primera interacción de manera clara y distinguible y de conformidad con los requisitos de accesibilidad.
Esto les permitirá tomar decisiones informadas con respecto a su interacción con el sistema y calibrar su confianza en el contenido en consecuencia.
Las personas no necesitan ser informadas cuando es obvio que están interactuando con un sistema de IA. En la práctica, para evaluar cuán obvia es una interacción de IA, un proveedor tendrá que identificar a una persona promedio, que esté razonablemente bien informada, perspicaz y observadora. Dicha persona evalúa si es obvio que está interactuando directamente con un sistema de IA.
Las directrices proporcionan más orientaciones y ejemplos prácticos sobre cómo aplicar esta excepción. Debe interpretarse de manera restrictiva, dado que priva a las personas de transparencia.
¿Cuándo tienen que marcar los proveedores de sistemas de IA los resultados de sus sistemas de IA generativa y garantizar su detectabilidad?
De conformidad con el artículo 50, apartado 2, de la Ley de IA, los proveedores de sistemas de IA, incluidos los sistemas de IA de uso general, que generen contenidos sintéticos de audio, imagen, vídeo o texto, deben garantizar que los contenidos generados o manipulados por IA se marquen en un formato legible por máquina y detectables como generados o manipulados artificialmente.
- una breve secuencia de números, símbolos o letras,
- código fuente
- las salidas de un sistema de IA destinadas a ser comunicadas exclusivamente de máquina a máquina y tratadas automáticamente sin exposición a seres humanos, o
- salidas que solo se utilizan en entornos industriales y de desarrollo de productos de circuito cerrado, por ejemplo para la producción de películas, a menos que sean la salida final.
La obligación de marcar los contenidos sintéticos generados o manipulados por IA no se aplica cuando el sistema de IA realiza una función de asistencia para la edición estándar. Las directrices proporcionan un conjunto diverso de ejemplos prácticos de lo que puede considerarse edición estándar y lo que va más allá.
Para garantizar que el artículo 50, apartado 2, de la Ley de IA se aplique de manera proporcionada, se prevé una exención limitada de la obligación de marcado para los sistemas de IA que generen resultados utilizados en «contextos de empresa a empresa» o «industriales» (siempre que se cumplan las condiciones especificadas en las directrices).
También deben tenerse en cuenta las especificidades y limitaciones de los diversos tipos de contenidos, los costes de aplicación y el estado de la técnica generalmente reconocido. Las directrices explican estos conceptos con más detalle.
ElCódigo de buenas prácticas sobre transparencia de los contenidos generados por IA establece medidas en las que los proveedores que se adhieran al Código pueden basarse para demostrar el cumplimiento de estas obligaciones de marcado y detección de una manera jurídicamente segura y predecible, independientemente de su lugar de establecimiento, funcionamiento o autoridad competente de vigilancia del mercado.
¿Cuándo deben informar los implementadores de sistemas de reconocimiento de emociones o de categorización biométrica basados en IA a las personas físicas expuestas a dichos sistemas?
De conformidad con el artículo 50, apartado 3, de la Ley de IA, los implementadores de sistemas de reconocimiento de emociones y sistemas de categorización biométrica deben informar a las personas físicas que estén expuestas a dichos sistemas de su funcionamiento para proteger su privacidad. Esto no implica proporcionar información sobre, por ejemplo, la finalidad del funcionamiento del sistema.
La obligación se aplica con independencia de que las personas estén expuestas a dichos sistemas en tiempo real o sean explotadas a posteriori.
¿Qué es un «deepfake» y cuándo es necesario etiquetarlo?
Las falsificaciones profundas se definen enel artículo 3, punto 60, de la Ley de IA como contenidos de imagen, audio o vídeo generados o manipulados por IA que se asemejan a personas, objetos, lugares, entidades o acontecimientos existentes y que a una persona le parecerían falsamente auténticos o veraces.
Deben cumplirse tres criterios acumulativos para que el contenido constituya una «falsificación profunda»:
- Semejanza: un alto nivel de similitud entre el contenido deepfake y el sujeto simulado.
- Existente: Las personas, objetos, lugares, entidades o eventos simulados necesitan parecerse a alguien o algo que existe, puede existir plausiblemente o podría haber existido plausiblemente en la realidad.
- Aspecto falso para ser auténtico o veraz: Esto se refiere a la característica esencial del contenido deepfake y su capacidad para engañar o inducir a error a una persona en relación con la autenticidad o veracidad del contenido.
Para la evaluación del último criterio anterior, las Directrices sobre la transparencia de los contenidos generados por IA permiten a las partes interesadas tener en cuenta:
- el nivel de semejanza,
- el posible mensaje sustantivo del contenido
- los contextos de despliegue previstos y previsibles,
- la composición de la audiencia prevista y razonablemente previsible y sus expectativas.
Esto permite a los implementadores considerar debidamente el contexto específico en el que operan y la audiencia a la que se expondrá su contenido. Si la audiencia prevista dentro de un contexto de despliegue específico no espera que el contenido sea auténtico o veraz, es posible que el contenido generado o manipulado por la IA no parezca falsamente auténtico o veraz. Por ejemplo, no es probable que la generación de IA o la manipulación de escenas de fondo, efectos especiales o preprocesamiento técnico y postprocesamiento como parte de los procesos de producción de películas estándar hagan que el contenido parezca falsamente auténtico o veraz a la audiencia.
Los implementadores deben revelar contenido deepfake a una persona física en la primera exposición a más tardar. Esta divulgación debe llevarse a cabo de manera clara y distinguible. Debe ser comprensible y perceptible por las personas físicas (por ejemplo, con etiquetas visibles o audibles), sin necesidad de herramientas técnicas específicas ni de realizar acciones específicas. Por lo tanto, los implementadores no pueden basarse simplemente en el marcado legible por máquina incorporado en el contenido por el proveedor en virtud del artículo 50, apartado 2, de la Ley de IA para cumplir su obligación de divulgación.
Algunos deepfakes forman parte de obras o programas evidentemente artísticos, creativos, satíricos, ficticios o análogos. Para estos, la obligación de transparencia se limita a la divulgación del contenido deepfake de una manera adecuada que no obstaculice la visualización o el disfrute de la obra.
¿Qué texto generado o manipulado por IA deben etiquetar claramente los implementadores?
De conformidad con el artículo 50, apartado 4, de la Ley de IA, los responsables del despliegue de sistemas de IA generativa deben etiquetar claramente los textos generados o manipulados por IA publicados con el fin de informar al público sobre asuntos de interés público. Para que el texto entre en esta obligación, deben cumplirse tres criterios. El texto debe ser:
- Publicado
- Información al público
- En asuntos de interés público, tales como:
- la política y los procesos democráticos,
- administración y servicios públicos,
- administración de justicia y aplicación de la ley,
- derechos fundamentales,
- seguridad pública,
- salud pública,
- protección del medio ambiente,
- la seguridad de los consumidores y cualquier aspecto económico,
- desarrollos financieros, políticos, científicos o culturales que puedan ser objeto de debate público.
¿Qué constituye la revisión humana o el control/responsabilidad editorial necesarios para poder acogerse a una exención de la obligación de etiquetado?
No es necesario etiquetar el texto publicado que haya sido sometido a revisión humana o control editorial.
La revisión humana se refiere al examen deliberado de la sustancia del contenido por parte de una o más personas físicas que poseen conocimientos pertinentes y juicio profesional en relación con el tema objeto de examen (por ejemplo, la revisión académica por pares o las cadenas de validación profesional). El control editorial se refiere al control ejercido en la práctica por una entidad editorial responsable (por ejemplo, un redactor jefe) sobre el contenido que tiene autoridad para aprobar, alterar o rechazar el contenido del texto sobre la base de motivos sustantivos (incluida la verificación de datos de la información y la garantía de la fiabilidad de las fuentes).
Los controles superficiales, únicamente formales o procedimentales (por ejemplo, corrección ortográfica o gramatical) no se consideran revisión humana o control editorial.
La responsabilidad editorial significa que una persona debe tener la responsabilidad legal última sobre la publicación del contenido, incluida la revisión humana o el control editorial.
¿Cómo pueden los proveedores y los responsables del despliegue demostrar el cumplimiento y cuáles son los efectos del Código de buenas prácticas en la transparencia de los contenidos generados por la IA?
ElCódigo de buenas prácticas sobre transparencia de los contenidos generados por IAproporciona una herramienta práctica voluntaria para ayudar a los proveedores y responsables del despliegue de sistemas de IA generativa a demostrar el cumplimiento de las obligaciones de marcado y etiquetado en virtud del artículo 50, apartados 2, 4 y 5, de la Ley de IA. Tanto la Comisión como el Consejo de IA han considerado que el código es adecuado. Permite a los signatarios beneficiarse de la seguridad jurídica, la previsibilidad y la confianza, ya que pueden basarse en un código aprobado que hayan firmado, independientemente de su lugar de establecimiento, operación o autoridad de supervisión competente.
Los proveedores y los implementadores de sistemas de IA generativa que decidan no adherirse al código tendrán que demostrar el cumplimiento a través de medios alternativos adecuados. Pueden ser objeto de más solicitudes de información, ya que hay menos transparencia sobre cómo cumplen las obligaciones de transparencia del artículo 50, apartados 2, 4 y 5, de la Ley de IA.
Para las demás obligaciones de transparencia (por ejemplo, las establecidas en el artículo 50, apartados 1 y 3, de la Ley de IA), los proveedores y los responsables del despliegue pueden determinar ellos mismos medidas de cumplimiento adecuadas, teniendo en cuenta al mismo tiempolas Directrices sobre la transparencia de los contenidos generados por IA.
¿Cómo interactúa el Código de buenas prácticas sobre sistemas transparentes de IA generativa con el reciente Código de buenas prácticas sobre IA de uso general?
Las obligaciones de transparencia establecidas enel artículo 50 de la Ley de IA complementan las normas de transparencia aplicables a los modelos de IA de uso general establecidas en los artículos 53 y 55 de la Ley de IA. Los medios para cumplir con estos últimos se han detallado con más detalle en los modelos del Código de buenas prácticas para la IA de uso general (GPAI) y en el modelo de la Comisión para el resumen del contenido utilizado para el entrenamiento de modelos.
En particular, el Código de buenas prácticas en materia de IAGP se centra en los modelos de IAGP y en la documentación y la información que deben facilitarse a la Oficina de IA, las autoridades nacionales competentes y los proveedores intermedios, así como en la transparencia de los datos de entrenamiento introducidos. El Código de buenas prácticas sobre transparencia de los contenidos generados por la IA aborda las técnicas de marcado y la transparencia de los resultados generados o manipulados por la IA hacia las personas expuestas a ellos.
El Código de Buenas Prácticas sobre la transparencia de los contenidos generados por IA se centra en las obligaciones de transparencia a nivel del sistema, incluidos, entre otros, los sistemas de IAGP. Las técnicas de transparencia que pueden aplicar los proveedores de modelos de IAGP para facilitar el cumplimiento por parte de los proveedores de sistemas de IA descendentes de las obligaciones de transparencia del artículo 50 de la Ley de IA también se tendrán en cuenta en el contexto del presente Código.
¿Cuándo comienza a aplicarse el artículo 50 de la Ley de IA y hay un período de gracia?
El artículo 50 de la Ley de IA es aplicable a partir del 2 de agosto de 2026. A partir de esa fecha, los proveedores y los implementadores de sistemas de IA deben cumplir las obligaciones de transparencia establecidas en dicha disposición. Solo se prevé un período de gracia limitado para los sistemas de IA introducidos en el mercado antes del 2 de agosto de 2026 y únicamente en lo que respecta a la obligación de marcado y detección de los contenidos generados por IA (artículo 50, apartado 2, de la Ley de IA). Los proveedores de dichos sistemas solo deben cumplir dichas obligaciones a partir del 2 de diciembre de 2026.
El contenido generado antes del 2 de agosto de 2026 no necesita etiquetarse retroactivamente. No obstante, la Comisión anima a los responsables del despliegue pertinentes a que lo hagan, siempre que sea posible, ya que contribuye a los objetivos perseguidos por el artículo 50 de la Ley de IA.
¿Quién supervisará la aplicación del artículo 50 de la Ley de IA y tendrá la facultad de imponer multas?
El cumplimiento de las normas correrá principalmente a cargo de las autoridades nacionales competentes de vigilancia del mercado. La Oficina de IA tiene un papel limitado en el seguimiento y la ejecución, ya que solo es competente para los sistemas de IA que se basan en modelos de IA de uso general, si la misma entidad proporciona el sistema y el modelo, o si el sistema de IA está integrado en un motor de búsqueda en línea de muy gran tamaño o una plataforma en línea de muy gran tamaño designados en virtud de la Ley de Servicios Digitales. El Supervisor Europeo de Protección de Datos hará cumplir las normas con respecto a los sistemas de IA utilizados por las instituciones, órganos y organismos de la UE.
Las multas pueden alcanzar hasta 15 millones de euros o el 3 % del volumen de negocios mundial total del ejercicio anterior, mientras que la proporcionalidad puede tenerse en cuenta en el caso de las pequeñas y medianas empresas (pymes) y las pequeñas empresas de mediana capitalización (SMC).