Auf dieser Seite finden Sie Antworten auf häufig gestellte Fragen im Zusammenhang mit Konzepten und Verpflichtungen, die in den Leitlinien der Kommission zu Artikel 50 des KI-Gesetzes erläutert werden.
Wer ist Anbieter eines KI-Systems und welche Transparenzpflichten gelten für sie?
Nach Artikel3 Absatz 3 des KI-Gesetzes sind Anbieter von KI-Systemen natürliche oder juristische Personen, Behörden, Agenturen oder andere Einrichtungen, die KI-Systeme entwickeln oder entwickeln lassen und diese in der EU in Verkehr bringen oder unter ihrem eigenen Namen oder ihrer eigenen Marke in Betrieb nehmen. Dies gilt unabhängig davon, ob diese Anbieter in der EU oder in einem Drittland niedergelassen oder ansässig sind.
Anbieter von KI-Systemen, die außerhalb der EU niedergelassen oder ansässig sind, unterliegen ebenfalls den Bestimmungen des KI-Gesetzes, wenn die Ergebnisse ihres KI-Systems in der EU verwendet werden.
Die Anbieter müssen sicherstellen, dass ihre KI-Systeme die einschlägigen Transparenzpflichten gemäß Artikel 50 Absätze 1, 2 und 5 des KI-Gesetzes erfüllen, bevor sie diese Systeme in Verkehr bringen oder in Betrieb nehmen.
Gemäß Artikel 50 Absatz 2 des KI-Gesetzes müssen Anbieter KI-Systeme konzipieren und entwickeln, die direkt mit natürlichen Personen – wie Chatbots, KI-Agenten und Avataren – interagieren, um sicherzustellen, dass die Menschen darüber informiert werden, dass sie mit KI interagieren. Die Anbieter müssen auch sicherstellen, dass die Ergebnisse ihrer generativen KI-Systeme mit wirksamen, zuverlässigen, robusten und interoperablen maschinenlesbaren Markierungen gekennzeichnet sind, mit denen die Ergebnisse als von KI-Systemen erzeugt oder manipuliert erkannt werden können.
Wer ist ein Betreiber und welche Transparenzpflichten gelten für ihn?
Anbieter von KI-Systemen sind natürliche oder juristische Personen, Behörden, Agenturen oder andere Stellen, die KI-Systeme unter ihrer Aufsicht einsetzen, mit Ausnahme der Verwendung für persönliche, nicht berufliche Tätigkeiten.
Wenn eine natürliche Person ein KI-System in ihrer persönlichen Eigenschaft nutzt, z. B. um Deepfakes zu generieren und in den sozialen Medien zu verbreiten, gilt dies als persönliche Tätigkeit. Eine solche Nutzung ist vom Anwendungsbereich des KI-Gesetzes ausgenommen. Handelt es sich jedoch um eine Tätigkeit, durch die sie regelmäßig einen wirtschaftlichen Nutzen erlangen (oder auf andere Weise einer gewerblichen, gewerblichen, beruflichen oder freiberuflichen Tätigkeit nachgehen), so gilt dies als „berufliche“ Tätigkeit. In diesem Fall gilt die natürliche Person als Betreiber dieses KI-Systems.
Handelt es sich bei dem Betreiber eines KI-Systems um eine juristische Person, unter deren Aufsicht das System verwendet wird (z. B. ein Werbeunternehmen), sollten die einzelnen Mitarbeiter, die unter den Anweisungen und unter der Kontrolle dieser juristischen Person handeln (z. B. digitale Animatoren, Webdesigner, Ersteller von Inhalten, Journalisten), nicht als separate Betreiber dieses Systems betrachtet werden. Eine juristische Person bleibt auch dann Betreiber, wenn Dritte (z. B. Auftragnehmer, Freiberufler) in ihrem Auftrag und unter ihrer Verantwortung und Kontrolle am Betrieb des Systems beteiligt sind.
Gemäß dem KI-Gesetz müssen Betreiber sicherstellen, dass sie Personen informieren, wenn sie Emotionserkennungs-oder biometrische Kategorisierungssysteme verwenden (Artikel 50 Absatz 3 des KI-Gesetzes), und Deepfakes und KI-generierte oder manipulierte Texte, die zu Angelegenheiten von öffentlichem Interesse ohne menschliche Überprüfung oder redaktionelle Kontrolle veröffentlicht werden, eindeutig kennzeichnen (Artikel 50 Absatz 4 des KI-Gesetzes).
Wann müssen Anbieter von KI-Systemen Personen informieren, die mit einem KI-System interagieren?
Gemäß Artikel50 Absatz 1 des KI-Gesetzes müssen Anbieter von KI-Systemen, die direkt mit Menschen interagieren, diese Systeme so konzipieren und entwickeln, dass die betroffenen Personen darüber informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist offensichtlich.
Inden Leitlinien zur Transparenz KI-generierter Inhalte werden die vier kumulativen Kriterien präzisiert, nach denen diese Verpflichtung gilt:
- das System muss als KI-System gelten;
- Es muss für einen echten wechselseitigen Austausch mit Personen konzipiert sein, anstatt nur Daten zu sammeln oder automatisierte Antworten zu liefern.
- die Interaktion muss direkt sein, d. h. die KI selbst kommuniziert mit der Person und nicht über einen menschlichen Vermittler;
- die Interaktion muss mit natürlichen Personen erfolgen, unabhängig davon, ob es sich um Verbraucher, Fachleute oder andere Nutzer handelt.
KI-Systeme, die ausschließlich im Hintergrund, durch Machine-to-Machine-Kommunikation oder ohne direkten Kontakt mit Menschen arbeiten, fallen nicht in den Anwendungsbereich dieser Verpflichtung.
Die Menschen müssen von Beginn der ersten Interaktion an in klarer und unterscheidbarer Weise und im Einklang mit den Barrierefreiheitsanforderungen benachrichtigt werden, wenn sie mit einem KI-System interagieren.
Dies wird es ihnen ermöglichen, fundierte Entscheidungen über ihre Interaktion mit dem System zu treffen und ihr Vertrauen in den Inhalt entsprechend zu kalibrieren.
Die Menschen müssen nicht informiert werden, wenn es offensichtlich ist, dass sie mit einem KI-System interagieren. Um zu beurteilen, wie offensichtlich eine KI-Interaktion ist, muss ein Anbieter in der Praxis eine durchschnittliche Person identifizieren, die einigermaßen gut informiert, verständig und aufmerksam ist. Diese Person bewertet, ob es offensichtlich ist, dass sie direkt mit einem KI-System interagiert.
Die Leitlinien enthalten weitere Leitlinien und praktische Beispiele für die Anwendung dieser Ausnahme. Sie sollte restriktiv ausgelegt werden, da sie den Menschen die Transparenz nimmt.
Wann müssen Anbieter von KI-Systemen die Ergebnisse ihrer generativen KI-Systeme markieren und deren Nachweisbarkeit sicherstellen?
Gemäß Artikel50 Absatz 2 des KI-Gesetzes müssen Anbieter von KI-Systemen, einschließlich KI-Systemen mit allgemeinem Verwendungszweck, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, sicherstellen, dass KI-generierte oder manipulierte Inhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert nachweisbar sind.
Inden Leitlinien zur Transparenz KI-generierter Inhalte wird klargestellt, dass bestimmte Outputs nicht in den Anwendungsbereich der Verpflichtungen fallen, wie z. B.:
- eine kurze Folge von Zahlen, Symbolen oder Buchstaben,
- Quellcode
- Ausgänge eines KI-Systems, die ausschließlich von Maschine zu Maschine kommuniziert und automatisch ohne Exposition gegenüber Menschen verarbeitet werden sollen, oder
- Ausgänge, die nur in geschlossenen Industrie- und Produktentwicklungsumgebungen, beispielsweise für die Filmproduktion, verwendet werden, es sei denn, sie sind der Endausgang.
Die Verpflichtung zur Kennzeichnung von KI-generierten oder manipulierten synthetischen Inhalten gilt nicht, wenn das KI-System eine unterstützende Funktion für die Standardbearbeitung erfüllt. Die Leitlinien bieten eine Vielzahl praktischer Beispiele dafür, was als Standardbearbeitung betrachtet werden kann und was darüber hinausgeht.
Um sicherzustellen, dass Artikel 50 Absatz 2 des KI-Gesetzes in angemessener Weise umgesetzt wird, ist eine enge Ausnahme von der Kennzeichnungspflicht für KI-Systeme vorgesehen, die Outputs erzeugen, die in „Business-to-Business“- oder „industriellen Kontexten“ verwendet werden (sofern die in den Leitlinien festgelegten Bedingungen erfüllt sind).
Auch die Besonderheiten und Grenzen verschiedener Inhaltsarten, die Implementierungskosten und der allgemein anerkannte Stand der Technik sind zu berücksichtigen. In den Leitlinien werden diese Konzepte weiter erläutert.
Wann müssen Betreiber von KI-basierten Emotionserkennungs- oder biometrischen Kategorisierungssystemen natürliche Personen, die diesen Systemen ausgesetzt sind, informieren?
Gemäß Artikel50 Absatz 3 des KI-Gesetzes müssen Betreiber von Emotionserkennungssystemen und biometrischen Kategorisierungssystemen natürliche Personen, die diesen Systemen ausgesetzt sind, über ihren Betrieb informieren, um ihre Privatsphäre zu schützen. Dies beinhaltet nicht die Bereitstellung von Informationen über z. B. den Zweck des Netzbetriebs.
Die Verpflichtung gilt unabhängig davon, ob die Personen solchen Systemen in Echtzeit ausgesetzt sind oder ex post betrieben werden.
Was ist ein „Deepfake“ und wann müssen sie gekennzeichnet werden?
Deepfakes sind in Artikel 3 Absatz 60 des KI-Gesetzesdefiniert als KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als authentisch oder wahrheitsgetreu erscheinen würden.
Drei kumulative Kriterien müssen erfüllt sein, damit der Inhalt einen „Deepfake“ darstellt:
- Ähnlichkeit: eine hohe Ähnlichkeit zwischen dem Deepfake-Inhalt und dem simulierten Thema.
- Bestehende: simulierte Personen, Objekte, Orte, Entitäten oder Ereignisse müssen jemandem oder etwas ähneln, das existiert, plausibel existieren kann oder plausibel in der Realität existiert haben könnte.
- Falscher Anschein, authentisch oder wahrheitsgemäß zu sein: dies bezieht sich auf das wesentliche Merkmal von Deepfake-Inhalten und ihre Fähigkeit, eine Person in Bezug auf die Authentizität oder Wahrhaftigkeit des Inhalts möglicherweise zu täuschen oder irrezuführen.
Bei der Bewertung des letzten oben genannten Kriteriums können die Interessenträger gemäß denLeitlinien für die Transparenz KI-generierter Inhalte Folgendes berücksichtigen:
- der Grad der Ähnlichkeit,
- die potenzielle inhaltliche Botschaft des Inhalts
- die beabsichtigten und vorhersehbaren Einsatzkontexte,
- die beabsichtigte und vernünftigerweise vorhersehbare Zusammensetzung des Publikums und ihre Erwartungen.
Dies ermöglicht es den Betreibern, den spezifischen Kontext, in dem sie tätig sind, und die Zielgruppe, der ihre Inhalte ausgesetzt sind, gebührend zu berücksichtigen. Wenn die beabsichtigte Zielgruppe in einem bestimmten Bereitstellungskontext nicht erwartet, dass der Inhalt authentisch oder wahrheitsgemäß ist, erscheinen die von der KI generierten oder manipulierten Inhalte möglicherweise nicht fälschlicherweise authentisch oder wahrheitsgemäß. Zum Beispiel ist es nicht wahrscheinlich, dass die KI-Generierung oder Manipulation von Hintergrundszenen, Spezialeffekten oder technischen Vor- und Nachbearbeitungen als Teil von Standard-Filmproduktionsprozessen Inhalte dem Publikum fälschlicherweise als authentisch oder wahrheitsgetreu erscheinen lässt.
Arbeitgeber müssen Deepfake-Inhalte spätestens bei der ersten Exposition gegenüber einer natürlichen Person offenlegen. Diese Offenlegung sollte auf klare und unterscheidbare Weise erfolgen. Es sollte für natürliche Personen verständlich und wahrnehmbar sein (z. B. mit sichtbaren oder hörbaren Etiketten), ohne dass spezifische technische Instrumente erforderlich sind oder spezielle Maßnahmen durchgeführt werden müssen. Daher können sich die Betreiber bei der Erfüllung ihrer Offenlegungspflicht nicht einfach auf die vom Anbieter gemäß Artikel 50 Absatz 2 des KI-Gesetzes in den Inhalt eingebettete maschinenlesbare Kennzeichnung verlassen.
Einige Deepfakes sind Teil offensichtlich künstlerischer, kreativer, satirischer, fiktiver oder analoger Werke oder Programme. Für diese beschränkt sich die Transparenzpflicht auf die Offenlegung des Deepfake-Inhalts in geeigneter Weise, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.
Welchen KI-generierten oder manipulierten Text müssen die Betreiber eindeutig kennzeichnen?
Gemäß Artikel50 Absatz 4 des KI-Gesetzes müssen Betreiber generativer KI-Systeme KI-generierte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, eindeutig kennzeichnen. Damit Text unter diese Verpflichtung fällt, müssen drei Kriterien erfüllt sein. Der Text muss lauten:
- Veröffentlicht
- Informativ für die Öffentlichkeit
- In Angelegenheiten von öffentlichem Interesse, wie z. B.:
- Politik und demokratische Prozesse,
- öffentliche Verwaltung und Dienstleistungen,
- Rechtspflege und Strafverfolgung,
- Grundrechte,
- öffentliche Sicherheit,
- öffentliche Gesundheit,
- Umweltschutz,
- Verbrauchersicherheit und alle wirtschaftlichen,
- finanzielle, politische, wissenschaftliche oder kulturelle Entwicklungen, die Gegenstand einer öffentlichen Debatte sein können.
Was ist die menschliche Überprüfung oder redaktionelle Kontrolle/Verantwortung, die erforderlich ist, um für eine Ausnahme von der Kennzeichnungspflicht in Betracht zu kommen?
Veröffentlichter Text, der einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde, muss nicht gekennzeichnet werden.
Human Review bezieht sich auf die vorsätzliche Prüfung des Inhalts durch eine oder mehrere natürliche Personen, die über einschlägige Kenntnisse und fachliches Urteilsvermögen in Bezug auf den zu prüfenden Gegenstand verfügen (z. B. akademisches Peer Review oder professionelle Validierungsketten). Die redaktionelle Kontrolle bezieht sich auf die Kontrolle, die eine verantwortliche Redaktion (z. B. ein Chefredakteur) in der Praxis über den Inhalt ausübt, der befugt ist, den Inhalt des Textes aus sachlichen Gründen (einschließlich der Überprüfung von Informationen und der Gewährleistung der Vertrauenswürdigkeit der Quellen) zu genehmigen, zu ändern oder abzulehnen.
Oberflächliche, ausschließlich formale oder verfahrenstechnische Kontrollen (z. B. Rechtschreibprüfung oder grammatikalische Korrektur) gelten nicht als menschliche Überprüfung oder redaktionelle Kontrolle.
Redaktionelle Verantwortung bedeutet, dass eine Person die endgültige rechtliche Verantwortung für die Veröffentlichung des Inhalts, einschließlich der menschlichen Überprüfung oder redaktionellen Kontrolle, tragen muss.
Wie können Anbieter und Betreiber Compliance nachweisen und welche Auswirkungen hat der Verhaltenskodex auf die Transparenz von KI-generierten Inhalten?
DerVerhaltenskodex für die Transparenz von KI-generierten Inhalten stellt ein freiwilliges praktisches Instrument dar, mit dem Anbieter und Betreiber generativer KI-Systeme die Einhaltung der Kennzeichnungs- und Kennzeichnungspflichten gemäß Artikel 50 Absätze 2, 4 und 5 des KI-Gesetzes nachweisen können. Der Kodex wurde sowohl von der Kommission als auch vom KI-Ausschuss als angemessen bewertet. Sie ermöglicht es den Unterzeichnern, von Rechtssicherheit, Vorhersehbarkeit und Vertrauen zu profitieren, da sie sich auf einen genehmigten Kodex verlassen können, den sie unterzeichnet haben, unabhängig von ihrem Niederlassungsort, ihrem Betrieb oder ihrer zuständigen Aufsichtsbehörde.
Anbieter und Betreiber generativer KI-Systeme, die sich gegen die Einhaltung des Kodex entscheiden, müssen die Einhaltung des Kodex mit alternativen angemessenen Mitteln nachweisen. Sie können mehr Auskunftsersuchen unterliegen, da weniger Transparenz darüber herrscht, wie sie den Transparenzpflichten nach Artikel 50 Absätze 2, 4 und 5 des KI-Gesetzes nachkommen.
Für die anderen Transparenzverpflichtungen (z. B. die in Artikel 50 Absätze 1 und 3 des KI-Gesetzes festgelegten) können Anbieter und Betreiber selbst angemessene Compliance-Maßnahmen festlegen, wobei die Leitlinien für die Transparenz KI-generierter Inhalte zu berücksichtigen sind.
Wie interagiert der Verhaltenskodex für transparente generative KI-Systeme mit dem jüngsten Verhaltenskodex für KI mit allgemeinem Verwendungszweck?
Die Transparenzpflichten gemäßArtikel 50 des KI-Gesetzes ergänzen die Transparenzvorschriften für KI-Modelle mit allgemeinem Verwendungszweck gemäß den Artikeln 53 und 55 des KI-Gesetzes. Die Mittel zur Einhaltung letzterer wurden im Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) und in der Vorlage der Kommission für die Zusammenfassung der für die Modellschulung verwendeten Inhalte näher erläutert.
Insbesondere konzentriert sich der GPAI-Praxiskodex auf GPAI-Modelle sowie auf die Dokumentation und Informationen, die dem Amt für künstliche Intelligenz, den zuständigen nationalen Behörden und nachgelagerten Anbietern zur Verfügung zu stellen sind, und auf die Transparenz der Eingabe-Schulungsdaten. Der Verhaltenskodex für die Transparenz von KI-generierten Inhalten befasst sich mit Kennzeichnungstechniken und der Transparenz der von KI erzeugten oder manipulierten Ergebnisse gegenüber den ihnen ausgesetzten Personen.
Der Verhaltenskodex für die Transparenz von KI-generierten Inhalten zielt auf Transparenzverpflichtungen auf Systemebene ab, einschließlich, aber nicht beschränkt auf GPAI-Systeme. Transparenztechniken, die von Anbietern von GPAI-Modellen implementiert werden können, um nachgelagerten Anbietern von KI-Systemen die Einhaltung der Transparenzpflichten gemäß Artikel 50 des KI-Gesetzes zu erleichtern, werden ebenfalls im Zusammenhang mit diesem Kodex berücksichtigt.
Wann findet Artikel 50 des KI-Gesetzes Anwendung und gibt es eine Nachfrist?
Artikel 50 des KI-Gesetzes gilt ab dem 2. August 2026. Ab diesem Zeitpunkt müssen Anbieter und Betreiber von KI-Systemen die in dieser Bestimmung festgelegten Transparenzpflichten erfüllen. Eine begrenzte Aufbrauchfrist ist nur für KI-Systeme vorgesehen, die vor dem 2. August 2026 in Verkehr gebracht wurden, und nur in Bezug auf die Kennzeichnungs- und Aufdeckungspflicht für KI-generierte Inhalte (Artikel 50 Absatz 2 des KI-Gesetzes). Anbieter solcher Systeme müssen diesen Verpflichtungen erst ab dem 2. Dezember 2026 nachkommen.
Inhalte, die vor dem 2. August 2026 erstellt wurden, müssen nicht rückwirkend gekennzeichnet werden. Die Kommission fordert die einschlägigen Betreiber jedoch auf, dies nach Möglichkeit zu tun, da dies zu den Zielen des Artikels 50 des KI-Gesetzes beiträgt.
Wer überwacht die Durchsetzung von Artikel 50 des KI-Gesetzes und ist befugt, Geldbußen zu verhängen?
Die Einhaltung der Vorschriften wird hauptsächlich von den zuständigen nationalen Marktüberwachungsbehörden durchgesetzt. Das Amt für künstliche Intelligenz spielt eine begrenzte Rolle bei der Überwachung und Durchsetzung, da es nur für KI-Systeme zuständig ist, die auf KI-Modellen mit allgemeinem Verwendungszweck aufbauen, wenn dieselbe Stelle das System und das Modell bereitstellt oder wenn das KI-System in eine sehr große Online-Suchmaschine oder eine sehr große Online-Plattform integriert ist, die gemäß dem Gesetz über digitale Dienste benannt wurde. Der Europäische Datenschutzbeauftragte wird die Vorschriften gegenüber KI-Systemen durchsetzen, die von den Organen, Einrichtungen und sonstigen Stellen der EU verwendet werden.
Geldbußen können bis zu 15 Millionen Euro oder 3 % des weltweiten Gesamtumsatzes des vorangegangenen Geschäftsjahres betragen, während die Verhältnismäßigkeit bei kleinen und mittleren Unternehmen (KMU) und kleinen Midcap-Unternehmen (KMU) berücksichtigt werden kann.