Skip to main content
Logo der Europäischen Kommission
Gestaltung der digitalen Zukunft Europas

Verhaltenskodex für die Kennzeichnung und Kennzeichnung von KI-generierten Inhalten

Mit diesem Verhaltenskodex soll die Einhaltung der Transparenzpflichten des KI-Gesetzes in Bezug auf die Kennzeichnung und Kennzeichnung von KI-generierten Inhalten unterstützt werden.

Kennzeichnung und Kennzeichnung von KI-generierten Inhalten

Die Verpflichtungen nach Artikel 50 des KI-Gesetzes (Transparenzverpflichtungen für Anbieter und Betreiber generativer KI-Systeme) zielen darauf ab, die Transparenz von KI-generierten oder manipulierten Inhalten wie Deep Fakes zu gewährleisten. Der Artikel befasst sich mit den Risiken von Täuschung und Manipulation und fördert die Integrität des Informationsökosystems. Diese Transparenzverpflichtungen werden andere Vorschriften wie die für Hochrisiko-KI-Systeme oder KI-Modelle mit allgemeinem Verwendungszweck ergänzen.

Um die Einhaltung dieser Transparenzpflichten zu unterstützen, hat das Amt für künstliche Intelligenz mit der Ausarbeitung eines Verhaltenskodex für die Transparenz von KI-generierten Inhalten begonnen. Der Kodex wird von unabhängigen Sachverständigen ausgearbeitet, die vom Amt für künstliche Intelligenz in einem inklusiven Verfahren ernannt werden. Berechtigte Interessenträger werden an der Ausarbeitung des Kodex mitwirken. Wenn der endgültige Kodex von der Kommission genehmigt wird, wird er als freiwilliges Instrument für Anbieter und Betreiber generativer KI-Systeme dienen, um die Einhaltung ihrer jeweiligen Verpflichtungen gemäß Artikel 50 Absätze 2 und 4 des KI-Gesetzes nachzuweisen. Diese Verpflichtungen betreffen die Kennzeichnung und Erkennung von KI-generierten Inhalten und die Kennzeichnung von Deep Fakes und bestimmten KI-generierten Veröffentlichungen.

Umfang der Arbeitsgruppen

Die Ausarbeitung des Kodex konzentriert sich auf zwei Arbeitsgruppen, die sich an der Struktur der Transparenzpflichten für KI-generierte Inhalte in Artikel 50 orientieren.

Arbeitsgruppe 1: Anbieter

Konzentriert sich auf Verpflichtungen, die Anbieter generativer KI-Systeme verpflichten, Folgendes sicherzustellen:

  • Ausgänge von KI-Systemen (Audio, Bild, Video, Text) werden in einem maschinenlesbaren Format markiert und als künstlich erzeugt oder manipuliert nachweisbar.
  • Die eingesetzten technischen Lösungen sind effektiv, interoperabel, robust und zuverlässig, soweit technisch machbar. Dabei müssen die Besonderheiten und Beschränkungen der verschiedenen Arten von Inhalten, die Implementierungskosten und der allgemein anerkannte Stand der Technik berücksichtigt werden, wie er sich in den einschlägigen technischen Normen widerspiegeln kann.

Arbeitsgruppe 2: Arbeitgeber

Konzentriert sich auf Verpflichtungen, die die Betreiber generativer KI-Systeme verpflichten, Folgendes offenzulegen:

  • Inhalte, die künstlich erzeugt oder manipuliert werden und eine tiefe Fälschung darstellen (Bild, Audio oder Video, das bestehenden Personen, Objekten, Orten, Entitäten oder Ereignissen ähnelt und einer Person fälschlicherweise als authentisch oder wahrheitsgetreu erscheint).
  • KI generierte/manipulierte Textpublikationen, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren, es sei denn, die Veröffentlichung wurde einer menschlichen Überprüfung unterzogen und unterliegt der redaktionellen Verantwortung.

Beide Gruppen werden auch bereichsübergreifende Fragen prüfen, einschließlich horizontaler Anforderungen an die den natürlichen Personen gemäß Artikel 50 Absatz 5 bereitzustellenden Informationen, und darauf abzielen, die Zusammenarbeit zwischen den einschlägigen Akteuren entlang der gesamten Wertschöpfungskette zu fördern, um die Ziele des KI-Gesetzes in Bezug auf die Kennzeichnung und Kennzeichnung von KI-generierten Inhalten zu erreichen.

Jede Arbeitsgruppe wird von unabhängigen Vorsitzenden und stellvertretenden Vorsitzenden geleitet, von denen erwartet wird, dass sie strategische Führung und Orientierung bieten, um sicherzustellen, dass die Diskussionen fokussiert und produktiv bleiben. Sie können die vollständige Teilnehmerliste der Arbeitsgruppen 1&2(PDF) herunterladen.

Entwurfsprozess

An der Ausarbeitung des Kodex sind berechtigte Interessenträger beteiligt, die auf eine öffentliche Aufforderung des Amtes für künstliche Intelligenz geantwortet haben. Innerhalb dieser Gruppe gibt es Anbieter spezifischer generativer KI-Systeme, Entwickler von Kennzeichnungs- und Erkennungstechniken, Verbände von Betreibern generativer KI-Systeme, Organisationen der Zivilgesellschaft, akademische Experten und spezialisierte Organisationen mit Fachwissen im Bereich Transparenz und sehr große Online-Plattformen.

In seiner Rolle als Vermittler lud das Amt für künstliche Intelligenz auch internationale und europäische Beobachter ein, sich an der Ausarbeitung des Verhaltenskodex zu beteiligen. Diese Organisationen erfüllten die Förderkriterien der Aufforderung nicht, können aber dennoch mit wertvollem Fachwissen beitragen und schriftliche Beiträge einreichen. Alle Teilnehmer und Beobachter werden eingeladen, an Plenartagungen, Arbeitsgruppensitzungen und thematischen Workshops zur Erörterung technischer Aspekte des Kodex teilzunehmen.

Bei der Ausarbeitung wird Folgendes berücksichtigt:

  • Rückmeldungen aus der Multi-Stakeholder-Konsultation zu Transparenzanforderungen für bestimmte KI-Systeme
  • Vom Amt für künstliche Intelligenz in Auftrag gegebene Expertenstudien und Beiträge förderfähiger Interessenträger, die an der Ausarbeitung des Verhaltenskodex beteiligt sind

Die vollständige Übung wird voraussichtlich 7 Monate dauern. Dieser Zeitplan lässt Anbietern und Betreibern ausreichend Zeit, sich auf die Einhaltung der Vorschriften vorzubereiten, bevor die Vorschriften im August 2026 in Kraft treten. Die Transparenzpflichten gemäß Artikel 50 des KI-Gesetzes werden andere Vorschriften wie die für Hochrisiko-KI-Systeme oder KI-Modelle mit allgemeinem Verwendungszweck ergänzen.

Die Kommission wird parallel dazu Leitlinien ausarbeiten, um den Anwendungsbereich der rechtlichen Verpflichtungen zu präzisieren und Aspekte zu behandeln, die nicht unter den Kodex fallen.

Zeitplan

Die Sitzungen und Workshops der Arbeitsgruppen mit Teilnehmern, Vorsitzenden und stellvertretenden Vorsitzenden finden zwischen November 2025 und Mai 2026 statt.

Die nachstehenden Daten sind indikativ und müssen möglicherweise bestätigt werden (vorbehaltlich Bestätigung).

Zugehöriger Inhalt

Gesamtbild

Europäischer Ansatz für künstliche Intelligenz

Das Konzept der EU für künstliche Intelligenz fördert Exzellenz und Vertrauen, indem es die Forschungs- und Industriekapazitäten stärkt und gleichzeitig Sicherheit und Grundrechte gewährleistet.

Last update

27 Januar 2026

Als PDF ausdrucken