Leitlinien zu Transparenzverpflichtungen für Anbieter und Betreiber bestimmter KI-Systeme

In den Leitlinien werden diese Verpflichtungen präzisiert, wodurch Rechtssicherheit in Bezug auf den Anwendungsbereich geschaffen wird und der Verhaltenskodex für die Transparenz von KI-generierten Inhalten ergänzt wird. Die Leitlinien wurden mit Beiträgen der Mitgliedstaaten, des KI-Ausschusses und anderer Interessenträger im Rahmen einer öffentlichen Konsultation entwickelt.

Laden Sie die Leitlinien zu Transparenzverpflichtungen für Anbieter und Betreiber von KI-Systemen herunter

Transparenzpflichten für KI-Anbieter und -Anbieter

Die rasante Entwicklung generativer und interaktiver KI-Systeme erschwert es zunehmend, KI-Interaktionen und KI-generierte Inhalte von von von Menschen erstellten und authentischen Inhalten zu unterscheiden. Menschen werden zunehmend auch ohne ihr Wissen der Emotionserkennung und biometrischen Kategorisierung ausgesetzt. Dies birgt neue Risiken wie Fehlinformationen und Manipulation in großem Maßstab, Betrug, Nachahmung und Täuschung der Verbraucher.

Artikel 50 des KI-Gesetzes gilt ab dem 2. August 2026. Darin werden Transparenzverpflichtungen für Anbieter und Betreiber bestimmter KI-Systeme, einschließlich generativer und interaktiver KI-Systeme und Deepfakes, festgelegt.

Anbieter müssen:

• Gestaltung von KI-Systemen in einer Weise, die sicherstellt, dass Einzelpersonen explizit informiert werden, wenn sie direkt mit einem KI-System interagieren
• Fügen Sie maschinenlesbare Markierungen hinzu, um KI-generierte oder manipulierte Inhalte zu erkennen

Die Betreiber von KI-Systemen müssen Einzelpersonen informieren, wenn sie folgenden Situationen ausgesetzt sind:

• Tools zur Emotionserkennung und biometrischen Kategorisierung
• Deepfakes
• Textpublikationen zu Angelegenheiten von öffentlichem Interesse ohne menschliche Überprüfung oder redaktionelle Kontrolle

Diese Verpflichtungen sollen Vertrauen und Integrität im Informationsökosystem fördern. Die Menschen sollten wissen, wann sie mit KI interagieren oder KI-generierten Inhalten ausgesetzt sind. Dies wird ihnen helfen, fundierte Entscheidungen zu treffen, ihr Vertrauen und ihre Abhängigkeit von KI zu kalibrieren und Fehlinformationen oder Täuschungen zu vermeiden.

Für die Durchsetzung dieser Vorschriften sind die nationalen Marktüberwachungsbehörden, das Amt für künstliche Intelligenz (für Systeme unter seiner Aufsicht) und der Europäische Datenschutzbeauftragte (wenn es sich bei den EU-Institutionen um Anbieter/Arbeitgeber handelt) zuständig.

Inhalt der Leitlinien

In den Leitlinien wird der Begriff „Anbieter und Betreiber von KI-Systemen“ präzisiert, in dem klare Erwartungen hinsichtlich der Transparenzpflichten festgelegt werden, die für jeden Interessenträger entlang der Wertschöpfungskette gelten. Sie enthalten Definitionen bestimmter Konzepte und skizzieren Ausnahmen sowie vielfältige, praktische Beispiele dafür, was in den Anwendungsbereich fällt und was nicht. Dazu gehören Definitionen von direkt interaktiven KI-Systemen, synthetischen Inhalten, Deepfakes, KI-generierten Texten zu Angelegenheiten von öffentlichem Interesse und Beispiele für Ausnahmen wie die Standardbearbeitung.

In den Leitlinien wird auch erläutert, wie die Einhaltung der Transparenzpflichten des KI-Gesetzes nachgewiesen werden kann, unter anderem durch die Einhaltung des Verhaltenskodex für die Transparenz von KI-generierten Inhalten. Anbieter und Betreiber generativer KI-Systeme, die sich gegen die Einhaltung des Kodex entscheiden, müssen die Einhaltung der Verpflichtungen zur Kennzeichnung und Kennzeichnung von KI-generierten Inhalten mit alternativen, gleichwertig angemessenen Mitteln nachweisen. Für die anderen Transparenzverpflichtungen (z. B. in Bezug auf KI-Systeme, die mit Einzelpersonen interagieren) können Anbieter und Betreiber unter Berücksichtigung der Leitlinien selbst angemessene Maßnahmen festlegen.