Diese Fragerunde begleitet die Konsultation der Kommission und ruft die Interessenträger zur Interessenbekundung auf, um Beiträge zu den Leitlinien und einem Verhaltenskodex für transparente generative KI-Systeme zu leisten und sich am Prozess des Verhaltenskodex zu beteiligen.
- Transparenz in Bezug auf die künstliche Herkunft von KI-generierten oder KI-manipulierten Inhalten ist von wesentlicher Bedeutung. Die Verfügbarkeit einer Vielzahl von KI-Systemen mit wachsenden Fähigkeiten zur Generierung aller Arten von Inhalten macht es immer schwieriger, KI-Inhalte von von Menschen erstellten und authentischen Inhalten zu unterscheiden. Dies birgt neue Risiken in Bezug auf Fehlinformationen und Manipulation in großem Maßstab, Betrug, Nachahmung und Täuschung der Verbraucher.
- In diesem Zusammenhang sind in Artikel 50 des KI-Gesetzes Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme festgelegt, einschließlich generativer und interaktiver KI-Systeme und Deep Fakes.
- Diese Verpflichtungen zielen darauf ab, das Risiko von Täuschung, Nachahmung und Fehlinformationen zu verringern und Vertrauen und Integrität im Informationsökosystem zu fördern. Die Menschen werden wissen, wann sie mit KI interagieren oder KI-generierten Inhalten ausgesetzt sind, was ihnen helfen wird, fundierte Entscheidungen zu treffen.
- Artikel 50 des KI-Gesetzes deckt vier Arten von KI-Systemen ab. Erstens müssen Anbieter von KI-Systemen, die mit Menschen interagieren, sie darüber informieren, dass sie mit einem KI-System und nicht mit einem Menschen interagieren, es sei denn, dies ist offensichtlich.
- Zweitens müssen Anbieter von KI-generierten oder manipulierten Inhalten die Identifizierung und Kennzeichnung solcher Inhalte in maschinenlesbarer Weise erleichtern und damit verbundene Erkennungsmechanismen ermöglichen.
- Drittens müssen Betreiber von Emotionserkennungs- oder biometrischen Kategorisierungssystemen sicherstellen, dass Personen, die diesen Systemen ausgesetzt sind, informiert werden.
- Viertens müssen Betreiber von KI-Systemen, die Deep-Fake-Inhalte erzeugen oder manipulieren, oder KI-generierte oder manipulierte Textpublikationen, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen, die Nutzer über die künstliche Herkunft der Inhalte informieren, außer in bestimmten Fällen. Schließlich sollten die bereitgestellten Informationen in einem klaren und zugänglichen Format vorliegen.
- Zu den Techniken oder Methoden zur Kennzeichnung und Erkennung von KI-generierten Inhalten gehören Wasserzeichen, Metadatenidentifizierungen und kryptografische Methoden zum Nachweis der Herkunft und Authentizität von Inhalten, Protokollierungsmethoden, Fingerabdrücke oder andere Techniken.
- Die einschlägigen Techniken und Methoden sollten hinreichend zuverlässig, interoperabel, wirksam und robust sein, soweit dies technisch machbar ist. Die Anbieter sollten auch die Besonderheiten und Beschränkungen der verschiedenen Arten von Inhalten sowie die einschlägigen technologischen und Marktentwicklungen in diesem Bereich berücksichtigen.
- Die weitere Ermittlung neu entstehender modernster Techniken und Verfahren wird ein wichtiger Teil der Arbeit sein, die im Zusammenhang mit dem Verhaltenskodex für transparente generative KI-Systeme zu leisten ist.
Der Verhaltenskodex für transparente generative KI-Systeme wird ein freiwilliges Instrument sein, um die ordnungsgemäße Einhaltung der in Artikel 50 Absätze 2 und 4 des KI-Gesetzes festgelegten Verpflichtungen für Anbieter und Betreiber generativer KI-Systeme sicherzustellen. Wenn sie von der Kommission als angemessen genehmigt wird, wird sie klare Maßnahmen für Betreiber und Anbieter vorsehen, die generative KI-Systeme im Anwendungsbereich entwickeln oder entwickeln wollen. Mit dem Kodex wird sichergestellt, dass generative KI-Systeme, die von anhaftenden Anbietern und Betreibern in Europa in Verkehr gebracht werden, im Einklang mit den jeweiligen Transparenzanforderungen des KI-Gesetzes ausreichend transparent sind.
- Die praktischen Maßnahmen des Verhaltenskodex werden nur die in Artikel 50 Absätze 2 und 4 des KI-Gesetzes festgelegten Verpflichtungen abdecken. Die Leitlinien werden sich auf Artikel 50 als Ganzes erstrecken.
- Darüber hinaus wird der Verhaltenskodex im Rahmen eines Multi-Stakeholder-Prozesses entwickelt und bietet technische Mittel für die Umsetzung.
- In den von der Kommission zu entwickelnden und anzunehmenden Leitlinien werden der Anwendungsbereich, die einschlägigen rechtlichen Definitionen, die Transparenzpflichten, die Ausnahmen und damit zusammenhängende horizontale Fragen präzisiert.
- Anbieter und Betreiber generativer KI-Systeme, einschließlich KMU, die den Verpflichtungen unterliegen, sind die Hauptadressaten des Kodex. Anbieter von Transparenztechniken, Organisationen der Zivilgesellschaft, akademische Experten und andere einschlägige Organisationen oder Branchenverbände werden aufgefordert, den Ausarbeitungsprozess zu unterstützen. Durch die Einbeziehung all dieser Interessenträger wird der Verhaltenskodex die wirksame Umsetzung der jeweiligen Transparenzverpflichtungen erleichtern. Der Kodex wird auch praktische Vorkehrungen unterstützen, um Aufdeckungsmechanismen zugänglich zu machen und die Zusammenarbeit mit anderen Akteuren entlang der Wertschöpfungskette zu erleichtern.
- Die Interessenträger werden aufgefordert, bis zum 9. Oktober ihr Interesse an der Teilnahme an der Ausarbeitung zu bekunden. Das Amt für künstliche Intelligenz überprüft die Förderfähigkeit auf der Grundlage eingereichter und öffentlich zugänglicher Informationen und bestätigt den jeweiligen Interessenträgern die Teilnahme.
- Die Transparenzpflichten gemäß Artikel 50 des KI-Gesetzes ergänzen die Transparenzvorschriften für KI-Modelle mit allgemeinem Verwendungszweck (Artikel 53 und 55). Letztere wurden im Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) und in der Vorlage der Kommission für die Zusammenfassung der für die Modellschulung verwendeten Inhalte näher ausgeführt.
- Während sich der GPAI-Praxiskodex auf GPAI-Modelle sowie auf die Dokumentation und Informationen konzentriert, die dem Amt für künstliche Intelligenz, den zuständigen nationalen Behörden und nachgelagerten Anbietern zur Verfügung zu stellen sind, und auf die Transparenz der Eingabe-Schulungsdaten, befasst sich der Kodex für transparente generative KI-Systeme mit Kennzeichnungstechniken und der Transparenz der erzeugten oder manipulierten KI-Ergebnisse gegenüber den ihnen ausgesetzten Personen.
- Der Kodex für transparente generative KI-Systeme zielt auf Transparenzverpflichtungen auf Systemebene ab, einschließlich, aber nicht beschränkt auf GPAI-Systeme. Transparenztechniken, die von Anbietern von GPAI-Modellen implementiert werden können, um Transparenzverpflichtungen für Anbieter nachgelagerter KI-Systeme zu erleichtern, werden ebenfalls im Zusammenhang mit diesem Kodex berücksichtigt.
- Das Amt für künstliche Intelligenz wird alle förderfähigen Interessenträger zur Teilnahme an der Ausarbeitung des Verhaltenskodex einladen und die Vorsitzenden und stellvertretenden Vorsitzenden für die verschiedenen Arbeitsgruppen auswählen.
- Anfang November findet eine Eröffnungsplenartagung mit allen ausgewählten Teilnehmern statt. Der Redaktionsprozess wird voraussichtlich bis spätestens Anfang Juni 2026 dauern.
Wird der Kodex von der Kommission genehmigt, können sich die Unterzeichner auf den Kodex verlassen, um die Einhaltung der Verpflichtungen nachzuweisen. In Bezug auf Anbieter und Betreiber, die sich an den Kodex halten, wird die Kommission ihre Durchsetzungsmaßnahmen auf die Überwachung der Einhaltung des Kodex konzentrieren.
Sie werden von einem größeren Vertrauen der Kommission und anderer Interessenträger profitieren.
Related content
Das KI-Gesetz ist der erste Rechtsrahmen für KI, der sich mit den Risiken von KI befasst und Europa in die Lage versetzt, weltweit eine führende Rolle zu spielen.