Governance und Durchsetzung des KI-Gesetzes

Die Leitung des KI-Gesetzes wird von drei Beratungsgremien geleitet:

• dem Europäischen Ausschuss für künstliche Intelligenz, der sich aus Vertretern der EU-Mitgliedstaaten zusammensetzt,
• das Wissenschaftliche Gremium, das sich aus unabhängigen Sachverständigen auf dem Gebiet der KI zusammensetzt,
• dem Beirat, der eine vielfältige Auswahl von Interessenträgern sowohl kommerzieller als auch nichtkommerzieller Art vertritt.

Diese Multi-Stakeholder-Governance wird einen ausgewogenen Ansatz für die Umsetzung des KI-Gesetzes gewährleisten.

Das AI-Büro

Das innerhalb der Kommission eingerichtete Amt für künstliche Intelligenz überwacht die Durchsetzung und Umsetzung des KI-Gesetzes in den EU-Mitgliedstaaten. Es wird auch dafür verantwortlich sein, die leistungsstärksten KI-Modelle, die sogenannten Allzweck-KI-Modelle, zu überwachen.

Zuständige nationale Behörden

Die Kommission und das Amt für künstliche Intelligenz arbeiten eng mit den zuständigen nationalen Behörden zusammen, die die Umsetzung und Anwendung des KI-Gesetzes auf nationaler Ebene überwachen.

Zuständige nationale Behörden sind die folgenden Behörden:

• Die Marktüberwachungsbehörden überwachen und durchsetzen die Einhaltung der Vorschriften für KI-Systeme, einschließlich Verboten und Vorschriften für Hochrisiko-KI.
• Die notifizierenden Behörden benennen und beaufsichtigen notifizierte Stellen, bei denen es sich um unabhängige Stellen handelt, die Konformitätsbewertungen vor dem Inverkehrbringen durchführen.

Jeder Mitgliedstaat muss die zuständigen nationalen Behörden bis zum 2. August 2025 benennen und bevollmächtigen. Die Kommission arbeitet eng mit den EU-Ländern zusammen, um sie in diesem Prozess durch den Europäischen KI-Ausschuss zu unterstützen.

Beteiligung anderer Behörden an KI-Vorfällen

Fehlfunktionen von KI-Systemen können zu Verstößen gegen Grundrechtegesetze führen, z. B. zum Schutz der Privatsphäre oder des Rechts auf Nichtdiskriminierung. Um eine wirksame Untersuchung solcher Verstöße durch die Grundrechtsschutzbehörden zu erleichtern, enthält das KI-Gesetz Vorschriften, die die Zusammenarbeit und den Informationsfluss zwischen allen Behörden gewährleisten.

Welche Rechte führt das KI-Gesetz für Grundrechtsschutzbehörden ein?

• Recht auf Unterrichtung durch die Marktüberwachungsbehörden, z. B. über schwerwiegende Vorfälle.
• Recht, die Marktüberwachungsbehörden um Informationen und Zusammenarbeit zu ersuchen.
• Recht, Anbieter von Hochrisiko-KI-Systemen, bei denen ein Sicherheitsvorfall aufgetreten ist, um Zusammenarbeit zu ersuchen.

Was sind die Grundrechtsschutzbehörden, die von diesen Vorschriften profitieren?

Dabei handelt es sich um Behörden oder Stellen in den Mitgliedstaaten, die befugt sind, die Einhaltung der Verpflichtungen aus dem Unionsrecht zum Schutz der Grundrechte zu überwachen oder durchzusetzen.

Jeder Mitgliedstaat muss die zuständigen Behörden benennen und eine Liste veröffentlichen. 

Zugriff auf die konsolidierte Liste aller ermittelten Behörden