Governance und Durchsetzung des KI-Gesetzes

Die Steuerung des KI-Gesetzes wird von drei Beratungsgremien gesteuert:

• dem Europäischen Ausschuss für künstliche Intelligenz, der sich aus Vertretern der EU-Mitgliedstaaten zusammensetzt,
• das Wissenschaftliche Gremium, das sich aus unabhängigen Experten auf dem Gebiet der KI zusammensetzt,
• das Beirat, das eine vielfältige Auswahl von Interessenträgern vertritt, sowohl kommerzielle als auch nichtkommerzielle.

Diese Multi-Stakeholder-Governance wird einen ausgewogenen Ansatz bei der Umsetzung des KI-Gesetzes gewährleisten.

Das Europäische Amt für künstliche Intelligenz

Das im Februar 2024 bei der Kommission eingerichtete Europäische Amt für KI überwacht die Durchsetzung und Umsetzung des KI-Gesetzes in den EU-Mitgliedstaaten. Es wird auch dafür verantwortlich sein, die leistungsstärksten KI-Modelle, sogenannte Allzweck-KI-Modelle, zu überwachen.

Nationale Marktüberwachungsbehörden

Die Marktüberwachungsbehörden überwachen und setzen die Vorschriften für KI-Systeme durch, beispielsweise die Verbote und Vorschriften für Hochrisiko-KI. Jeder Mitgliedstaat muss bis zum 2. August 2025 Marktüberwachungsbehörden benennen und bevollmächtigen. Die Marktüberwachungsbehörden werden befugt sein, die Einhaltung des KI-Gesetzes im Einklang mit den EU-Marktüberwachungsvorschriften zu untersuchen und durchzusetzen.

Beteiligung anderer Behörden an KI-Vorfällen

Fehlfunktionen von KI-Systemen können zu Verstößen gegen Grundrechtegesetze führen, z. B. gegen Gesetze zum Schutz der Privatsphäre oder gegen das Recht auf Nichtdiskriminierung. Um es den Grundrechtsschutzbehörden zu erleichtern, solche Verstöße wirksam zu untersuchen, enthält das KI-Gesetz Vorschriften, die die Zusammenarbeit und den Informationsfluss zwischen allen Behörden gewährleisten.

Welche Rechte sieht das KI-Gesetz für Grundrechtsschutzbehörden vor?

• Recht auf Unterrichtung durch die Marktüberwachungsbehörden, z. B. über schwerwiegende Vorfälle.
• Recht auf Auskunft und Zusammenarbeit bei den Marktüberwachungsbehörden.
• Recht, bei Anbietern von Hochrisiko-KI-Systemen, bei denen ein Sicherheitsvorfall aufgetreten ist, um Zusammenarbeit zu ersuchen.

Welches sind die für den Schutz der Grundrechte zuständigen Behörden, die von diesen Vorschriften profitieren?

Dabei handelt es sich um Behörden oder Stellen in den Mitgliedstaaten, die befugt sind, die Einhaltung der Verpflichtungen aus dem Unionsrecht zum Schutz der Grundrechte zu überwachen oder durchzusetzen.

Jeder Mitgliedstaat muss die zuständigen Behörden ermitteln und eine Liste veröffentlichen. Sie können die konsolidierte Liste aller ermittelten Behörden (XLS) herunterladen. Bitte beachten Sie, dass diese Excel-Datei im Lichte des laufenden Umsetzungsprozesses des KI-Gesetzes kontinuierlich aktualisiert wird.