Governance und Durchsetzung des KI-Gesetzes

Das innerhalb der Europäischen Kommission eingerichtete Amt für künstliche Intelligenz und die nationalen Marktüberwachungsbehörden sind für die Umsetzung, Überwachung und Durchsetzung des KI-Gesetzes zuständig.

Das Amt für künstliche Intelligenz ist Teil einer Multi-Stakeholder-Governance, die einen ausgewogenen Ansatz für die Umsetzung des KI-Gesetzes gewährleistet. Diese Governance wird von drei Beratungsgremien gesteuert:

• Europäischer Ausschuss für künstliche Intelligenz, der sich aus Vertretern der EU-Mitgliedstaaten zusammensetzt
• das Wissenschaftliche Gremium, das sich aus unabhängigen Sachverständigen auf dem Gebiet der KI zusammensetzt,
• das Beirat, in dem eine vielfältige Auswahl von Interessenträgern vertreten ist, sowohl kommerzielle als auch nicht-kommerzielle

Der Aktionsplan für Cybersicherheit und KI vom Juli 2026 enthält einen koordinierten Ansatz, um die Mitgliedstaaten, Unternehmen und Behörden bei der Bewältigung der Herausforderungen im Bereich der Cybersicherheit und Resilienz zu unterstützen, die sich aus den fortschrittlichsten KI-Modellen ergeben. Die Kommission wird eine Aufforderung zur Erhöhung der EU-Bewertungskapazität von KI-Modellen veröffentlichen, bevor diese auf dem EU-Markt in Verkehr gebracht werden. Voraussichtlich bis 2027 wird dies die Bewertung von KI-Fähigkeiten und -Risiken durch Dritte stärken und zur Regulierungsfunktion des Amtes für künstliche Intelligenz beitragen.

Zuständige nationale Behörden

Die Kommission und das Amt für künstliche Intelligenz arbeiten eng mit den zuständigen nationalen Behörden zusammen, die die Umsetzung und Anwendung des KI-Gesetzes auf nationaler Ebene überwachen.

Zuständige nationale Behörden sind die folgenden Behörden:

• Die Marktüberwachungsbehörden überwachen und durchsetzen die Einhaltung der Vorschriften für KI-Systeme, einschließlich Verboten und Vorschriften für Hochrisiko-KI.
• Die notifizierenden Behörden benennen und beaufsichtigen notifizierte Stellen, bei denen es sich um unabhängige Stellen handelt, die Konformitätsbewertungen vor dem Inverkehrbringen durchführen.

Jeder Mitgliedstaat sollte die zuständigen nationalen Behörden bis zum 2. August 2025 benannt und ermächtigt haben. Die Kommission arbeitet eng mit den EU-Ländern zusammen, um sie in diesem Prozess durch den Europäischen KI-Ausschuss zu unterstützen.

Beteiligung anderer Behörden an KI-Vorfällen

Fehlfunktionen von KI-Systemen können zu Verstößen gegen Grundrechtegesetze führen, z. B. zum Schutz der Privatsphäre oder des Rechts auf Nichtdiskriminierung. Um eine wirksame Untersuchung solcher Verstöße durch die Grundrechtsschutzbehörden zu erleichtern, enthält das KI-Gesetz Vorschriften, die die Zusammenarbeit und den Informationsfluss zwischen allen Behörden gewährleisten.

Welche Rechte führt das KI-Gesetz für Grundrechtsschutzbehörden ein?

• Recht auf Unterrichtung durch die Marktüberwachungsbehörden, z. B. über schwerwiegende Vorfälle.
• Recht, von den Marktüberwachungsbehörden Informationen, Dokumentation und Zusammenarbeit anzufordern.

Was sind die Grundrechtsschutzbehörden, die von diesen Vorschriften profitieren?

Dabei handelt es sich um Behörden oder Stellen in den Mitgliedstaaten, die befugt sind, die Einhaltung der Verpflichtungen aus dem Unionsrecht zum Schutz der Grundrechte zu überwachen oder durchzusetzen.

Jeder Mitgliedstaat muss die zuständigen Behörden benennen und eine Liste veröffentlichen. 

Zugriff auf die konsolidierte Liste aller ermittelten Behörden