Navigieren im KI-Gesetz

Das KI-Gesetz ist das weltweit erste umfassende Gesetz für KI. Sie zielt darauf ab, Risiken für Gesundheit, Sicherheit und Grundrechte anzugehen. Die Verordnung zielt auch auf den Schutz der Demokratie, der Rechtsstaatlichkeit und der Umwelt ab. 

Die Einführung von KI-Systemen und KI-Modellen mit allgemeinem Verwendungszweck hat ein großes Potenzial, gesellschaftlichen Nutzen und Wirtschaftswachstum zu bringen und die Innovation in der EU und die globale Wettbewerbsfähigkeit zu verbessern. In bestimmten Fällen können die besonderen Merkmale bestimmter KI-Systeme und KI-Modelle mit allgemeinem Verwendungszweck jedoch neue Risiken im Zusammenhang mit der Sicherheit der Nutzer, einschließlich der physischen Sicherheit, und den Grundrechten mit sich bringen. Einige KI-Modelle mit allgemeinem Verwendungszweck, die fortschrittlichsten, könnten sogar sogenannte „systemische Risiken“ darstellen.

Dies führt aufgrund mangelnden Vertrauens zu Rechtsunsicherheit und einer möglicherweise langsameren Einführung von KI-Technologien durch Behörden, Unternehmen und Bürger. Unterschiedliche regulatorische Reaktionen der nationalen Behörden könnten zu einer Fragmentierung des Binnenmarkts führen.

Als Reaktion auf diese Herausforderungen waren legislative Maßnahmen erforderlich, um einen gut funktionierenden Binnenmarkt für KI-Systeme und KI-Modelle mit allgemeinem Verwendungszweck zu gewährleisten, in dem Risiken angemessen berücksichtigt und Vorteile berücksichtigt werden.

Der Rechtsrahmen gilt sowohl für öffentliche als auch für private Akteure innerhalb und außerhalb der EU, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck auf dem EU-Markt in Verkehr bringen, ein KI-System in Betrieb nehmen oder in der EU nutzen. 

Die Verpflichtungen gelten unter anderem für Anbieter (z. B. Entwickler eines CV-Screening-Tools) und Betreiber von KI-Systemen (z. B. eine Bank, die dieses Screening-Tool nutzt) sowie für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck. Es gibt bestimmte Ausnahmen von der Verordnung. Forschungs-, Entwicklungs- und Prototyping-Aktivitäten, die stattfinden, bevor ein KI-System oder -Modell auf den Markt gebracht wird, unterliegen nicht dieser Verordnung. KI-Systeme, die ausschließlich für militärische, Verteidigungs- oder nationale Sicherheitszwecke konzipiert sind, sind ebenfalls ausgenommen, unabhängig von der Art der Einrichtung, die diese Tätigkeiten ausübt.

Mit dem KI-Gesetz wird ein einheitlicher Rahmen für alle EU-Mitgliedstaaten eingeführt, der auf einem risikobasierten Ansatz beruht.

Verbotene KI-Systeme

 Eine sehr begrenzte Anzahl besonders schädlicher Verwendungen von KI-Systemen, die gegen die Werte der EU verstoßen, weil sie Grundrechte verletzen, und daher verboten werden: 

• Ausnutzung der Schutzbedürftigkeit von Personen, Manipulation und Einsatz unterschwelliger Techniken
• Social Scoring für öffentliche und private Zwecke
• Individuelle prädiktive Polizeiarbeit, die ausschließlich auf der Profilerstellung von Personen basiert
• Ungezieltes Scraping von Internet oder CCTV für Gesichtsbilder zum Aufbau oder Ausbau von Datenbanken
• Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder sicherheitstechnischen Gründen (d. h. Überwachung der Müdigkeit eines Piloten)
• Biometrische Kategorisierung natürlicher Personen, um ihre Rasse, ihre politischen Meinungen, ihre Gewerkschaftszugehörigkeit, ihre religiösen oder philosophischen Überzeugungen oder ihre sexuelle Orientierung abzuleiten oder daraus abzuleiten. Die Kennzeichnung oder Filterung von Datensätzen und die Kategorisierung von Daten sind weiterhin möglich.
• Biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen für Strafverfolgungszwecke, vorbehaltlich enger Ausnahmen (siehe unten)

Die Kommission hat Leitlinien zu den verbotenen KI-Praktiken und Leitlinien zur Definition des KI-Systems im KI-Gesetz herausgegeben. Diese enthalten rechtliche Erläuterungen und praktische Beispiele, um die Interessenträger bei der Einhaltung dieser Vorschriften zu unterstützen. 

Hochrisiko-KI-Systeme

Das KI-Gesetz betrachtet eine begrenzte Anzahl von KI-Systemen als hochriskant, da sie möglicherweise negative Auswirkungen auf die Sicherheit der Menschen oder ihre Grundrechte (wie sie durch die EU-Grundrechtecharta geschützt sind) haben. Dem Gesetz sind die Listen von Hochrisiko-KI-Systemen beigefügt, die überprüft werden können, um sie an die Entwicklung der KI-Anwendungsfälle anzupassen. 

Hochrisiko-KI-Systeme umfassen zum Beispiel KI-Systeme, die beurteilen, ob jemand in der Lage ist, eine bestimmte medizinische Behandlung zu erhalten, einen bestimmten Job oder einen Kredit zu erhalten, um eine Wohnung zu kaufen. Andere Hochrisiko-KI-Systeme sind solche, die von der Polizei zur Bewertung des Risikos verwendet werden, dass jemand eine Straftat begeht (es sei denn, dies ist nach Artikel 5 verboten).

Hochrisiko-KI-Systeme umfassen auch Sicherheitskomponenten von Produkten, die unter sektorspezifische Rechtsvorschriften der Union fallen, oder KI-Systeme, die solche Produkte selbst darstellen. Sie gelten stets als mit hohem Risiko behaftet, wenn sie einer Konformitätsbewertung durch Dritte im Rahmen dieser sektorspezifischen Rechtsvorschriften unterliegen. Dazu könnten beispielsweise KI-Systeme gehören, die Roboter, Drohnen oder medizinische Geräte betreiben.

Transparenzanforderungen für bestimmte KI-Systeme

Zur Förderung des Vertrauens ist es wichtig, Transparenz in Bezug auf die künstliche Herkunft bestimmter Inhalte oder Interaktionen von KI zu gewährleisten. Daher werden mit dem KI-Gesetz spezifische Transparenzanforderungen an die Anbieter oder Betreiber bestimmter interaktiver oder generativer KI-Systeme (z. B. Chatbots oder Deep Fakes) eingeführt. Diese Transparenzanforderungen zielen darauf ab, den Risiken von Fehlinformationen und Manipulation, Betrug, Nachahmung und Verbrauchertäuschung entgegenzuwirken. 

KI-Systeme mit minimalem Risiko

Die meisten KI-Systeme können vorbehaltlich der geltenden Rechtsvorschriften ohne zusätzliche rechtliche Verpflichtungen entwickelt und genutzt werden. 

KI-Modelle mit allgemeinem Verwendungszweck

Das KI-Gesetz regelt auch KI-Modelle mit allgemeinem Verwendungszweck. Diese können für eine Vielzahl von Aufgaben eingesetzt werden und werden zur Grundlage für viele KI-Systeme in der EU. Anbieter von KI-Modellen mit allgemeinem Verwendungszweck müssen bestimmte Informationen dokumentieren (es sei denn, sie kommen für die Open-Source-Ausnahmeregelung in Frage) und Maßnahmen ergreifen, die sicherstellen, dass sie die EU-Rechtsvorschriften über Urheberrechte und verwandte Schutzrechte einhalten.

Die fortschrittlichsten GPAI-Modelle könnten auch systemische Risiken bergen. Zum Beispiel könnten leistungsfähige Modelle chemische, biologische, radiologische oder nukleare (CBRN) Angriffe oder groß angelegte hochentwickelte Cyberangriffe ermöglichen, sich der menschlichen Kontrolle entziehen oder die strategische Verzerrung menschlichen Verhaltens oder menschlicher Überzeugungen ermöglichen. Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischen Risiken müssen zusätzlich systemische Risiken bewerten und mindern.

Das KI-Gesetz schafft einen Rechtsrahmen, der auf neue Entwicklungen reagiert, sich einfach und schnell anpassen lässt und eine häufige Bewertung ermöglicht. Die Verordnung legt ergebnisorientierte Anforderungen und Verpflichtungen fest, überlässt die konkreten technischen Lösungen und die Operationalisierung jedoch branchenorientierten Standards und Verhaltenskodizes, die flexibel an verschiedene Anwendungsfälle angepasst werden können und neue technologische Lösungen ermöglichen. 

Das KI-Gesetz kann durch delegierte Rechtsakte und Durchführungsrechtsakte geändert werden, beispielsweise um die Liste der Anwendungsfälle mit hohem Risiko in Anhang III zu überprüfen. Es wird häufige Bewertungen bestimmter Teile des KI-Gesetzes und schließlich der gesamten Verordnung geben, um sicherzustellen, dass jeder Bedarf an Überarbeitungen und Änderungen festgestellt wird. 

Gemäß dem KI-Gesetz werden Hochrisiko-KI-Systeme besonderen Anforderungen unterliegen. Die harmonisierten europäischen Normen werden detaillierte Spezifikationen für die Umsetzung und Einhaltung der Anforderungen mit hohem Risiko enthalten. Anbieter, die ein Hochrisiko-KI-System gemäß den harmonisierten Normen entwickeln, werden von einer Konformitätsvermutung profitieren. 

Im Mai 2023 beauftragte die Europäische Kommission die europäischen Normungsorganisationen CEN und CENELEC, Normen für diese Anforderungen mit hohem Risiko zu entwickeln. Dieses Mandat wurde im Juni 2025 geändert, um es an den endgültigen Wortlaut des KI-Gesetzes anzupassen. CEN und CENELEC waren nicht in der Lage, die Normen im geforderten Zeitplan vom August 2025 zu entwickeln. Die Normungsarbeiten sind noch nicht abgeschlossen.

Normen sind freiwillig, aber entscheidend für die Rechtssicherheit. Sie helfen Unternehmen zu verstehen, was sie tun müssen und damit die Behörden wissen, was sie überprüfen müssen. Die verzögerte Verfügbarkeit der Normen gefährdet den erfolgreichen Beginn der Anwendung der Vorschriften mit hohem Risiko am 2. August 2026. Die Kommission hält es daher für angemessen, mehr Zeit für die wirksame Umsetzung der Vorschriften einzuräumen, für die Normen von erheblicher Bedeutung sind (siehe Vorschlag „Digital Omnibus“). 

KI-Chancen und -Auswirkungen über Grenzen hinweg. Herausforderungen sind global, deshalb ist Kooperation wichtig und notwendig. Auf der Grundlage des KI-Gesetzes und des koordinierten Plans für KI leitet das Amt für künstliche Intelligenz das internationale Engagement der Kommission im Bereich der KI. Die EU ist bestrebt,

• Leitung der weltweiten Bemühungen im Bereich KI durch Unterstützung von Innovationen, Einrichtung geeigneter Leitplanken für KI und Entwicklung der globalen Governance im Bereich KI 
• Förderung der verantwortungsvollen Verwaltung und verantwortungsvollen Verwaltung von KI
• Sicherstellen, dass internationale Abkommen mit unserem Ansatz in Einklang stehen 

Mit dem Wandel der globalen Landschaft ist ein proaktives KI-Engagement – das eng mit unseren Verbündeten koordiniert wird – zu einer wesentlichen und wachsenden Priorität geworden. Die EU ist ein proaktiver, kooperativer und zuverlässiger Partner, der mit gutem Beispiel vorangeht und international zusammenarbeitet und gleichzeitig ihre Interessen, Sicherheit und Werte schützt.

Sie setzt sich auf bilateraler und multilateraler Ebene für die Förderung einer vertrauenswürdigen und auf den Menschen ausgerichteten KI ein. Bilateral arbeitet die EU mit einer wachsenden Zahl von Ländern und Regionen wie Kanada, den USA, Indien, Japan, der Republik Korea, Singapur, Australien, dem Vereinigten Königreich, der Region Lateinamerika und Karibik, Afrika usw. zusammen. Multilateral beteiligt sich die EU an wichtigen Foren und Initiativen, in denen KI erörtert wird – insbesondere G7, G20, die OECD und die Globale Partnerschaft für KI, der Europarat, das Internationale Netzwerk für fortgeschrittene KI-Messung, -Bewertung und -Wissenschaft, aber auch im Kontext der Vereinten Nationen.

Die EU baut auf strategischen Ressourcen und Stärken wie Talenten, Forschung, industrieller Stärke und einem großen Binnenmarkt mit einheitlichen Vorschriften auf und setzt diese im Rahmen des EU-Technologieangebots international ein, um für beide Seiten vorteilhafte Partnerschaften und Allianzen auf der ganzen Welt aufzubauen.

Das KI-Gesetz enthält eine solide Methodik für die Einstufung von KI-Systemen als Hochrisikosysteme. Damit soll Rechtssicherheit für Unternehmen und andere Wirtschaftsbeteiligte geschaffen werden.

Die Risikoeinstufung beruht auf der Zweckbestimmung des KI-Systems im Einklang mit den geltenden EU-Produktsicherheitsvorschriften. Dies bedeutet, dass die Klassifizierung von der Funktion des KI-Systems sowie von dem spezifischen Zweck und den Modalitäten abhängt, für die das System verwendet wird.

KI-Systeme können in zwei Fällen als risikoreich eingestuft werden: 

• Wenn das KI-System als Sicherheitskomponente in Produkte eingebettet ist, die unter geltende Produktvorschriften (Anhang I) fallen, oder diese Produkte selbst darstellen. Dies könnte zum Beispiel KI-basierte medizinische Software sein. 
• Wenn das KI-System für einen in Anhang III des KI-Gesetzes aufgeführten Anwendungsfall mit hohem Risiko verwendet werden soll. Die Liste enthält Anwendungsfälle in Bereichen wie Bildung, Beschäftigung, Strafverfolgung oder Migration. Sie wird jährlich von der Kommission überprüft und kann aktualisiert werden.

Die Kommission arbeitet derzeit Leitlinien für die Hochrisikoklassifizierung aus, die vor dem Geltungsbeginn dieser Vorschriften veröffentlicht werden.

Anhang III des KI-Gesetzes umfasst acht Bereiche, in denen der Einsatz von KI besonders sensibel sein kann, und listet konkrete Anwendungsfälle für jeden Bereich auf. Ein KI-System wird als risikoreich eingestuft, wenn es für einen dieser Anwendungsfälle verwendet werden soll. Einige Beispiele:

• KI-Systeme, die als Sicherheitskomponenten in bestimmten kritischen Infrastrukturen verwendet werden. Zum Beispiel in den Bereichen Straßenverkehr und Wasser-, Gas-, Heizungs- und Stromversorgung.
• KI-Systeme, die für bestimmte Aufgaben in der allgemeinen und beruflichen Bildung eingesetzt werden. Z.B. um Lernergebnisse zu bewerten und den Lernprozess und die Überwachung von Betrug zu steuern.
• KI-Systeme, die für bestimmte Aufgaben in den Bereichen Beschäftigung und Arbeitnehmerverwaltung sowie Zugang zur Selbständigkeit eingesetzt werden. Z.B. um gezielte Stellenausschreibungen zu platzieren, Bewerbungen zu analysieren und zu filtern und Kandidaten zu bewerten.
• KI-Systeme, die beim Zugang zu wesentlichen privaten und öffentlichen Dienstleistungen und Leistungen (z. B. Gesundheitsversorgung), bei der Kreditwürdigkeitsprüfung natürlicher Personen sowie bei der Risikobewertung und Preisgestaltung im Zusammenhang mit Lebens- und Krankenversicherungen eingesetzt werden. 
• KI-Systeme, die für bestimmte Aufgaben in den Bereichen Strafverfolgung, Migration und Grenzkontrolle eingesetzt werden, sofern dies nicht bereits verboten ist, sowie für die Rechtspflege und demokratische Prozesse.
• KI-Systeme zur biometrischen Identifizierung, biometrischen Kategorisierung und Emotionserkennung, soweit nicht verboten.

Bevor Anbieter ein Hochrisiko-KI-System in der EU in Verkehr bringen oder anderweitig in Betrieb nehmen, müssen sie es einer Konformitätsbewertung unterziehen. Auf diese Weise können sie nachweisen, dass ihr System die verbindlichen Anforderungen an eine vertrauenswürdige KI erfüllt (z. B. Risikomanagement, Datenqualität, Dokumentation und Rückverfolgbarkeit, Transparenz, menschliche Aufsicht, Genauigkeit, Cybersicherheit und Robustheit). Diese Bewertung muss wiederholt werden, wenn das System oder sein Zweck wesentlich geändert werden. Je nach Art des Hochrisiko-KI-Systems muss die Konformitätsbewertung möglicherweise von einer unabhängigen Konformitätsbewertungsstelle durchgeführt werden. Anbieter von Hochrisiko-KI-Systemen werden auch ein Qualitätsmanagementsystem implementieren müssen, um sicherzustellen, dass sie die neuen Anforderungen erfüllen und die Risiken für Nutzer und betroffene Personen während des gesamten Lebenszyklus des KI-Systems minimieren.

Um die Aufsicht zu ermöglichen und die öffentliche Transparenz zu gewährleisten, müssen Anbieter von Hochrisiko-KI-Systemen das System in einer öffentlichen EU-Datenbank registrieren.

Anbieter von Hochrisiko-KI-Systemen bleiben während ihres gesamten Lebenszyklus für die Sicherheit und Konformität des Systems verantwortlich. Erforderlichenfalls müssen sie schwerwiegende Vorfälle melden und darauf reagieren, bei festgestellten Risiken oder Verstößen Abhilfemaßnahmen ergreifen, Informationen bereitstellen und mit den Marktüberwachungsbehörden zusammenarbeiten.

Als Ausgangsbasis müssen die Betreiber das Hochrisiko-KI-System gemäß den Gebrauchsanweisungen nutzen und dafür alle technischen Mittel einsetzen. Auf der Grundlage der Gebrauchsanweisung müssen die Betreiber von Hochrisiko-KI-Systemen den Betrieb des KI-Systems überwachen und auf festgestellte Risiken oder schwerwiegende Vorfälle reagieren. Arbeitgeber müssen einer Person in ihrer Organisation eine menschliche Aufsicht zuweisen. Diese Person(en) muss/müssen ausreichend ausgestattet und befähigt sein, die menschliche Aufsicht auszuüben. Stellt ein Betreiber Eingabedaten für ein Hochrisiko-KI-System bereit, so schreibt das KI-Gesetz vor, dass die Eingabedaten für den vorgesehenen Zweck des KI-Systems relevant und hinreichend repräsentativ sein müssen. 

Arbeitgeber, die Behörden sind oder öffentliche Dienstleistungen erbringen, müssen vor der ersten Nutzung eine Folgenabschätzung zu den Grundrechten durchführen.

Darüber hinaus kann der Betreiber Informationspflichten haben: 

• Hochrisiko-KI-Systeme, die von Behörden oder in ihrem Namen handelnden Stellen eingesetzt werden, müssen in einer öffentlichen EU-Datenbank registriert werden, mit Ausnahme von Hochrisiko-KI-Systemen für kritische Infrastrukturen. KI-Systeme, die für Strafverfolgung und Migration verwendet werden, müssen in einem nicht öffentlichen Teil der Datenbank registriert werden, der nur den zuständigen Aufsichtsbehörden zugänglich ist.
• Wird das Hochrisiko-KI-System am Arbeitsplatz eingesetzt, müssen die Betreiber die betroffenen Arbeitnehmer und Arbeitnehmervertreter im Voraus informieren. Dies gilt zusätzlich zu den möglicherweise bereits geltenden Vorschriften für die Arbeitnehmerkonsultation. 
• Wenn das Hochrisiko-KI-System darauf ausgelegt ist, Entscheidungen über natürliche Personen zu treffen oder bei deren Entscheidungsfindung zu helfen, muss der Betreiber die betroffene Person informieren.

Mit dem KI-Gesetz wird auch ein Recht auf Erklärung für natürliche Personen eingeführt. Dies gilt, wenn die Ergebnisse eines Hochrisiko-KI-Systems verwendet wurden, um eine Entscheidung über eine natürliche Person zu treffen, und diese Entscheidung Rechtswirkungen entfaltet. Anbieter von Hochrisiko-KI-Systemen müssen dieser Möglichkeit Rechnung tragen und der betroffenen Person im Falle eines Antrags eine klare und aussagekräftige Erklärung übermitteln.

Reale Tests von Hochrisiko-KI-Systemen können für maximal 6 Monate durchgeführt werden (dies kann um weitere 6 Monate verlängert werden). Vor der Prüfung muss ein Plan erstellt und einer Marktüberwachungsbehörde vorgelegt werden, die den Plan und die spezifischen Prüfbedingungen genehmigen muss, wobei die stillschweigende Standardgenehmigung gilt, wenn innerhalb von 30 Tagen keine Antwort gegeben wurde. Die Prüfung kann unangekündigten Inspektionen durch die Behörde unterzogen werden.

Tests in der Praxis können nur mit spezifischen Garantien durchgeführt werden, z. B. müssen die Nutzer der Systeme, für die Tests in der Praxis durchgeführt werden, eine informierte Zustimmung erteilen, die Tests dürfen keine negativen Auswirkungen auf sie haben, die Ergebnisse müssen reversibel oder außer Acht gelassen werden und ihre Daten müssen nach Abschluss der Tests gelöscht werden. Besonderer Schutz ist schutzbedürftigen Gruppen zu gewähren, z. B. aufgrund ihres Alters, ihrer körperlichen oder geistigen Behinderung.

KI-Systeme erzeugen oder reproduzieren keine Verzerrung. Vielmehr können KI-Systeme, wenn sie richtig konzipiert und eingesetzt werden, dazu beitragen, Vorurteile und bestehende strukturelle Diskriminierung zu verringern, und somit zu gerechteren und diskriminierungsfreien Entscheidungen (z. B. bei der Einstellung) führen.

Die neuen verbindlichen Anforderungen für alle Hochrisiko-KI-Systeme werden diesem Zweck dienen. KI-Systeme müssen technisch robust sein, um sicherzustellen, dass sie zweckdienlich sind und keine voreingenommenen Ergebnisse wie falsch positive oder negative Ergebnisse liefern, die marginalisierte Gruppen unverhältnismäßig stark betreffen, einschließlich solcher, die auf rassischer oder ethnischer Herkunft, Geschlecht, Alter und anderen geschützten Merkmalen beruhen.

Systeme mit hohem Risiko müssen auch mit ausreichend repräsentativen Datensätzen trainiert und getestet werden, um das Risiko unfairer Verzerrungen, die in das Modell eingebettet sind, zu minimieren und sicherzustellen, dass diese durch geeignete Maßnahmen zur Erkennung, Korrektur und Abschwächung von Verzerrungen behoben werden können. Sie müssen auch nachvollziehbar und überprüfbar sein und sicherstellen, dass angemessene Unterlagen aufbewahrt werden, einschließlich der Daten, die für die Schulung des Algorithmus verwendet werden, der für Ex-post-Untersuchungen von entscheidender Bedeutung wäre.

Compliance-Systeme müssen regelmäßig überwacht und potenzielle Risiken umgehend vor und nach dem Inverkehrbringen angegangen werden.

Die biometrische Identifizierung kann unterschiedliche Formen annehmen. Die biometrische Authentifizierung und Verifizierung, d. h. die Entsperrung eines Smartphones oder die Verifizierung/Authentifizierung an Grenzübergängen zur Überprüfung der Identität einer Person anhand ihrer Reisedokumente (One-to-One-Matching), bleiben unreguliert, da sie kein erhebliches Risiko für die Grundrechte darstellen.

Im Gegensatz dazu kann die biometrische Fernidentifizierung (z. B. zur Identifizierung von Personen in einer Menschenmenge) die Privatsphäre im öffentlichen Raum erheblich beeinträchtigen. Die Genauigkeit von Systemen zur Gesichtserkennung kann durch eine Vielzahl von Faktoren wie Kameraqualität, Licht, Entfernung, Datenbank, Algorithmus und Ethnizität, Alter oder Geschlecht des Subjekts erheblich beeinflusst werden. Gleiches gilt für die Gang- und Spracherkennung und andere biometrische Systeme. 

Während eine Genauigkeitsrate von 99% im Allgemeinen gut erscheinen mag, ist es erheblich riskant, wenn das Ergebnis zum Verdacht einer unschuldigen Person führen kann. Selbst eine Fehlerquote von 0,1% kann bei großen Bevölkerungsgruppen, zum Beispiel an Bahnhöfen, erhebliche Auswirkungen haben.

Die Verwendung biometrischer Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen (d. h. Gesichtserkennung mittels CCTV) für Strafverfolgungszwecke ist verboten. Die Mitgliedstaaten können in folgenden Fällen gesetzlich Ausnahmen einführen, die die Verwendung biometrischer Echtzeit-Fernidentifizierungen ermöglichen würden:

• Strafverfolgungsmaßnahmen im Zusammenhang mit 16 spezifizierten sehr schweren Straftaten
• Gezielte Suche nach bestimmten Opfern, Entführung, Menschenhandel und sexuelle Ausbeutung von Menschen und vermissten Personen
• Verhinderung einer Bedrohung des Lebens oder der physischen Sicherheit von Personen oder eines Terroranschlags

Jede außergewöhnliche Verwendung müsste notwendig und verhältnismäßig sein und einer vorherigen Genehmigung durch eine gerichtliche oder unabhängige Verwaltungsbehörde bedürfen, deren Entscheidung bindend ist. In dringenden Fällen kann die Genehmigung innerhalb von 24 Stunden beantragt werden. Wird die Zulassung abgelehnt, müssen alle Daten und die Ausgabe der Verwendung gelöscht werden.

Die Verwendung einer biometrischen Echtzeit-Fernidentifizierung sollte der zuständigen Marktüberwachungsbehörde und der Datenschutzbehörde mitgeteilt werden. 

Die Verwendung von KI-Systemen zur nachträglichen biometrischen Fernidentifizierung (Identifizierung von Personen in zuvor gesammeltem Material) von Personen, gegen die ermittelt wird, ist nicht verboten, erfordert jedoch eine vorherige Genehmigung einer Justiz- oder Verwaltungsbehörde sowie eine Mitteilung an die zuständige Datenschutz- und Marktüberwachungsbehörde.

Auf Ebene der EU und der Mitgliedstaaten gibt es bereits einen starken Schutz der Grundrechte und der Nichtdiskriminierung, aber die Komplexität und Undurchsichtigkeit bestimmter KI-Anwendungen („Black Boxes“) kann ein Problem darstellen.

Ein auf den Menschen ausgerichteter Ansatz für KI bedeutet, dass KI-Anwendungen mit den Grundrechten im Einklang stehen. Durch die Integration von Rechenschafts- und Transparenzanforderungen in die Entwicklung von Hochrisiko-KI-Systemen und die Verbesserung der Durchsetzungsfähigkeiten können wir sicherstellen, dass diese Systeme von Anfang an auf die Einhaltung der Rechtsvorschriften ausgelegt sind. Treten Verstöße auf, werden diese Anforderungen es den nationalen Behörden ermöglichen, Zugang zu den Informationen zu erhalten, die erforderlich sind, um zu untersuchen, ob der Einsatz von KI mit dem EU-Recht vereinbar ist.

Nach dem KI-Gesetz müssen bestimmte Betreiber von Hochrisiko-KI-Systemen eine Folgenabschätzung zu den Grundrechten durchführen. 

Anbieter von Hochrisiko-KI-Systemen müssen eine Risikobewertung durchführen und das System so gestalten, dass Risiken für Gesundheit, Sicherheit und Grundrechte minimiert werden.

Bestimmte Risiken für die Grundrechte können jedoch nur in Kenntnis des Kontexts der Nutzung des Hochrisiko-KI-Systems vollständig identifiziert werden. Wenn Hochrisiko-KI-Systeme in besonders sensiblen Bereichen möglicher Leistungsasymmetrie eingesetzt werden, sind zusätzliche Überlegungen zu solchen Risiken erforderlich.

Betreiber, bei denen es sich um Einrichtungen des öffentlichen Rechts oder private Betreiber handelt, die öffentliche Dienstleistungen erbringen, sowie Betreiber, die Hochrisiko-KI-Systeme bereitstellen, die Kreditwürdigkeitsprüfungen oder Preis- und Risikobewertungen in der Lebens- und Krankenversicherung durchführen, führen daher eine Bewertung der Auswirkungen auf die Grundrechte durch und teilen der nationalen Behörde die Ergebnisse mit.

In der Praxis werden viele Betreiber auch eine Datenschutz-Folgenabschätzung durchführen müssen. Um in solchen Fällen wesentliche Überschneidungen zu vermeiden, wird die Folgenabschätzung zu den Grundrechten in Verbindung mit dieser Datenschutz-Folgenabschätzung durchgeführt.

KI-Modelle mit allgemeinem Verwendungszweck, einschließlich generativer KI-Modelle, können für eine Vielzahl von Aufgaben verwendet werden. Sie können in eine große Anzahl von KI-Systemen integriert werden.

Ein Anbieter eines KI-Systems, das ein KI-Modell mit allgemeinem Verwendungszweck integriert, muss Zugang zu den hierfür erforderlichen Informationen haben und sicherstellen, dass das System mit dem KI-Gesetz im Einklang steht. Das KI-Gesetz verpflichtet Anbieter solcher Modelle, technische Informationen über die Modelle zu dokumentieren und bestimmte Informationen an nachgelagerte Systemanbieter weiterzugeben. Diese Transparenz ermöglicht ein besseres Verständnis dieser Modelle.

Musteranbieter müssen über Strategien verfügen, um die Einhaltung der EU-Rechtsvorschriften zum Urheberrecht und zu verwandten Schutzrechten sicherzustellen. Insbesondere um Rechtevorbehalte im Rahmen der Text- und Data-Mining-Ausnahme zu ermitteln und einzuhalten. Anbieter müssen auch eine Zusammenfassung des Inhalts veröffentlichen, der zum Trainieren des Modells verwendet wird, basierend auf einer Vorlage des KI-Büros.

Die fortschrittlichsten dieser Modelle könnten systemische Risiken bergen. Derzeit wird angenommen, dass KI-Modelle mit allgemeinem Verwendungszweck, die mit einer Gesamtmenge an Rechenressourcen trainiert wurden, die 10^25 FLOP (Floating Point Operations) übersteigt, systemische Risiken darstellen. Die Kommission kann diesen Schwellenwert angesichts der technologischen Entwicklungen aktualisieren. Auf Antrag eines Anbieters kann die Kommission auch die Vermutung widerlegen, dass ein Modell oberhalb des FLOP-Schwellenwerts ein Systemrisiko darstellt, wenn das Modell nicht als eines der fortschrittlichsten angesehen wird. Die Kommission kann auf der Grundlage der in Anhang XIII des KI-Gesetzes festgelegten Kriterien auch Modelle unterhalb des FLOP-Schwellenwerts als KI-Modelle mit allgemeinem Verwendungszweck mit Systemrisiko benennen.

Anbieter von Modellen mit systemischem Risiko müssen diese Risiken bewerten und mindern, unter anderem durch die Durchführung modernster Modellbewertungen, die Meldung schwerwiegender Vorfälle und die Gewährleistung einer angemessenen Cybersicherheit ihrer Modelle und ihrer physischen Infrastruktur.

Um die Anbieter bei der Erfüllung dieser Verpflichtungen zu unterstützen, hat die Kommission die Entwicklung des Verhaltenskodex für KI mit allgemeinem Verwendungszweck (GPAI) erleichtert. Der GPAI-Praxiskodex ist ein freiwilliges Instrument, das von unabhängigen Experten in einem Multi-Stakeholder-Prozess ausgearbeitet wurde und der Industrie dabei helfen soll, den Verpflichtungen des KI-Gesetzes für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nachzukommen. Der Kodex wird durch die Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck im Rahmen des KI-Gesetzes ergänzt.

Der erste Verhaltenskodex für KI mit allgemeinem Verwendungszweck (GPAI) enthält die Vorschriften des KI-Gesetzes für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck und KI-Modellen mit allgemeinem Verwendungszweck mit systemischen Risiken. Der GPAI-Praxiskodex ist ein freiwilliges Instrument, das von unabhängigen Experten in einem Multi-Stakeholder-Prozess ausgearbeitet wurde und der Industrie dabei helfen soll, den Verpflichtungen des KI-Gesetzes für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nachzukommen.

Das Amt für künstliche Intelligenz erleichterte die Erstellung des Kodex. Den Vorsitz führten unabhängige Sachverständige, an denen fast 1000 Interessenträger sowie Vertreter der EU-Mitgliedstaaten, europäische und internationale Beobachter teilnahmen. Die Kommission und der KI-Ausschuss haben bestätigt, dass der Kodex ein geeignetes freiwilliges Instrument für Anbieter von GPAI-Modellen ist, um die Einhaltung des KI-Gesetzes nachzuweisen.

Nach der Billigung können GPAI-Modellanbieter, die sie freiwillig unterzeichnen, durch Einhaltung des Codes nachweisen, dass sie das KI-Gesetz einhalten. Dies wird ihren Verwaltungsaufwand verringern und ihnen mehr Rechtssicherheit geben, als wenn sie die Einhaltung durch andere Methoden nachweisen würden. Ergänzt wird der Kodex durch Leitlinien der Kommission zu Schlüsselkonzepten im Zusammenhang mit KI-Modellen mit allgemeinem Verwendungszweck.

Das Amt für künstliche Intelligenz wird gegebenenfalls die Überprüfung und Anpassung des Kodex fördern und erleichtern, um den technologischen Fortschritten und dem Stand der Technik Rechnung zu tragen. Sobald eine harmonisierte Norm veröffentlicht und als geeignet bewertet wird, um die einschlägigen Verpflichtungen des Amtes für künstliche Intelligenz abzudecken, sollte die Einhaltung einer harmonisierten europäischen Norm den Anbietern die Konformitätsvermutung einräumen.

Anbieter von KI-Modellen mit allgemeinem Verwendungszweck sollten in der Lage sein, die Konformität mit alternativen angemessenen Mitteln nachzuweisen, wenn keine Verhaltenskodizes oder harmonisierten Normen verfügbar sind oder sie sich nicht auf diese stützen.

Mit dem KI-Gesetz werden spezifische Transparenzanforderungen für Anbieter und Betreiber bestimmter interaktiver oder generativer KI-Systeme (einschließlich Chatbots oder Deep Fakes) eingeführt. Diese Transparenzanforderungen zielen darauf ab, den Risiken von Fehlinformationen und Manipulation, Betrug, Nachahmung und Verbrauchertäuschung entgegenzuwirken:

1. Anbieter von KI-Systemen, die direkt mit natürlichen Personen interagieren, müssen diese Systeme so konzipiert und entwickelt haben, dass die betroffenen natürlichen Personen darüber informiert werden, dass sie mit einem KI-System interagieren.
2. Anbieter von generativen KI-Systemen müssen die KI-Ausgaben in einem maschinenlesbaren Format markieren und sicherstellen, dass sie als künstlich erzeugt oder manipuliert detektiert werden können. Die technischen Lösungen müssen wirksam, interoperabel, robust und zuverlässig sein, soweit dies technisch machbar ist, wobei die Besonderheiten und Einschränkungen verschiedener Arten von Inhalten, die Implementierungskosten und der allgemein anerkannte Stand der Technik zu berücksichtigen sind, wie dies in den einschlägigen technischen Normen zum Ausdruck kommen kann.
3. Betreiber von Emotionserkennungs- oder biometrischen Kategorisierungssystemen müssen sicherstellen, dass Personen, die diesen Systemen ausgesetzt sind, informiert werden.
4. Anbieter von generativen KI-Systemen, die Bild-, Audio- oder Videoinhalte erzeugen oder manipulieren, die eine tiefe Fälschung darstellen, müssen sichtlich verschließen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Ebenso müssen Betreiber von KI-Systemen, die Text generieren oder manipulieren, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, auch offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde. 

Für alle genannten Transparenzverpflichtungen gelten besondere Ausnahmen.

Das Amt für künstliche Intelligenz wird Leitlinien herausgeben, um Anbietern und Betreibern weitere Orientierungshilfen zu den Verpflichtungen gemäß Artikel 50 zu geben, der am 2. August 2026 in Kraft treten wird.

Um die Einhaltung einiger dieser Transparenzverpflichtungen zu unterstützen, hat das Amt für künstliche Intelligenz mit der Ausarbeitung eines Verhaltenskodex für die Transparenz von KI-generierten Inhalten begonnen. Der Kodex wird von unabhängigen Sachverständigen ausgearbeitet, die vom Amt für künstliche Intelligenz auf der Grundlage eines inklusiven Verfahrens ernannt werden. Mehr als 200 Interessenträger aus verschiedenen Sektoren tragen zur Ausarbeitung des Kodex bei. Wenn der endgültige Kodex von der Kommission genehmigt wird, wird er als freiwilliges Instrument für Anbieter und Betreiber generativer KI-Systeme dienen, um die Einhaltung ihrer jeweiligen Verpflichtungen nachzuweisen. 

Das KI-Gesetz wird zwei Jahre nach seinem Inkrafttreten am 2. August 2026 gelten, mit Ausnahme der folgenden spezifischen Bestimmungen:

• Die Verbote, Definitionen und Bestimmungen im Zusammenhang mit KI-Kompetenz gelten seit dem 2. Februar 2025. Die Kommission hat Leitlinien zu Verboten und Definitionen sowie eine lebendige Sammlung von KI-Kompetenzpraktiken und eine spezielle FAQ veröffentlicht.
• Die Vorschriften über die Governance und die Verpflichtungen für KI mit allgemeinem Verwendungszweck traten am 2. August 2025 in Kraft.
• Die Verpflichtungen für Hochrisiko-KI-Systeme, die als Hochrisiko-KI-Systeme eingestuft werden, weil sie in regulierte Produkte eingebettet sind, die in Anhang II (Liste der EU-Harmonisierungsvorschriften) aufgeführt sind, gelten 36 Monate nach Inkrafttreten am 2. August 2027.

Am 19. November 2025 hat die Kommission im Rahmen des Vorschlags für einen digitalen Omnibus vorgeschlagen, den Zeitplan für die Anwendung von Vorschriften mit hohem Risiko anzupassen, indem das Anwendungsdatum an die Verfügbarkeit von Unterstützungsmaßnahmen wie harmonisierten Normen, gemeinsamen Spezifikationen oder Leitlinien der Kommission geknüpft wird.

Dieser Vorschlag steht im Zusammenhang mit einer Verzögerung bei der Ausarbeitung von Normen zur Unterstützung der Anwendung der Anforderungen mit hohem Risiko und der Einrichtung zuständiger Behörden in den EU-Mitgliedstaaten. Dies gefährdet einen reibungslosen Beginn der Anwendung am 2. August 2026. Der digitale Omnibus wird derzeit vom Europäischen Parlament und vom Rat der EU geprüft.

Mit dem KI-Gesetz wird ein zweistufiges Governance-System eingeführt, in dem die zuständigen nationalen Behörden für die Überwachung und Durchsetzung der Vorschriften für KI-Systeme zuständig sind, während das KI-Büro für die Steuerung und Durchsetzung der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck und für eine Teilgruppe bestimmter KI-Systeme zuständig ist. 

Der Europäische Ausschuss für künstliche Intelligenz (KI-Ausschuss) wurde eingerichtet, um EU-weite Kohärenz und Zusammenarbeit zu gewährleisten. Es besteht aus hochrangigen Vertretern der Mitgliedstaaten und spezialisierten Untergruppen für nationale Regulierungsbehörden und andere zuständige Behörden. 

Mit dem KI-Gesetz werden zwei Beratungsgremien eingerichtet, die Expertenbeiträge leisten: dem Wissenschaftlichen Gremium und dem Beirat. Diese Gremien werden wertvolle Erkenntnisse von Interessenträgern und interdisziplinären wissenschaftlichen Gemeinschaften liefern, die Entscheidungsfindung beeinflussen und einen ausgewogenen Ansatz für die KI-Entwicklung gewährleisten. 

Der Europäische Ausschuss für künstliche Intelligenz setzt sich aus hochrangigen Vertretern der Mitgliedstaaten und dem Europäischen Datenschutzbeauftragten (EDSB) zusammen. Als wichtiger Berater bietet der KI-Rat Leitlinien zu allen Fragen im Zusammenhang mit der KI-Politik, insbesondere zur KI-Regulierung, zur Innovations- und Exzellenzpolitik und zur internationalen Zusammenarbeit im Bereich KI. 

Der KI-Ausschuss spielt eine entscheidende Rolle bei der Gewährleistung einer reibungslosen, wirksamen und harmonisierten Umsetzung des KI-Gesetzes. Es verfügt über spezialisierte Untergruppen, die sich aus technischen Sachverständigen, nationalen Regulierungsbehörden und anderen zuständigen Behörden zusammensetzen. Der Ausschuss ist ein Forum, in dem die KI-Regulierungsbehörden die einheitliche Anwendung des KI-Gesetzes koordinieren können. 

Die Mitgliedstaaten müssen wirksame, verhältnismäßige und abschreckende Sanktionen für Verstöße gegen die Vorschriften für KI-Systeme festlegen. Die Verordnung legt Schwellenwerte fest, die berücksichtigt werden müssen:

• Bis zu 35 Mio. EUR oder 7 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres (je nachdem, welcher Betrag höher ist) bei Verstößen gegen verbotene Praktiken oder Verstößen gegen Datenanforderungen
• Bis zu 15 Mio. EUR oder 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres bei Nichteinhaltung einer der anderen Anforderungen oder Verpflichtungen der Verordnung
• Bis zu 7,5 Mio. EUR oder 1,5 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres für die Übermittlung falscher, unvollständiger oder irreführender Informationen an notifizierte Stellen und die zuständigen nationalen Behörden als Antwort auf ein Ersuchen
• Für jede Kategorie von Verstößen wäre der Schwellenwert der niedrigere der beiden Beträge für KMU und der höhere für andere Unternehmen.

Die Kommission kann die Vorschriften für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck auch durch Geldbußen durchsetzen, wobei der Schwellenwert zu berücksichtigen ist:

• Bis zu 15 Mio. EUR oder 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres bei Nichteinhaltung einer der von der Kommission gemäß der Verordnung geforderten Verpflichtungen oder Maßnahmen.

Von den Organen, Agenturen oder Einrichtungen der EU wird erwartet, dass sie mit gutem Beispiel vorangehen, weshalb sie auch den Vorschriften und möglichen Sanktionen unterliegen werden. Der Europäische Datenschutzbeauftragte (EDSB) ist befugt, gegen sie bei Nichteinhaltung Geldbußen zu verhängen. 

Der im Mai 2023 ins Leben gerufene KI-Pakt fördert das Engagement zwischen dem Amt für künstliche Intelligenz und Organisationen (Säule I) und fördert das freiwillige Engagement der Industrie, mit der Umsetzung der Anforderungen des KI-Gesetzes vor Ablauf der gesetzlichen Frist (Säule II) zu beginnen.

Im Rahmen von Säule I tragen die Teilnehmer zur Schaffung einer kollaborativen Gemeinschaft bei, in der sie ihre Erfahrungen und ihr Wissen austauschen. Dazu gehören vom Amt für künstliche Intelligenz organisierte Webinare, die den Teilnehmern ein besseres Verständnis des KI-Gesetzes, ihrer Zuständigkeiten und der Vorbereitung auf seine Umsetzung vermitteln. Im Gegenzug ermöglichen diese Webinare dem KI-Büro, Einblicke in bewährte Verfahren und Herausforderungen zu erhalten, mit denen die Teilnehmer konfrontiert sind.

Im Rahmen der Säule II werden die Organisationen aufgefordert, die von ihnen zur Antizipation der Einhaltung der Vorschriften eingeführten Verfahren und Praktiken durch freiwillige Zusagen proaktiv offenzulegen (PDF). Zusagen sind als „Engagementerklärungen“ gedacht und enthalten (geplante oder laufende) Maßnahmen, um einige der Anforderungen des KI-Gesetzes zu erfüllen.

Die meisten Vorschriften des KI-Gesetzes (z. B. einige Anforderungen an Hochrisiko-KI-Systeme) werden am Ende eines Übergangszeitraums (d. h. zwischen Inkrafttreten und Geltungsbeginn) gelten. In diesem Zusammenhang und im Rahmen des KI-Pakts hat das Amt für künstliche Intelligenz alle Organisationen aufgefordert, einige der wichtigsten Bestimmungen des KI-Gesetzes proaktiv zu antizipieren und umzusetzen, um die Risiken für Gesundheit, Sicherheit und Grundrechte so schnell wie möglich zu mindern.

Im Anschluss an eine im November 2023 veröffentlichte Aufforderung haben bereits mehr als 3000 Organisationen ihr Interesse bekundet, sich der Initiative des KI-Pakts anzuschließen. Am 6. Mai fand online eine erste Informationsveranstaltung mit 300 Teilnehmern statt. Die offizielle Unterzeichnung der freiwilligen Verpflichtungen fand im Herbst 2024 statt, und bisher haben mehr als 230 Unternehmen die Zusagen unterzeichnet. Am 15. Dezember 2025 hat das Amt für künstliche Intelligenz die Zusager des KI-Pakts zusammengetragen, um eine Bilanz der erzielten Fortschritte zu ziehen.

Die Kommission hat den AI Act Service Desk und eine zentrale Informationsplattform (SIP) eingerichtet. Beide wurden zusammen mit der Strategie „KI anwenden“ auf den Weg gebracht und bereits im Aktionsplan für den KI-Kontinent angekündigt. Das SIP bietet alle relevanten Informationen, Compliance-Tools und maßgeschneiderte Leitlinien zum KI-Gesetz. Es bietet:

• FAQs und Ressourcen zum KI-Gesetz
• ein Compliance Checker, ein Tool, das den Interessenträgern dabei hilft, festzustellen, ob sie rechtlichen Verpflichtungen unterliegen, und die Schritte zu verstehen, die sie unternehmen müssen, um die Anforderungen zu erfüllen;
• ein AI Act Explorer, ein Online-Tool, das den Nutzern dabei helfen soll, verschiedene Kapitel, Anhänge und Erwägungsgründe des KI-Gesetzes auf intuitive Weise zu durchsuchen
• Ein Online-Formular ermöglicht es den Interessenträgern, Fragen an den AI Act Service Desk zu richten - ein Team von Experten, das in enger Zusammenarbeit mit dem AI Office arbeitet.

Das KI-Gesetz kann die KI-Aufnahme auf zwei Arten verbessern:

1. Steigendes Vertrauen der Nutzer wird die Nachfrage nach KI erhöhen, die von Unternehmen und Behörden genutzt wird
2. Durch die Harmonisierung der Vorschriften in den EU-Mitgliedstaaten werden KI-Anbieter Zugang zu größeren Märkten mit Produkten erhalten, die Nutzer und Verbraucher schätzen und kaufen.

Das KI-Gesetz ist innovationsfreundlich. Die Vorschriften werden nur dort gelten, wo dies unbedingt erforderlich ist, und zwar in einer Weise, die den Aufwand für die Wirtschaftsakteure mit einer leichten Governance-Struktur minimiert. Für KMU sieht das KI-Gesetz vereinfachte Compliance-Pfade für bestimmte aufwendige Verpflichtungen wie die technische Dokumentation vor. Um Innovatoren Raum zu lassen, sind Ausnahmen für Forschungs- und Entwicklungstätigkeiten vorgesehen.

Das KI-Gesetz ermöglicht ferner die Schaffung regulatorischer Sandkästen und  realer Tests, die eine kontrollierte Umgebung bieten, um innovative Technologien für eine begrenzte Zeit zu testen. Diese Maßnahmen fördern Innovationen von Unternehmen, KMU und Start-up-Unternehmen und werden dazu beitragen, die richtigen Rahmenbedingungen für die Entwicklung und Einführung von KI zu schaffen. Weitere Initiativen zur Innovationsförderung sind:

• Netzwerke von KI-Exzellenzzentren
• Öffentlich-private Partnerschaft für künstliche Intelligenz, Daten und Robotik
• Europäische digitale Innovationszentren
• Versuchs- und Versuchsanlagen

Ziel des KI-Gesetzes ist es, Risiken für die Sicherheit und die Grundrechte, einschließlich des Grundrechts auf ein hohes Umweltschutzniveau, anzugehen. Auch die Umwelt gehört zu den ausdrücklich genannten und geschützten Rechtsgütern.

Im Jahr 2026 plant die Kommission, europäische Normungsorganisationen aufzufordern, eine Normungsleistung für die Berichterstattungs- und Dokumentationsprozesse zu erbringen, um die Ressourcenleistung von KI-Systemen zu verbessern. Dazu gehören die Verringerung des Energie- und sonstigen Ressourcenverbrauchs des Hochrisiko-KI-Systems während seines Lebenszyklus und die energieeffiziente Entwicklung von KI-Modellen mit allgemeinem Verwendungszweck.

Die Kommission wird ersucht, einen Fortschrittsbericht über die Entwicklung von Normungsergebnissen zur energieeffizienten Entwicklung von Modellen mit allgemeinem Verwendungszweck vorzulegen und die Notwendigkeit weiterer (auch verbindlicher) Maßnahmen oder Aktionen zu prüfen. Diese Verpflichtung beginnt zwei Jahre nach dem Geltungsbeginn des KI-Gesetzes und findet danach alle vier Jahre statt.

Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, die in großen Datenmengen geschult sind und daher für einen hohen Energieverbrauch anfällig sind, müssen den Energieverbrauch offenlegen. Bei KI-Modellen mit allgemeinem Verwendungszweck mit systemischen Risiken muss die Energieeffizienz bewertet werden.

Der Kommission wird die Befugnis übertragen, eine Methodik mit geeigneter und vergleichbarer Messung für diese Offenlegungspflichten zu entwickeln.