KI-Kompetenz - Fragen & Antworten

Nach Artikel 4 des KI-Gesetzes sollten Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Namen mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ausreichende KI-Kenntnisse verfügen. Sie sind dazu verpflichtet, indem sie ihr technisches Wissen, ihre Erfahrung, ihre Aus- und Weiterbildung des Personals und anderer Personen sowie den Kontext, in dem die KI-Systeme verwendet werden sollen, und die Personen, auf denen die KI-Systeme verwendet werden sollen, berücksichtigen.

Das in Artikel 4 des KI-Gesetzes genannte Konzept der KI-Kompetenz stützt sich auf die Definition des Begriffs in Artikel 3 Absatz 56 des KI-Gesetzes, wonach „KI-Kompetenz“ Fähigkeiten, Kenntnisse und Verständnis, die es Anbietern, Betreibern und betroffenen Personen ermöglichen, unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Zusammenhang mit dieser Verordnung eine sachkundige Einführung von KI-Systemen vorzunehmen und das Bewusstsein für die Chancen und Risiken von KI und mögliche Schäden, die sie verursachen kann, zu schärfen. 

Artikel 4 des KI-Gesetzes ist eine Schlüsselbestimmung, um sicherzustellen, dass alle Anbieter und Betreiber von KI-Systemen ihre Mitarbeiter mit den richtigen Fähigkeiten, Kenntnissen und dem richtigen Verständnis des/der bereitgestellten oder eingesetzten Systems/Systeme ausstatten. Dies betrifft alle Personen in der Organisation, die sich direkt mit einem KI-System befassen, und stärkt die in der Verordnung enthaltenen Bestimmungen über Transparenz (Artikel 13 des KI-Gesetzes) und menschliche Aufsicht (Artikel 14 des KI-Gesetzes). Gleichzeitig trägt Artikel 4 indirekt zum Schutz betroffener Personen bei, da er eine wirksame Anwendung der Vorschriften des KI-Gesetzes gewährleistet.  

„Personen, die im Namen von Anbietern/Arbeitgebern mit dem Betrieb und der Nutzung von KI-Systemen befasst sind“, bedeutet, dass es sich nicht um Arbeitnehmer handelt, sondern um Personen, die weitgehend in den organisatorischen Zuständigkeitsbereich fallen. Es könnte zum Beispiel ein Auftragnehmer, ein Dienstleister, ein Kunde sein. 

In Artikel 3 Nummer 56 werden Betroffene genannt. Außerdem heißt es in Erwägungsgrund 20: „Umden größten Nutzen aus KI-Systemen zu ziehen und gleichzeitig die Grundrechte, die Gesundheit und die Sicherheit zu schützen und eine demokratische Kontrolle zu ermöglichen, sollte KI-Kompetenz Anbieter, Betreiber und betroffene Personen mit den notwendigen Begriffen ausstatten, um fundierte Entscheidungen in Bezug auf KI-Systeme zu treffen. Diese Begriffe können je nach relevantem Kontext unterschiedlich sein und können das Verständnis der korrekten Anwendung technischer Elemente während der Entwicklungsphase des KI-Systems, die während seiner Nutzung anzuwendenden Maßnahmen, die geeigneten Methoden zur Interpretation der Ergebnisse des KI-Systems und – im Falle betroffener Personen – das Wissen umfassen, das erforderlich ist, um zu verstehen, wie sich Entscheidungen, die mit Hilfe von KI getroffen werden, auf sie auswirken werden. Im Zusammenhang mit der Anwendung dieser Verordnung sollte KI-Kompetenz allen relevanten Akteuren in der KI-Wertschöpfungskette die Erkenntnisse vermitteln, die erforderlich sind, um eine angemessene Einhaltung und ordnungsgemäße Durchsetzung zu gewährleisten. Darüber hinaus könnten die umfassende Umsetzung von KI-Kompetenzmaßnahmen und die Einführung geeigneter Folgemaßnahmen zur Verbesserung der Arbeitsbedingungen beitragen und letztlich den Konsolidierungs- und Innovationspfad vertrauenswürdiger KI in der Union aufrechterhalten.“ Angesichts der vorstehenden Ausführungen kann es je nach spezifischem Risiko sinnvoll sein, auch für Kunden/Kunden über Lese- und Schreibfähigkeiten zu verfügen.“

Artikel 4 des KI-Gesetzes enthält keine Verpflichtung zur Messung der KI-Kenntnisse der Mitarbeiter. Er bekräftigt jedoch, dass KI-Anbieter und -Anbieter ein ausreichendes Maß an KI-Kenntnissen sicherstellen sollten, wobei das technische Wissen, die Erfahrung, die Aus- und Weiterbildung der Mitarbeiter zu berücksichtigen sind.

Ja, im KI-Gesetz wird zwischen KI-Modellen (GPAI-Modellen), KI-Systemen, einschließlich GPAI-Systemen, verbotenen Systemen mit hohem Risiko unterschieden. Weitere Einzelheiten finden sich auch in den Leitlinien zur Definition von KI-Systemen, die von der Kommission am 6. Februar veröffentlicht wurden, um Anbieter und andere relevante Personen bei der Feststellung zu unterstützen, ob ein Softwaresystem ein KI-System darstellt, und um die wirksame Anwendung der Vorschriften zu erleichtern. Diese Leitlinien, die unverbindlich sind und sich im Laufe der Zeit weiterentwickeln sollen, erläutern die praktische Anwendung des Rechtskonzepts, wie es im KI-Gesetz verankert ist. Die Leitlinien für die Definition von KI-Systemen wurden zusätzlich zu den Leitlinien für verbotene Praktiken der künstlichen Intelligenz (KI) im Sinne des KI-Gesetzes veröffentlicht. 

Informationen über die Tätigkeiten der Kommission in Bezug auf Artikel 4 des KI-Gesetzes sind vorerst auf der Website des KI-Pakts zu finden,einschließlich der Aufzeichnung des Webinars vom 20. Februar und des lebendigen Repositorys zum Thema KI-Kompetenz. Eine spezielle Website zu KI-Kompetenzen und -Kompetenzen ist in Vorbereitung.

Das Amt für künstliche Intelligenz wird keine strengen Anforderungen an Artikel 4 des KI-Gesetzes und sein „ausreichendes Maß an KI-Kompetenz“ stellen. Im Gegenteil, sie hält angesichts des breiten Themas der KI-Kompetenz und der sich schnell entwickelnden Technologie, die KI ist, ein gewisses Maß an Flexibilität für erforderlich. Zur Einhaltung von Artikel 4 des KI-Gesetzes sollten Anbieter und Betreiber von KI-Systemen jedoch mindestens

a) Gewährleistung eines allgemeinen Verständnisses von KI in ihrer Organisation: Was ist AI? Wie funktioniert es? Welche KI wird in unserem Unternehmen eingesetzt? Was sind ihre Chancen und Gefahren?

b) Berücksichtigen Sie die Rolle ihrer Organisation (Anbieter oder Betreiber von KI-Systemen): Entwickelt meine Organisation KI-Systeme oder verwendet sie nur KI-Systeme, die von einer anderen Organisation entwickelt wurden?

c) Berücksichtigen Sie das Risiko, dass KI-Systeme bereitgestellt oder eingesetzt werden: Was müssen Mitarbeiter wissen, wenn sie mit einem solchen KI-System umgehen? Welche Risiken müssen sie kennen und müssen sie sich der Minderung bewusst sein?

d) Konkreter Aufbau ihrer KI-Kompetenzmaßnahmen auf der vorherigen Analyse unter Berücksichtigung

• Unterschiede in Bezug auf technisches Wissen, Erfahrung, Aus- und Weiterbildung des Personals und anderer Personen – Wie viel wissen die Mitarbeiter/Person über KI und die von ihnen verwendeten Systeme der Organisation? Was sollten sie sonst noch wissen?
• sowie den Kontext, in dem die KI-Systeme verwendet werden sollen, und die Personen, auf denen die KI-Systeme verwendet werden sollen – In welchem Sektor und zu welchem Zweck/zu welchem Dienst wird das KI-System verwendet?

Die Erwägungen a, b, c und d umfassen rechtliche und ethische Aspekte. Daher werden Verbindungen zur EU-KI-Verordnung (d. h. zum Verständnis des KI-Gesetzes) und zu Ethik- und Governance-Grundsätzen gefördert.

Wie in der Antwort auf die vorherige Frage dargelegt, sollten Organisationen zur Einhaltung von Artikel 4 des KI-Gesetzes ihre Rolle (als Anbieter oder Betreiber von KI-Systemen) sowie die Risiken im Zusammenhang mit den von ihnen bereitgestellten und/oder eingesetzten KI-Systemen berücksichtigen. Dementsprechend sollten Organisationen ihren KI-Kompetenzansatz anpassen. Wenn beispielsweise die KI-Systeme der Organisation ein hohes Risiko darstellen, könnten gemäß Kapitel III des KI-Gesetzes zusätzliche Maßnahmen relevant sein, um sicherzustellen, dass die Mitarbeiter wissen, wie sie mit den jeweiligen KI-Systemen umgehen und ihre Risiken vermeiden und/oder mindern können.

Dies hängt von den Antworten der Organisation auf die in Frage 1 genannten Erwägungen ab. In vielen Fällen kann es jedoch unwirksam und unzureichend sein, sich einfach auf die Gebrauchsanweisung der KI-Systeme zu verlassen oder die Mitarbeiter zu bitten, sie zu lesen. Mit Artikel 4 des KI-Gesetzes sollen Schulungen und Leitlinien bereitgestellt werden, die auf der Grundlage des Niveaus und der Art der Kenntnisse jeder Zielgruppe sowie des Kontexts und des Zwecks der in der Organisation verwendeten KI-Systeme am besten geeignet sind.

Dies steht auch im Einklang mit anderen Bestimmungen des KI-Gesetzes. Mit Artikel 26 wird beispielsweise eine Verpflichtung für Betreiber von Hochrisikosystemen eingeführt, sicherzustellen, dass das mit den KI-Systemen befasste Personal in der Praxis ausreichend geschult ist, um das System zu handhaben und die menschliche Aufsicht zu gewährleisten. Sich auf die Gebrauchsanweisung zu verlassen reicht daher nicht aus, weitere Maßnahmen sind notwendig.

Es gibt keine Einheitsgröße, wenn es um KI-Kompetenz geht, und das Amt für künstliche Intelligenz beabsichtigt nicht, strenge Anforderungen oder obligatorische Schulungen vorzuschreiben. Die Anforderungen an eine Ausbildung hängen vom konkreten Kontext ab. Während die Nachbildung der gesammelten Praktiken nicht automatisch die Vermutung der Einhaltung von Artikel 4 begründet, könnten die Initiativen im lebenden Repository zur KI-Kompetenzals Anregung dienen.

Nein, das Amt für künstliche Intelligenz schreibt keine Anforderungen für bestimmte Sektoren vor. Wie jedoch in der Antwort auf Frage 1 dargelegt, sollte der Kontext – einschließlich des Sektors und des Zwecks –, in dem KI-Systeme bereitgestellt/eingesetzt werden, bei der Entwicklung und der Initiative für KI-Kompetenz relevant sein. Darüber hinaus sollte das Risikoniveau von KI-Systemen berücksichtigt werden.

Dies hängt von der konkreten Art des KI-Systems und dem Risiko (z. B. für ein hohes Risiko) ab. Im Allgemeinen müssen Personen, die für einen Dienstleister oder Auftragnehmer arbeiten, über die entsprechenden KI-Kenntnisse verfügen, um die betreffende Aufgabe zu erfüllen (wie die Mitarbeiter).

Ja, sie sollten über die spezifischen Risiken, zum Beispiel Halluzinationen, informiert werden.

Das sind zwei verschiedene Fragen. Die Mitarbeiter und der Human-in-the-Loop benötigen die entsprechenden Fähigkeiten, die auf das von ihnen verwendete System ausgerichtet sind.

Normalerweise ja, aber es hängt von dem betreffenden KI-Tool und seiner spezifischen Qualifikation ab. Dies ist angesichts der Geschwindigkeit der technologischen Entwicklungen besonders wichtig.

Die Organisation sollte weiterhin die Schritte in der Antwort auf Frage 1 berücksichtigen und fragt sich: Wissen diese technischen Mitarbeiter, was über die KI-Systeme der Organisation bekannt sein muss und wie man damit umgeht? Sind sie sich aller Risiken bewusst und wie können sie vermieden/gemindert werden? Darüber hinaus sollte die Organisation prüfen, was diese Mitarbeiter sonst noch wissen müssen; z. B. rechtliche und ethische Aspekte der KI.

Ja, in Artikel 4 des KI-Gesetzes werden Anbieter und Betreiber ermutigt, das Wissen, die Erfahrung, die Aus- und Weiterbildung von Mitarbeitern und anderen Personen zu berücksichtigen, um ein ausreichendes Maß an KI-Kompetenz bereitzustellen. Angesichts des Unterschieds zwischen KI-Systemen und der Tatsache, dass der Wissens- und Erfahrungsgrad sowie die Art der erhaltenen allgemeinen und beruflichen Bildung variieren können, können unterschiedliche Ausbildungsniveaus oder Lernansätze angemessen sein.

Ein Zertifikat ist nicht erforderlich. Organisationen können interne Aufzeichnungen über Schulungen und/oder andere Leitinitiativen führen.

Nein, keine spezifische Governance-Struktur ist zur Einhaltung von Artikel 4 des KI-Gesetzes verpflichtet.

Die Europäische Kommission schlug den digitalen Omnibus mit gezielten Änderungen des KI-Gesetzes vor, als Teil der umfassenderen Bemühungen der Kommission, das digitale Regelwerk der EU zu vereinfachen und wirksamer zu gestalten. 

In Bezug auf Artikel 4 schlug die Kommission vor, die Verpflichtung der Mitgliedstaaten und der Kommission zur Förderung der KI-Kompetenz sowie der Weiterqualifizierung und Umschulung in KI zu verlagern, anstatt eine unspezifische Verpflichtung für Organisationen durchzusetzen. Auf diese Weise wird die Kommission auch die Kontinuität mit den bisher unternommenen Anstrengungen sicherstellen (insbesondere über diese Fragerunde, A zur KI-Kompetenz und das Verzeichnis der KI-Kompetenzpraktiken).

Es ist wichtig hervorzuheben, dass diejenigen, die Hochrisiko-KI-Systeme einsetzen, verpflichtet sind, dafür zu sorgen, dass ihr Personal geschult wird, um sicherzustellen, dass die menschliche Aufsicht erhalten bleibt.

Artikel 4 des KI-Gesetzes trat am 2. Februar 2025 in Kraft, sodass die Verpflichtung, Maßnahmen zu ergreifen, um die KI-Kompetenz ihres Personals sicherzustellen, bereits gilt. Die Überwachungs- und Durchsetzungsvorschriften gelten ab dem 3. August 2026.

Die Überwachung und Durchsetzung von Artikel 4 des KI-Gesetzes obliegt nicht dem Amt für künstliche Intelligenz, sondern den nationalen Marktüberwachungsbehörden. Die nationalen Marktüberwachungsbehörden werden mit der Überwachung und Durchsetzung der Vorschriften ab dem 2. August 2026 beginnen. Während Entscheidungen über die Durchsetzung bei den nationalen Marktüberwachungsbehörden in den verschiedenen Mitgliedstaaten getroffen werden, wird das Amt für künstliche Intelligenz eng mit dem KI-Ausschuss zusammenarbeiten, um eine angemessene Umsetzung zu unterstützen.

Die Verbote gelten seit dem 2. Februar 2025. Mit dem KI-Rat und der Zusammenarbeit zwischen allen einschlägigen Behörden wird eine kohärente Anwendung der Vorschriften sichergestellt.

Öffentliche Durchsetzung bedeutet, dass jeder Mitgliedstaat Behörden benennen wird, die für die Durchsetzung der Bestimmungen des KI-Gesetzes zuständig sind und die Einhaltung dieses Gesetzes überwachen und durchsetzen. Die private Durchsetzung bezieht sich auf das Szenario, in dem eine Privatperson einen Schaden erleidet, und ist der Auffassung, dass dies auf eine Organisation zurückzuführen ist, die der Verpflichtung nach Artikel 4 nicht nachkommt, und verklagt die Organisation auf Schadensersatz.

Bei einem Schaden kann der Anbieter eines KI-Systems nach nationalem Recht verklagt werden. Das KI-Gesetz schafft keine Straftaten oder einen Anspruch auf Entschädigung.

Die Kommission wird Leitlinien zur Anwendung der in den Artikeln 8 bis 15 und in Artikel 25 des KI-Gesetzes genannten Anforderungen und Verpflichtungen veröffentlichen, und in diesen Leitlinien werden auch Fragen der Alphabetisierung behandelt, wenn beispielsweise die menschliche Aufsicht oder das Risikomanagement erörtert werden.

Derzeit haben viele Agenturen bereits Zugang zur Lernplattform der Kommission (EU-Learn) sowie zu Ressourcen wie den KI-Lernpaketen und anderen Schulungen der Kommission.

Um die Umsetzung und Einhaltung von Artikel 4 des KI-Gesetzes zu unterstützen, wird das KI-Büro weiterhin daslebende Repository zu KI-Kompetenzpraktiken pflegen, weitere Beispiele von Organisationen sammeln und die vorliegende Fragerunde aktualisieren. Es werden weitere Sensibilisierungsmaßnahmen organisiert und eine spezielle Website für Tätigkeiten im Zusammenhang mit KI-Kompetenz (innerhalb und außerhalb des Zuständigkeitsbereichs von Artikel 4), Kompetenzen und Talente eingerichtet, um den Zugang zu KI-Kompetenz zu fördern und den Dialog über KI für alle zu fördern.

Das lebende Repository zu KI-Kenntnissen ist auf unserer Website frei verfügbar: Lebendiges Repository zur Förderung des Lernens und des Austauschs über KI-Kompetenz

Ein Beispiel für eine EU-Initiative, die KMU unterstützen könnte, ist das Netz der europäischen digitalen Innovationszentren (EDIH). EDIH sind 251 zentrale Anlaufstellen in ganz Europa (27 Mitgliedstaaten, 3 EFTA-Länder – Norwegen, Island und Liechtenstein; 8 assoziierte Länder: Albanien, Bosnien und Herzegowina, Kosovo, Montenegro, Nordmazedonien, Serbien, die Türkei und die Ukraine), um KMU und Organisationen des öffentlichen Sektors bei der Digitalisierung ihrer Prozesse zu unterstützen. 80 % der EDIH bieten bereits Dienstleistungen an, die sich auf KI konzentrieren, darunter Schulungen, Workshops, Bootcamps für unterschiedliche Bedürfnisse und Wissensniveaus in Bezug auf KI. KMU und Organisationen des öffentlichen Sektors können sich an EDIH wenden, um Unterstützung für KI-Technologien und ihre Digitalisierungsziele im weiteren Sinne zu erhalten. EDIHs können als erster Helpdesk zum KI-Gesetzhelfen und als Einstiegspunkte für andere EU-finanzierte Unterstützungsmaßnahmen dienen,wie z. B. Test-und Versuchseinrichtungen (TEF) oder KI-Fabriken. Das EDIH in Ihrer Nähe finden Sie in diesem Katalog.