iStock GettyImages 1656549832 © Somkid Thongdee
Die für Werte und Transparenz zuständige Vizepräsidentin der Europäischen Kommission, Věra Jourová, hat das Rahmenübereinkommen des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit im Namen der Europäischen Union unterzeichnet. Dies geschah während der informellen Konferenz der Justizminister der Mitgliedstaaten des Europarats in Vilnius, Litauen. Dieses Übereinkommen ist das erste rechtsverbindliche internationale Instrument über künstliche Intelligenz. Es ist voll und ganz mit dem Unionsrecht im Allgemeinen und dem EU-KI-Gesetz im Besonderen vereinbar, das die erste umfassende KI-Verordnung weltweit ist.
Die EU, vertreten durch die Kommission und mit Unterstützung der Mitgliedstaaten, hat sich sehr aktiv an den Verhandlungen über dieses Übereinkommen beteiligt. Das Übereinkommen steht im Einklang mit dem EU-KI-Gesetz sowie mit anderen Rechtsvorschriften der Europäischen Union und enthält eine Reihe von Schlüsselkonzepten des KI-Gesetzes wie:
- Fokussierung auf eine auf den Menschen ausgerichtete KI im Einklang mit Menschenrechten, Demokratie und Rechtsstaatlichkeit
- ein risikobasierter Ansatz
- Schlüsselprinzipien für vertrauenswürdige KI (z. B. Transparenz, Robustheit, Sicherheit, Daten-Governance und Datenschutz)
- Transparenz bei KI-generierten Inhalten und bei Interaktionen mit KI-Systemen
- verstärkte Dokumentation, Rechenschaftspflicht und Abhilfemaßnahmen
- Unterstützung sicherer Innovationen durch Reallabore
- Risikomanagementverpflichtungen
- Dokumentationspflichten
- Aufsichtsmechanismen für die Überwachung von KI-Tätigkeiten
Dies ist von entscheidender Bedeutung, um auf internationaler Ebene einen wirksamen Rahmen für die Bewältigung der von KI ausgehenden Risiken für Menschenrechte, Demokratie und Rechtsstaatlichkeit zu schaffen.
Als solches sieht das Übereinkommen einen gemeinsamen Ansatz vor, um sicherzustellen, dass Tätigkeiten innerhalb des Lebenszyklus von KI-Systemen mit den Menschenrechten, der Demokratie und der Rechtsstaatlichkeit vereinbar sind und gleichzeitig Innovation und Vertrauen ermöglichen. Das Übereinkommen deckt KI-Systeme ab, die durch einen risikobasierten und differenzierten Ansatz möglicherweise in die genannten Menschenrechte, die Demokratie und die Rechtsstaatlichkeit eingreifen.
Die im Übereinkommen vorgesehenen Grundsätze und Verpflichtungen gelten für Tätigkeiten innerhalb des Lebenszyklus von KI-Systemen, die von Behörden oder privaten Akteuren, die in ihrem Namen handeln, durchgeführt werden. Was die Akteure des Privatsektors betrifft, so müssen sie zwar weiterhin Risiken und Auswirkungen von KI-Systemen in einer Weise angehen, die mit den Zielen des Übereinkommens im Einklang steht, sie haben jedoch die Möglichkeit, die Verpflichtungen des Übereinkommens entweder direkt anzuwenden oder alternative geeignete Maßnahmen umzusetzen.
Das Übereinkommen enthält Ausnahmen für Forschung und Entwicklung sowie für die nationale Sicherheit. Es steht den Mitgliedern des Europarats, der EU und anderen Drittländern auf der ganzen Welt zum Beitritt offen.
Das Übereinkommen wird in der EU durch das KI-Gesetz umgesetzt, das allgemein vollständig harmonisierte Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Nutzung von KI-Systemen enthält, die gegebenenfalls durch anderen einschlägigen Besitzstand der Union ergänzt werden.
Nächste Schritte
Mit dieser Unterzeichnung bringt die EU ihre Absicht zum Ausdruck, Vertragspartei des Übereinkommens zu werden. Im Anschluss daran wird die Europäische Kommission einen Vorschlag für einen Beschluss des Rates über den Abschluss des Übereinkommens ausarbeiten. Das Europäische Parlament sollte ebenfalls seine Zustimmung erteilen.
Hintergrund
Die Verhandlungen über das Übereinkommen begannen bereits im September 2022 unter der Schirmherrschaft des vom Europarat in Straßburg eingesetzten Ausschusses für KI (CAI). Die Verhandlungen umfassten die Verhandlungen der Europäischen Kommission im Namen der EU, anderer Mitgliedstaaten des Europarats, des Heiligen Stuhls, der USA, Kanadas, Mexikos, Japans, Israels, Australiens, Argentiniens, Perus, Uruguays und Costa Ricas. Die Beiträge von 68 internationalen Vertretern aus Zivilgesellschaft, Wissenschaft, Industrie und anderen internationalen Organisationen sorgten für einen umfassenden und integrativen Ansatz.