iStock GettyImages 1656549832 © Somkid Thongdee
Věra Jourová, vicevoorzitter van de Europese Commissie voor Waarden en Transparantie, heeft namens de Europese Unie het Kaderverdrag van de Raad van Europa inzake artificiële intelligentie en mensenrechten, democratie en de rechtsstaat ondertekend. Dit gebeurde tijdens de informele conferentie van de ministers van Justitie van de lidstaten van de Raad van Europa in Vilnius, Litouwen. Dit verdrag is het eerste juridisch bindende internationale instrument inzake artificiële intelligentie. Het is volledig verenigbaar met het recht van de Unie in het algemeen en met de AI-verordening van de EU in het bijzonder, de eerste alomvattende AI-verordening wereldwijd.
De EU, vertegenwoordigd door de Commissie en met de steun van de lidstaten, heeft zeer actief deelgenomen aan de onderhandelingen over dit verdrag. Het verdrag is in overeenstemming met de AI-verordening van de EU en met andere wetgeving van de Europese Unie en omvat een aantal kernbegrippen van de AI-verordening, zoals:
- een focus op mensgerichte AI, in overeenstemming met de mensenrechten, de democratie en de rechtsstaat
- een risicogebaseerde aanpak
- kernbeginselen voor betrouwbare AI (bv. transparantie, robuustheid, veiligheid, gegevensbeheer en -bescherming)
- transparantie voor door AI gegenereerde inhoud en in interacties met AI-systemen
- versterkte documentatie, verantwoordingsplicht en rechtsmiddelen
- steun voor veilige innovatie door middel van testomgevingen voor regelgeving
- verplichtingen inzake risicobeheer
- documentatieverplichtingen
- toezichtsmechanismen voor het toezicht op AI-activiteiten
Dit is van vitaal belang om op internationaal niveau een doeltreffend kader te bieden om de risico’s van AI voor de mensenrechten, de democratie en de rechtsstaat aan te pakken.
Als zodanig voorziet het verdrag in een gemeenschappelijke aanpak om ervoor te zorgen dat activiteiten binnen de levenscyclus van AI-systemen verenigbaar zijn met de mensenrechten, de democratie en de rechtsstaat, en tegelijkertijd innovatie en vertrouwen mogelijk maken. Het verdrag heeft betrekking op AI-systemen die mogelijk inbreuk maken op de bovengenoemde mensenrechten, democratie en de rechtsstaat, door een risicogebaseerde en gedifferentieerde aanpak te volgen.
De beginselen en verplichtingen waarin het verdrag voorziet, zullen van toepassing zijn op activiteiten binnen de levenscyclus van AI-systemen die worden uitgevoerd door overheidsinstanties of particuliere actoren die namens hen optreden. Hoewel actoren uit de particuliere sector de risico’s en effecten van AI-systemen nog moeten aanpakken op een wijze die in overeenstemming is met de doelstellingen van het Verdrag, hebben zij de mogelijkheid om de verplichtingen uit hoofde van het Verdrag rechtstreeks toe te passen of alternatieve passende maatregelen uit te voeren.
Het verdrag bevat vrijstellingen voor onderzoek en ontwikkeling, alsmede voor de nationale veiligheid. Het staat open voor toetreding tot de Raad van Europa, de EU en andere derde landen over de hele wereld.
Het verdrag zal in de EU ten uitvoer worden gelegd door middel van de AI-verordening, die in het algemeen volledig geharmoniseerde regels bevat voor het in de handel brengen, de ingebruikneming en het gebruik van AI-systemen, in voorkomend geval aangevuld met ander relevant acquis van de Unie.
Volgende stappen
Deze ondertekening drukt het voornemen van de EU uit om partij bij het verdrag te worden. Vervolgens zal de Europese Commissie een voorstel opstellen voor een besluit van de Raad tot sluiting van het verdrag. Het Europees Parlement moet ook zijn goedkeuring geven.
Achtergrond
De onderhandelingen over het verdrag zijn in september 2022 van start gegaan onder auspiciën van het door de Raad van Europa in Straatsburg opgerichte Comité voor AI (CAI). De onderhandelingen omvatten onderhandelingen van de Europese Commissie namens de EU, andere lidstaten van de Raad van Europa, de Heilige Stoel, de VS, Canada, Mexico, Japan, Israël, Australië, Argentinië, Peru, Uruguay en Costa Rica. Inbreng van 68 internationale vertegenwoordigers van het maatschappelijk middenveld, de academische wereld, het bedrijfsleven en andere internationale organisaties zorgde voor een alomvattende en inclusieve aanpak.