iStock GettyImages 1656549832 © Somkid Thongdee
Europa-Kommissionens næstformand med ansvar for værdier og gennemsigtighed, Věra Jourová, undertegnede Europarådets rammekonvention om kunstig intelligens og menneskerettigheder, demokrati og retsstatsprincippet på Den Europæiske Unions vegne. Dette blev gjort på den uformelle konference mellem justitsministrene fra Europarådets medlemsstater i Vilnius, Litauen. Denne konvention er det første retligt bindende internationale instrument om kunstig intelligens. Den er fuldt ud forenelig med EU-retten generelt og EU's AI-forordning i særdeleshed, som er den første omfattende AI-forordning på globalt plan.
EU, repræsenteret ved Kommissionen og med støtte fra medlemsstaterne, deltog meget aktivt i forhandlingerne om denne konvention. Konventionen er i overensstemmelse med EU's retsakt om kunstig intelligens og anden EU-lovgivning og omfatter en række centrale begreber i retsakten om kunstig intelligens såsom:
- fokus på menneskecentreret kunstig intelligens i overensstemmelse med menneskerettighederne, demokratiet og retsstatsprincippet
- en risikobaseret tilgang
- centrale principper for pålidelig kunstig intelligens (f.eks. gennemsigtighed, robusthed, sikkerhed, datastyring og -beskyttelse)
- gennemsigtighed for AI-genereret indhold og i interaktioner med AI-systemer
- styrket dokumentation, ansvarlighed og retsmidler
- støtte til sikker innovation gennem reguleringsmæssige sandkasser
- risikostyringsforpligtelser
- dokumentationsforpligtelser
- tilsynsmekanismer for tilsyn med AI-aktiviteter
Dette er afgørende for at skabe en effektiv ramme på internationalt plan for at imødegå de risici, som kunstig intelligens udgør for menneskerettighederne, demokratiet og retsstatsprincippet.
Konventionen indeholder som sådan en fælles tilgang til at sikre, at aktiviteter i AI-systemers livscyklus er forenelige med menneskerettighederne, demokratiet og retsstatsprincippet, samtidig med at innovation og tillid muliggøres. Konventionen omfatter AI-systemer, der potentielt griber ind i ovennævnte menneskerettigheder, demokrati og retsstatsprincippet ved at følge en risikobaseret og differentieret tilgang.
De principper og forpligtelser, der er fastsat i konventionen, finder anvendelse på aktiviteter i AI-systemers livscyklus, der udføres af offentlige myndigheder eller private aktører, der handler på deres vegne. Selv om aktører i den private sektor stadig skal håndtere risici og virkninger fra AI-systemer på en måde, der er i overensstemmelse med konventionens mål, har de mulighed for enten at anvende konventionens forpligtelser direkte eller gennemføre alternative, passende foranstaltninger.
Konventionen indeholder undtagelser for forskning og udvikling samt for den nationale sikkerhed. Den er åben for tiltrædelse af Europarådets medlemmer, EU og andre tredjelande rundt om i verden.
Konventionen vil blive gennemført i EU ved hjælp af retsakten om kunstig intelligens, som generelt indeholder fuldt harmoniserede regler for omsætning, ibrugtagning og anvendelse af AI-systemer, suppleret med anden relevant gældende EU-ret, hvor det er relevant.
Næste skridt
Undertegnelsen er udtryk for EU's hensigt om at blive part i konventionen. Herefter vil Europa-Kommissionen udarbejde et forslag til Rådets afgørelse om indgåelse af konventionen. Europa-Parlamentet bør også give sin godkendelse.
Baggrund
Forhandlingerne om konventionen blev indledt tilbage i september 2022 i regi af Udvalget for Kunstig Intelligens (CAI), der blev nedsat af Europarådet i Strasbourg. Forhandlingerne omfattede Europa-Kommissionens forhandlinger på vegne af EU, andre af Europarådets medlemsstater, Pavestolen, USA, Canada, Mexico, Japan, Israel, Australien, Argentina, Peru, Uruguay og Costa Rica. Input fra 68 internationale repræsentanter fra civilsamfundet, den akademiske verden, industrien og andre internationale organisationer sikrede en omfattende og inklusiv tilgang.