iStock GettyImages 1656549832 © Somkid Thongdee
Potpredsjednica Europske komisije za vrijednosti i transparentnost Věra Jourová potpisala je u ime Europske unije Okvirnu konvenciju Vijeća Europe o umjetnoj inteligenciji i ljudskim pravima, demokraciji i vladavini prava. To je učinjeno tijekom neformalne konferencije ministara pravosuđa država članica Vijeća Europe u Vilniusu u Litvi. Konvencija je prvi pravno obvezujući međunarodni instrument o umjetnoj inteligenciji. U potpunosti je u skladu s pravom Unije općenito, a posebno s Aktom EU-a o umjetnoj inteligenciji, koji je prva sveobuhvatna uredba o umjetnoj inteligenciji na globalnoj razini.
EU, koji predstavlja Komisija, uz potporu država članica vrlo je aktivno sudjelovao u pregovorima o toj Konvenciji. Konvencija je u skladu s Aktom EU-a o umjetnoj inteligenciji i drugim pravom Europske unije te uključuje niz ključnih koncepata Akta o umjetnoj inteligenciji, kao što su:
- usmjerenost na antropocentričnu umjetnu inteligenciju, u skladu s ljudskim pravima, demokracijom i vladavinom prava
- pristup koji se temelji na riziku
- ključna načela za pouzdanu umjetnu inteligenciju (npr. transparentnost, otpornost, sigurnost, upravljanje podacima i zaštita podataka)
- transparentnost sadržaja stvorenog umjetnom inteligencijom i u interakciji s UI sustavima
- pojačana dokumentacija, odgovornost i pravni lijekovi
- potpora sigurnim inovacijama putem regulatornih izoliranih okruženja
- obveze upravljanja rizicima
- obveze dokumentiranja
- nadzorni mehanizmi za nadzor aktivnosti povezanih s umjetnom inteligencijom
To je ključno za osiguravanje učinkovitog okvira na međunarodnoj razini za uklanjanje rizika koje umjetna inteligencija predstavlja za ljudska prava, demokraciju i vladavinu prava.
Stoga se Konvencijom predviđa zajednički pristup kako bi se osiguralo da su aktivnosti u životnom ciklusu UI sustava kompatibilne s ljudskim pravima, demokracijom i vladavinom prava, uz istodobno omogućivanje inovacija i povjerenja. Konvencijom su obuhvaćeni sustavi umjetne inteligencije koji bi mogli utjecati na navedena ljudska prava, demokraciju i vladavinu prava primjenom diferenciranog pristupa koji se temelji na riziku.
Načela i obveze predviđeni Konvencijom primjenjivat će se na aktivnosti tijekom životnog ciklusa UI sustava koje poduzimaju javna tijela ili privatni subjekti koji djeluju u njihovo ime. Kad je riječ o akterima iz privatnog sektora, iako i dalje moraju rješavati rizike i učinke UI sustava na način koji je u skladu s ciljevima Konvencije, oni imaju mogućnost izravno primijeniti obveze iz Konvencije ili provesti alternativne odgovarajuće mjere.
Konvencija uključuje izuzeća za istraživanje i razvoj, kao i za nacionalnu sigurnost. Otvorena je za pristupanje članicama Vijeća Europe, EU-u i ostalim trećim zemljama diljem svijeta.
Konvencija će se u EU-u provoditi Aktom o umjetnoj inteligenciji, koji sadržava općenito potpuno usklađena pravila za stavljanje na tržište, stavljanje u uporabu i uporabu UI sustava, prema potrebi dopunjena drugom relevantnom pravnom stečevinom Unije.
Sljedeći koraci
Tim se potpisom izražava namjera EU-a da postane stranka Konvencije. Nakon toga Europska komisija pripremit će prijedlog odluke Vijeća o sklapanju Konvencije. Europski parlament također bi trebao dati svoju suglasnost.
Kontekst
Pregovori o Konvenciji započeli su u rujnu 2022. pod pokroviteljstvom Odbora za umjetnu inteligenciju (CAI) koji je Vijeće Europe osnovalo u Strasbourgu. Pregovori su uključivali pregovore Europske komisije u ime EU-a, drugih država članica Vijeća Europe, Svete Stolice, SAD-a, Kanade, Meksika, Japana, Izraela, Australije, Argentine, Perua, Urugvaja i Kostarike. Doprinos 68 međunarodnih predstavnika civilnog društva, akademske zajednice, industrije i drugih međunarodnih organizacija osigurao je sveobuhvatan i uključiv pristup.