iStock GettyImages 1656549832 © Somkid Thongdee
Podpredsednica Evropske komisije, pristojna za vrednote in preglednost, Věra Jourová je danes v imenu Evropske unije podpisala Okvirno konvencijo Sveta Evrope o umetni inteligenci in človekovih pravicah, demokraciji in pravni državi. To je bilo storjeno na neformalni konferenci ministrov za pravosodje držav članic Sveta Evrope v Vilni v Litvi. Ta konvencija je prvi pravno zavezujoč mednarodni instrument o umetni inteligenci. V celoti je skladen s pravom Unije na splošno in zlasti z aktom EU o umetni inteligenci, ki je prva celovita uredba o umetni inteligenci na svetu.
EU, ki jo je zastopala Komisija, je ob podpori držav članic zelo dejavno sodelovala pri pogajanjih o tej konvenciji. Konvencija je skladna z aktom EU o umetni inteligenci in drugim pravom Evropske unije ter vključuje številne ključne pojme akta o umetni inteligenci, kot so:
- poudarek na umetni inteligenci, osredotočeni na človeka, v skladu s človekovimi pravicami, demokracijo in pravno državo
- pristop, ki temelji na tveganju
- ključna načela za zaupanja vredno umetno inteligenco (npr. preglednost, robustnost, varnost, upravljanje in varstvo podatkov)
- preglednost vsebin, ustvarjenih z umetno inteligenco, in interakcij z umetnointeligenčnimi sistemi
- okrepljena dokumentacija, odgovornost in pravna sredstva
- podpora varnim inovacijam prek regulativnih peskovnikov
- obveznosti obvladovanja tveganja
- obveznosti dokumentiranja
- nadzorni mehanizmi za nadzor dejavnosti na področju umetne inteligence
To je bistveno za zagotovitev učinkovitega okvira na mednarodni ravni za obravnavanje tveganj, ki jih umetna inteligenca predstavlja za človekove pravice, demokracijo in pravno državo.
Konvencija kot taka določa skupni pristop za zagotovitev, da so dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov združljive s človekovimi pravicami, demokracijo in pravno državo, hkrati pa omogočajo inovacije in zaupanje. Konvencija zajema umetnointeligenčne sisteme, ki bi lahko posegali v navedene človekove pravice, demokracijo in pravno državo, in sicer z uporabo diferenciranega pristopa, ki temelji na tveganju.
Načela in obveznosti, predvidene v Konvenciji, se bodo uporabljale za dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov, ki jih izvajajo javni organi ali zasebni akterji, ki delujejo v njihovem imenu. Čeprav morajo akterji iz zasebnega sektorja tveganja in vplive umetnointeligenčnih sistemov še vedno obravnavati na način, ki je skladen s cilji Konvencije, imajo možnost, da obveznosti iz konvencij uporabljajo neposredno ali da izvajajo alternativne ustrezne ukrepe.
Konvencija vključuje izjeme za raziskave in razvoj ter za nacionalno varnost. K njej lahko pristopijo članice Sveta Evrope, EU in druge tretje države po svetu.
Konvencija se bo v EU izvajala z aktom o umetni inteligenci, ki vsebuje na splošno popolnoma usklajena pravila za dajanje umetnointeligenčnih sistemov na trg, v uporabo in uporabo, po potrebi dopolnjena z drugim ustreznim pravnim redom Unije.
Naslednji koraki
Ta podpis izraža namero EU, da postane pogodbenica Konvencije. Na podlagi tega bo Evropska komisija pripravila predlog sklepa Sveta o sklenitvi Konvencije. Odobriti bi ga moral tudi Evropski parlament.
Ozadje
Pogajanja o Konvenciji so se začela septembra 2022 pod okriljem Odbora za umetno inteligenco, ki ga je Svet Evrope ustanovil v Strasbourgu. Pogajanja so vključevala pogajanja Evropske komisije v imenu EU, drugih držav članic Sveta Evrope, Svetega sedeža, ZDA, Kanade, Mehike, Japonske, Izraela, Avstralije, Argentine, Peruja, Urugvaja in Kostarike. Prispevek 68 mednarodnih predstavnikov civilne družbe, akademskih krogov, industrije in drugih mednarodnih organizacij je zagotovil celovit in vključujoč pristop.