Upravljanje in izvrševanje akta o umetni inteligenci

Upravljanje akta o umetni inteligenci bodo usmerjali trije svetovalni organi:

• Evropski odbor za umetno inteligenco, ki ga sestavljajo predstavniki držav članic EU,
• znanstveni odbor, ki ga sestavljajo neodvisni strokovnjaki s področja umetne inteligence,
• svetovalni forum, v katerem so zastopane različne zainteresirane strani, tako komercialne kot nekomercialne.

To upravljanje z več deležniki bo zagotovilo uravnotežen pristop k izvajanju akta o umetni inteligenci.

Akcijski načrt za kibernetsko varnost in umetno inteligenco iz julija 2026 določa usklajen pristop za pomoč državam članicam, podjetjem in javnim organom pri reševanju izzivov na področju kibernetske varnosti in odpornosti, ki jih predstavljajo najnaprednejši umetnointeligenčni modeli. Komisija bo objavila razpis za povečanje zmogljivosti EU za ocenjevanje modelov umetne inteligence, preden bodo dani na trg EU. To, ki naj bi začelo delovati do leta 2027, bo okrepilo ocenjevanje zmogljivosti in tveganj umetne inteligence, ki ga izvajajo tretje strani, ter prispevalo k regulativni funkciji urada za umetno inteligenco.

Evropski urad za umetno inteligenco

Urad za umetno inteligenco, ustanovljen v okviru Komisije, nadzoruje izvrševanje in izvajanje akta o umetni inteligenci v državah članicah EU. Odgovoren bo tudi za nadzor najmočnejših umetnointeligenčnih modelov, tako imenovanih umetnointeligenčnih modelov za splošne namene.

Pristojni nacionalni organi

Komisija in Urad za umetno inteligenco tesno sodelujeta s pristojnimi nacionalnimi organi, ki nadzorujejo izvajanje in uporabo akta o umetni inteligenci na nacionalni ravni.

Pristojni nacionalni organi so naslednji organi:

• Organi za nadzor trga nadzorujejo in izvršujejo skladnost s pravili za umetnointeligenčne sisteme, vključno s prepovedmi in pravili za umetno inteligenco velikega tveganja.
• Priglasitveni organi imenujejo in nadzorujejo priglašene organe, ki so neodvisni organi, ki izvajajo ugotavljanje skladnosti pred dajanjem na trg.

Vsaka država članica bi morala imenovati in pooblastiti pristojne nacionalne organe do 2. avgusta 2025. Komisija tesno sodeluje z državami EU, da bi jih v tem procesu podprla prek Evropskega odbora za umetno inteligenco.

Vključevanje drugih organov v incidente na področju umetne inteligence

Nepravilno delovanje umetnointeligenčnih sistemov lahko povzroči kršitve zakonov o temeljnih pravicah, na primer tistih, ki varujejo zasebnost ali pravico do nediskriminacije. Da bi se organom za varstvo temeljnih pravic olajšalo učinkovito preiskovanje takih kršitev, akt o umetni inteligenci določa pravila, ki zagotavljajo sodelovanje in pretok informacij med vsemi organi.

Katere pravice uvaja akt o umetni inteligenci za organe za varstvo temeljnih pravic?

• Pravica do obveščenosti s strani organov za nadzor trga, npr. o resnih incidentih.
• Pravica zahtevati informacije in sodelovanje od organov za nadzor trga.
• Pravica zahtevati sodelovanje od ponudnikov umetnointeligenčnih sistemov velikega tveganja, v zvezi s katerimi je prišlo do incidenta.

Kateri organi za varstvo temeljnih pravic imajo koristi od teh pravil?

To so javni organi ali telesa v državah članicah, ki so pooblaščeni za nadzor ali izvrševanje spoštovanja obveznosti na podlagi prava Unije o varstvu temeljnih pravic.

Vsaka država članica mora določiti ustrezne organe in objaviti seznam. 

Dostop do zbirnega seznama vseh opredeljenih organov