Skip to main content
Shaping Europe’s digital future

Akt o umetni inteligenci

Akt o umetni inteligenci je prvi pravni okvir za umetno inteligenco, ki obravnava tveganja umetne inteligence in postavlja Evropo v vodilno vlogo na svetovni ravni.

    moški in ženska, ki delata na visokotehnološkem zaslonu

© gorodenkoff - iStock Getty Images Plus

Namen akta oumetni inteligenci je razvijalcem in uvajalcem umetne inteligence zagotoviti jasne zahteve in obveznosti v zvezi s posebno uporabo umetne inteligence. Hkrati je namen uredbe zmanjšati upravno in finančno breme za podjetja, zlasti za mala in srednja podjetja (MSP).

Akt oumetni inteligenci je del širšega svežnja ukrepov politike v podporo razvoju zaupanja vredne umetne inteligence, ki vključuje tudi sveženj inovacij na področju umetne inteligence in usklajeni načrt za umetno inteligenco. Ti ukrepi bodo skupaj zagotovili varnost in temeljne pravice ljudi in podjetij v zvezi z umetno inteligenco. Prav tako bodo okrepili uvajanje, naložbe in inovacije na področju umetne inteligence po vsej EU.

Zakon oumetni inteligenci je prvi celovit pravni okvir za umetno inteligenco po vsem svetu. Cilj novih pravil je spodbujati zaupanja vredno umetno inteligenco v Evropi in zunaj nje z zagotavljanjem, da umetnointeligenčni sistemi spoštujejo temeljne pravice, varnost in etična načela, ter z obravnavanjem tveganj zelo močnih in vplivnih modelov umetne inteligence.

Zakaj potrebujemo pravila o umetni inteligenci?

Akt o umetni inteligenci zagotavlja, da lahko Evropejci zaupajo temu, kar ponuja umetna inteligenca. Čeprav večina umetnointeligenčnih sistemov ne predstavlja tveganja in lahko prispeva k reševanju številnih družbenih izzivov, nekateri umetnointeligenčni sistemi ustvarjajo tveganja, ki jih moramo obravnavati, da bi se izognili neželenim izidom.

Na primer, pogosto ni mogoče ugotoviti, zakaj je umetnointeligenčni sistem sprejel odločitev ali napoved in sprejel določen ukrep. Zato je morda težko oceniti, ali je bil nekdo neupravičeno prikrajšan, na primer pri odločitvi o zaposlitvi ali v vlogi za javnokoristno shemo.

Čeprav obstoječa zakonodaja zagotavlja določeno zaščito, ne zadostuje za obravnavo posebnih izzivov, ki jih lahko prinesejo umetnointeligenčni sistemi.

Predlagana pravila bodo:

  • obravnavati tveganja, ki jih posebej ustvarjajo aplikacije umetne inteligence;
  • prepovedati prakse umetne inteligence, ki predstavljajo nesprejemljiva tveganja;
  • določitev seznama vlog z visokim tveganjem;
  • določiti jasne zahteve za umetnointeligenčne sisteme za aplikacije z visokim tveganjem;
  • opredeliti posebne obveznosti, ki uvajajo in ponujajo umetnointeligenčne aplikacije velikega tveganja;
  • zahtevajo ugotavljanje skladnosti, preden se da določen umetnointeligenčni sistem v uporabo ali da na trg;
  • uvedejo izvrševanje po tem, ko je določen umetnointeligenčni sistem dan na trg;
  • vzpostaviti strukturo upravljanja na evropski in nacionalni ravni.

Pristop, ki temelji na tveganju

Regulativni okvir opredeljuje štiri ravni tveganja za umetnointeligenčne sisteme:

piramida, ki prikazuje štiri stopnje tveganja: Nesprejemljivo tveganje; Visoko tveganje; omejeno tveganje, minimalno tveganje ali brez tveganja

 

Vsem umetnointeligenčnim sistemom, ki veljajo za očitno grožnjo varnosti, preživljanju in pravicam ljudi, bodo vlade prepovedale družbeno točkovanje do igrač z uporabo glasovne pomoči, ki spodbuja nevarno vedenje.

Visoko tveganje

Umetnointeligenčni sistemi, opredeljeni kot sistemi velikega tveganja, vključujejo tehnologijo umetne inteligence, ki se uporablja pri:

  • kritične infrastrukture (npr. promet), ki bi lahko ogrozila življenje in zdravje državljanov;
  • izobraževanje ali poklicno usposabljanje, ki lahko določa dostop do izobraževanja in poklicnega poteka življenja posameznika (npr. točkovanje izpitov);
  • varnostne komponente izdelkov (npr. uporaba umetne inteligence pri kirurgiji s pomočjo robota);
  • zaposlovanje, upravljanje delavcev in dostop do samozaposlitve (npr. programska oprema za razvrščanje življenjepisov za postopke zaposlovanja);
  • bistvene zasebne in javne storitve (npr. kreditne točke, ki državljanom onemogočajo pridobitev posojila);
  • kazenski pregon, ki lahko posega v temeljne pravice ljudi (npr. ocena zanesljivosti dokazov);
  • upravljanje migracij, azila in nadzora meja (npr. avtomatizirana obravnava vlog za izdajo vizuma);
  • izvajanje pravosodja in demokratičnih procesov (npr. rešitve umetne inteligence za iskanje sodnih odločb).

Za umetnointeligenčne sisteme velikega tveganja bodo veljale stroge obveznosti, preden jih bo mogoče dati na trg:

  • ustrezne sisteme za ocenjevanje in zmanjševanje tveganja;
  • visoka kakovost naborov podatkov, ki prispevajo k sistemu, da se čim bolj zmanjšajo tveganja in diskriminatorni rezultati;
  • beleženje dejavnosti za zagotovitev sledljivosti rezultatov;
  • podrobno dokumentacijo, ki vsebuje vse potrebne informacije o sistemu in njegovem namenu, da organi ocenijo njegovo skladnost;
  • jasne in ustrezne informacije za uvajalca;
  • ustrezni človeški nadzorni ukrepi za zmanjšanje tveganja;
  • visoka stopnja robustnosti, varnosti in natančnosti.

Vsi sistemi za biometrično identifikacijo na daljavo se štejejo za sisteme z visokim tveganjem in zanje veljajo stroge zahteve. Uporaba biometrične identifikacije na daljavo v javno dostopnih prostorih za namene kazenskega pregona je načeloma prepovedana.

Ozke izjeme so strogo opredeljene in urejene, na primer kadar je to potrebno za iskanje pogrešanega otroka, preprečitev posebne in neposredne teroristične grožnje ali za odkrivanje, iskanje, identifikacijo ali pregon storilca ali osumljenca hudega kaznivega dejanja.

Za te uporabe je potrebno dovoljenje sodnega ali drugega neodvisnega organa ter ustrezne časovne omejitve, geografski doseg in iskane podatkovne zbirke.

Omejeno tveganje

Omejeno tveganje kažena tveganja, povezana s pomanjkanjem preglednosti pri uporabi umetne inteligence. Akt o umetni inteligenci uvaja posebne obveznosti glede preglednosti , da se zagotovi , da so ljudje po potrebi obveščeni, kar spodbuja zaupanje. Na primer, pri uporabi umetnointeligenčnih sistemov, kot so chatboti, bi bilo treba ljudi opozoriti, da komunicirajo s strojem, da se lahko informirano odločijo za nadaljevanje ali korak nazaj. Ponudniki bodo morali tudi zagotoviti, da so vsebine, ki jih ustvarja umetna inteligenca, prepoznavne. Poleg tega je treba besedilo, ki ga ustvarja umetna inteligenca in je namenjeno obveščanju javnosti o zadevah javnega interesa, označiti kot umetno ustvarjeno. To velja tudi za avdio in video vsebine, ki predstavljajo globoke ponaredke.

Minimalno tveganje ali brez tveganja

Akt o umetni inteligenci omogoča brezplačno uporabo umetne inteligence z minimalnim tveganjem. To vključuje aplikacije, kot so video igre, ki temeljijo na umetni inteligenci, ali filtri za neželeno pošto. Velika večina umetnointeligenčnih sistemov, ki se trenutno uporabljajo v EU, spada v to kategorijo.

Kako vse to deluje v praksi za ponudnike umetnointeligenčnih sistemov velikega tveganja?

postopek po korakih za izjavo o skladnosti
How does it all work in practice for providers of high risk AI systems?

Ko je umetnointeligenčni sistem na trgu, so organi pristojni za nadzor trga, uvajalci zagotavljajo človeški nadzor in spremljanje, ponudniki pa imajo vzpostavljen sistem spremljanja po dajanju na trg. Ponudniki in uvajalci bodo poročali tudi o resnih incidentih in motnjah v delovanju.

Rešitev za zaupanja vredno uporabo velikih modelov umetne inteligence

Vse bolj postajajo splošni modeli umetne inteligence sestavni deli sistemov umetne inteligence. Ti modeli lahko opravljajo in prilagajajo nešteto različnih nalog.

Medtem ko lahko modeli umetne inteligence za splošne namene omogočajo boljše in zmogljivejše rešitve umetne inteligence, je težko nadzorovati vse zmogljivosti.

Tam akt o umetni inteligenci uvaja obveznosti glede preglednosti za vse modele umetne inteligence za splošne namene, da se omogoči boljše razumevanje teh modelov in dodatne obveznosti glede obvladovanja tveganja za zelo zmogljive in vplivne modele. Te dodatne obveznosti vključujejo samoocenjevanje in zmanjševanje sistemskih tveganj, poročanje o resnih incidentih, izvajanje ocen preskusov in modelov ter zahteve glede kibernetske varnosti.

Zakonodaja, primerna za prihodnost

Ker je umetna inteligenca hitro razvijajoča se tehnologija, ima predlog pristop, primeren za prihodnost, ki omogoča, da se pravila prilagodijo tehnološkim spremembam. Aplikacije umetne inteligence bi morale ostati zaupanja vredne tudi po tem, ko so bile dane na trg. Za to sta potrebna stalna kakovost in obvladovanje tveganj s strani ponudnikov.

Izvrševanje in izvajanje

Evropski urad za umetno inteligenco, ustanovljen februarja 2024 v okviru Komisije, nadzoruje izvrševanje in izvajanje zakona o umetni inteligenci z državami članicami. Njen cilj je ustvariti okolje, v katerem tehnologije umetne inteligence spoštujejo človekovo dostojanstvo, pravice in zaupanje. Spodbuja tudi sodelovanje, inovacije in raziskave na področju umetne inteligence med različnimi deležniki. Poleg tega sodeluje v mednarodnem dialogu in sodelovanju pri vprašanjih umetne inteligence, pri čemer priznava potrebo po globalni uskladitvi upravljanja umetne inteligence. S temi prizadevanji si Evropski urad za umetno inteligenco prizadeva, da bi Evropa postala vodilna v etičnem in trajnostnem razvoju tehnologij umetne inteligence.

Naslednji koraki

Evropski parlament in Svet EU stadecembra 2023 dosegla politični dogovor o aktu o umetni inteligenci. Besedilo je v postopku uradnega sprejetja in prevajanja. Zakon o umetni inteligenci bo začel veljati 20 dni po objavi v Uradnem listu in se bo v celoti začel uporabljati dve leti pozneje, z nekaterimi izjemami: prepovedi bodo začele veljati po šestih mesecih, pravila upravljanja in obveznosti za modele umetne inteligence za splošne namene pa se bodo začela uporabljati po 12 mesecih, pravila za umetnointeligenčne sisteme, vgrajene v regulirane proizvode, pa se bodo začela uporabljati po 36 mesecih. Da bi olajšala prehod na novi regulativni okvir, je Komisija začela izvajati pakt za umetno inteligenco, ki je prostovoljna pobuda, katere namen je podpreti prihodnje izvajanje in poziva razvijalce umetne inteligence iz Evrope in zunaj nje, naj vnaprej izpolnijo ključne obveznosti iz akta o umetni inteligenci.

Najnovejše novice

EU in ZDA še naprej tesno sodelujeta na področju trgovine in tehnologije v času svetovnih izzivov

Danes sta EU in Združene države Amerike v Leuvnu v Belgiji organizirali šesto sejo Sveta EU-ZDA za trgovino in tehnologijo (TTC). Na srečanju so ministri lahko nadgradili tekoče delo in predstavili nove rezultate TTC po dveh letih in pol sodelovanja.

PRESS RELEASE |
Komisija objavila razpise za naložbe v digitalne zmogljivosti in tehnologijo v vrednosti več kot 176 milijonov evrov

Evropska komisija je objavila nov sklop razpisov za zbiranje predlogov v okviru delovnih programov programa za digitalno Evropo za obdobje 2023–2024, da bi okrepila digitalne zmogljivosti po vsej EU. Ti razpisi so odprti za podjetja, javne uprave in druge subjekte iz držav članic EU, držav Efte/EGP in pridruženih držav. Proračun za ta niz razpisov znaša več kot 176 milijonov EUR.

Povezane vsebine

Širša slika

Evropski pristop k umetni inteligenci

Pristop EU k umetni inteligenci se osredotoča na odličnost in zaupanje, njegov cilj pa je okrepiti raziskovalne in industrijske zmogljivosti ob hkratnem zagotavljanju varnosti in temeljnih pravic.

Podrobnejše informacije

Pakt o umetni inteligenci

Pakt o umetni inteligenci bo spodbujal in podpiral podjetja pri prihodnjem načrtovanju ukrepov iz akta o umetni inteligenci.

Glej tudi

Usklajen načrt za umetno inteligenco

Cilj usklajenega načrta za umetno inteligenco je pospešiti naložbe v umetno inteligenco, izvajati strategije in programe na področju umetne inteligence ter uskladiti politiko na področju umetne inteligence, da bi preprečili razdrobljenost v Evropi.

Evropsko zavezništvo za umetno inteligenco

Evropska zveza za umetno inteligenco je pobuda Evropske komisije za vzpostavitev odprtega političnega dialoga o umetni inteligenci. Od ustanovitve leta 2018 je zavezništvo za umetno inteligenco prek rednih dogodkov, javnih posvetovanj in spletnih forumov vključilo približno 6000...