Skip to main content
Shaping Europe’s digital future

Dirbtinio intelekto aktas yra pirmoji DI teisinė sistema, kurioje atsižvelgiama į dirbtinio intelekto keliamą riziką ir siekiama, kad Europa atliktų pagrindinį vaidmenį pasaulyje.

    vyras ir moteris dirba aukštųjų technologijų ekrane

© gorodenkoff - iStock Getty Images Plus

Di aktusiekiama DI kūrėjams ir diegėjams nustatyti aiškius reikalavimus ir prievoles, susijusias su konkrečiais DI naudojimo būdais. Kartu reglamentu siekiama sumažinti administracinę ir finansinę naštą įmonėms, visų pirma mažosioms ir vidutinėms įmonėms (MVĮ).

Di aktas yra platesnio politikos priemonių rinkinio, kuriuo remiamas patikimo dirbtinio intelekto plėtojimas, dalis, kuris taip pat apima DI inovacijų dokumentų rinkinį ir Suderintą DI planą. Kartu šiomis priemonėmis bus užtikrinta žmonių ir įmonių sauga ir pagrindinės teisės dirbtinio intelekto srityje. Jos taip pat sustiprins dirbtinio intelekto įsisavinimą, investicijas ir inovacijas visoje ES.

Dirbtinio intelekto aktas yra pirmoji išsami DI srities teisinė sistema visame pasaulyje. Naujų taisyklių tikslas – skatinti patikimą dirbtinį intelektą Europoje ir už jos ribų, užtikrinant, kad DI sistemose būtų laikomasi pagrindinių teisių, saugos ir etikos principų, ir šalinant labai galingų ir poveikį darančių DI modelių riziką.

Kodėl mums reikia dirbtinio intelekto taisyklių?

Di aktu užtikrinama, kad europiečiai galėtų pasitikėti tuo, ką gali pasiūlyti dirbtinis intelektas. Nors dauguma DI sistemų nekelia rizikos ir gali padėti spręsti daugelį visuomenės uždavinių, tam tikros DI sistemos kelia riziką, kurią turime spręsti, kad išvengtume nepageidaujamų rezultatų.

Pavyzdžiui, dažnai neįmanoma išsiaiškinti, kodėl DI sistema priėmė sprendimą ar prognozavo ir ėmėsi konkrečių veiksmų. Taigi gali būti sunku įvertinti, ar asmuo buvo nesąžiningai nepalankioje padėtyje, pavyzdžiui, priimant sprendimą dėl įdarbinimo arba teikiant prašymą taikyti visuomenei naudingą sistemą.

Nors galiojančiuose teisės aktuose numatyta tam tikra apsauga, jos nepakanka konkretiems sunkumams, kuriuos gali sukelti DI sistemos, spręsti.

Siūlomomis taisyklėmis:

  • šalinti riziką, kurią konkrečiai sukuria DI taikomosios programos;
  • uždrausti DI praktiką, kuri kelia nepriimtiną riziką;
  • sudaro didelės rizikos taikomųjų programų sąrašą;
  • nustatyti aiškius DI sistemų, skirtų didelės rizikos prietaikoms, reikalavimus;
  • nustatyti konkrečius didelės rizikos DI prietaikų diegėjų ir tiekėjų įpareigojimus;
  • reikalauti, kad prieš pradedant naudoti arba pateikiant rinkai tam tikrą DI sistemą būtų atliktas atitikties vertinimas;
  • užtikrinti vykdymo užtikrinimą po to, kai tam tikra DI sistema pateikiama rinkai;
  • sukurti Europos ir nacionalinio lygmens valdymo struktūrą.

Rizika grindžiamas požiūris

Reguliavimo sistemoje nustatyti keturi DI sistemų keliamos rizikos lygiai:

piramidė rodo keturis rizikos lygius: Nepriimtina rizika; Didelės rizikos; ribota rizika, minimali arba visai nerizikinga

 

Visos DI sistemos, kurios, kaip manoma, kelia akivaizdžią grėsmę žmonių saugumui, pragyvenimo šaltiniams ir teisėms, bus uždraustos vyriausybės socialiniuose baluose žaisluose, naudojančiuose balso pagalbą, skatinančią pavojingą elgesį.

Didelė rizika

Didelės rizikos DI sistemos apima DI technologijas, naudojamas:

  • ypatingos svarbos infrastruktūros objektai (pvz., transportas), dėl kurių galėtų kilti pavojus piliečių gyvybei ir sveikatai;
  • švietimo ar profesinio mokymo, kuris gali nulemti galimybes gauti išsilavinimą ir įgyti profesinį gyvenimą (pvz., egzaminų balas);
  • gaminių saugos komponentai (pvz., dirbtinio intelekto taikymas chirurgijoje su robotais);
  • įdarbinimas, darbuotojų valdymas ir galimybė dirbti savarankiškai (pvz., įdarbinimo procedūroms skirta gyvenimo aprašymų rūšiavimo programinė įranga);
  • esminės privačios ir viešosios paslaugos (pvz., kredito balais nesuteikiant piliečiams galimybės gauti paskolą);
  • teisėsaugos institucijoms, kurios gali pažeisti žmonių pagrindines teises (pvz., įrodymų patikimumo vertinimas);
  • migracijos, prieglobsčio ir sienų kontrolės valdymas (pvz., automatizuotas prašymų išduoti vizą nagrinėjimas);
  • teisingumo vykdymas ir demokratiniai procesai (pvz., dirbtinio intelekto sprendimai teismo sprendimams ieškoti).

Didelės rizikos DI sistemoms bus taikomi griežti įpareigojimai prieš jas pateikiant rinkai:

  • tinkamos rizikos vertinimo ir mažinimo sistemos;
  • aukštos kokybės duomenų rinkiniai, kuriais sistema aprūpinama siekiant kuo labiau sumažinti riziką ir diskriminacinius rezultatus;
  • veiklos registravimas siekiant užtikrinti rezultatų atsekamumą;
  • išsamūs dokumentai, kuriuose pateikiama visa informacija, kurios reikia apie sistemą ir jos paskirtį, kad institucijos galėtų įvertinti jos atitiktį reikalavimams;
  • aiškią ir tinkamą informaciją diegėjui;
  • tinkamos žmogaus priežiūros priemonės rizikai kuo labiau sumažinti;
  • aukštas patikimumo, saugumo ir tikslumo lygis.

Visos nuotolinės biometrinės tapatybės nustatymo sistemos laikomos keliančiomis didelę riziką ir joms taikomi griežti reikalavimai. Nuotolinį biometrinį identifikavimą viešosiose erdvėse teisėsaugos tikslais iš esmės draudžiama naudoti.

Siauros išimtys yra griežtai apibrėžtos ir reglamentuojamos, pavyzdžiui, kai reikia ieškoti dingusio vaiko, užkirsti kelią konkrečiai ir neišvengiamai terorizmo grėsmei arba nustatyti sunkią nusikalstamą veiką padariusį ar įtariamą asmenį, nustatyti jo buvimo vietą, nustatyti jo tapatybę ar patraukti baudžiamojon atsakomybėn.

Tokiam naudojimui reikalingas teisminės ar kitos nepriklausomos įstaigos leidimas ir atitinkami laiko, geografinės aprėpties ir ieškomų duomenų bazių apribojimai.

Ribota rizika

Ribota rizika– tai rizika, susijusi su nepakankamu DI naudojimo skaidrumu. Di akte nustatyti konkretūs skaidrumo įpareigojimai, kuriais siekiama užtikrinti, kad prireikus žmonės būtų informuojami, skatinant pasitikėjimą. Pavyzdžiui, naudojant DI sistemas, pvz., pokalbių robotus, žmonės turėtų būti informuojami, kad jie sąveikauja su mašina, kad galėtų priimti informacija pagrįstą sprendimą tęsti veiklą arba grįžti atgal. Paslaugų teikėjai taip pat turės užtikrinti, kad dirbtinio intelekto sukurtas turinys būtų atpažįstamas. Be to, dirbtinio intelekto sukurtas tekstas, skelbiamas siekiant informuoti visuomenę viešojo intereso klausimais, turi būti pažymėtas kaip dirbtinai sukurtas. Tai taip pat taikoma garso ir vaizdo turiniui, kuris sudaro gilias klastotes.

Minimali rizika arba visai nerizikinga

Di įstatymas leidžia laisvai naudoti minimalios rizikos DI. Tai apima tokias taikomąsias programas kaip dirbtiniu intelektu grindžiami vaizdo žaidimai arba šlamšto filtrai. Didžioji dauguma šiuo metu ES naudojamų DI sistemų priklauso šiai kategorijai.

Kaip visa tai praktiškai veikia didelės rizikos DI sistemų tiekėjams?

nuoseklus atitikties deklaravimo procesas
How does it all work in practice for providers of high risk AI systems?

Kai DI sistema patenka į rinką, institucijos yra atsakingos už rinkos priežiūrą, diegėjai užtikrina žmogaus vykdomą priežiūrą ir stebėseną, o paslaugų teikėjai turi įdiegtą stebėsenos po pateikimo rinkai sistemą. Paslaugų teikėjai ir diegėjai taip pat praneš apie rimtus incidentus ir veikimo sutrikimus.

Sprendimas patikimam didelių DI modelių naudojimui

Vis daugiau bendrosios paskirties DI modelių tampa DI sistemų komponentais. Šie modeliai gali atlikti ir pritaikyti daugybę skirtingų užduočių.

Nors bendrosios paskirties DI modeliai gali sudaryti sąlygas geresniems ir galingesniems DI sprendimams, sunku prižiūrėti visus pajėgumus.

Čia DI aktu nustatomos skaidrumo prievolės visiems bendrosios paskirties DI modeliams, kad būtų galima geriau suprasti šiuos modelius, o labai pajėgiems ir poveikį darantiems modeliams – papildomas rizikos valdymo prievoles. Šios papildomos prievolės apima įsivertinimą ir sisteminės rizikos mažinimą, pranešimą apie rimtus incidentus, bandymų ir modelių vertinimų atlikimą, taip pat kibernetinio saugumo reikalavimus.

Perspektyvūs teisės aktai

Kadangi dirbtinis intelektas yra sparčiai besivystanti technologija, pasiūlyme taikomas perspektyvinis požiūris, leidžiantis taisykles pritaikyti prie technologinių pokyčių. Dirbtinio intelekto taikomosios programos turėtų išlikti patikimos net po to, kai jos buvo pateiktos rinkai. Tam reikia, kad paslaugų teikėjai nuolat valdytų kokybę ir riziką.

Vykdymo užtikrinimas ir įgyvendinimas

2024 m. vasario mėn. Komisijoje įsteigta Europos dirbtinio intelekto tarnyba prižiūri DI akto vykdymo užtikrinimą ir įgyvendinimą kartu su valstybėmis narėmis. Ja siekiama sukurti aplinką, kurioje dirbtinio intelekto technologijos gerbtų žmogaus orumą, teises ir pasitikėjimą. Ji taip pat skatina įvairių suinteresuotųjų subjektų bendradarbiavimą, inovacijas ir mokslinius tyrimus dirbtinio intelekto srityje. Be to, ji dalyvauja tarptautiniame dialoge ir bendradarbiauja dirbtinio intelekto klausimais, pripažindama, kad reikia pasaulinio suderinimo dirbtinio intelekto valdymo srityje. Šiomis pastangomis Europos dirbtinio intelekto biuras siekia, kad Europa taptų lydere etiško ir tvaraus dirbtinio intelekto technologijų vystymo srityje.

Tolesni veiksmai

2023 m.gruodžio mėn. Europos Parlamentas ir ES Taryba pasiekė politinį susitarimą dėl DI akto. Tekstas šiuo metu oficialiai priimamas ir verčiamas. Di įstatymas įsigalios praėjus 20 dienų nuo jo paskelbimo Oficialiajame leidinyje ir bus visapusiškai taikomas po 2 metų, išskyrus tam tikras išimtis: draudimai įsigalios po šešių mėnesių, valdymo taisyklės ir įpareigojimai bendrosios paskirties DI modeliams bus pradėti taikyti po 12 mėnesių, o į reguliuojamus produktus įterptoms DI sistemoms taikomos taisyklės bus taikomos po 36 mėnesių. Siekdama palengvinti perėjimą prie naujos reguliavimo sistemos, Komisija pradėjo įgyvendinti DI paktą – savanorišką iniciatyvą, kuria siekiama remti būsimą įgyvendinimą, o dirbtinio intelekto kūrėjai iš Europos ir kitų šalių raginami iš anksto laikytis pagrindinių DI akte nustatytų įpareigojimų.

Naujausios naujienos

ES ir Korėjos Respublika dar kartą patvirtina savo partnerystę siekiant įtraukios ir atsparios skaitmeninės transformacijos

Šiandien Briuselyje įvyko antrasis ES ir Korėjos Respublikos Skaitmeninės partnerystės tarybos posėdis. Tarybai bendrai pirmininkavo už vidaus rinką atsakingas Komisijos narys Thierry Bretonas ir Korėjos mokslo bei informacinių ir ryšių technologijų ministras dr. Lee Jong-Ho.

PRESS RELEASE |
Komisija skelbia kvietimus daugiau kaip 176 mln. EUR investuoti į skaitmeninius pajėgumus ir technologijas

Siekdama stiprinti skaitmeninius pajėgumus visoje ES, Europos Komisija paskelbė naujus kvietimus teikti pasiūlymus pagal Skaitmeninės Europos programos 2023–2024 m. darbo programas. Šiuose kvietimuose gali dalyvauti įmonės, viešojo administravimo institucijos ir kiti subjektai iš ES valstybių narių, ELPA/EEE šalių ir asocijuotųjų šalių. Šiam kvietimų teikti pasiūlymus rinkiniui skirtas biudžetas viršija 176 mln. EUR.

PRESS RELEASE |
Commission makes first payment of €202 million to Finland under the Recovery Facility

The European Commission opened a new set of calls for proposals under the 2023-2024 Work Programmes of the Digital Europe Programme to strengthen digital capacities across EU. These calls are open to businesses, public administrations, and other entities from the EU Member States, EFTA/EEA countries, and associated countries. The budget for this set of calls is over €176 million.

Daugiau šia tema

Bendras vaizdas

Europos požiūris į dirbtinį intelektą

ES požiūris į dirbtinį intelektą yra kompetencijos ir pasitikėjimo centras, kuriuo siekiama skatinti mokslinius tyrimus ir pramonės pajėgumus, kartu užtikrinant saugą ir pagrindines teises.

Išsamiau

Di paktas

Di paktu įmonės bus skatinamos ir remiamos ateityje planuoti DI akte numatytas priemones.

Taip pat žr.

Suderintas dirbtinio intelekto planas

Suderintu dirbtinio intelekto planu siekiama paspartinti investicijas į dirbtinį intelektą, įgyvendinti DI strategijas ir programas ir suderinti DI politiką, kad būtų išvengta susiskaidymo Europoje.

Europos dirbtinio intelekto aljansas

Europos dirbtinio intelekto aljansas yra Europos Komisijos iniciatyva užmegzti atvirą politinį dialogą dirbtinio intelekto klausimais. Nuo savo veiklos pradžios 2018 m. DI aljansas reguliariai rengė renginius, rengė viešas konsultacijas ir rengė internetinius forumų mainus.