Di aktusiekiama DI kūrėjams ir diegėjams nustatyti aiškius reikalavimus ir prievoles, susijusias su konkrečiais DI naudojimo būdais. Kartu reglamentu siekiama sumažinti administracinę ir finansinę naštą įmonėms, visų pirma mažosioms ir vidutinėms įmonėms (MVĮ).
Di aktas yra platesnio politikos priemonių rinkinio, kuriuo remiamas patikimo dirbtinio intelekto plėtojimas, dalis, kuris taip pat apima DI inovacijų dokumentų rinkinį ir Suderintą DI planą. Kartu šiomis priemonėmis bus užtikrinta žmonių ir įmonių sauga ir pagrindinės teisės dirbtinio intelekto srityje. Jos taip pat sustiprins dirbtinio intelekto įsisavinimą, investicijas ir inovacijas visoje ES.
Dirbtinio intelekto aktas yra pirmoji išsami DI srities teisinė sistema visame pasaulyje. Naujų taisyklių tikslas – skatinti patikimą dirbtinį intelektą Europoje ir už jos ribų, užtikrinant, kad DI sistemose būtų laikomasi pagrindinių teisių, saugos ir etikos principų, ir šalinant labai galingų ir poveikį darančių DI modelių riziką.
Kodėl mums reikia dirbtinio intelekto taisyklių?
Di aktu užtikrinama, kad europiečiai galėtų pasitikėti tuo, ką gali pasiūlyti dirbtinis intelektas. Nors dauguma DI sistemų nekelia rizikos ir gali padėti spręsti daugelį visuomenės uždavinių, tam tikros DI sistemos kelia riziką, kurią turime spręsti, kad išvengtume nepageidaujamų rezultatų.
Pavyzdžiui, dažnai neįmanoma išsiaiškinti, kodėl DI sistema priėmė sprendimą ar prognozavo ir ėmėsi konkrečių veiksmų. Taigi gali būti sunku įvertinti, ar asmuo buvo nesąžiningai nepalankioje padėtyje, pavyzdžiui, priimant sprendimą dėl įdarbinimo arba teikiant prašymą taikyti visuomenei naudingą sistemą.
Nors galiojančiuose teisės aktuose numatyta tam tikra apsauga, jos nepakanka konkretiems sunkumams, kuriuos gali sukelti DI sistemos, spręsti.
Siūlomomis taisyklėmis:
- šalinti riziką, kurią konkrečiai sukuria DI taikomosios programos;
- uždrausti DI praktiką, kuri kelia nepriimtiną riziką;
- sudaro didelės rizikos taikomųjų programų sąrašą;
- nustatyti aiškius DI sistemų, skirtų didelės rizikos prietaikoms, reikalavimus;
- nustatyti konkrečius didelės rizikos DI prietaikų diegėjų ir tiekėjų įpareigojimus;
- reikalauti, kad prieš pradedant naudoti arba pateikiant rinkai tam tikrą DI sistemą būtų atliktas atitikties vertinimas;
- užtikrinti vykdymo užtikrinimą po to, kai tam tikra DI sistema pateikiama rinkai;
- sukurti Europos ir nacionalinio lygmens valdymo struktūrą.
Rizika grindžiamas požiūris
Reguliavimo sistemoje nustatyti keturi DI sistemų keliamos rizikos lygiai:
Visos DI sistemos, kurios, kaip manoma, kelia akivaizdžią grėsmę žmonių saugumui, pragyvenimo šaltiniams ir teisėms, bus uždraustos vyriausybės socialiniuose baluose žaisluose, naudojančiuose balso pagalbą, skatinančią pavojingą elgesį.
Didelė rizika
Didelės rizikos DI sistemos apima DI technologijas, naudojamas:
- ypatingos svarbos infrastruktūros objektai (pvz., transportas), dėl kurių galėtų kilti pavojus piliečių gyvybei ir sveikatai;
- švietimo ar profesinio mokymo, kuris gali nulemti galimybes gauti išsilavinimą ir įgyti profesinį gyvenimą (pvz., egzaminų balas);
- gaminių saugos komponentai (pvz., dirbtinio intelekto taikymas chirurgijoje su robotais);
- įdarbinimas, darbuotojų valdymas ir galimybė dirbti savarankiškai (pvz., įdarbinimo procedūroms skirta gyvenimo aprašymų rūšiavimo programinė įranga);
- esminės privačios ir viešosios paslaugos (pvz., kredito balais nesuteikiant piliečiams galimybės gauti paskolą);
- teisėsaugos institucijoms, kurios gali pažeisti žmonių pagrindines teises (pvz., įrodymų patikimumo vertinimas);
- migracijos, prieglobsčio ir sienų kontrolės valdymas (pvz., automatizuotas prašymų išduoti vizą nagrinėjimas);
- teisingumo vykdymas ir demokratiniai procesai (pvz., dirbtinio intelekto sprendimai teismo sprendimams ieškoti).
Didelės rizikos DI sistemoms bus taikomi griežti įpareigojimai prieš jas pateikiant rinkai:
- tinkamos rizikos vertinimo ir mažinimo sistemos;
- aukštos kokybės duomenų rinkiniai, kuriais sistema aprūpinama siekiant kuo labiau sumažinti riziką ir diskriminacinius rezultatus;
- veiklos registravimas siekiant užtikrinti rezultatų atsekamumą;
- išsamūs dokumentai, kuriuose pateikiama visa informacija, kurios reikia apie sistemą ir jos paskirtį, kad institucijos galėtų įvertinti jos atitiktį reikalavimams;
- aiškią ir tinkamą informaciją diegėjui;
- tinkamos žmogaus priežiūros priemonės rizikai kuo labiau sumažinti;
- aukštas patikimumo, saugumo ir tikslumo lygis.
Visos nuotolinės biometrinės tapatybės nustatymo sistemos laikomos keliančiomis didelę riziką ir joms taikomi griežti reikalavimai. Nuotolinį biometrinį identifikavimą viešosiose erdvėse teisėsaugos tikslais iš esmės draudžiama naudoti.
Siauros išimtys yra griežtai apibrėžtos ir reglamentuojamos, pavyzdžiui, kai reikia ieškoti dingusio vaiko, užkirsti kelią konkrečiai ir neišvengiamai terorizmo grėsmei arba nustatyti sunkią nusikalstamą veiką padariusį ar įtariamą asmenį, nustatyti jo buvimo vietą, nustatyti jo tapatybę ar patraukti baudžiamojon atsakomybėn.
Tokiam naudojimui reikalingas teisminės ar kitos nepriklausomos įstaigos leidimas ir atitinkami laiko, geografinės aprėpties ir ieškomų duomenų bazių apribojimai.
Ribota rizika
Ribota rizika– tai rizika, susijusi su nepakankamu DI naudojimo skaidrumu. Di akte nustatyti konkretūs skaidrumo įpareigojimai, kuriais siekiama užtikrinti, kad prireikus žmonės būtų informuojami, skatinant pasitikėjimą. Pavyzdžiui, naudojant DI sistemas, pvz., pokalbių robotus, žmonės turėtų būti informuojami, kad jie sąveikauja su mašina, kad galėtų priimti informacija pagrįstą sprendimą tęsti veiklą arba grįžti atgal. Paslaugų teikėjai taip pat turės užtikrinti, kad dirbtinio intelekto sukurtas turinys būtų atpažįstamas. Be to, dirbtinio intelekto sukurtas tekstas, skelbiamas siekiant informuoti visuomenę viešojo intereso klausimais, turi būti pažymėtas kaip dirbtinai sukurtas. Tai taip pat taikoma garso ir vaizdo turiniui, kuris sudaro gilias klastotes.
Minimali rizika arba visai nerizikinga
Di įstatymas leidžia laisvai naudoti minimalios rizikos DI. Tai apima tokias taikomąsias programas kaip dirbtiniu intelektu grindžiami vaizdo žaidimai arba šlamšto filtrai. Didžioji dauguma šiuo metu ES naudojamų DI sistemų priklauso šiai kategorijai.
Kaip visa tai praktiškai veikia didelės rizikos DI sistemų tiekėjams?
Kai DI sistema patenka į rinką, institucijos yra atsakingos už rinkos priežiūrą, diegėjai užtikrina žmogaus vykdomą priežiūrą ir stebėseną, o paslaugų teikėjai turi įdiegtą stebėsenos po pateikimo rinkai sistemą. Paslaugų teikėjai ir diegėjai taip pat praneš apie rimtus incidentus ir veikimo sutrikimus.
Sprendimas patikimam didelių DI modelių naudojimui
Vis daugiau bendrosios paskirties DI modelių tampa DI sistemų komponentais. Šie modeliai gali atlikti ir pritaikyti daugybę skirtingų užduočių.
Nors bendrosios paskirties DI modeliai gali sudaryti sąlygas geresniems ir galingesniems DI sprendimams, sunku prižiūrėti visus pajėgumus.
Čia DI aktu nustatomos skaidrumo prievolės visiems bendrosios paskirties DI modeliams, kad būtų galima geriau suprasti šiuos modelius, o labai pajėgiems ir poveikį darantiems modeliams – papildomas rizikos valdymo prievoles. Šios papildomos prievolės apima įsivertinimą ir sisteminės rizikos mažinimą, pranešimą apie rimtus incidentus, bandymų ir modelių vertinimų atlikimą, taip pat kibernetinio saugumo reikalavimus.
Perspektyvūs teisės aktai
Kadangi dirbtinis intelektas yra sparčiai besivystanti technologija, pasiūlyme taikomas perspektyvinis požiūris, leidžiantis taisykles pritaikyti prie technologinių pokyčių. Dirbtinio intelekto taikomosios programos turėtų išlikti patikimos net po to, kai jos buvo pateiktos rinkai. Tam reikia, kad paslaugų teikėjai nuolat valdytų kokybę ir riziką.
Vykdymo užtikrinimas ir įgyvendinimas
2024 m. vasario mėn. Komisijoje įsteigta Europos dirbtinio intelekto tarnyba prižiūri DI akto vykdymo užtikrinimą ir įgyvendinimą kartu su valstybėmis narėmis. Ja siekiama sukurti aplinką, kurioje dirbtinio intelekto technologijos gerbtų žmogaus orumą, teises ir pasitikėjimą. Ji taip pat skatina įvairių suinteresuotųjų subjektų bendradarbiavimą, inovacijas ir mokslinius tyrimus dirbtinio intelekto srityje. Be to, ji dalyvauja tarptautiniame dialoge ir bendradarbiauja dirbtinio intelekto klausimais, pripažindama, kad reikia pasaulinio suderinimo dirbtinio intelekto valdymo srityje. Šiomis pastangomis Europos dirbtinio intelekto biuras siekia, kad Europa taptų lydere etiško ir tvaraus dirbtinio intelekto technologijų vystymo srityje.
Tolesni veiksmai
2023 m.gruodžio mėn. Europos Parlamentas ir ES Taryba pasiekė politinį susitarimą dėl DI akto. Tekstas šiuo metu oficialiai priimamas ir verčiamas. Di įstatymas įsigalios praėjus 20 dienų nuo jo paskelbimo Oficialiajame leidinyje ir bus visapusiškai taikomas po 2 metų, išskyrus tam tikras išimtis: draudimai įsigalios po šešių mėnesių, valdymo taisyklės ir įpareigojimai bendrosios paskirties DI modeliams bus pradėti taikyti po 12 mėnesių, o į reguliuojamus produktus įterptoms DI sistemoms taikomos taisyklės bus taikomos po 36 mėnesių. Siekdama palengvinti perėjimą prie naujos reguliavimo sistemos, Komisija pradėjo įgyvendinti DI paktą – savanorišką iniciatyvą, kuria siekiama remti būsimą įgyvendinimą, o dirbtinio intelekto kūrėjai iš Europos ir kitų šalių raginami iš anksto laikytis pagrindinių DI akte nustatytų įpareigojimų.
Naujausios naujienos
Factsheet / infographic
Daugiau šia tema
Bendras vaizdas
ES požiūris į dirbtinį intelektą yra kompetencijos ir pasitikėjimo centras, kuriuo siekiama skatinti mokslinius tyrimus ir pramonės pajėgumus, kartu užtikrinant saugą ir pagrindines teises.
Išsamiau
Taip pat žr.
Tarptautinė į žmogų orientuoto dirbtinio intelekto iniciatyva padės propaguoti ES tvaraus ir patikimo dirbtinio intelekto viziją.
Suderintu dirbtinio intelekto planu siekiama paspartinti investicijas į dirbtinį intelektą, įgyvendinti DI strategijas ir programas ir suderinti DI politiką, kad būtų išvengta susiskaidymo Europoje.
Europos Komisija paskyrė ekspertų grupę, kuri konsultuos savo dirbtinio intelekto strategijos klausimais.
Europos dirbtinio intelekto aljansas yra Europos Komisijos iniciatyva užmegzti atvirą politinį dialogą dirbtinio intelekto klausimais. Nuo savo veiklos pradžios 2018 m. DI aljansas reguliariai rengė renginius, rengė viešas konsultacijas ir rengė internetinius forumų mainus.