Tehisintellekti käsitleva õigusraamistiku ettepanek

Õigusakti ettepaneku eesmärk on anda tehisintellekti arendajatele, juurutajatele ja kasutajatele selged nõuded ja kohustused seoses tehisintellekti konkreetsete kasutusviisidega. Samal ajal püütakse ettepanekuga vähendada ettevõtjate, eelkõige väikeste ja keskmise suurusega ettevõtjate (VKEde) haldus- ja finantskoormust.

Ettepanek on osa laiemast tehisintellekti paketist, mis hõlmab ka tehisintellekti käsitlevat ajakohastatud kooskõlastatud kava. Koos tagavad õigusraamistik ja kooskõlastatud kava inimeste ja ettevõtjate turvalisuse ja põhiõigused tehisintellekti valdkonnas. Need tugevdavad tehisintellekti kasutuselevõttu, investeeringuid ja innovatsiooni kogu ELis.

Miks on vaja tehisintellekti käsitlevaid eeskirju?

Kavandatava tehisintellekti määrusega tagatakse, et eurooplased saavad usaldada seda, mida tehisintellektil on pakkuda. Kuigi enamik tehisintellektisüsteeme ei kujuta endast ohtu ja võivad aidata lahendada paljusid ühiskondlikke probleeme, tekitavad teatavad tehisintellektisüsteemid riske, millega tuleb tegeleda, et vältida soovimatuid tulemusi.

Näiteks ei ole sageli võimalik välja selgitada, miks tehisintellektisüsteem on teinud otsuse või prognoosinud ja võtnud konkreetse meetme. Seega võib osutuda raskeks hinnata, kas keegi on ebaõiglaselt ebasoodsas olukorras, näiteks töölevõtmisotsuse või avaliku huvi skeemi taotluse puhul.

Kuigi kehtivad õigusaktid pakuvad teatavat kaitset, ei ole need piisavad, et lahendada konkreetseid probleeme, mida tehisintellektisüsteemid võivad tekitada.

Kavandatavad eeskirjad on järgmised:

• tegeleda konkreetselt tehisintellekti rakendustest tulenevate riskidega;
• esitada suure riskiga rakenduste loetelu;
• kehtestada tehisintellektisüsteemidele selged nõuded suure riskiga rakenduste jaoks;
• määrata kindlaks tehisintellekti kasutajate ja kõrge riskitasemega rakenduste pakkujate konkreetsed kohustused;
• teeb ettepaneku vastavushindamise kohta enne tehisintellektisüsteemi kasutuselevõtmist või turule laskmist;
• teeb ettepaneku jõustamise kohta pärast sellise tehisintellektisüsteemi turule laskmist;
• teha ettepanek juhtimisstruktuuri loomiseks Euroopa ja riiklikul tasandil.

Riskipõhine lähenemisviis

Õigusraamistikus on määratletud neli tehisintellekti riskitaset:

• Vastuvõetamatu risk
• Kõrge risk
• Piiratud risk
• Minimaalne või puudub risk

Vastuvõetamatu risk

Kõik tehisintellekti süsteemid, mida peetakse selgeks ohuks inimeste turvalisusele, elatusvahenditele ja õigustele, keelatakse valitsuste sotsiaalse punktisumma andmisel mänguasjadele, mis soodustavad ohtlikku käitumist.

Kõrge risk

Suure riskiga tehisintellektisüsteemid hõlmavad tehisintellekti tehnoloogiat, mida kasutatakse järgmistes valdkondades:

• elutähtsad infrastruktuurid (nt transport), mis võivad ohustada kodanike elu ja tervist;
• haridus või kutseõpe, mis võib määrata juurdepääsu haridusele ja kutsekursusele kellegi elu jooksul (nt eksamite punktisumma);
• toodete ohutuskomponendid (nt tehisintellekti rakendus roboti abil toimuvas kirurgias);
• tööhõive, töötajate juhtimine ja juurdepääs füüsilisest isikust ettevõtjana tegutsemisele (nt CV sortimise tarkvara värbamismenetluste jaoks);
• olulised era- ja avalikud teenused (nt krediidipunktide andmine, mis ei võimalda kodanikel laenu saada);
• õiguskaitse, mis võib mõjutada inimeste põhiõigusi (nt tõendite usaldusväärsuse hindamine);
• rände-, varjupaiga- ja piirikontrolli haldamine (nt reisidokumentide autentsuse kontrollimine);
• õigusemõistmine ja demokraatlikud protsessid (nt seaduse kohaldamine konkreetsete faktide suhtes).

Kõrge riskitasemega tehisintellektisüsteemide suhtes kohaldatakse enne turule laskmist rangeid kohustusi:

• asjakohased riskihindamis- ja leevendussüsteemid;
• süsteemi sisestavate andmekogumite kõrge kvaliteet, et minimeerida riske ja diskrimineerivaid tulemusi;
• tegevuse logimine tulemuste jälgitavuse tagamiseks;
• üksikasjalikud dokumendid, mis sisaldavad kogu vajalikku teavet süsteemi ja selle eesmärgi kohta, et ametiasutused saaksid hinnata süsteemi nõuetele vastavust;
• kasutajale selge ja piisav teave;
• asjakohased inimjärelevalve meetmed riski minimeerimiseks;
• kõrge töökindluse, turvalisuse ja täpsuse tase.

Kõiki biomeetrilise kaugtuvastuse süsteeme peetakse suureks ohuks ja nende suhtes kohaldatakse rangeid nõudeid. Biomeetrilise kaugtuvastuse kasutamine avalikes kohtades õiguskaitse eesmärgil on põhimõtteliselt keelatud.

Kitsad erandid on rangelt määratletud ja reguleeritud, näiteks kui see on vajalik kadunud lapse otsimiseks, konkreetse ja vahetu terrorismiohu ennetamiseks või raske kuriteo toimepanija või kahtlustatava avastamiseks, asukoha kindlakstegemiseks, tuvastamiseks või vastutusele võtmiseks.

Selliseks kasutamiseks on vaja kohtu või muu sõltumatu asutuse luba ning asjakohaseid ajalisi piiranguid, geograafilist ulatust ja otsitavaid andmebaase.

Piiratud risk

Piiratud risk viitab tehisintellektisüsteemidele, millel on konkreetsed läbipaistvuskohustused. Tehisintellektisüsteemide, näiteks juturobotite kasutamisel peaksid kasutajad olema teadlikud, et nad suhtlevad masinaga, et nad saaksid teha teadliku otsuse jätkata või tagasi astuda.

Minimaalne või puudub risk

Ettepanek võimaldab kasutada vabalt minimaalse riskiga tehisintellekti. See hõlmab selliseid rakendusi nagu tehisintellektil põhinevad videomängud või rämpspostifiltrid. Enamik praegu ELis kasutatavatest tehisintellektisüsteemidest kuulub sellesse kategooriasse.

Kui tehisintellektisüsteem on turule jõudnud, vastutavad turujärelevalve eest ametiasutused, kasutajad tagavad inimeste järelevalve ja järelevalve ning teenuseosutajad on kehtestanud turustamisjärgse järelevalve süsteemi. Teenusepakkujad ja kasutajad teatavad ka tõsistest intsidentidest ja talitlushäiretest.

Tulevikukindlad õigusaktid

Kuna tehisintellekt on kiiresti arenev tehnoloogia, on ettepanekul tulevikukindel lähenemisviis, mis võimaldab eeskirjadel kohaneda tehnoloogiliste muutustega. Tehisintellekti rakendused peaksid jääma usaldusväärseks ka pärast nende turule laskmist. See nõuab pidevat kvaliteeti ja riskijuhtimist teenuseosutajate poolt.

Järgmised sammud

Pärast komisjoni 2021. aasta aprillis esitatud ettepanekut võib määrus üleminekuperioodi jooksul jõustuda 2022. aasta lõpus või 2023. aasta alguses. Sel perioodil volitatakse ja arendatakse standardeid ning loodud juhtimisstruktuurid toimivad. 2024. aasta teine pool on kõige varasem aeg, mil määrust võiks hakata kohaldama ettevõtjate suhtes, kelle standardid on valmis ja tehtud esimesed vastavushindamised.