Tekoälyä koskeva sääntelykehysehdotus

Sääntelyehdotuksen tavoitteena on tarjota tekoälyn kehittäjille, käyttöönottajille ja käyttäjille selkeät vaatimukset ja velvoitteet, jotka koskevat tekoälyn tiettyjä käyttötarkoituksia. Samalla ehdotuksella pyritään keventämään yritysten ja erityisesti pienten ja keskisuurten yritysten (pk-yritysten) hallinnollisia ja taloudellisia rasitteita.

Ehdotus on osa laajempaa tekoälypakettia, johon sisältyy myös päivitetty koordinoitu tekoälysuunnitelma. Yhdessä sääntelykehys ja koordinoitu suunnitelma takaavat ihmisten ja yritysten turvallisuuden ja perusoikeudet tekoälyn alalla. Lisäksi ne lisäävät tekoälyn käyttöönottoa, investointeja ja innovointia kaikkialla EU:ssa.

Miksi tarvitsemme tekoälyä koskevia sääntöjä?

Ehdotetulla tekoälyasetuksella varmistetaan, että eurooppalaiset voivat luottaa siihen, mitä tekoälyllä on tarjottavanaan. Vaikka useimmat tekoälyjärjestelmät aiheuttavat vain riskin ja voivat auttaa ratkaisemaan monia yhteiskunnallisia haasteita, tietyt tekoälyjärjestelmät aiheuttavat riskejä, joihin meidän on puututtava, jotta vältetään ei-toivotut tulokset.

Usein ei esimerkiksi ole mahdollista selvittää, miksi tekoälyjärjestelmä on tehnyt päätöksen tai ennusteen ja ryhtynyt tiettyyn toimenpiteeseen. Näin ollen voi olla vaikeaa arvioida, onko joku joutunut epäoikeudenmukaisen epäedulliseen asemaan esimerkiksi palkkauspäätöksessä tai yleishyödyllistä järjestelmää koskevassa hakemuksessa.

Vaikka voimassa oleva lainsäädäntö tarjoaa jonkin verran suojaa, se ei riitä vastaamaan tekoälyjärjestelmien mahdollisesti tuomiin erityishaasteisiin.

Ehdotetuilla säännöillä

• puuttua erityisesti tekoälysovellusten aiheuttamiin riskeihin;
• ehdottaa luetteloa suuririskisistä hakemuksista;
• asettaa tekoälyjärjestelmille selkeät vaatimukset suuririskisille sovelluksille;
• määritellä tekoälyn käyttäjiä ja suuririskisten sovellusten tarjoajia koskevat erityisvelvoitteet;
• ehdottaa vaatimustenmukaisuuden arviointia ennen tekoälyjärjestelmän käyttöönottoa tai markkinoille saattamista;
• ehdottaa täytäntöönpanon valvontaa sen jälkeen, kun tällainen tekoälyjärjestelmä on saatettu markkinoille;
• ehdotetaan hallintorakennetta EU:n ja kansallisella tasolla.

Riskiperusteinen lähestymistapa

Sääntelykehyksessä määritellään neljä tekoälyn riskitasoa:

• Riski, jota ei voida hyväksyä
• Suuri riski
• Vähäinen riski
• Riski on vähäinen tai ei lainkaan

Riski, jota ei voida hyväksyä

Kaikki tekoälyjärjestelmät, joita pidetään selvänä uhkana ihmisten turvallisuudelle, toimeentulolle ja oikeuksille, kielletään hallituksilta sosiaalisilta pisteiltä leluille, jotka käyttävät vaarallista käyttäytymistä kannustavaa ääniapua.

Suuri riski

Suuririskisiksi tunnistettuihin tekoälyjärjestelmiin kuuluvat tekoälyteknologia, jota käytetään

• kriittiset infrastruktuurit (esim. liikenne), jotka voivat vaarantaa kansalaisten hengen ja terveyden;
• yleissivistävä tai ammatillinen koulutus, joka voi määrittää pääsyn koulutukseen ja ammatilliseen koulutukseen jonkun elämässä (esim. tenttien pisteytys);
• tuotteiden turvakomponentit (esim. tekoälysovellus robottiavusteisessa kirurgiassa);
• työllistäminen, työntekijöiden johtaminen ja mahdollisuus itsenäiseen ammatinharjoittamiseen (esim. ansioluetteloiden lajitteluohjelmisto rekrytointimenettelyjä varten)
• olennaiset yksityiset ja julkiset palvelut (esim. luottopisteytys, jolla evätään kansalaisilta mahdollisuus saada lainaa)
• lainvalvonta, joka voi vaikuttaa ihmisten perusoikeuksiin (esim. todisteiden luotettavuuden arviointi)
• muuttoliike-, turvapaikka- ja rajavalvonta (esim. matkustusasiakirjojen aitouden todentaminen)
• oikeudenkäyttö ja demokraattiset prosessit (esim. lain soveltaminen konkreettisiin tosiseikkoihin).

Suuririskisiin tekoälyjärjestelmiin sovelletaan tiukkoja velvoitteita ennen kuin ne voidaan saattaa markkinoille:

• riittävät riskinarviointi- ja riskienvähentämisjärjestelmät;
• järjestelmää tukevien tietoaineistojen korkea laatu riskien ja syrjivien tulosten minimoimiseksi;
• toiminnan kirjaaminen tulosten jäljitettävyyden varmistamiseksi;
• yksityiskohtainen dokumentaatio, joka sisältää kaikki tiedot järjestelmästä ja sen tarkoituksesta, jotta viranomaiset voivat arvioida järjestelmän noudattamista;
• selkeät ja riittävät tiedot käyttäjälle;
• asianmukaiset ihmisen valvontatoimenpiteet riskien minimoimiseksi;
• korkea kestävyys, turvallisuus ja tarkkuus.

Kaikkia biometrisiä etätunnistusjärjestelmiä pidetään suuririskisinä ja niihin sovelletaan tiukkoja vaatimuksia. Biometrisen etätunnistuksen käyttö julkisissa tiloissa lainvalvontatarkoituksiin on periaatteessa kielletty.

Suppeat poikkeukset ovat tiukasti määriteltyjä ja säänneltyjä, esimerkiksi silloin, kun ne ovat tarpeen kadonneen lapsen etsimiseksi, tietyn ja välittömän terrorismin uhan estämiseksi tai vakavan rikoksen tekijän tai epäillyn havaitsemiseksi, paikantamiseksi, tunnistamiseksi tai syytteeseen asettamiseksi.

Tällainen käyttö edellyttää lainkäyttöelimen tai muun riippumattoman elimen lupaa ja asianmukaisia määräaikoja, maantieteellistä kattavuutta ja haun kohteena olevia tietokantoja.

Vähäinen riski

Rajallinen riski liittyy tekoälyjärjestelmiin, joilla on erityisiä avoimuusvelvoitteita. Käytettäessä tekoälyjärjestelmiä, kuten chatbotteja, käyttäjien olisi oltava tietoisia siitä, että he ovat vuorovaikutuksessa koneen kanssa, jotta he voivat tehdä tietoon perustuvan päätöksen jatkaa tai perääntyä.

Riski on vähäinen tai ei lainkaan

Ehdotuksessa sallitaan vähäriskisen tekoälyn vapaa käyttö. Tähän kuuluvat sovellukset, kuten tekoälyä hyödyntävät videopelit tai roskapostisuodattimet. Valtaosa EU:ssa tällä hetkellä käytettävistä tekoälyjärjestelmistä kuuluu tähän luokkaan.

Kun tekoälyjärjestelmä on markkinoilla, viranomaiset vastaavat markkinavalvonnasta, käyttäjät varmistavat ihmisen suorittaman valvonnan ja seurannan, ja palveluntarjoajilla on käytössä markkinoille saattamisen jälkeinen seurantajärjestelmä. Palveluntarjoajat ja käyttäjät ilmoittavat myös vakavista vaaratilanteista ja toimintahäiriöistä.

Tulevaisuuden vaatimukset huomioon ottava lainsäädäntö

Koska tekoäly on nopeasti kehittyvä teknologia, ehdotuksessa on tulevaisuuden vaatimukset huomioon ottava lähestymistapa, joka mahdollistaa sääntöjen mukauttamisen teknologiseen muutokseen. Tekoälysovellusten olisi säilyttävä luotettavina myös sen jälkeen, kun ne on saatettu markkinoille. Tämä edellyttää jatkuvaa laadun ja riskien hallintaa palveluntarjoajilta.

Seuraavat vaiheet

Komission huhtikuussa 2021 antaman ehdotuksen jälkeen asetus voisi tulla voimaan vuoden 2022 lopulla tai vuoden 2023 alussa siirtymäkauden aikana. Tänä aikana normeja annettaisiin tehtäväksi ja niitä kehitettäisiin, ja perustettavat hallintorakenteet olisivat toiminnassa. Vuoden 2024 jälkipuolisko on ensimmäinen kerta, kun asetusta voidaan soveltaa toimijoihin, joiden standardit ovat valmiit ja ensimmäiset vaatimustenmukaisuuden arvioinnit on suoritettu.