Tekoälylaki

Tekoälysäädöksen tavoitteena on tarjota tekoälyn kehittäjille ja käyttöönottajille selkeät vaatimukset ja velvoitteet, jotka koskevat tekoälyn tiettyjä käyttötarkoituksia. Samalla asetuksella pyritään keventämään yritysten ja erityisesti pienten ja keskisuurten yritysten (pk-yritysten) hallinnollisia ja taloudellisia rasitteita.

Tekoälylaki on osa laajempaa toimenpidepakettia, jolla tuetaan luotettavan tekoälyn kehittämistä ja johon kuuluvat myös tekoälyn innovaatiopaketti ja koordinoitu tekoälysuunnitelma. Nämä toimenpiteet takaavat yhdessä ihmisten ja yritysten turvallisuuden ja perusoikeudet tekoälyn alalla. Ne myös vahvistavat tekoälyn käyttöönottoa, investointeja ja innovointia kaikkialla EU:ssa.

Tekoälysäädös on ensimmäinen kattava tekoälyä koskeva oikeudellinen kehys maailmanlaajuisesti. Uusien sääntöjen tavoitteena on edistää luotettavaa tekoälyä Euroopassa ja sen ulkopuolella varmistamalla, että tekoälyjärjestelmissä kunnioitetaan perusoikeuksia, turvallisuutta ja eettisiä periaatteita, ja puuttumalla erittäin voimakkaiden ja vaikuttavien tekoälymallien riskeihin.

Miksi tarvitsemme tekoälyä koskevia sääntöjä?

Tekoälysäädöksellä varmistetaan, että eurooppalaiset voivat luottaa siihen, mitä tekoälyllä on tarjottavanaan. Vaikka useimmat tekoälyjärjestelmät aiheuttavat vain riskin ja voivat auttaa ratkaisemaan monia yhteiskunnallisia haasteita, tietyt tekoälyjärjestelmät aiheuttavat riskejä, joihin meidän on puututtava, jotta vältetään ei-toivotut tulokset.

Usein ei esimerkiksi ole mahdollista selvittää, miksi tekoälyjärjestelmä on tehnyt päätöksen tai ennusteen ja ryhtynyt tiettyyn toimenpiteeseen. Näin ollen voi olla vaikeaa arvioida, onko joku joutunut epäoikeudenmukaisen epäedulliseen asemaan esimerkiksi palkkauspäätöksessä tai yleishyödyllistä järjestelmää koskevassa hakemuksessa.

Vaikka voimassa oleva lainsäädäntö tarjoaa jonkin verran suojaa, se ei riitä vastaamaan tekoälyjärjestelmien mahdollisesti tuomiin erityishaasteisiin.

Ehdotetuilla säännöillä

• puuttua erityisesti tekoälysovellusten aiheuttamiin riskeihin;
• kieltää tekoälykäytännöt, jotka aiheuttavat kohtuuttomia riskejä;
• määritetään luettelo suuririskisistä hakemuksista;
• asettaa tekoälyjärjestelmille selkeät vaatimukset suuririskisille sovelluksille;
• määritellä erityiset velvoitteet suuririskisten tekoälysovellusten käyttöönottajille ja tarjoajille;
• vaatia vaatimustenmukaisuuden arviointia ennen tietyn tekoälyjärjestelmän käyttöönottoa tai markkinoille saattamista;
• pantava täytäntöön täytäntöönpano sen jälkeen, kun tietty tekoälyjärjestelmä on saatettu markkinoille;
• perustetaan Euroopan ja kansallisen tason hallintorakenne.

Riskiperusteinen lähestymistapa

Sääntelykehyksessä määritellään neljä tekoälyjärjestelmien riskitasoa:

Kaikki tekoälyjärjestelmät, joita pidetään selvänä uhkana ihmisten turvallisuudelle, toimeentulolle ja oikeuksille, kielletään hallituksilta sosiaalisilta pisteiltä leluille, jotka käyttävät vaarallista käyttäytymistä kannustavaa ääniapua.

Suuri riski

Suuririskisiksi tunnistettuihin tekoälyjärjestelmiin kuuluvat tekoälyteknologia, jota käytetään

• kriittiset infrastruktuurit (esim. liikenne), jotka voivat vaarantaa kansalaisten hengen ja terveyden;
• yleissivistävä tai ammatillinen koulutus, joka voi määrittää pääsyn koulutukseen ja ammatilliseen koulutukseen jonkun elämässä (esim. tenttien pisteytys);
• tuotteiden turvakomponentit (esim. tekoälysovellus robottiavusteisessa kirurgiassa);
• työllistäminen, työntekijöiden johtaminen ja mahdollisuus itsenäiseen ammatinharjoittamiseen (esim. ansioluetteloiden lajitteluohjelmisto rekrytointimenettelyjä varten)
• olennaiset yksityiset ja julkiset palvelut (esim. luottopisteytys, jolla evätään kansalaisilta mahdollisuus saada lainaa)
• lainvalvonta, joka voi vaikuttaa ihmisten perusoikeuksiin (esim. todisteiden luotettavuuden arviointi)
• muuttoliike-, turvapaikka- ja rajavalvonta (esim. viisumihakemusten automaattinen käsittely)
• oikeudenkäyttö ja demokraattiset prosessit (esim. tekoälyratkaisut tuomioistuinten päätösten etsimiseksi).

Suuririskisiin tekoälyjärjestelmiin sovelletaan tiukkoja velvoitteita ennen kuin ne voidaan saattaa markkinoille:

• riittävät riskinarviointi- ja riskienvähentämisjärjestelmät;
• järjestelmää tukevien tietoaineistojen korkea laatu riskien ja syrjivien tulosten minimoimiseksi;
• toiminnan kirjaaminen tulosten jäljitettävyyden varmistamiseksi;
• yksityiskohtainen dokumentaatio, joka sisältää kaikki tiedot järjestelmästä ja sen tarkoituksesta, jotta viranomaiset voivat arvioida järjestelmän noudattamista;
• selkeät ja riittävät tiedot käyttöönottajalle;
• asianmukaiset ihmisen valvontatoimenpiteet riskien minimoimiseksi;
• korkea kestävyys, turvallisuus ja tarkkuus.

Kaikkia biometrisiä etätunnistusjärjestelmiä pidetään suuririskisinä ja niihin sovelletaan tiukkoja vaatimuksia. Biometrisen etätunnistuksen käyttö julkisissa tiloissa lainvalvontatarkoituksiin on periaatteessa kielletty.

Suppeat poikkeukset ovat tiukasti määriteltyjä ja säänneltyjä, esimerkiksi silloin, kun ne ovat tarpeen kadonneen lapsen etsimiseksi, tietyn ja välittömän terrorismin uhan estämiseksi tai vakavan rikoksen tekijän tai epäillyn havaitsemiseksi, paikantamiseksi, tunnistamiseksi tai syytteeseen asettamiseksi.

Nämä käyttötavat edellyttävät lainkäyttöelimen tai muun riippumattoman elimen lupaa ja asianmukaisia määräaikoja, maantieteellistä kattavuutta ja haun kohteena olevia tietokantoja.

Vähäinen riski

Rajallinen riskiviittaa riskeihin, jotka liittyvät avoimuuden puutteeseen tekoälyn käytössä. Tekoälysäädöksessä otetaan käyttöön erityiset avoimuusvelvoitteet, joilla varmistetaan, että ihmisille tiedotetaan tarvittaessa ja edistetään luottamusta. Esimerkiksi käytettäessä tekoälyjärjestelmiä, kuten chatbotteja, ihmisille olisi tiedotettava, että he ovat vuorovaikutuksessa koneen kanssa, jotta he voivat tehdä tietoon perustuvan päätöksen jatkaa tai perääntyä. Palveluntarjoajien on myös varmistettava, että tekoälyn tuottama sisältö on tunnistettavissa. Lisäksi tekoälyn tuottama teksti, jonka tarkoituksena on tiedottaa yleisölle yleistä etua koskevista asioista, on merkittävä keinotekoisesti tuotetuksi. Tämä koskee myös ääni- ja videosisältöä, joka muodostaa syväväärennöksiä.

Riski on vähäinen tai ei lainkaan

Tekoälylaki mahdollistaa minimaalisen tekoälyn vapaan käytön. Tähän kuuluvat sovellukset, kuten tekoälyä hyödyntävät videopelit tai roskapostisuodattimet. Valtaosa EU:ssa tällä hetkellä käytettävistä tekoälyjärjestelmistä kuuluu tähän luokkaan.

Miten tämä kaikki toimii käytännössä suuririskisten tekoälyjärjestelmien tarjoajille?

Kun tekoälyjärjestelmä on markkinoilla, viranomaiset vastaavat markkinavalvonnasta, käyttöönottajat huolehtivat ihmisen suorittamasta valvonnasta ja seurannasta, ja palveluntarjoajilla on käytössä markkinoille saattamisen jälkeinen seurantajärjestelmä. Palveluntarjoajat ja käyttöönottajat ilmoittavat myös vakavista vaaratilanteista ja toimintahäiriöistä.

Ratkaisu suurten tekoälymallien luotettavaan käyttöön

Yhä useammin yleiskäyttöisistä tekoälymalleista on tulossa tekoälyjärjestelmien komponentteja. Nämä mallit voivat suorittaa ja mukauttaa lukemattomia eri tehtäviä.

Vaikka yleiskäyttöiset tekoälymallit voivat mahdollistaa parempia ja tehokkaampia tekoälyratkaisuja, kaikkia valmiuksia on vaikea valvoa.

Siinä tekoälylaissa otetaan käyttöön kaikkien yleiskäyttöisten tekoälymallien läpinäkyvyysvelvoitteet, joiden avulla voidaan ymmärtää paremmin näitä malleja ja lisätä riskinhallintavelvoitteita erittäin taidokkaille ja vaikuttaville malleille. Näihin lisävelvoitteisiin kuuluvat itsearviointi ja järjestelmäriskien vähentäminen, vakavista poikkeamista ilmoittaminen, testien ja mallien arviointi sekä kyberturvallisuusvaatimukset.

Tulevaisuuden vaatimukset huomioon ottava lainsäädäntö

Koska tekoäly on nopeasti kehittyvä teknologia, ehdotuksessa on tulevaisuuden vaatimukset huomioon ottava lähestymistapa, joka mahdollistaa sääntöjen mukauttamisen teknologiseen muutokseen. Tekoälysovellusten olisi säilyttävä luotettavina myös sen jälkeen, kun ne on saatettu markkinoille. Tämä edellyttää jatkuvaa laadun ja riskien hallintaa palveluntarjoajilta.

Täytäntöönpanon valvonta ja täytäntöönpano

Komissioon helmikuussa 2024 perustettu Euroopan tekoälytoimisto valvoo tekoälysäädöksen täytäntöönpanoa ja täytäntöönpanoa jäsenvaltioiden kanssa. Sen tavoitteena on luoda ympäristö, jossa tekoälyteknologiat kunnioittavat ihmisarvoa, oikeuksia ja luottamusta. Se edistää myös yhteistyötä, innovointia ja tutkimusta tekoälyn alalla eri sidosryhmien välillä. Lisäksi se osallistuu kansainväliseen vuoropuheluun ja yhteistyöhön tekoälykysymyksissä ja toteaa, että tekoälyn hallintoa on yhdenmukaistettava maailmanlaajuisesti. Näiden toimien avulla Euroopan tekoälytoimisto pyrkii asettamaan Euroopan johtoasemaan tekoälyteknologioiden eettisessä ja kestävässä kehityksessä.

Seuraavat vaiheet

Euroopan parlamentti ja EU:n neuvosto pääsivätjoulukuussa 2023 poliittiseen yhteisymmärrykseen tekoälysäädöksestä. Tekstiä ollaan hyväksymässä ja käännettämässä virallisesti. Tekoälysäädös tulee voimaan 20 päivää sen jälkeen, kun se on julkaistu Euroopan unionin virallisessa lehdessä, ja sitä sovelletaan täysimääräisesti kaksi vuotta myöhemmin joitakin poikkeuksia lukuun ottamatta: kiellot tulevat voimaan kuuden kuukauden kuluttua, yleiskäyttöisten tekoälymallien hallintosääntöjä ja velvoitteita aletaan soveltaa 12 kuukauden kuluttua, ja säänneltyihin tuotteisiin sisältyviä tekoälyjärjestelmiä koskevia sääntöjä sovelletaan 36 kuukauden kuluttua. Helpottaakseen siirtymistä uuteen sääntelykehykseen komissio on käynnistänyt tekoälysopimuksen, vapaaehtoisen aloitteen, jolla pyritään tukemaan tulevaa täytäntöönpanoa ja kehottaa tekoälyn kehittäjiä Euroopasta ja sen ulkopuolelta noudattamaan tekoälysäädöksen keskeisiä velvoitteita hyvissä ajoin.