Tekoälysäädös

Tekoälysäädös (asetus (EU) 2024/1689 tekoälyä koskevista yhdenmukaistetuista säännöistä) on kaikkien aikojen ensimmäinen kattava tekoälyä koskeva oikeudellinen kehys maailmanlaajuisesti. Sääntöjen tavoitteena on edistää luotettavaa tekoälyä Euroopassa.

Tekoälysäädöksessä vahvistetaan tekoälyn kehittäjille ja käyttöönottajille selkeät riskiperusteiset säännöt, jotka koskevat tekoälyn tiettyjä käyttötarkoituksia. Tekoälysäädös on osa laajempaa toimenpidepakettia, jolla tuetaan luotettavan tekoälyn kehittämistä ja johon kuuluvat myös tekoälyn innovointipaketti, tekoälytehtaiden käynnistäminen ja  koordinoitu tekoälysuunnitelma. Yhdessä näillä toimenpiteillä taataan turvallisuus, perusoikeudet ja ihmiskeskeinen tekoäly ja vahvistetaan tekoälyn käyttöönottoa, investointeja ja innovointia kaikkialla EU:ssa.

Uuteen sääntelykehykseen siirtymisen helpottamiseksi komissio on käynnistänyt tekoälysopimuksen.  Kyseessä on vapaaehtoinen aloite, jolla pyritään tukemaan tulevaa täytäntöönpanoa, tekemään yhteistyötä sidosryhmien kanssa ja pyytämään tekoälyn tarjoajia ja käyttöönottajia Euroopasta ja sen ulkopuolelta noudattamaan tekoälysäädöksen keskeisiä velvoitteita hyvissä ajoin. 

Miksi tekoälyä koskevia sääntöjä tarvitaan?

Tekoälysäädöksellä varmistetaan, että eurooppalaiset voivat luottaa siihen, mitä tekoälyllä on tarjottavanaan. Vaikka useimmat tekoälyjärjestelmät aiheuttavat vain vähän riskejä ja voivat auttaa ratkaisemaan monia yhteiskunnallisia haasteita, tietyt tekoälyjärjestelmät aiheuttavat riskejä, joihin on puututtava ei-toivottujen tulosten välttämiseksi.

Usein ei esimerkiksi ole mahdollista selvittää, miksi tekoälyjärjestelmä on tehnyt päätöksen tai ennusteen ja toteuttanut tietyn toimen. Näin ollen voi olla vaikea arvioida, onko joku joutunut epäoikeudenmukaisesti epäedulliseen asemaan esimerkiksi työhönottopäätöksessä tai yleishyödyllistä järjestelmää koskevassa hakemuksessa.

Vaikka voimassa oleva lainsäädäntö tarjoaa jonkin verran suojaa, se ei riitä vastaamaan tekoälyjärjestelmien mahdollisesti tuomiin erityishaasteisiin.

Riskiperusteinen lähestymistapa

Tekoälysäädöksessä määritellään tekoälyjärjestelmille neljä riskitasoa:

Riski, jota ei voida hyväksyä

Kaikki tekoälyjärjestelmät, joita pidetään selvänä uhkana ihmisten turvallisuudelle, toimeentulolle ja oikeuksille, on kielletty. Tekoälysäädöksessä kielletään seuraavat kahdeksan käytäntöä:

1. haitallinen tekoälyyn perustuva manipulointi ja petos
2. haavoittuvuuksien haitallinen tekoälyyn perustuva hyödyntäminen
3. sosiaalinen pisteytys
4. Yksittäisen rikoksen riskien arviointi tai ennustaminen
5. Internetin tai kameravalvontamateriaalin kohdentamaton kaavinta kasvojentunnistustietokantojen luomiseksi tai laajentamiseksi
6. Tunteiden tunnistaminen työpaikoilla ja oppilaitoksissa
7. biometrinen luokittelu tiettyjen suojattujen ominaisuuksien määrittämiseksi
8. reaaliaikainen biometrinen etätunnistus lainvalvontatarkoituksessa julkisissa tiloissa

Suuri riski

Tekoälyn käyttötapaukset, jotka voivat aiheuttaa vakavia riskejä terveydelle, turvallisuudelle tai perusoikeuksille, luokitellaan suuririskisiksi. Tällaisia suuririskisiä käyttötapauksia ovat muun muassa seuraavat:

• Tekoälyn turvakomponentit kriittisissä infrastruktuureissa (esim. liikenteessä), joiden vikaantuminen voisi vaarantaa kansalaisten hengen ja terveyden
• Oppilaitoksissa käytettävät tekoälyratkaisut, jotka voivat määrittää koulutukseen pääsyn ja henkilön työelämän kulun (esim. tenttien pisteytys)
• Tekoälyyn perustuvat tuotteiden turvakomponentit (esim. tekoälysovellus robottiavusteisessa kirurgiassa)
• Tekoälyvälineet työllistymistä, työntekijöiden hallinnointia ja itsenäisen ammatinharjoittamisen aloittamista varten (esim. ansioluetteloiden lajitteluohjelmisto rekrytointia varten)
• Tietyt tekoälyn käyttötapaukset, joita käytetään keskeisten yksityisten ja julkisten palvelujen saatavuuteen (esim. luottopisteytys, joka estää kansalaisia saamasta lainaa)
• Tekoälyjärjestelmät, joita käytetään biometriseen etätunnistukseen, tunteiden tunnistamiseen ja biometriseen luokitteluun (esim. tekoälyjärjestelmä myymälävarkaan tunnistamiseksi takautuvasti)
• Tekoälyn käyttötapaukset lainvalvonnassa, jotka voivat vaikuttaa ihmisten perusoikeuksiin (esim. näytön luotettavuuden arviointi)
• Tekoälyn käyttötapaukset muuttoliikkeen, turvapaikka-asioiden ja rajavalvonnan hallinnassa (esim. viisumihakemusten automaattinen käsittely)
• Oikeudenkäytössä ja demokraattisissa prosesseissa käytettävät tekoälyratkaisut (esim. tekoälyratkaisut tuomioistuinten päätösten valmistelemiseksi)

Suuririskisiin tekoälyjärjestelmiin sovelletaan tiukkoja velvoitteita ennen kuin ne voidaan saattaa markkinoille:

• riittävät riskinarviointi- ja riskienvähentämisjärjestelmät
• järjestelmään syötettävien tietoaineistojen korkea laatu syrjivien tulosten riskin minimoimiseksi
• toiminnan kirjaaminen tulosten jäljitettävyyden varmistamiseksi
• yksityiskohtaiset asiakirjat, joissa annetaan kaikki tarvittavat tiedot järjestelmästä ja sen tarkoituksesta, jotta viranomaiset voivat arvioida sen vaatimustenmukaisuutta
• selkeät ja riittävät tiedot käyttöönottajalle
• asianmukaiset ihmisen suorittamat valvontatoimenpiteet
• korkea luotettavuus, kyberturvallisuus ja tarkkuus

Vähäinen riski

Tällä tarkoitetaan riskejä, jotka liittyvät tekoälyn käytön läpinäkyvyyden tarpeeseen. Tekoälysäädöksessä otetaan käyttöön erityisiä julkistamisvelvoitteita, joilla varmistetaan, että ihmiset saavat tarvittaessa tietoa luottamuksen säilyttämiseksi. Esimerkiksi käytettäessä tekoälyjärjestelmiä, kuten chatbotteja, ihmisille olisi kerrottava, että he ovat vuorovaikutuksessa koneen kanssa, jotta he voivat tehdä tietoon perustuvan päätöksen.

Lisäksi generatiivisen tekoälyn tarjoajien on varmistettava, että tekoälyn tuottama sisältö on tunnistettavissa. Tämän lisäksi tietty tekoälyn tuottama sisältö olisi merkittävä selkeästi ja näkyvästi, erityisesti syväväärennökset ja teksti, joka julkaistaan yleisölle tiedottamiseksi yleistä etua koskevista asioista.

Minimaalinen riski tai ei riskiä

Tekoälysäädöksellä ei oteta käyttöön tekoälyä koskevia sääntöjä, joita pidetään vähäisinä tai riskittöminä. Valtaosa EU:ssa tällä hetkellä käytetyistä tekoälyjärjestelmistä kuuluu tähän luokkaan. Tämä sisältää sovelluksia, kuten tekoälyä hyödyntäviä videopelejä tai roskapostisuodattimia.

Miten kaikki toimii käytännössä suuririskisten tekoälyjärjestelmien tarjoajien kannalta?

Miten kaikki toimii käytännössä suuririskisten tekoälyjärjestelmien tarjoajien kannalta?

Kun tekoälyjärjestelmä on markkinoilla, viranomaiset vastaavat markkinavalvonnasta, käyttöönottajat varmistavat ihmisen suorittaman valvonnan ja seurannan ja tarjoajilla on käytössä markkinoille saattamisen jälkeinen seurantajärjestelmä. Palveluntarjoajat ja käyttöönottajat ilmoittavat myös vakavista vaaratilanteista ja toimintahäiriöistä.

Ratkaisu suurten tekoälymallien luotettavaan käyttöön

Yleiskäyttöiset tekoälymallit voivat suorittaa monenlaisia tehtäviä, ja niistä on tulossa monien tekoälyjärjestelmien perusta EU:ssa. Joihinkin näistä malleista voi liittyä järjestelmäriskejä, jos ne ovat hyvin toimintakykyisiä tai niitä käytetään laajalti. Tekoälysäädöksessä vahvistetaan tällaisten mallien tarjoajia koskevat säännöt turvallisen ja luotettavan tekoälyn varmistamiseksi. Tähän sisältyvät avoimuus ja tekijänoikeuteen liittyvät säännöt. Sellaisten mallien osalta, joihin voi liittyä järjestelmäriskejä, tarjoajien olisi arvioitava ja lievennettävä näitä riskejä.

Yleiskäyttöistä tekoälyä koskevat tekoälysäädöksen säännöt tulevat voimaan elokuussa 2025. Tekoälytoimisto helpottaa käytännesääntöjen laatimista näiden sääntöjen täsmentämiseksi. Käytännesääntöjen olisi oltava keskeinen väline, jonka avulla tarjoajat voivat osoittaa noudattavansa tekoälysäädöstä ja johon sisältyy uusinta kehitystä edustavia käytäntöjä. 

Hallinto ja täytäntöönpano

Euroopan tekoälytoimisto ja jäsenvaltioiden viranomaiset vastaavat tekoälysäädöksen täytäntöönpanosta, valvonnasta ja noudattamisen valvonnasta. Tekoälylautakunta, tiedelautakunta ja neuvoa-antava ryhmä ohjaavat ja neuvovat tekoälysäädöksen hallintoa. Lisätietoja tekoälysäädöksen hallinnoinnista ja täytäntöönpanosta.  

Seuraavat vaiheet

Tekoälysäädös tuli voimaan 1. elokuuta 2024, ja sitä sovelletaan täysimääräisesti kaksi vuotta myöhemmin, 2. elokuuta 2026, joitakin poikkeuksia lukuun ottamatta:

• kieltoja ja tekoälylukutaitoa koskevia velvoitteita alettiin soveltaa 2. helmikuuta 2025 alkaen
• yleiskäyttöisiä tekoälymalleja koskevia hallintosääntöjä ja velvoitteita aletaan soveltaa 2. elokuuta 2025.
• Säänneltyihin tuotteisiin sisällytettyjä suuririskisiä tekoälyjärjestelmiä koskevilla säännöillä on pidennetty siirtymäkausi 2. elokuuta 2027 saakka.