Skip to main content
De digitale toekomst van Europa vormgeven

Voorstel voor een regelgevingskader inzake kunstmatige intelligentie

De Commissie stelt het allereerste rechtskader voor KI voor, dat de risico’s van KI aanpakt en de positie van Europa om wereldwijd een leidende rol te spelen.

    een man en een vrouw werken aan een hightech scherm

© gorodenkoff - iStock Getty Images Plus

Het regelgevingsvoorstel is bedoeld om AI-ontwikkelaars, -aanbieders en -gebruikers duidelijke vereisten en verplichtingen te bieden met betrekking tot specifieke toepassingen van AI. Tegelijkertijd beoogt het voorstel de administratieve en financiële lasten voor het bedrijfsleven, met name kleine en middelgrote ondernemingen (kmo’s), te verminderen.

Het voorstel maakt deel uit van een breder AI-pakket, dat ook het geactualiseerde gecoördineerde plan inzake AI omvat. Samen zullen het regelgevingskader en het gecoördineerde plan de veiligheid en grondrechten van mensen en bedrijven garanderen als het gaat om AI. En zij zullen de acceptatie, investeringen en innovatie op het gebied van KI in de hele EU versterken.

Waarom hebben we regels nodig voor AI?

De voorgestelde AI-verordening zorgt ervoor dat Europeanen kunnen vertrouwen op wat AI te bieden heeft. Hoewel de meeste AI-systemen beperkt zijn tot geen risico en kunnen bijdragen aan het oplossen van veel maatschappelijke uitdagingen, creëren bepaalde AI-systemen risico’s die we moeten aanpakken om ongewenste resultaten te voorkomen.

Zo is het vaak niet mogelijk om erachter te komen waarom een AI-systeem een beslissing of voorspelling heeft genomen en een bepaalde actie heeft ondernomen. Het kan dus moeilijk worden om te beoordelen of iemand oneerlijk benadeeld is, zoals bij een aanwervingsbesluit of in een aanvraag voor een stelsel van algemeen nut.

Hoewel de bestaande wetgeving enige bescherming biedt, is deze onvoldoende om de specifieke uitdagingen aan te pakken die AI-systemen met zich kunnen brengen.

De voorgestelde regels zullen:

  • specifiek door AI-toepassingen gecreëerde risico’s aanpakken;
  • een lijst van toepassingen met een hoog risico voorstellen;
  • duidelijke eisen stellen aan AI-systemen voor toepassingen met een hoog risico;
  • specifieke verplichtingen vast te stellen voor KI-gebruikers en aanbieders van toepassingen met een hoog risico;
  • een conformiteitsbeoordeling voorstellen voordat het AI-systeem in gebruik wordt genomen of in de handel wordt gebracht;
  • handhaving voorstellen nadat een dergelijk AI-systeem in de handel is gebracht;
  • een governancestructuur op Europees en nationaal niveau voorstellen.

Een risicogebaseerde aanpak

piramide toont de vier risiconiveaus: Onaanvaardbare risico’s; Hoog risico; beperkt risico, minimaal of geen risico

Het regelgevingskader definieert vier risiconiveaus in KI:

  • Onaanvaardbare risico’s
  • Hoog risico
  • Beperkt risico
  • Minimaal of geen risico

Onaanvaardbare risico’s

Alle AI-systemen die als een duidelijke bedreiging voor de veiligheid, het levensonderhoud en de rechten van mensen worden beschouwd, zullen worden verboden, van sociaal scoren door overheden tot speelgoed met behulp van spraakhulp dat gevaarlijk gedrag aanmoedigt.

Hoog risico

AI-systemen die als hoog risico worden aangemerkt, omvatten AI-technologie die wordt gebruikt in:

  • kritieke infrastructuren (bv. vervoer) die het leven en de gezondheid van de burgers in gevaar kunnen brengen;
  • onderwijs of beroepsopleiding, die de toegang tot onderwijs en beroepsloop van iemands leven kan bepalen (bv. het scoren van examens);
  • veiligheidscomponenten van producten (bv. AI-toepassing bij robotondersteunde chirurgie);
  • werkgelegenheid, beheer van werknemers en toegang tot zelfstandige arbeid (bv. software voor het sorteren van cv’s voor wervingsprocedures);
  • essentiële particuliere en openbare diensten (bv. kredietscore die burgers de mogelijkheid ontzegt om een lening te verkrijgen);
  • rechtshandhaving die afbreuk kan doen aan de grondrechten van mensen (bv. evaluatie van de betrouwbaarheid van bewijsmateriaal);
  • migratie-, asiel- en grenscontrolebeheer (bv. verificatie van de echtheid van reisdocumenten);
  • rechtsbedeling en democratische processen (bv. toepassing van de wet op een concrete reeks feiten).

AI-systemen met een hoog risico zullen aan strikte verplichtingen zijn onderworpen voordat ze op de markt kunnen worden gebracht:

  • adequate risicobeoordelings- en risicobeperkingssystemen;
  • hoge kwaliteit van de datasets die het systeem voeden om risico’s en discriminerende resultaten tot een minimum te beperken;
  • registratie van activiteiten om de traceerbaarheid van de resultaten te waarborgen;
  • gedetailleerde documentatie met alle informatie die nodig is over het systeem en het doel ervan voor de autoriteiten om de naleving ervan te beoordelen;
  • duidelijke en adequate informatie aan de gebruiker;
  • passende maatregelen voor menselijk toezicht om risico’s tot een minimum te beperken;
  • hoge mate van robuustheid, veiligheid en nauwkeurigheid.

Alle systemen voor biometrische identificatie op afstand worden als hoog risico beschouwd en onderworpen aan strenge eisen. Het gebruik van biometrische identificatie op afstand in openbaar toegankelijke ruimten voor rechtshandhavingsdoeleinden is in beginsel verboden.

Restrictieve uitzonderingen zijn strikt gedefinieerd en gereguleerd, zoals bijvoorbeeld wanneer nodig om een vermist kind te zoeken, om een specifieke en dreigende terroristische dreiging te voorkomen of om een dader of verdachte van een ernstig strafbaar feit op te sporen, te lokaliseren, te identificeren of te vervolgen.

Dit gebruik is onderworpen aan toestemming van een gerechtelijke of andere onafhankelijke instantie en aan passende beperkingen in de tijd, het geografische bereik en de doorzochte databanken.

Beperkt risico

Beperkt risico heeft betrekking op KI-systemen met specifieke transparantieverplichtingen. Bij het gebruik van AI-systemen zoals chatbots moeten gebruikers zich ervan bewust zijn dat ze interactie hebben met een machine, zodat ze een weloverwogen beslissing kunnen nemen om door te gaan of een stap terug te zetten.

Minimaal of geen risico

Het voorstel staat het vrije gebruik van KI met een minimaal risico toe. Dit omvat toepassingen zoals AI-enabled videogames of spamfilters. Het overgrote deel van de AI-systemen die momenteel in de EU worden gebruikt, valt in deze categorie.

stapsgewijze procedure voor conformiteitsverklaring
How does it all work in practice for providers of high risk AI systems?

Zodra een AI-systeem op de markt is, zijn de autoriteiten verantwoordelijk voor markttoezicht, zorgen gebruikers voor menselijk toezicht en toezicht, en hebben aanbieders een systeem voor monitoring na het in de handel brengen. Providers en gebruikers zullen ook ernstige incidenten en storingen melden.

Toekomstbestendige wetgeving

Aangezien AI een snel evoluerende technologie is, heeft het voorstel een toekomstbestendige aanpak, waardoor regels kunnen worden aangepast aan technologische veranderingen. AI-toepassingen moeten betrouwbaar blijven, zelfs nadat ze in de handel zijn gebracht. Dit vereist een doorlopend kwaliteits- en risicobeheer door aanbieders.

Volgende stappen

Naar aanleiding van het voorstel van de Commissie in april 2021 zou de verordening in een overgangsperiode eind 2022/begin 2023 in werking kunnen treden. In deze periode zouden normen worden opgelegd en ontwikkeld en zouden de bestuursstructuren operationeel zijn. De tweede helft van 2024 is de vroegste keer dat de verordening van toepassing kan worden op exploitanten met de normen klaar en de eerste conformiteitsbeoordelingen uitgevoerd.

Als aanvullende regelgeving voor het Witboek over KI is op 28 september 2022 een voorgestelde richtlijn inzake AI-aansprakelijkheid aangenomen.

Laatste nieuws

PRESS RELEASE |
EU investeert EUR 13.5 miljard in onderzoek en innovatie voor 2023-2024

De Commissie heeft vandaag het belangrijkste werkprogramma van Horizon Europa 2023-24 vastgesteld, met ongeveer 13.5 miljard euro om onderzoekers en innovatoren in Europa te ondersteunen bij het zoeken naar baanbrekende oplossingen voor milieu-, energie-, digitale en geopolitieke uitdagingen.

PRESS RELEASE |
Digitale rechten en beginselen: een digitale transformatie voor EU-burgers

De Commissie is ingenomen met het akkoord dat gisteren met het Parlement en de Raad is bereikt over de Europese verklaring over digitale rechten en beginselen. De in januari voorgestelde verklaring vormt een duidelijk referentiepunt voor het soort digitale transformatie waarbij de mens centraal staat en die de EU in binnen- en buitenland bevordert en verdedigt.

Gerelateerde inhoud

Grote afbeelding

Een Europese aanpak van kunstmatige intelligentie

De EU-aanpak van kunstmatige intelligentie richt zich op excellentie en vertrouwen, met als doel onderzoek en industriële capaciteit te stimuleren en tegelijkertijd de veiligheid en de grondrechten te waarborgen.

Zie ook

Gecoördineerd plan voor artificiële intelligentie

Het gecoördineerde plan voor artificiële intelligentie heeft tot doel investeringen in AI te versnellen, AI-strategieën en -programma’s te ontwikkelen en het AI-beleid op elkaar af te stemmen om versnippering in Europa te voorkomen.

De Europese AI-alliantie

De Europese AI Alliance is een initiatief van de Europese Commissie om een open beleidsdialoog over kunstmatige intelligentie tot stand te brengen. Sinds de lancering in 2018 heeft de AI Alliance ongeveer 6000 belanghebbenden betrokken door middel van regelmatige evenementen...