AdobeStock © Supatman
Deze sessie volgde op de publicatie door de Commissie van de richtsnoeren inzake verboden AI-praktijken op 2 februari 2025, die tot doel heeft de praktische toepassing van de bepalingen van de AI-verordening te verduidelijken.
Het webinar was gericht op de interpretatie door de Commissie van verboden AI-praktijken, waaronder schadelijke manipulatie en uitbuiting, sociale scoring, voorspellingen van individuele criminaliteitsrisico’s uitsluitend op basis van profilering, emotieherkenning op de werkplek en in het onderwijs, bepaalde soorten biometrische categorisering, niet-gerichte schrapping van biometrische foto’s om databanken voor gezichtsherkenning op te bouwen of uit te breiden en biometrische identificatie op afstand in real time voor rechtshandhavingsdoeleinden. Deskundigen bespraken ook wat buiten het toepassingsgebied van de verbodsbepalingen valt, de bredere context van de risicogebaseerde aanpak van de AI-verordening en hoe deze richtsnoeren aansluiten bij de toezegging van de EU om de grondrechten en de ethische ontwikkeling van AI te beschermen.
Naast verboden praktijken verdiepte het webinar zich in de onlangs gepubliceerde richtsnoeren van de Commissie over de definitie van een AI-systeem. Deze niet-bindende richtsnoeren zijn bedoeld om aanbieders en belanghebbenden te helpen bij het bepalen of een softwaresysteem kan worden aangemerkt als een AI-systeem op grond van de AI-verordening. Zij hebben tot doel de doeltreffende toepassing van de regels van de wet te vergemakkelijken en zijn in de loop der tijd geëvolueerd op basis van praktische ervaringen, opkomende use cases en nieuwe vragen.
Agenda
10:00 - 11:30
Moderator: Arnaud Latil, hoogleraar rechten aan de Sorbonne University en SCAI (Sorbonne Center for AI).
Sprekers van het AI Office:
- Yordanka Ivanova, eenheid AI-regelgeving en -naleving, hoofd sectorrechtelijk toezicht op de uitvoering van de AI-wet
- Irina Orssich, eenheid AI-regelgeving en -naleving, hoofd van de sector Governance en regelgevingsbeleid
- Tatjana Evas, eenheid AI-regelgeving en -naleving, juridisch en beleidsmedewerker
Onderwerpen:
- De evoluerende definitie van AI-systemen begrijpen
- Overzicht van verboden AI-praktijken in het kader van de AI-verordening
- Juridische en praktische implicaties van de richtsnoeren
- Casestudy’s en voorbeelden van onaanvaardbare AI-praktijken
- Zorgen voor de naleving van de verbodsbepalingen van de AI-verordening
Het evenement werd live gestreamd op ons YouTube-kanaal en presentatiedia's zijn beschikbaar om te downloaden.
Achtergrond
In de AI-verordening, die tot doel heeft innovatie te bevorderen en tegelijkertijd een hoog niveau van bescherming van gezondheid, veiligheid en grondrechten te waarborgen, worden AI-systemen ingedeeld in verschillende risicocategorieën, waaronder verboden, risicovolle en aan transparantieverplichtingen onderworpen risicocategorieën.
De AI-verordening voorziet in een risicogebaseerd kader voor de regulering van AI-systemen, waarbij verboden praktijken het hoogste risiconiveau vertegenwoordigen omdat zij onaanvaardbare schade opleveren en de Europese waarden en grondrechten schenden. Deze richtsnoeren bieden duidelijkheid over de interpretatie van deze verbodsbepalingen door de Commissie en bieden juridische uitleg en praktische voorbeelden om belanghebbenden te helpen de vereisten van de AI-verordening te begrijpen en na te leven.
Dit webinar maakt deel uit van een bredere reeks evenementen die door het AI-bureau worden georganiseerd als onderdeel van de inspanningen van de AI-pactgemeenschap om de uitvoering van de AI-verordening te ondersteunen. In 2025 zullen tijdens aanvullende sessies andere kritieke aspecten van de AI-verordening worden onderzocht, waaronder transparantieverplichtingen en de vereisten voor AI-systemen met een hoog risico. Ons doel is om belanghebbenden uit te rusten met de kennis en instrumenten die nodig zijn om door het veranderende AI-regelgevingslandschap in Europa te navigeren.