Europees Centrum voor algoritmische transparantie

Algoritmische systemen bepalen veel aspecten van onze online ervaring, bijvoorbeeld een muziekstreaming-app kan algoritmen gebruiken om liedjes of bands aan zijn gebruikers voor te stellen. Met de steeds groter wordende maatschappelijke impact van onlineplatforms zoals sociale netwerken, onlinemarktplaatsen en zoekmachines, is er dringend behoefte aan publiek toezicht op de processen die de kern van hun bedrijf vormen. Dit houdt met name in hoe deze platforms en zoekmachines inhoud modereren en hoe zij informatie voor hun gebruikers beheren. 

Missie

Het Europees Centrum voor algoritmische transparantie (ECAT) zal bijdragen tot een veiligere, voorspelbarere en betrouwbaardere onlineomgeving voor mensen en bedrijven.

Hoe algoritmische systemen de zichtbaarheid en promotie van inhoud en de maatschappelijke en ethische impact hiervan vormgeven, is een steeds groter punt van zorg. In het kader van dewet inzake digitale diensten(DSA) vastgestelde maatregelen vereisen algoritmische verantwoordings- en transparantieaudits.

Het ECAT maakt deel uit van de Europese Commissie en wordt gehost door het Gemeenschappelijk Centrum voor onderzoek (JRC) – de interne wetenschappelijke en kennisdienst vande Commissie – in nauwe samenwerking met het directoraat-generaalCommunicatienetwerken, Inhoud en Technologie (DG CONNECT).  Het draagt wetenschappelijke en technische expertise bij aan de exclusieve toezichthoudende en handhavingsrol van de Commissie met betrekking tot de systemische verplichtingen inzake zeer grote onlineplatforms (VLOP’s) en zeer grote onlinezoekmachines (VLOSE’s) waarin de wet inzake digitale diensten voorziet.

Wetenschappers en deskundigen die bij het ECAT werken, zullen samenwerken met vertegenwoordigers van het bedrijfsleven, de academische wereld en maatschappelijke organisaties om ons inzicht in de werking van algoritmen te verbeteren: zij analyseren de transparantie, beoordelen de risico's en stellen nieuwe transparante benaderingen en beste praktijken voor.

Wat we doen

Technische ondersteuning

technische tests van algoritmische systemen om een beter inzicht te krijgen in de werking ervan; analyse van transparantieverslagen, risicobeoordelingen en onafhankelijke audits; ondersteuning van onderzoeken, zoals inspecties; vaststelling van relevante procedures om de toegang tot gegevens voor regelgevers en onderzoekers te waarborgen.

Wetenschappelijk onderzoek en prognoses

systeemrisico's in verband met VLOP's en VLOSE'sidentificeren en meten, risicobeperkende maatregelen evalueren, praktische methoden voorstellen voor transparante en verantwoordingsplichtige algoritmische benaderingen; de maatschappelijke impact van algoritmen op lange termijn te bestuderen; opkomende risico’s in verband met het gebruik van VLOP’s en VLOSE’s in kaart brengen.

Netwerken en gemeenschapsopbouw

op internationaal niveau kennis over de hele wereld te centraliseren en de belangrijkste wetenschappelijke bevindingen en beste praktijken voor gegevensgestuurde studies op dit gebied te delen; fungeren als kennishub voor onderzoek dat wordt uitgevoerd dankzij toegang tot gegevens die door de wet inzake digitale diensten worden verstrekt.

Onderwerpen

• Algoritmische transparantie
• Aanbevelingssystemen, informatie opvragen, zoekmachines
• Eerlijkheid, verantwoordingsplicht en transparantie
• Ethische, economische, juridische en sociale gevolgen
• Risicobeoordeling en risicobeperkende maatregelen
• Grondrechten

Onze aanpak

Onze aanpak is toegepast, interdisciplinair en inclusief.

Onze missie is om technische ondersteuning en praktische begeleiding te bieden voor transparante en betrouwbare algoritmische systemen die zorgen voor een veilige, voorspelbare en vertrouwde online omgeving.

We combineren methodologieën uit verschillende disciplines om technische, ethische, economische, juridische en milieuperspectieven te integreren.

We werken samen met de internationale gemeenschap van onderzoekers en praktijkmensen in relevante disciplines, waaronder de academische wereld, het bedrijfsleven, het maatschappelijk middenveld en het openbaar bestuur.

Hoe wij werken

Het ECAT wordt beheerd in nauwe samenwerking met DG CONNECT en het Gemeenschappelijk Centrum voor onderzoek van de Europese Commissie. Naast zijn eigen personeel maakt het ECAT gebruik van de kennis van bursalen en externe deskundigen. Voorts zal een team van onderzoekers en praktijkmensen van externe instellingen een bijdrage leveren aan de werkzaamheden van het Centrum. Een internationaal netwerk van belanghebbenden (EU-lidstaten, onderzoeksgemeenschap, onafhankelijke auditors, vertegenwoordigers van het bedrijfsleven en beroepsbeoefenaars, het maatschappelijk middenveld) zal een brede, collectieve aanpak garanderen. 

Contact

Mail: ECAT

Context

Algoritmische systemen worden gebruikt om informatie te identificeren, categoriseren, rangschikken, suggereren en presenteren aan gebruikers. Die systemen helpen, beïnvloeden en vervangen mensen steeds vaker in besluitvormingsprocessen. 

De wet inzake digitale diensten vereist dat VLOP’s en VLOSE’s die in de Europese Unie actief zijn, bepaalde systeemrisico’s die voortvloeien uit het ontwerp en de werking van hun diensten en aanverwante systemen, met inbegrip van algoritmische systemen, identificeren, analyseren en beoordelen.  Bovendien moeten zij zich ertoe verbinden vastgestelde risico’s aan te pakken die direct of indirect verband houden met de werking van het gebruikte algoritmische systeem.

Naast de toezichthoudende rol van de Commissie zullen dergelijke risicobeoordelingen en eventuele begeleidende risicobeperkende maatregelen worden onderworpen aan een externe onafhankelijke audit en toezicht door onderzoekers en het maatschappelijk middenveld.