Centre européen pour la transparence algorithmique

Les systèmes algorithmiques déterminent de nombreux aspects de notre expérience en ligne, par exemple, une application de streaming de musique peut utiliser des algorithmes pour suggérer des chansons ou des groupes à ses utilisateurs. Compte tenu de l’impact sociétal sans cesse croissant des plateformes en ligne telles que les réseaux sociaux, les places de marché en ligne et les moteurs de recherche, il est urgent que les processus au cœur de leurs activités fassent l’objet d’une surveillance publique. Cela inclut en particulier la façon dont ces plateformes et moteurs de recherche modèrent le contenu et la manière dont ils organisent les informations pour leurs utilisateurs.

Mission

Le Centre européen pour la transparence algorithmique (ECAT) contribuera à un environnement en ligne plus sûr, plus prévisible et plus fiable pour les citoyens et les entreprises.

La façon dont les systèmes algorithmiques façonnent la visibilité et la promotion du contenu, ainsi que l'impact sociétal et éthique de celui-ci, est un sujet de préoccupation croissante. Les mesures adoptées au titre de la législation sur les services numériques nécessitent des audits algorithmiques de responsabilité et de transparence.

L’ECAT fait partie de la Commission européenne, hébergée par le Centre commun de recherche (JRC), le service interne de la Commission pour la science et la connaissance, en étroite coopération avec la direction générale des réseaux de communication, du contenu et des technologies (DG CONNECT). Elle apporte son expertise scientifique et technique aurôle exclusif de la Commission en matière de surveillance et de contrôle de l’application des obligations systémiques relatives aux très grandes plateformes en ligne (VLOP) et aux très grands moteurs de recherche en ligne (VLOSE) prévues par la législation sur les services numériques.

Des scientifiques et des experts travaillant à l’ECAT coopéreront avec des représentants de l’industrie, des universités et des organisations de la société civile afin d’améliorer notre compréhension du fonctionnement des algorithmes: ils analyseront la transparence, évalueront les risques et proposeront de nouvelles approches transparentes et de bonnes pratiques.

Ce que nous faisons

Soutien technique

Des teststechniques sur les systèmes algorithmiques pour mieux comprendre leur fonctionnement; analyse des rapports de transparence, des évaluations des risques et des audits indépendants; le soutien aux enquêtes, telles que les inspections; la définition de procédures pertinentes pour garantir l’accès aux données aux régulateurs et aux chercheurs.

Recherche scientifique et prospective

Identifier et mesurer les risques systémiques associés aux VLOP et aux VLOSE, évaluer les mesures d'atténuation des risques, proposer des méthodologies pratiques vers des approches algorithmiques transparentes et responsables; étudier l'impact sociétal à long terme des algorithmes; identifier les risques émergents associés à l’utilisation des VLOP et des VLOSE.

Mise en réseau et renforcement de la communauté

au niveau international, centraliser les connaissances dans le monde entier, en partageant les principales conclusions scientifiques et les meilleures pratiques pour les études fondées sur des données dans ce domaine; faire office de pôle de connaissances pour les recherches menées grâce à l’accès aux données fournies par la législation sur les services numériques.

Sujets

• Transparence algorithmique
• Systèmes de recommandation, recherche d'informations, moteurs de recherche
• Équité, responsabilité et transparence
• Impact éthique, économique, juridique et social
• Évaluation des risques et mesures d'atténuation des risques
• Droits fondamentaux

Notre approche

Notre approche est appliquée, interdisciplinaire et inclusive.

Notre mission est de fournir une assistance technique et des conseils pratiques pour des systèmes algorithmiques transparents et fiables qui garantissent un environnement en ligne sûr, prévisible et fiable.

Nous combinons des méthodologies de différentes disciplines pour intégrer des perspectives techniques, éthiques, économiques, juridiques et environnementales.

Nous collaborons avec la communauté internationale de chercheurs et de praticiens dans toutes les disciplines pertinentes, y compris le milieu universitaire, l'industrie, la société civile et l'administration publique.

Comment nous travaillons

L'ECAT est géré en étroite coopération avec la DG CONNECT et le Centre commun de recherche de la Commission européenne. En plus de son propre personnel, l'ECAT s'appuie sur les connaissances des boursiers et des experts externes. En outre, une équipe de chercheurs et de praticiens d'institutions externes contribuera aux travaux du Centre. Un réseau international de parties prenantes (États membres de l’UE, communauté de recherche, auditeurs indépendants, représentants et praticiens de l’industrie, société civile) garantira une approche collective large. 

Contact

Courrier : EC ECAT

Contexte

Les systèmesalgorithmiques sont utilisés pour identifier, catégoriser, classer, suggérer et présenter des informations aux utilisateurs. Ces systèmes aident, influencent et remplacent de plus en plus souvent les humains dans les processus décisionnels. 

La législation sur les services numériques exigera des VLOP et des VLOSE opérant dans l’Union européenne qu’ils identifient, analysent et évaluent certains risques systémiques découlant de la conception et du fonctionnement de leur service et des systèmes connexes, y compris les systèmes algorithmiques. En outre, ils doivent s’engager à faire face aux risques identifiés, directement ou indirectement liés au fonctionnement du système algorithmique utilisé.

Outre le rôle de surveillance de la Commission, ces évaluations des risques et les mesures d’atténuation qui les accompagnent feront l’objet d’un audit et d’une surveillance externes indépendants par les chercheurs et la société civile.