El Centro Europeo para la Transparencia Algorítmica (ECAT) se ha comprometido a mejorar la comprensión y la regulación adecuada de los sistemas algorítmicos.
Los sistemas algorítmicos determinan muchos aspectos de nuestra experiencia en línea, por ejemplo, una aplicación de transmisión de música puede usar algoritmos para sugerir canciones o bandas a sus usuarios. Con el impacto social cada vez mayor de las plataformas en línea, como las redes sociales, los mercados en línea y los motores de búsqueda, existe una necesidad urgente de supervisión pública de los procesos en el centro de su negocio. Esto incluye, en particular, cómo estas plataformas y motores de búsqueda moderan el contenido y cómo curan la información para sus usuarios.
Misión
El Centro Europeo para la Transparencia Algorítmica (ECAT) contribuirá a un entorno en línea más seguro, predecible y fiable para las personas y las empresas.
La forma en que los sistemas algorítmicos dan forma a la visibilidad y promoción del contenido, y el impacto social y ético de esto, es un área de creciente preocupación. Las medidas adoptadas en virtud de laLey de Servicios Digitalesexigen auditorías algorítmicas de rendición de cuentas y transparencia.
La ECAT forma parte de la Comisión Europea, organizada por elCentro Común deInvestigación (JRC), el servicio interno de ciencia y conocimiento de la Comisión, en estrecha cooperación con la Dirección General de Redes de Comunicación, Contenido y Tecnologías (DG CONNECT). Aporta conocimientos científicos y técnicos a lafunción exclusiva de supervisión y ejecución de la Comisión de las obligaciones sistémicas en relación con las plataformas en línea de muy gran tamaño (VLOP) y los motores de búsqueda en línea de muy gran tamaño (VLOSE) previstas en la Ley de Servicios Digitales.
Los científicos y expertos que trabajan en el ECAT cooperarán con representantes de la industria, el mundo académico y las organizaciones de la sociedad civil para mejorar nuestra comprensión de cómo funcionan los algoritmos: analizarán la transparencia, evaluarán los riesgos y propondrán nuevos enfoques transparentes y mejores prácticas.
Lo que hacemos
Soporte técnico
Pruebastécnicas sobre sistemas algorítmicos para comprender mejor su funcionamiento; análisis de informes de transparencia, evaluaciones de riesgos y auditorías independientes; apoyo a las investigaciones, como las inspecciones; definición de los procedimientos pertinentes para garantizar el acceso a los datos a los reguladores e investigadores.
Investigación científica y prospectiva
Identificar y medir los riesgos sistémicos asociados a los VLOP y VLOSE, evaluar las medidas de mitigación de riesgos, proponer metodologías prácticas hacia enfoques algorítmicos transparentes y responsables; estudiar el impacto social a largo plazo de los algoritmos; identificar los riesgos emergentes asociados con el uso de VLOP y VLOSE.
Creación de redes y de comunidades
A nivel internacional, centralizar el conocimiento en todo el mundo, compartiendo los principales hallazgos científicos y las mejores prácticas para estudios basados en datos en este ámbito; actuar como un centro de conocimiento para la investigación realizada gracias al acceso a los datos proporcionados por la Ley de Servicios Digitales.
Temas
- Transparencia algorítmica
- Sistemas de recomendación, recuperación de información, motores de búsqueda
- Equidad, rendición de cuentas y transparencia
- Impacto ético, económico, jurídico y social
- Evaluación de riesgos y medidas de mitigación de riesgos
- Derechos fundamentales
Nuestro enfoque
Nuestro enfoque es aplicado, interdisciplinario e inclusivo.
Nuestra misión es proporcionar asistencia técnica y orientación práctica para sistemas algorítmicos transparentes y confiables que garanticen un entorno en línea seguro, predecible y confiable.
Combinamos metodologías de diferentes disciplinas para integrar perspectivas técnicas, éticas, económicas, legales y ambientales.
Colaboramos con la comunidad internacional de investigadores y profesionales de todas las disciplinas pertinentes, incluidos el mundo académico, la industria, la sociedad civil y la administración pública.
Cómo trabajamos
La ECAT se gestiona en estrecha cooperación con la DG CONNECT y el Centro Común de Investigación de la Comisión Europea. Además de su propio personal, la ECAT se basa en los conocimientos de becarios y expertos externos. Además, un equipo de investigadores y profesionales de instituciones externas contribuirá a la labor del Centro. Una red internacional de partes interesadas (Estados miembros de la UE, comunidad investigadora, auditores independientes, representantes y profesionales de la industria, sociedad civil) garantizará un enfoque colectivo de base amplia.
Contact
Correo electrónico: CE ECAT
Contexto
Los sistemas algorítmicos se utilizan para identificar, categorizar, clasificar, sugerir y presentar información a los usuarios. Esos sistemas ayudan, influyen y a menudo reemplazan cada vez más a los humanos en los procesos de toma de decisiones.
La Ley de Servicios Digitales exigirá a las plataformas en línea de muy gran tamaño y a las plataformas en línea de muy gran tamaño que operen en la Unión Europea que identifiquen, analicen y evalúen determinados riesgos sistémicos derivados del diseño y el funcionamiento de sus servicios y sistemas conexos, incluidos los sistemas algorítmicos. Además, deben comprometerse a abordar los riesgos identificados, directa o indirectamente relacionados con el funcionamiento del sistema algorítmico en uso.
Además de la función de supervisión de la Comisión, estas evaluaciones de riesgos y las medidas de mitigación que las acompañen estarán sujetas a una auditoría y supervisión externas independientes por parte de los investigadores y la sociedad civil.