AdobeStock © KhunkornStudio
La Oficina de IA de la UE ha convocado una red de evaluadores para avanzar en la evaluación científica y práctica de los modelos de IAGP, en particular los que plantean riesgos sistémicos. Esta iniciativa apoya la seguridad, la transparencia y el cumplimiento de la IA en virtud de la Ley de IA de la UE y el Código de buenas prácticas en materia de IA de finalidad general (en lo sucesivo, «el Código de buenas prácticas»).
La Red de Evaluadores reúne a instituciones de investigación, industria y organismos gubernamentales. Su enfoque actual es refinar las metodologías de evaluación científica GPAI para alinearse con la Ley de IA y el Código de Prácticas. Un taller reciente celebrado en diciembre, al que asistieron más de 70 organizaciones, sirvió de punto de partida para las evaluaciones de modelos de IA y la gestión de riesgos. Las ideas de este taller han dado forma a la Red de Evaluadores y su misión.
Próximo taller en Bruselas
El taller del 28 de abril marca un paso hacia la integración de la evaluación del modelo GPAI en el marco de gobernanza de la IA de la UE. Para apoyar este esfuerzo, la Oficina de IA está invitando a otras organizaciones y expertos individuales a participar en el taller y ayudar a dar forma al futuro de la evaluación de la IA con fines generales en Europa.
Actividades previas y posteriores a los talleres
Antes del taller, los revisores independientes evaluarán las evaluaciones recientes con arreglo a criterios cualitativos para las evaluaciones proporcionales del riesgo sistémico, tal como se indica en la Ley de IA y el Código de buenas prácticas. Durante el taller, los participantes y evaluadores discutirán estos criterios de proporcionalidad de manera colaborativa. Un resumen posterior al taller destacará las ideas clave, incluido un resumen de alto nivel de las áreas en las que las evaluaciones ya se alinean con los criterios, las brechas existentes y las oportunidades para refinar los criterios para un mayor impacto práctico.
Cómo participar
Las organizaciones interesadas pueden presentar sus evaluaciones a través de Openreview o de EU Survey. Solo se tendrán en cuenta para la participación las evaluaciones pertinentes para el riesgo sistémico en virtud de la Ley de IA. Si está interesado en contribuir como revisor, cumplimente la encuesta de la UE. Si tiene más preguntas, póngase en contacto con CNECT-A3@ec.europa.eu. También se puede invitar a revisores de alta calidad a participar en el taller.