Hundredvis af deltagere forventes at deltage i det indledende plenarmøde om udviklingen af den første adfærdskodeks for AI-modeller til generelle formål i henhold til forordningen om kunstig intelligens.
Arrangementet, der organiseres af EU's AI-kontor, markerer begyndelsen på et samarbejde mellem udbydere af AI-modeller til generelle formål, brancheorganisationer, den akademiske verden og civilsamfundet med det formål at skabe en robust ramme. Plenarforsamlingen vil fokusere på at skitsere arbejdsgrupperne, tidsplanerne og de forventede resultater, herunder den indledende indsigt i en høring af flere interessenter med næsten 430 indlæg.
Formænd og næstformænd spiller en central rolle i udformningen af den første AI-adfærdskodeks til generelle formål. Disse eksperter med forskellig baggrund inden for datalogi, forvaltning af kunstig intelligens og jura vil lede processen på tværs af fire arbejdsgrupper. Deres lederskab er afgørende for at udvikle og forfine udkast, der omhandler gennemsigtighed, ophavsret, risikovurdering, afbødende foranstaltninger og intern risikostyring og forvaltning af AI-udbydere til generelle formål. Udvælgelseskriterierne prioriterede ekspertise, uafhængighed og sikring af geografisk mangfoldighed og kønsbalance.
Formændene for arbejdsgruppen om gennemsigtighed og ophavsret bidrager f.eks. med en unik kombination af ekspertise. Den ene har en dyb baggrund i europæisk ophavsret med over 25 års erfaring, mens den anden tilbyder omfattende viden om AI-gennemsigtighed, støttet af en ph.d. fra MIT og lederskab inden for menneskecentreret AI-forskning.
Mangfoldigheden i formændenes specialiseringer sikrer omfattende opmærksomhed på tekniske, juridiske og ledelsesmæssige overvejelser på det aktuelle tekniske niveau.
Formændene og næstformændene vil sammenfatte input fra deltagerne og lede iterative drøftelser mellem oktober 2024 og april 2025 og sikre en omfattende og effektiv adfærdskodeks. Det endelige udkast forventes at blive fremlagt på et afsluttende plenarmøde senest i april 2025.
Liste over formænd & næstformænd
Arbejdsgruppe 1: Gennemsigtighed og ophavsretsrelaterede regler
Medformand (gennemsigtighed): Nuria Oliver (Spanien)
Nuria Oliver er direktør for Ellis Alicante Foundation og har en ph.d. i AI fra MIT. Hun har 25 års forskningserfaring inden for menneskecentreret AI, der spænder over den akademiske verden, industrien og ngo'er. Nuria er et uafhængigt bestyrelsesmedlem i det spanske AI-tilsynsagentur, medlem af det internationale ekspertpanel til den videnskabelige rapport om sikkerheden ved avanceret AI og medlem af IEEE, ACM, EurAI og ELLIS. Hun er også medstifter og næstformand for Ellis.
Medformand (ophavsret): Alexander Peukert (Tyskland)
Alexander Peukert er professor i civil-, handels- og informationsret ved Goethe University Frankfurt am Main. Med over 25 års erfaring er han en førende ekspert i europæisk og international ophavsret, der for nylig fokuserer på skæringspunktet mellem ophavsret og kunstig intelligens. Han har været medlem af ekspertudvalget om ophavsret i den tyske sammenslutning til beskyttelse af intellektuel ejendomsret (GRUR) siden 2004 og er stiftende medlem af European Copyright Society, som han var formand for i 2023/2024.
Næstformand (gennemsigtighed): Rishi Bommasani (flertydig)
Rishi Bommasani er Society Lead ved Stanford Center for Research on Models som en del af Stanford Institute for Human-Centered AI. Han forsker i de samfundsmæssige virkninger af AI-modeller til generelle formål og fremmer den akademiske verdens rolle i evidensbaseret politik. Hans arbejde har vundet flere videnskabelige anerkendelser og har været omtalt i Atlantic, Euractiv, Nature, New York Times, Reuters, Science, Wall Street Journal og Washington Post.
Næstformand (ophavsret): Céline Castets-Renard (Frankrig)
Céline Castets-Renard er professor i jura ved det civilretlige fakultet ved University of Ottawa og forskningsprofessor med ansvar for AI i en global sammenhæng. Hendes forskning fokuserer på regulering og styring af digitale teknologier og AI fra et internationalt og komparativt juridisk perspektiv. Hun er ekspert i AI-lovgivning, persondata- og privatlivslovgivning, digital ophavsret og platformsregulering. Hun studerer også teknologiernes indvirkning på menneskerettigheder, lighed og social retfærdighed.
Arbejdsgruppe 2: Risikoidentifikation og -vurdering, herunder evalueringer
Formandskab: Matthias Samwald (Østrig)
Matthias Samwald er lektor ved Institut for Kunstig Intelligens ved det medicinske universitet i Wien. Hans forskning fokuserer på at udnytte AI til at fremskynde videnskabelig forskning, omdanne medicin og bidrage til menneskers trivsel, samtidig med at det sikres, at disse AI-systemer er sikre og pålidelige i deres drift.
Næstformand: Marta Ziosi (Italien)
Marta Ziosi er postdoc ved Oxford Martin AI Governance Initiative, hvor hendes forskning fokuserer på standarder for grænseoverskridende AI. Under sin ph.d. på Oxford Internet Institute arbejdede hun med algoritmisk bias og samarbejdede om projekter i skæringspunktet mellem AI-politik, retfærdighed og standarder for store sprogmodeller. Hun er også grundlægger af en non-profit organisation dedikeret til at sikre, at teknologien tjener almenvellet.
Næstformand: Alexander Zacherl (Tyskland)
Alexander Zacherl er en uafhængig systemdesigner. Ved oprettelsen af UK AI Safety Institute hjalp han med at opbygge det tekniske forskerhold og det autonome systemevalueringshold. Tidligere arbejdede han på DeepMind på simuleringer og menneskelige interaktionsmiljøer for multi-agent forstærkning læring forskning.
Arbejdsgruppe 3: Teknisk risikoreduktion
Formandskab: Hoteller i nærheden af Yoshua Bengio
Yoshua Bengio, der er anerkendt verden over som en af de førende eksperter inden for kunstig intelligens, er mest kendt for sit banebrydende arbejde inden for dyb læring og modtog i 2018 A.M. Turing-prisen "Nobelprisen i databehandling" sammen med Geoffrey Hinton og Yann LeCun. Han er professor ved Université de Montréal og grundlægger og videnskabelig direktør for Mila – Quebec AI Institute. Han co-instruerer CIFAR Learning in Machines & Brains-programmet som Senior Fellow og fungerer som videnskabelig direktør for IVADO.
Næstformand: Daniel Privitera (Italien og Tyskland)
Daniel Privitera er grundlægger og administrerende direktør for KIRA Center, en uafhængig AI-politik non-profit baseret i Berlin. Han er hovedforfatter på den internationale videnskabelige rapport om sikkerheden ved avanceret AI, som er skrevet i fællesskab af 75 internationale AI-eksperter og støttet af 30 førende AI-lande, FN og EU.
Næstformand: Nitarshan Rajkumar (Canada)
Nitarshan Rajkumar er en ph.d.-kandidat forsker AI ved University of Cambridge. Han var tidligere seniorpolitisk rådgiver for den britiske minister for videnskab, innovation og teknologi, en rolle, hvor han var medstifter af AI Safety Institute og medskabte AI Safety Summit og UK supercomputing-programmet. Før det var han forsker ved Mila i Montréal og softwareingeniør ved startups i San Francisco.
Arbejdsgruppe 4: Intern risikostyring og forvaltning af udbydere af kunstig intelligens til generelle formål
Formandskab: Marietje Schaake (Nederlandene)
Marietje Schaake er stipendiat ved Stanfords Cyber Policy Center og ved Institute for Human-Centred AI. Hun er en klummeskribent for Financial Times og tjener på en række ikke-for-profit bestyrelser samt FN's højtstående rådgivende organ om AI. I perioden 2009-2019 var hun medlem af Europa-Parlamentet, hvor hun arbejdede med handels-, udenrigs- og teknologipolitik.
Næstformand: Markus Anderljung (Sverige)
Markus Anderljung er direktør for politik og forskning ved Centre for the Governance of AI. Hans forskning fokuserer på AI-regulering, ansvarlig banebrydende udvikling, beregningsstyring ved siden af andre emner. Han er også adjungeret stipendiat ved Center for a New American Security og medlem af OECD's observatorium for AI-politiks ekspertgruppe om AI Futures. Han har tidligere været udstationeret i Det Forenede Kongeriges kabinet som seniorpolitikspecialist, vicedirektør for GovAI og seniorkonsulent i EY Sweden.
Næstformand: Anka Reuel (Tyskland)
Anka Reuel er en Computer Science Ph.D. kandidat ved Stanford University. Hendes forskning fokuserer på teknisk AI-styring. Hun forsker på Stanford Trustworthy AI Research Lab og Stanford Intelligent Systems Laboratory. Hun er også geopolitik- og teknologistipendiat ved Belfer Center på Harvard Kennedy School.