Stovky účastníků se zúčastní zahajovacího plenárního zasedání za účelem vypracování prvního kodexu zásad pro univerzální modely umělé inteligence podle aktu o umělé inteligenci.
Tato akce, kterou pořádá Úřad EU pro umělou inteligenci, je začátkem společného úsilí, do něhož jsou zapojeni poskytovatelé univerzálních modelů umělé inteligence, průmyslové organizace, akademická obec a občanská společnost a jehož cílem je vytvořit pevný rámec. Plenární zasedání se zaměří na nastínění pracovních skupin, harmonogramů a očekávaných výsledků, včetně počátečních poznatků z mnohostranných konzultací s téměř 430 příspěvky.
Předsedové a místopředsedové hrají klíčovou úlohu při utváření prvního všeobecného kodexu zásad UI. Tito odborníci, čerpající z různých prostředí v oblasti informatiky, řízení umělé inteligence a práva, budou řídit proces ve čtyřech pracovních skupinách. Jejich vedení má zásadní význam pro vypracování a zdokonalení návrhů, které se zabývají transparentností, autorským právem, posuzováním rizik, opatřeními ke zmírnění rizik a interním řízením rizik a správou a řízením poskytovatelů UI pro všeobecné účely. Kritéria výběru upřednostňovala odborné znalosti, nezávislost a zajištění zeměpisné rozmanitosti a vyváženého zastoupení žen a mužů.
Například spolupředsedové pracovní skupiny pro transparentnost a autorská práva přinášejí jedinečnou kombinaci odborných znalostí. Jeden má hluboké zázemí v evropském autorském právu s více než 25 lety zkušeností, zatímco druhý nabízí rozsáhlé znalosti v oblasti transparentnosti umělé inteligence, podpořené doktorátem z MIT a vedoucím postavením ve výzkumu umělé inteligence zaměřeném na člověka.
Rozmanitost specializací předsedů zajišťuje komplexní pozornost technickým, právním a správním aspektům při současném stavu techniky.
Předsedové a místopředsedové shrnou příspěvky účastníků a povedou iterativní diskuse v období od října 2024 do dubna 2025, čímž zajistí komplexní a účinný kodex zásad. Konečný návrh by měl být předložen na závěrečném plenárním zasedání do dubna 2025.
Seznam předsedů a místopředsedů
Pracovní skupina 1: Transparentnost a pravidla týkající se autorského práva
Spolupředseda (transparentnost): Nuria Oliver (Španělsko)
Nuria Oliver je ředitelkou nadace ELLIS Alicante Foundation a je držitelkou titulu PhD v oboru umělé inteligence na MIT. Má 25 let zkušeností s výzkumem v oblasti umělé inteligence zaměřené na člověka, zahrnující akademickou obec, průmysl a nevládní organizace. Nuria je nezávislým členem správní rady španělské agentury pro dohled nad umělou inteligencí, členem mezinárodního odborného poradního panelu pro vědeckou zprávu o bezpečnosti pokročilé umělé inteligence a členem IEEE, ACM, EurAI a ELLIS. Je také spoluzakladatelkou a místopředsedkyní společnosti ELLIS.
Spolupředseda (autorské právo): Alexander Peukert (Německo)
Alexander Peukert je profesorem občanského, obchodního a informačního práva na Goethově univerzitě ve Frankfurtu nad Mohanem. S více než 25 lety zkušeností je předním odborníkem na evropské a mezinárodní autorské právo a v poslední době se zaměřuje na průnik autorského práva a umělé inteligence. Od roku 2004 je členem Odborného výboru pro autorská práva Německého sdružení na ochranu duševního vlastnictví (GRUR) a je zakládajícím členem Evropské společnosti pro autorská práva, které předsedal v letech 2023/2024.
Místopředseda (transparentnost): Rishi Bommasani (Spojené státy americké)
Rishi Bommasani je vedoucím společnosti ve Stanfordském centru pro výzkum modelů jako součást Stanfordského institutu pro umělou inteligenci zaměřenou na člověka. Zkoumá společenský dopad univerzálních modelů umělé inteligence a prosazuje úlohu akademické obce v politice založené na důkazech. Jeho práce získala několik vědeckých uznání a byla uvedena v Atlantic, Euractiv, Nature, New York Times, Reuters, Science, Wall Street Journal a Washington Post.
Místopředseda (autorské právo): Céline Castets-Renardová (Francie)
Céline Castets-Renard je profesorkou práva na Fakultě občanského práva Univerzity v Ottawě a držitelkou výzkumného křesla Accountable AI in a Global Context. Její výzkum se zaměřuje na regulaci a řízení digitálních technologií a umělé inteligence z pohledu mezinárodního a srovnávacího práva. Je expertkou na právo umělé inteligence, právo na ochranu osobních údajů a soukromí, digitální autorské právo a regulaci platforem. Studuje také dopad technologií na lidská práva, rovnost a sociální spravedlnost.
Pracovní skupina 2: Určení a posouzení rizik, včetně hodnocení
Předsedající: Matthias Samwald (Rakousko)
Matthias Samwald je docentem na Institutu umělé inteligence na Lékařské univerzitě ve Vídni. Jeho výzkum se zaměřuje na využití umělé inteligence k urychlení vědeckého výzkumu, transformaci medicíny a přispívání k lidskému blahobytu a zároveň zajišťuje, aby tyto systémy umělé inteligence byly při svém provozu bezpečné a spolehlivé.
Místopředseda: Marta Ziosi (Itálie)
Marta Ziosi je postdoktorandkou na Oxford Martin AI Governance Initiative, kde se její výzkum zaměřuje na standardy pro hraniční AI. Během svého doktorátu na Oxfordském internetovém institutu pracovala na algoritmickém zkreslení a spolupracovala na projektech na křižovatce politiky umělé inteligence, spravedlnosti a standardů pro velké jazykové modely. Je také zakladatelkou neziskové organizace, jejímž cílem je zajistit, aby technologie sloužily veřejnému blahu.
Místopředseda: Alexander Zacherl (Německo)
Alexander Zacherl je nezávislý systémový designér. Při založení britského AI Safety Institute pomáhal budovat technický výzkumný tým a tým pro hodnocení autonomních systémů. Dříve pracoval ve společnosti DeepMind na simulacích a prostředích lidských interakcí pro výzkum multiagentního posilovacího učení.
Pracovní skupina 3: Snižování technických rizik
Předsedající: Yoshua Bengio (Kanada)
Yoshua Bengio, který je celosvětově uznáván jako jeden z předních odborníků na umělou inteligenci, je nejvíce známý svou průkopnickou prací v oblasti hlubokého učení a získal v roce 2018 cenu A.M. Turinga, „Nobelovu cenu za výpočetní techniku“, kterou získali Geoffrey Hinton a Yann LeCun. Je řádným profesorem na Université de Montréal a zakladatelem a vědeckým ředitelem Mila – Quebec AI Institute. Spoluřídí program CIFAR Learning in Machines & Brains jako Senior Fellow a působí jako vědecký ředitel IVADO.
Místopředseda: Daniel Privitera (Itálie a Německo)
Daniel Privitera je zakladatelem a výkonným ředitelem nezávislé neziskové organizace KIRA Center se sídlem v Berlíně. Je hlavním autorem Mezinárodní vědecké zprávy o bezpečnosti pokročilé umělé inteligence, kterou společně sepsalo 75 mezinárodních odborníků na umělou inteligenci a kterou podporuje 30 předních zemí v oblasti umělé inteligence, OSN a EU.
Místopředseda: Nitarshan Rajkumar (Kanada)
Nitarshan Rajkumar je PhD kandidát na výzkum AI na University of Cambridge. Předtím byl hlavním politickým poradcem ministra pro vědu, inovace a technologie Spojeného království, kde spoluzakládal AI Safety Institute a spoluvytvářel AI Safety Summit a britský superpočítačový program. Předtím byl výzkumným pracovníkem v Mila v Montrealu a softwarovým inženýrem ve startupech v San Francisku.
Pracovní skupina 4: Interní řízení rizik a správa poskytovatelů UI pro všeobecné účely
Předsedající: Marietje Schaake (Nizozemsko)
Marietje Schaake je členkou Stanfordského centra pro kybernetickou politiku a Institutu pro umělou inteligenci zaměřenou na člověka. Je redaktorkou Financial Times a působí v řadě neziskových rad a poradního orgánu OSN na vysoké úrovni pro umělou inteligenci. V letech 2009–2019 působila jako poslankyně Evropského parlamentu, kde se zabývala obchodní, zahraniční a technologickou politikou.
Místopředseda: Markus Anderljung (Švédsko)
Markus Anderljung je ředitelem pro politiku a výzkum v Centru pro správu umělé inteligence. Jeho výzkum se zaměřuje na regulaci umělé inteligence, odpovědný špičkový vývoj, výpočetní správu a další témata. Je rovněž pomocným členem Centra pro novou americkou bezpečnost a členem expertní skupiny OECD pro budoucnost UI v rámci Střediska pro sledování politiky v oblasti UI. Předtím byl přidělen k Úřadu vlády Spojeného království jako hlavní politický specialista, zástupce ředitele GovAI a hlavní konzultant v EY Sweden.
Místopředseda: Anka Reuel (Německo)
Anka Reuel je doktorandkou informatiky na Stanfordově univerzitě. Její výzkum se zaměřuje na technické řízení AI. Vede výzkum ve Stanford Trustworthy AI Research Lab a Stanford Intelligent Systems Laboratory. Je také geopolitickou a technologickou pracovnicí v Belferově centru na Harvard Kennedy School.