iStock GettyImages 1656549832 © Somkid Thongdee
Místopředsedkyně Evropské komise pro hodnoty a transparentnost Věra Jourová podepsala jménem Evropské unie Rámcovou úmluvu Rady Evropy o umělé inteligenci a lidských právech, demokracii a právním státu. Stalo se tak během neformální konference ministrů spravedlnosti členských států Rady Evropy v litevském Vilniusu. Tato úmluva je prvním právně závazným mezinárodním nástrojem v oblasti umělé inteligence. Je plně v souladu s právem Unie obecně, a zejména s aktem EU o umělé inteligenci, který je prvním komplexním nařízením o umělé inteligenci na světě.
EU, zastoupená Komisí, se s podporou členských států velmi aktivně účastnila jednání o této úmluvě. Úmluva je v souladu s aktem EU o umělé inteligenci i s dalšími právními předpisy Evropské unie a zahrnuje řadu klíčových pojmů aktu o umělé inteligenci, jako jsou:
- zaměření na umělou inteligenci zaměřenou na člověka v souladu s lidskými právy, demokracií a právním státem
- přístup založený na posouzení rizik
- klíčové zásady pro důvěryhodnou umělou inteligenci (např. transparentnost, spolehlivost, bezpečnost, správa a ochrana údajů)
- transparentnost obsahu vytvářeného umělou inteligencí a v interakcích se systémy umělé inteligence
- posílená dokumentace, odpovědnost a nápravná opatření
- podpora bezpečných inovací prostřednictvím regulačních pískovišť
- povinnosti v oblasti řízení rizik
- povinnosti týkající se dokumentace
- mechanismy dohledu pro dohled nad činnostmi v oblasti UI
To má zásadní význam pro zajištění účinného rámce na mezinárodní úrovni pro řešení rizik, která umělá inteligence představuje pro lidská práva, demokracii a právní stát.
Úmluva jako taková stanoví společný přístup k zajištění toho, aby činnosti v rámci životního cyklu systémů UI byly slučitelné s lidskými právy, demokracií a právním státem a zároveň umožňovaly inovace a důvěru. Úmluva se vztahuje na systémy UI, které potenciálně zasahují do výše uvedených lidských práv, demokracie a právního státu, a to uplatňováním diferencovaného přístupu založeného na posouzení rizik.
Zásady a povinnosti stanovené v úmluvě se budou vztahovat na činnosti v rámci životního cyklu systémů UI prováděné veřejnými orgány nebo soukromými subjekty jednajícími jejich jménem. Pokud jde o subjekty soukromého sektoru, i když se stále musí zabývat riziky a dopady systémů UI způsobem, který je v souladu s cíli úmluvy, mají možnost buď přímo uplatňovat závazky vyplývající z úmluv, nebo zavést alternativní vhodná opatření.
Úmluva obsahuje výjimky pro výzkum a vývoj, jakož i pro národní bezpečnost. Je otevřena přistoupení členů Rady Evropy, EU a dalších třetích zemí po celém světě.
Úmluva bude v EU provedena prostřednictvím aktu o umělé inteligenci, který obsahuje obecně plně harmonizovaná pravidla pro uvádění systémů umělé inteligence na trh, do provozu a jejich používání, případně doplněná dalším příslušným acquis Unie.
Další kroky
Tento podpis vyjadřuje záměr EU stát se smluvní stranou úmluvy. Poté Evropská komise připraví návrh rozhodnutí Rady o uzavření úmluvy. Souhlas by měl udělit i Evropský parlament.
Souvislosti
Jednání o úmluvě byla zahájena v září 2022 pod záštitou Výboru pro umělou inteligenci (CAI) zřízeného Radou Evropy ve Štrasburku. Jednání zahrnovala jednání Evropské komise jménem EU, dalších členských států Rady Evropy, Svatého stolce, USA, Kanady, Mexika, Japonska, Izraele, Austrálie, Argentiny, Peru, Uruguaye a Kostariky. Příspěvky 68 mezinárodních zástupců občanské společnosti, akademické obce, průmyslu a dalších mezinárodních organizací zajistily komplexní a inkluzivní přístup.