iStock GettyImages 1656549832 © Somkid Thongdee
Podpredsedníčka Európskej komisie pre hodnoty a transparentnosť Věra Jourová podpísala v mene Európskej únie Rámcový dohovor Rady Európy o umelej inteligencii a ľudských právach, demokracii a právnom štáte. Uskutočnilo sa to počas neformálnej konferencie ministrov spravodlivosti členských štátov Rady Európy vo Vilniuse v Litve. Tento dohovor je prvým právne záväzným medzinárodným nástrojom v oblasti umelej inteligencie. Je plne v súlade s právom Únie vo všeobecnosti, a najmä s aktom EÚ o umelej inteligencii, ktorý je prvým komplexným nariadením o umelej inteligencii na svete.
EÚ zastúpená Komisiou a s podporou členských štátov sa veľmi aktívne zúčastňovala na rokovaniach o tomto dohovore. Dohovor je v súlade s aktom EÚ o umelej inteligencii, ako aj s inými právnymi predpismi Európskej únie a zahŕňa niekoľko kľúčových koncepcií aktu o umelej inteligencii, ako sú:
- zameranie na umelú inteligenciu sústredenú na človeka v súlade s ľudskými právami, demokraciou a právnym štátom
- prístup založený na riziku
- kľúčové zásady dôveryhodnej umelej inteligencie (napr. transparentnosť, spoľahlivosť, bezpečnosť, správa a ochrana údajov)
- transparentnosť obsahu vytvoreného umelou inteligenciou a interakcií so systémami umelej inteligencie
- posilnená dokumentácia, zodpovednosť a nápravné opatrenia
- podpora bezpečných inovácií prostredníctvom experimentálnych regulačných prostredí
- povinnosti v oblasti riadenia rizík
- povinnosti týkajúce sa dokumentácie
- mechanizmy dohľadu nad činnosťami umelej inteligencie
Je to nevyhnutné na zabezpečenie účinného rámca na medzinárodnej úrovni na riešenie rizík, ktoré umelá inteligencia predstavuje pre ľudské práva, demokraciu a právny štát.
V dohovore sa ako takom stanovuje spoločný prístup s cieľom zabezpečiť, aby činnosti v rámci životného cyklu systémov umelej inteligencie boli zlučiteľné s ľudskými právami, demokraciou a právnym štátom a zároveň umožňovali inovácie a dôveru. Dohovor sa vzťahuje na systémy umelej inteligencie, ktoré potenciálne zasahujú do uvedených ľudských práv, demokracie a právneho štátu, a to na základe diferencovaného prístupu založeného na riziku.
Zásady a povinnosti stanovené v dohovore sa budú vzťahovať na činnosti v rámci životného cyklu systémov umelej inteligencie, ktoré vykonávajú orgány verejnej moci alebo súkromné subjekty konajúce v ich mene. Pokiaľ ide o subjekty súkromného sektora, hoci stále musia riešiť riziká a vplyvy systémov umelej inteligencie spôsobom, ktorý je v súlade s cieľmi dohovoru, majú možnosť buď priamo uplatňovať povinnosti vyplývajúce z dohovorov, alebo zaviesť alternatívne vhodné opatrenia.
Dohovor obsahuje výnimky pre výskum a vývoj, ako aj pre národnú bezpečnosť. Je otvorená pristúpeniu členov Rady Európy, EÚ a ďalších tretích krajín na celom svete.
Dohovor sa bude v EÚ vykonávať prostredníctvom aktu o umelej inteligencii, ktorý obsahuje všeobecne plne harmonizované pravidlá uvádzania na trh, uvádzania do prevádzky a používania systémov umelej inteligencie, prípadne doplnené o ďalšie príslušné acquis Únie.
Ďalšie kroky
Týmto podpisom sa vyjadruje zámer EÚ stať sa zmluvnou stranou dohovoru. Európska komisia následne pripraví návrh rozhodnutia Rady o uzavretí dohovoru. Súhlas by mal udeliť aj Európsky parlament.
Súvislosti
Rokovania o dohovore sa začali v septembri 2022 pod záštitou Výboru pre umelú inteligenciu (CAI), ktorý zriadila Rada Európy v Štrasburgu. Rokovania zahŕňali rokovania Európskej komisie v mene EÚ, ostatných členských štátov Rady Európy, Svätej stolice, USA, Kanady, Mexika, Japonska, Izraela, Austrálie, Argentíny, Peru, Uruguaja a Kostariky. Príspevok 68 medzinárodných zástupcov občianskej spoločnosti, akademickej obce, priemyslu a iných medzinárodných organizácií zabezpečil komplexný a inkluzívny prístup.