Pakt o umělé inteligenci

V roce 2021 předložila Komise svůj návrh aktu o umělé inteligenci, který je v současné době v závěrečné fázi legislativního procesu. V prosinci 2023 dosáhli spolunormotvůrci politické dohody a konečné znění by mělo být schváleno v nadcházejících týdnech.

Zatímco některá ustanovení aktu o UI budou platit již krátce po přijetí nařízení, jiná (například některé požadavky na vysoce rizikové systémy UI) budou použitelná až na konci přechodného období (tj. mezi vstupem v platnost a datem použitelnosti). 

V této souvislosti Komise iniciuje pakt o umělé inteligenci a usiluje o dobrovolný závazek průmyslu předjímat akt o umělé inteligenci a začít plnit jeho požadavky před uplynutím zákonné lhůty.

To je o to důležitější vzhledem k tomu, že v posledních několika měsících došlo k urychlení technologického vývoje a všeobecného zavádění generativních systémů UI. Zatímco mnoho hráčů v této oblasti již podniklo kroky ke zmírnění obav, jsou nutná další naléhavá opatření.

1.    Z čeho pakt bude spočívat? 

Pakt o umělé inteligenci je režim, který podpoří včasné provádění opatření stanovených v aktu o umělé inteligenci. Společnosti budou mít možnost prokázat a podělit se o svůj závazek k cílům budoucího zákona o umělé inteligenci a připravit se na jeho provedení. Konkrétně pakt povzbudí společnosti, aby dobrovolně informovaly o postupech a postupech, které zavádějí, aby se připravily na dodržování předpisů a zajistily důvěryhodnost návrhu, vývoje a používání umělé inteligence.

Odvětvové závazky budou mít podobu příslibů (prohlášení o angažovanosti) usilovat o dosažení souladu s připravovaným aktem o umělé inteligenci spolu s podrobnostmi o konkrétních opatřeních, která jsou prováděna nebo plánována s cílem řešit konkrétní požadavky budoucího aktu o UI. Tyto závazky mohou zahrnovat postupný přístup, tj. nastínit plány na posun ve stanoveném časovém rámci směrem k vyšší úrovni ambicí než opatření, která již byla provedena. 

Tyto závazky by Komise shromáždila a zveřejnila s cílem zajistit viditelnost, zvýšit důvěryhodnost a vybudovat další důvěru v technologie vyvinuté společnostmi účastnícími se paktu. 

2.    Kteří aktéři budou zapojeni? 

Pakt o umělé inteligenci bude na dobrovolném základě svolávat klíčové aktéry z odvětví EU i ze zemí mimo EU, aby se zapojili do komunity výměny osvědčených postupů, jejímž cílem bude zvýšit povědomí o zásadách, na nichž je založen budoucí akt o umělé inteligenci, a (po přijetí aktu) zajistí závazek předvídat a překlenout mezeru před použitelností nařízení o umělé inteligenci.

3.    Jaké jsou výhody Paktu pro účastníky?

Komise bude spolupracovat s účastníky a podporovat je při:

• dosažení společného porozumění cílům budoucího aktu o umělé inteligenci;  
• přijetí konkrétních opatření k pochopení, přizpůsobení a přípravě budoucího provádění aktu o UI (např. budování vnitřních procesů, příprava zaměstnanců a sebehodnocení systémů UI);
• sdílení znalostí a zvýšení viditelnosti a důvěryhodnosti záruk zavedených k prokázání důvěryhodné UI; a nakonec
• budování další důvěry v technologie umělé inteligence. 

Pakt umožní předním účastníkům a ambiciózním účastníkům testovat a sdílet svá řešení s širší komunitou, což jim poskytne výhodu v první řadě.

4.    Jaké jsou další kroky?

V listopadu 2023 zahájila Komise „výzvu k zájmu“ pro organizace, které se chtějí aktivně zapojit do paktu UI. V dalším kroku Komise v první polovině roku 2024 spojí zúčastněné strany, aby projednaly ambice paktu a shromáždily předběžné nápady a osvědčené postupy, které by mohly inspirovat budoucí závazky. Po formálním přijetí zákona o umělé inteligenci bude pakt o umělé inteligenci oficiálně zahájen a „přední“ organizace budou vyzvány, aby zveřejnily své první závazky.

Máte zájem být aktivním účastníkem Paktu o umělé inteligenci? Připojte se k iniciativě jménem vaší společnosti!

Vaše společnost již vypracovala interní pokyny nebo procesy k zajištění návrhu, vývoje a používání důvěryhodných systémů UI? Sdílejte a otestujte je s komunitou AI Pact!