Skip to main content
Shaping Europe’s digital future

Akt o umělé inteligenci

Komise navrhuje vůbec první právní rámec pro umělou inteligenci, který se zabývá riziky umělé inteligence a staví Evropu k tomu, aby hrála vedoucí úlohu v celosvětovém měřítku.

    muž a žena pracující na high-tech obrazovce

© gorodenkoff - iStock Getty Images Plus

Cílem aktu o umělé inteligenci je poskytnout vývojářům, provozovatelům a uživatelům UI jasné požadavky a povinnosti týkající se konkrétních použití umělé inteligence. Nařízení zároveň usiluje o snížení administrativní a finanční zátěže pro podniky, zejména pro malé a střední podniky (MSP).

Akt týkající se umělé inteligence je součástí širšího balíčku UI, který rovněž zahrnuje aktualizovaný koordinovaný plán v oblasti umělé inteligence. Regulační rámec a koordinovaný plán společně zaručí bezpečnost a základní práva lidí a podniků, pokud jde o umělou inteligenci. A posílí zavádění, investice a inovace v oblasti umělé inteligence v celé EU.

Akt o umělé inteligenci bude vůbec prvním komplexním právním rámcem pro umělou inteligenci na celém světě. Cílem nových pravidel je podporovat důvěryhodnou UI v Evropě i mimo ni zajištěním toho, aby systémy UI dodržovaly základní práva, bezpečnost a etické zásady. Akt o umělé inteligenci se zaměřuje na všeobecnou umělou inteligenci, která je také známá jako nadační modely nebo pokročilá generativní umělá inteligence. Tyto systémy UI mohou vykonávat širokou škálu funkcí a přizpůsobit se různým úkolům. V budoucnu by mohly nabýt hospodářského a společenského významu, a proto musí být regulovány vhodnými zárukami, jako je lidský dohled, transparentnost a odpovědnost.

Proč potřebujeme pravidla týkající se umělé inteligence?

Akt o umělé inteligenci zajišťuje, že Evropané mohou důvěřovat tomu, co UI nabízí. Zatímco většina systémů UI představuje omezené riziko a mohou přispět k řešení mnoha společenských výzev, některé systémy UI vytvářejí rizika, která musíme řešit, abychom se vyhnuli nežádoucím výsledkům.

Například často není možné zjistit, proč systém UI učinil rozhodnutí nebo předpověď a přijal konkrétní opatření. Proto může být obtížné posoudit, zda byl někdo nespravedlivě znevýhodněn, například v rozhodnutí o náboru nebo v žádosti o veřejně prospěšný systém.

Ačkoli stávající právní předpisy poskytují určitou ochranu, nepostačují k řešení konkrétních výzev, které systémy UI mohou přinést.

Navrhovaná pravidla budou:

  • řešit rizika specificky vytvořená aplikacemi umělé inteligence;
  • navrhnout seznam vysoce rizikových aplikací;
  • stanovit jasné požadavky na systémy UI pro vysoce rizikové aplikace;
  • definovat konkrétní povinnosti pro uživatele umělé inteligence a poskytovatele vysoce rizikových aplikací;
  • navrhne posouzení shody před uvedením systému UI do provozu nebo před jeho uvedením na trh;
  • navrhovat prosazování po uvedení takového systému UI na trh;
  • navrhnout správní strukturu na evropské a vnitrostátní úrovni.

Přístup založený na posouzení rizik

Regulační rámec definuje 4 úrovně rizika v UI:

pyramida zobrazující čtyři úrovně rizika: Nepřijatelné riziko; Vysoce rizikové; omezené riziko, minimální nebo žádné riziko

 

Všechny systémy UI považované za jasnou hrozbu pro bezpečnost, živobytí a práva lidí budou zakázány, od sociálního bodování ze strany vlád až po hračky pomocí hlasové pomoci, která podporuje nebezpečné chování.

Vysoké riziko

Systémy UI označené jako vysoce rizikové zahrnují technologie UI používané v:

  • kritické infrastruktury (např. doprava), které by mohly ohrozit život a zdraví občanů;
  • vzdělávací nebo odborné vzdělávání, které může určovat přístup ke vzdělání a profesnímu průběhu něčího života (např. bodování zkoušek);
  • bezpečnostní komponenty výrobků (např. aplikace umělé inteligence v chirurgii podporované roboty);
  • zaměstnávání, řízení pracovníků a přístup k samostatné výdělečné činnosti (např. software pro třídění životopisů pro přijímací řízení);
  • základní soukromé a veřejné služby (např. úvěrové hodnocení, které občanům znemožňuje získat půjčku);
  • prosazování práva, které může zasahovat do základních práv občanů (např. hodnocení spolehlivosti důkazů);
  • řízení migrace, azylu a ochrany hranic (např. ověřování pravosti cestovních dokladů);
  • výkon spravedlnosti a demokratických procesů (např. uplatňování práva na konkrétní soubor skutečností).

Vysoce rizikové systémy UI budou před uvedením na trh podléhat přísným povinnostem:

  • přiměřené systémy posuzování a zmírňování rizik;
  • vysoká kvalita datových souborů, které systém zásobují, aby se minimalizovala rizika a diskriminační výsledky;
  • zaznamenávání činností s cílem zajistit sledovatelnost výsledků;
  • podrobná dokumentace poskytující veškeré nezbytné informace o systému a jeho účelu, aby orgány mohly posoudit jeho soulad;
  • jasné a přiměřené informace pro uživatele;
  • vhodná opatření lidského dohledu k minimalizaci rizik;
  • vysoká úroveň robustnosti, bezpečnosti a přesnosti.

Všechny systémy biometrické identifikace na dálku jsou považovány za vysoce rizikové a podléhají přísným požadavkům. Používání biometrické identifikace na dálku na veřejně přístupných místech pro účely vymáhání práva je v zásadě zakázáno.

Úzké výjimky jsou přísně definovány a regulovány, například pokud je to nezbytné pro pátrání po pohřešovaném dítěti, aby se zabránilo konkrétní a bezprostřední teroristické hrozbě nebo aby bylo možné odhalovat, lokalizovat, identifikovat nebo stíhat pachatele nebo podezřelého ze závažného trestného činu.

Tato použití podléhají povolení soudního nebo jiného nezávislého orgánu a přiměřeným časovým omezením, zeměpisnému dosahu a prohledávaným databázím.

Omezené riziko

Omezené riziko se týká systémů UI se zvláštními povinnostmi transparentnosti. Při používání systémů UI, jako jsou chatboty, by si uživatelé měli být vědomi toho, že komunikují se strojem, aby se mohli informovaně rozhodnout pokračovat nebo ustoupit.

Minimální nebo žádné riziko

Zákon o umělé inteligenci umožňuje bezplatné využívání UI s minimálním rizikem. To zahrnuje aplikace, jako jsou videohry s umělou inteligencí nebo spamové filtry. Převážná většina systémů UI, které se v současné době používají v EU, spadá do této kategorie.

postupný postup pro prohlášení o shodě
How does it all work in practice for providers of high risk AI systems?

Jakmile je systém UI na trhu, jsou orgány odpovědné za dozor nad trhem, uživatelé zajišťují lidský dohled a monitorování a poskytovatelé mají zaveden systém monitorování po uvedení na trh. Poskytovatelé a uživatelé budou rovněž hlásit závažné incidenty a poruchy.

Právní předpisy, které obstojí i v budoucnu

Vzhledem k tomu, že umělá inteligence je rychle se vyvíjející technologií, návrh má přístup, který obstojí i v budoucnu, což umožňuje pravidla přizpůsobit se technologickým změnám. Aplikace UI by měly zůstat důvěryhodné i po jejich uvedení na trh. To vyžaduje trvalé řízení kvality a rizik ze strany poskytovatelů.

Prosazování a provádění

Evropský úřad pro umělou inteligenci, zřízený v únoru 2024 v rámci Komise, dohlíží na prosazování a provádění aktu o umělé inteligenci s členskými státy. Jejím cílem je vytvořit prostředí, v němž technologie umělé inteligence respektují lidskou důstojnost, práva a důvěru. Podporuje také spolupráci, inovace a výzkum v oblasti umělé inteligence mezi různými zúčastněnými stranami. Kromě toho se zapojuje do mezinárodního dialogu a spolupráce v otázkách umělé inteligence a uznává potřebu celosvětového sladění v oblasti řízení umělé inteligence. Prostřednictvím tohoto úsilí usiluje Evropský úřad pro umělou inteligenci o postavení Evropy jako lídra v etickém a udržitelném rozvoji technologií umělé inteligence.

Další kroky

Dne 9. prosince 2023 dosáhly Evropský parlament a Rada politické dohody o aktu o umělé inteligenci. Akt o umělé inteligenci vstoupí v platnost 20 dnů po vyhlášení v Úředním věstníku a bude plně použitelný o dva roky později, s některými výjimkami: Některé zákazy vstoupí v platnost po šesti měsících, zatímco ustanovení o všeobecné UI budou prosazována po jednom roce. S cílem usnadnit přechod na nový regulační rámec zahájila Komise pakt o umělé inteligenci, dobrovolnou iniciativu, která vyzývá vývojáře umělé inteligence z Evropy i ze zahraničí, aby včas splnili klíčové povinnosti vyplývající z aktu o umělé inteligenci.

Jako další regulační plnění bílé knihy o umělé inteligenci byla dne 28. září 2022 přijata navrhovaná směrnice o odpovědnosti za umělou inteligenci.

Nejnovější zprávy

Komise zahajuje výzvy k investování více než 176 milionů eur do digitálních kapacit a technologií

Evropská komise zveřejnila nový soubor výzev k předkládání návrhů v rámci pracovních programů programu Digitální Evropa na období 2023–2024 s cílem posílit digitální kapacity v celé EU. Tyto výzvy jsou otevřeny podnikům, orgánům veřejné správy a dalším subjektům z členských států EU, zemí ESVO/EHP a přidružených zemí. Rozpočet na tento soubor výzev přesahuje 176 milionů EUR.

PRESS RELEASE |
Commission makes first payment of €202 million to Finland under the Recovery Facility

The European Commission opened a new set of calls for proposals under the 2023-2024 Work Programmes of the Digital Europe Programme to strengthen digital capacities across EU. These calls are open to businesses, public administrations, and other entities from the EU Member States, EFTA/EEA countries, and associated countries. The budget for this set of calls is over €176 million.

TISKOVÁ ZPRÁVA |
EU investuje 216 milionů eur na podporu výzkumu a inovací v oblasti polovodičů

Společný podnik pro polovodiče dnes oznámil zahájení výzev k předkládání návrhů ve výši 216 milionů EUR na podporu výzkumných a inovačních iniciativ v oblasti polovodičů, mikroelektroniky a fotoniky. Toto oznámení následuje po prvním kole výzev k předkládání návrhů na inovativní pilotní linky, které bylo oznámeno v listopadu 2023, na jejichž základě bylo zajištěno financování EU ve výši 1,67 miliardy eur.

Související obsah

Souvislosti

Evropský přístup k umělé inteligenci

Přístup EU k umělé inteligenci se zaměřuje na excelenci a důvěru s cílem posílit výzkum a průmyslovou kapacitu a zároveň zajistit bezpečnost a základní práva.

Hlubší pohled

Pakt o umělé inteligenci

Pakt o umělé inteligenci podpoří a podpoří společnosti při plánování opatření stanovených v aktu o umělé inteligenci.

Viz také

Koordinovaný plán umělé inteligence

Cílem koordinovaného plánu pro umělou inteligenci je urychlit investice do umělé inteligence, provádět strategie a programy umělé inteligence a sladit politiku v oblasti umělé inteligence, aby se zabránilo roztříštěnosti v Evropě.

Evropská aliance pro umělou inteligenci

Evropská aliance pro umělou inteligenci je iniciativou Evropské komise, jejímž cílem je zahájit otevřený politický dialog o umělé inteligenci. Od svého zahájení v roce 2018 zapojila aliance UI přibližně 6000 zúčastněných stran prostřednictvím pravidelných akcí, veřejných...