Obecné často kladené otázky
Umělá inteligence slibuje obrovské výhody pro naši ekonomiku a společnost. V
tomto ohledu hrají důležitou úlohu univerzální modely UI, neboť mohou být použity pro různé úkoly, a proto tvoří základ pro řadu
navazujících systémů UI používaných v Evropě i na celém světě.
Cílem aktu o umělé inteligenci je zajistit, aby univerzální modely umělé inteligence byly bezpečné a důvěryhodné.
K dosažení tohoto cíle je zásadní, aby poskytovatelé univerzálních modelů UI dobře rozuměli svým modelům v celém hodnotovém řetězci UI, a to jak s cílem umožnit integraci těchto modelů do navazujících systémů UI, tak plnit své povinnosti podle aktu o UI. Jak je podrobněji vysvětleno níže, poskytovatelé univerzálních modelů UI musí vypracovat a poskytnout technickou dokumentaci svých modelů Úřadu pro UI a navazujícím poskytovatelům, musí zavést politiku v oblasti autorského práva a musí zveřejnit shrnutí obsahu školení. Poskytovatelé univerzálních modelů UI představujících systémová rizika, k nimž může dojít buď proto, že jsou velmi schopní, nebo proto, že mají významný dopad na vnitřní trh z jiných důvodů, musí navíc informovat Komisi, posoudit a zmírnit systémová rizika, provádět hodnocení modelů, oznamovat závažné incidenty a zajistit odpovídající kybernetickou bezpečnost svých modelů.
Akt o umělé inteligenci tak přispívá k bezpečným a důvěryhodným inovacím v Evropě.
Akt o umělé inteligenci definuje obecný model umělé inteligence jako „model umělé inteligence, včetně případů, kdy je takový model umělé inteligence trénován s velkým množstvím dat využívajících vlastní dohled ve velkém měřítku, který vykazuje značnou všeobecnost a je schopen kompetentně plnit širokou škálu různých úkolů bez ohledu na způsob, jakým je model uváděn na trh, a který lze integrovat do různých navazujících systémů nebo aplikací“ (čl. 3 odst. 63).
Body odůvodnění aktu o umělé inteligenci dále objasňují, které modely by měly být považovány za modely s významnou všeobecností a které by měly být schopny plnit širokou škálu různých úkolů.
Podle 98. bodu odůvodnění „vzhledem k tomu, že obecnost modelu by mohla být mimo jiné určena také řadou parametrů, modely s nejméně miliardou parametrů a vyškolené s velkým množstvím dat využívajících vlastní dohled ve velkém měřítku by měly být považovány za modely vykazující významnou obecnost a kompetentně vykonávající širokou škálu odlišných úkolů“.
V 99. bodě odůvodnění se doplňuje, že „rozsáhlé generativní modely UI jsou typickým příkladem univerzálního modelu UI, neboť umožňují flexibilní vytváření obsahu, například ve formě textu, zvuku, obrázků nebo videa, který může snadno pojmout širokou škálu odlišných úkolů.“
Všimněte si, že významné obecnosti a schopnosti kompetentně provádět širokou škálu charakteristických úkolů mohou být dosaženy modely v rámci jedné modality, jako je text, zvuk, obrázky nebo video, pokud je modalita dostatečně flexibilní. Toho lze dosáhnout také pomocí modelů, které byly vyvinuty, doladěny nebo jinak upraveny tak, aby byly obzvláště dobré pro konkrétní úkol.
Úřad pro umělou inteligenci má v úmyslu poskytnout další objasnění toho, co by mělo být považováno za univerzální model umělé inteligence, a to na základě poznatků Společného výzkumného střediska Komise, které v současné době pracuje na vědeckém výzkumném projektu, který se touto a dalšími otázkami zabývá.
Systémová rizika jsou rizika rozsáhlé újmy vyplývající z nejpokročilejších (tj. nejmodernějších) modelů v daném okamžiku nebo z jiných modelů, které mají rovnocenný dopad (viz čl. 3 odst. 65). Tato rizika se mohou projevit například snížením překážek pro vývoj chemických nebo biologických zbraní, nezamýšlenými otázkami kontroly autonomních univerzálních modelů umělé inteligence nebo škodlivou diskriminací nebo dezinformacemi ve velkém měřítku (110. bod odůvodnění). Nejpokročilejší modely mohou v kterémkoli okamžiku představovat systémová rizika, včetně nových rizik, neboť posouvají stav techniky. Některé modely pod prahovou hodnotu odrážející současný stav techniky mohou zároveň představovat systémová rizika, například prostřednictvím dosahu, škálovatelnosti nebo lešení.
Akt o UI proto klasifikuje univerzální model UI jako univerzální model UI se systémovým rizikem, pokud se v daném okamžiku jedná o jeden z nejpokročilejších modelů nebo pokud má rovnocenný dopad (čl. 51 odst. 1). Které modely jsou považovány za univerzální modely UI se systémovým rizikem se mohou v průběhu času měnit, což odráží vyvíjející se stav techniky a potenciální přizpůsobení společnosti stále pokročilejším modelům. V současné době vyvíjí univerzální modely UI se systémovým rizikem několik společností, i když se to může v průběhu času měnit.
Aby bylo možné zachytit nejpokročilejší modely, stanoví akt o umělé inteligenci zpočátku prahovou hodnotu 10 na 25 operací s pohyblivou řádovou čárkou (FLOP) používaných pro výcvik modelu (čl. 51 odst. 1 písm. a) a odst. 2). Odhaduje se, že školení modelu, který tuto prahovou hodnotu splňuje, bude v současné době stát desítky milionů EUR (EpochAI, 2024). Úřad pro umělou inteligenci bude průběžně sledovat technologický a průmyslový vývoj a Komise může prahovou hodnotu aktualizovat, aby zajistila, že bude i nadále vyčleňovat nejpokročilejší modely v závislosti na vývoji stavu techniky prostřednictvím aktu v přenesené pravomoci (čl. 51 odst. 3). Například hodnota samotné prahové hodnoty by mohla být upravena a/nebo by mohly být zavedeny další prahové hodnoty.
Aby bylo možné zachytit modely s dopadem rovnocenným nejpokročilejším modelům, zmocňuje akt o umělé inteligenci Komisi určit další modely jako modely představující systémové riziko na základě kritérií, jako je počet uživatelů, škálovatelnost nebo přístup k nástrojům (čl. 51 odst. 1 písm. b), příloha XIII).
Úřad pro umělou inteligenci má v úmyslu poskytnout další objasnění toho, jak budou univerzální modely umělé inteligence klasifikovány jako univerzální modely umělé inteligence se systémovým rizikem, a to na základě poznatků Společného výzkumného střediska Komise, které v současné době pracuje na vědeckém výzkumném projektu, který se touto a dalšími otázkami zabývá.
Pravidla aktu o UI týkající se univerzálních modelů UI se vztahují na poskytovatele, kteří tyto modely uvádějí na trh v Unii, bez ohledu na to, zda jsou tito poskytovatelé usazeni nebo umístěni v Unii nebo ve třetí zemi (čl. 2 odst. 1 písm. a)).
Poskytovatelem univerzálního modelu UI se rozumí fyzická nebo právnická osoba, orgán veřejné moci, agentura nebo jiný subjekt, který vyvíjí univerzální model UI nebo který takový model nechal vyvinout a uvádí jej na trh, ať už za úplatu, nebo bezplatně (čl. 3 odst. 3).
Uvedení modelu na trh znamená jeho první dodání na trh Unie (čl. 3 odst. 9), tj. jeho dodání k distribuci nebo použití na trhu Unie v rámci obchodní činnosti, ať už za úplatu, nebo bezplatně (čl. 3 odst. 10). Je třeba poznamenat, že univerzální model UI se rovněž považuje za uvedený na trh, pokud poskytovatel tohoto modelu integruje model do svého vlastního systému UI, který je dodáván na trh nebo uváděn do provozu, ledaže se model a) používá pro čistě interní procesy, které nejsou nezbytné pro poskytování produktu nebo služby třetím stranám, b) nejsou dotčena práva fyzických osob a c) model není univerzálním modelem UI se systémovým rizikem (97. bod odůvodnění).
Povinnosti poskytovatelů univerzálních modelů UI platí od 2. srpna 2025 (čl. 113 písm. b)) se zvláštními pravidly pro univerzální modely UI uvedené na trh před tímto datem (čl. 111 odst. 3).
Na základě článku 53 aktu o UI musí poskytovatelé univerzálních modelů UI dokumentovat technické informace o modelu za účelem poskytnutí těchto informací na žádost Úřadu pro UI a příslušným vnitrostátním orgánům (čl. 53 odst. 1 písm. a)) a jejich zpřístupnění navazujícím poskytovatelům (čl. 53 odst. 1 písm. b)). Musí rovněž zavést politiku v souladu s právem Unie v oblasti autorského práva a práv s ním souvisejících (čl. 53 odst. 1 písm. c)) a vypracovat a zveřejnit dostatečně podrobné shrnutí obsahu použitého pro školení modelu (čl. 53 odst. 1 písm. d)).
Obecný kodex zásad UI by měl tyto povinnosti podrobněji rozvést v oddílech zabývajících se transparentností a autorským právem (pod vedením pracovní skupiny 1).
Na základě článku 55 aktu o umělé inteligenci mají poskytovatelé univerzálních modelů umělé inteligence se systémovým rizikem další povinnosti. Musí posuzovat a zmírňovat systémová rizika, zejména prováděním hodnocení modelů, sledováním, dokumentováním a hlášením závažných incidentů a zajištěním odpovídající kybernetické bezpečnosti modelu a jeho fyzické infrastruktury.
Obecný kodex zásad UI by měl poskytnout další podrobnosti o těchto povinnostech v oddílech zabývajících se posuzováním systémového rizika, zmírňováním technického rizika a zmírňováním rizika v oblasti správy a řízení (vedených pracovními skupinami 2, 3 a 4).
Povinnost vypracovat a poskytnout dokumentaci Úřadu pro umělou inteligenci, příslušným vnitrostátním orgánům a navazujícím poskytovatelům (čl. 53 odst. 1 písm. a) a b)) se neuplatní, pokud je model uvolněn na základě bezplatné licence s otevřeným zdrojovým kódem a jeho parametry, včetně vah, informací o architektuře modelu a informací o používání modelu, jsou zveřejněny. Tato výjimka se nevztahuje na univerzální modely UI se systémovým rizikem (čl. 53 odst. 2). 102. a 103. bod odůvodnění dále objasňují, co představuje bezplatnou licenci s otevřeným zdrojovým kódem, a Úřad pro umělou inteligenci má v úmyslu poskytnout další vysvětlení k otázkám týkajícím se univerzálních modelů umělé inteligence s otevřeným zdrojovým kódem.
Naproti tomu poskytovatelé univerzálních modelů UI se systémovým rizikem musí plnit své povinnosti podle aktu o UI bez ohledu na to, zda jsou jejich modely open-source. Po uvolnění modelu s otevřeným zdrojovým kódem může být obtížnější provést opatření nezbytná k zajištění souladu s povinnostmi podle článků 53 a 55 (112. bod odůvodnění). Poskytovatelé univerzálních modelů UI se systémovým rizikem proto možná budou muset před zveřejněním svých modelů jako modelů s otevřeným zdrojovým kódem posoudit a zmírnit systémová rizika.
Všeobecný kodex zásad UI by měl poskytnout další podrobnosti o tom, co povinnosti uvedené v článcích 53 a 55 znamenají pro různé způsoby uvolňování univerzálních modelů UI, včetně otevřeného zdrojového kódu.
Důležitou, ale obtížnou otázkou, o niž se tento proces opírá, je nalezení rovnováhy mezi sledováním přínosů a zmírňováním rizik plynoucích z otevřeného přístupu k pokročilým univerzálním modelům UI: pokročilé univerzální modely UI s otevřeným zdrojovým kódem mohou skutečně přinášet významné společenské přínosy, mimo jiné prostřednictvím podpory výzkumu v oblasti bezpečnosti UI; zároveň, pokud jsou tyto modely otevřené, lze zmírnění rizik snáze obcházet nebo odstraňovat.
Ustanovení čl. 2 odst. 8 upřesňuje, že akt o UI „se nevztahuje na žádnou výzkumnou, testovací nebo vývojovou činnost týkající se systémů nebo modelů UI před jejich uvedením na trh nebo do provozu“.
Zároveň se mnoho povinností poskytovatelů univerzálních modelů UI (se systémovým rizikem i bez něj) výslovně nebo implicitně týká fáze výzkumu a vývoje modelů určených pro uvedení na trh, ale před ním. Tak je tomu například v případě povinností poskytovatelů oznámit Komisi, že jejich univerzální model UI splňuje nebo bude splňovat prahovou hodnotu pro výpočet odborné přípravy (články 51 a 52), dokumentovat informace o odborné přípravě a testování (článek 53) a posuzovat a zmírňovat systémové riziko (článek 55). Zejména čl. 55 odst. 1 písm. b) výslovně stanoví, že „poskytovatelé univerzálních modelů UI se systémovým rizikem posoudí a zmírní možná systémová rizika na úrovni Unie, včetně jejich zdrojů, která mohou vyplynout z vývoje (...) univerzálních modelů UI se systémovým rizikem“.
Úřad pro umělou inteligenci v každém případě očekává, že diskuse s poskytovateli univerzálních modelů umělé inteligence se systémovým rizikem budou zahájeny již v rané fázi vývoje. To je v souladu s povinností poskytovatelů univerzálních modelů UI, které splňují prahovou hodnotu pro výpočet odborné přípravy stanovenou v čl. 51 odst. 2, „neprodleně a v každém případě do dvou týdnů poté, co je tento požadavek splněn nebo je známo, že bude splněn, informovat Komisi“ (čl. 52 odst. 1). Školení univerzálních modelů UI totiž vyžaduje značné plánování, které zahrnuje předběžné přidělení výpočetních zdrojů, a poskytovatelé univerzálních modelů UI jsou proto schopni před dokončením školení vědět, zda jejich model splní prahovou hodnotu pro výpočet školení (112. bod odůvodnění).
Úřad pro umělou inteligenci má v úmyslu tuto otázku dále objasnit.
Univerzální modely umělé inteligence mohou být dále upraveny nebo doladěny na nové modely (97. bod odůvodnění). Následné subjekty, které dolaďují nebo jinak upravují stávající univerzální model UI, se proto mohou stát poskytovateli nových modelů. Specifické okolnosti, za nichž se subjekt navazující na výrobní odvětví Unie stane poskytovatelem nového modelu, jsou obtížnou otázkou s potenciálně velkými hospodářskými důsledky, neboť mnoho organizací a jednotlivců dolaďuje nebo jinak upravuje univerzální modely UI vyvinuté jiným subjektem. Úřad pro umělou inteligenci má v úmyslu tuto otázku dále objasnit.
V případě změny nebo doladění stávajícího univerzálního modelu UI by povinnosti poskytovatelů univerzálních modelů UI uvedené v článku 53 měly být omezeny na změnu nebo doladění, například doplněním již existující technické dokumentace o informace o změnách (109. bod odůvodnění). Povinnosti poskytovatelů univerzálních modelů UI se systémovým rizikem podle článku 55 mohou být podobným způsobem omezeny. Kodex zásad UI pro obecné účely by mohl odrážet rozdíly mezi poskytovateli, kteří zpočátku vyvíjejí modely UI pro obecné účely, a poskytovateli, kteří stávající model dolaďují nebo jinak upravují.
Upozorňujeme, že bez ohledu na to, zda je následný subjekt, který začleňuje univerzální model UI do systému UI, považován za poskytovatele univerzálního modelu UI, musí tento subjekt splňovat příslušné požadavky a povinnosti aktu o UI pro systémy UI.
Na základě článku 56 aktu o UI by obecný kodex zásad UI měl podrobně stanovit způsob, jakým mohou poskytovatelé univerzálních modelů UI a univerzálních modelů UI se systémovým rizikem plnit své povinnosti podle aktu o UI. Úřad pro umělou inteligenci usnadňuje vypracování tohoto kodexu se čtyřmi pracovními skupinami, jimž předsedají nezávislí odborníci a do nichž je zapojeno téměř 1000 zúčastněných stran, zástupci členských států EU a evropští a mezinárodní pozorovatelé.
Přesněji řečeno, kodex by měl uvádět alespoň to, jak mohou poskytovatelé univerzálních modelů UI plnit povinnosti stanovené v článcích 53 a 55. To znamená, že lze očekávat, že kodex zásad bude mít dvě části: jeden, který se vztahuje na poskytovatele všech univerzálních modelů UI (článek 53), a druhý, který se vztahuje pouze na poskytovatele univerzálních modelů UI se systémovým rizikem (článek 55). Další povinností, na niž se kodex může vztahovat, je povinnost oznámit Komisi poskytovatelům univerzálních modelů UI, kteří splňují nebo se očekává, že splní podmínky uvedené v článku 51 pro to, aby byli klasifikováni jako univerzální model UI se systémovým rizikem (čl. 52 odst. 1).
Kodex by se neměl zabývat mimo jiné těmito otázkami: definování klíčových pojmů a definic z aktu o UI (jako je „obecný model UI“), aktualizace kritérií nebo prahových hodnot pro klasifikaci univerzálního modelu UI jako univerzálního modelu UI se systémovým rizikem (článek 51), nastínění toho, jak bude Úřad pro UI vymáhat povinnosti poskytovatelů univerzálních modelů UI (kapitola IX oddíl 5), a otázky týkající se pokut, sankcí a odpovědnosti.
Tyto otázky lze místo toho řešit jinými prostředky (rozhodnutími, akty v přenesené pravomoci, prováděcími akty, dalšími sděleními úřadu pro umělou inteligenci atd.).
Kodex zásad však může zahrnovat závazky poskytovatelů univerzálních modelů UI dokumentovat a oznamovat další informace, jakož i zapojit Úřad pro UI a třetí strany v průběhu celého životního cyklu modelu, pokud je to považováno za nezbytné k tomu, aby poskytovatelé účinně plnili své povinnosti podle aktu o UI.
Akt o UI rozlišuje mezi systémy UI a modely UI a ukládá požadavky na některé systémy UI (kapitoly II–IV) a povinnosti poskytovatelům univerzálních modelů UI (kapitola V). Zatímco ustanovení aktu o UI týkající se systémů UI závisí na kontextu používání systému, ustanovení aktu o UI týkající se univerzálních modelů UI se vztahují na samotný model bez ohledu na to, jaké je nebo bude jeho konečné použití. Kodex by se měl vztahovat pouze na povinnosti stanovené v aktu o umělé inteligenci pro poskytovatele univerzálních modelů umělé inteligence.
Mezi těmito dvěma soubory pravidel však existují interakce, neboť univerzální modely UI jsou obvykle začleněny do systémů UI a tvoří jejich součást. Pokud poskytovatel univerzálního modelu UI začlení univerzální model UI do systému UI, musí dodržovat povinnosti poskytovatelů univerzálních modelů UI, a pokud systém UI spadá do oblasti působnosti aktu o UI, musí splňovat požadavky na systémy UI. Pokud následný poskytovatel začlení univerzální model UI do systému UI, musí poskytovatel univerzálního modelu UI spolupracovat s následným poskytovatelem systému UI s cílem zajistit, aby tento mohl plnit své povinnosti podle aktu o UI, pokud systém UI spadá do oblasti působnosti aktu o UI (například poskytnutím určitých informací navazujícímu poskytovateli).
Vzhledem k těmto interakcím mezi modely a systémy a mezi povinnostmi a požadavky pro každý z nich se důležitá otázka, na níž je Kodex zásad založen, týká toho, která opatření jsou vhodná na úrovni modelu a která je třeba místo toho přijmout na úrovni systému.
Kodex by měl stanovit své cíle, opatření a případně klíčové ukazatele výkonnosti (KPI) pro měření dosažení svých cílů. Opatření a klíčové ukazatele výkonnosti týkající se povinností vztahujících se na poskytovatele všech univerzálních modelů UI by měly náležitě zohledňovat velikost poskytovatele a umožňovat zjednodušené způsoby dodržování předpisů pro malé a střední podniky, včetně začínajících podniků, které by neměly představovat nadměrné náklady a neměly by odrazovat od používání těchto modelů (109. bod odůvodnění). Klíčové ukazatele výkonnosti týkající se povinností vztahujících se na poskytovatele univerzálních modelů UI se systémovým rizikem by navíc měly odrážet rozdíly ve velikosti a kapacitě mezi různými poskytovateli (čl. 56 odst. 5) a zároveň zajistit, aby byly přiměřené rizikům (čl. 56 odst. 2 písm. d)).
Po zveřejnění prvního návrhu kodexu se očekává, že v nadcházejících měsících proběhnou další tři kola přípravy kodexu. Třináct předsedů a místopředsedů, kteří pocházejí z různých prostředí v oblasti informatiky, řízení umělé inteligence a práva, odpovídá za syntézu příspěvků z mnohostranných konzultací a diskusí s plenárním zasedáním o kodexu zásad, které se skládá z přibližně 1 000 zúčastněných stran. Tento opakující se proces povede ke konečnému kodexu zásad, který by měl odrážet různá podání a zároveň zajistit přesvědčivé provádění právního rámce.
Je-li kodex zásad schválen prováděcím aktem, získává obecnou platnost, což znamená, že dodržování kodexu se stává prostředkem k prokázání souladu s aktem o umělé inteligenci. Soulad s aktem o umělé inteligenci však lze prokázat i jinými způsoby.
Na základě aktu o umělé inteligenci jsou dalšími právními účinky kodexu, že úřad pro umělou inteligenci může vymáhat dodržování kodexu (čl. 89 odst. 1) a měl by při stanovování výše pokut zohlednit závazky přijaté v kodexu (čl. 101 odst. 1).
Zatímco první návrh kodexu dosud neobsahuje podrobnosti o jeho přezkumu a aktualizaci, lze očekávat, že tyto informace budou obsahovat další iterace návrhu a jakéhokoli prováděcího aktu přijatého ke schválení konečného kodexu.
Úřad pro umělou inteligenci bude mimo jiné prosazovat povinnosti poskytovatelů univerzálních modelů umělé inteligence (článek 88) a podporovat správní orgány v členských státech při prosazování požadavků na systémy umělé inteligence (článek 75). Prosazování ze strany Úřadu pro umělou inteligenci je podpořeno pravomocemi, které mu byly svěřeny aktem o umělé inteligenci, konkrétně pravomocemi požadovat informace (článek 91), provádět hodnocení univerzálních modelů umělé inteligence (článek 92), požadovat opatření od poskytovatelů, včetně provádění zmírňování rizik a stažení modelu z trhu (článek 93), a ukládat pokuty až do výše 3 % celosvětového ročního obratu nebo 15 milionů EUR, podle toho, která hodnota je vyšší (článek 101).
Related content
První obecný kodex zásad UI bude podrobně popisovat pravidla aktu o UI pro poskytovatele univerzálních modelů UI a univerzálních modelů UI se systémovými riziky.