Umělá inteligence - otázky & amp; Odpovědi

Článek 4 aktu o UI vyžaduje, aby poskytovatelé a provozovatelé systémů UI přijali opatření k zajištění dostatečné úrovně gramotnosti svých zaměstnanců a dalších osob, které se jejich jménem zabývají provozem a používáním systémů UI. Jsou povinny tak učinit s přihlédnutím ke svým technickým znalostem, zkušenostem, vzdělávání a odborné přípravě zaměstnanců a dalších osob, jakož i ke kontextu, v němž mají být systémy UI používány, a k osobám, na nichž mají být systémy UI používány.

Pojem gramotnosti v oblasti umělé inteligence uvedený v článku 4 aktu o umělé inteligenci vychází z definice pojmu uvedené v čl. 3 bodě 56 aktu o umělé inteligenci, podle níž: „gramotností v oblasti UI“ dovednosti, znalosti a porozumění, které poskytovatelům, zavádějícím subjektům a dotčeným osobám s přihlédnutím k jejich příslušným právům a povinnostem v souvislosti s tímto nařízením umožňují informované zavádění systémů UI, jakož i získávání povědomí o příležitostech a rizicích UI a možné újmě, kterou může způsobit. 

Článek 4 aktu o UI je klíčovým ustanovením, které má zajistit, aby všichni poskytovatelé a provozovatelé systémů UI vybavili své zaměstnance správnými dovednostmi, znalostmi a porozuměním poskytovanému nebo zaváděnému systému (systémům). To se týká kohokoli v organizaci, kdo se systémem UI přímo zabývá, a posiluje ustanovení o transparentnosti (článek 13 aktu o UI) a lidském dohledu (článek 14 aktu o UI) obsažená v nařízení. Článek 4 zároveň nepřímo přispívá k ochraně dotčených osob, protože zajišťuje účinné uplatňování pravidel aktu o umělé inteligenci.  

„Osoby zabývající se provozem a používáním systémů UI jménem poskytovatelů/zavádějících subjektů“ znamenají, že se nejedná o zaměstnance, ale o osoby obecně spadající do organizačních pravomocí. Může to být například dodavatel, poskytovatel služeb, klient. 

V čl. 3 odst. 56 jsou uvedeny dotčené osoby. V bodě 20 odůvodnění se rovněž uvádí: „Scílem získat co největší výhody ze systémů UI při současné ochraně základních práv, zdraví a bezpečnosti a umožnit demokratickou kontrolu by gramotnost v oblasti UI měla vybavit poskytovatele, provozovatele a dotčené osoby nezbytnými pojmy, které jim umožní přijímat informovaná rozhodnutí týkající se systémů UI. Tyto pojmy se mohou lišit s ohledem na příslušný kontext a mohou zahrnovat pochopení správného uplatňování technických prvků během vývojové fáze systému UI, opatření, která mají být uplatňována během jeho používání, vhodné způsoby výkladu výstupu systému UI a v případě dotčených osob znalosti nezbytné k pochopení toho, jak na ně budou mít dopad rozhodnutí přijatá s pomocí UI. V souvislosti s uplatňováním tohoto nařízení by gramotnost v oblasti UI měla všem příslušným aktérům v hodnotovém řetězci UI poskytnout poznatky potřebné k zajištění náležitého souladu a jeho správného prosazování. Široké provádění opatření v oblasti gramotnosti v oblasti UI a zavedení vhodných následných opatření by navíc mohlo přispět ke zlepšení pracovních podmínek a v konečném důsledku udržet konsolidaci a inovační cestu důvěryhodné UI v Unii“. Vzhledem k výše uvedeným skutečnostem a v závislosti na konkrétním riziku může být užitečné mít gramotnost i pro zákazníky/klienty.“

Článek 4 aktu o umělé inteligenci nezahrnuje povinnost měřit znalosti zaměstnanců v oblasti umělé inteligence. Potvrzuje však, že poskytovatelé a provozovatelé umělé inteligence by měli zajistit dostatečnou úroveň gramotnosti v oblasti umělé inteligence s přihlédnutím k technickým znalostem, zkušenostem, vzdělávání a odborné přípravě zaměstnanců.

Ano, akt o umělé inteligenci rozlišuje mezi modely umělé inteligence (modely GPAI), systémy umělé inteligence, včetně systémů GPAI, zakázanými, vysoce rizikovými systémy. Další podrobnosti naleznete také v pokynech k definici systému UI, které Komise zveřejnila dne 6. února s cílem pomoci poskytovatelům a dalším příslušným osobám při určování toho, zda softwarový systém představuje systém UI, a usnadnit účinné uplatňování pravidel. Tyto pokyny, které jsou nezávazné a jsou navrženy tak, aby se v průběhu času vyvíjely, vysvětlují praktické uplatňování právního konceptu zakotveného v aktu o umělé inteligenci. Pokyny k definici systémů UI byly zveřejněny navíc k pokynům k zakázaným postupům v oblasti umělé inteligence, jak jsou definovány v aktu o UI. 

Informace o činnostech Komise v souvislosti s článkem 4 aktu o umělé inteligenci jsou prozatím k dispozici na internetových stránkáchPaktu oumělé inteligenci, včetně záznamu webináře, který se konal dne 20. února, aživéhoúložiště o gramotnosti v oblasti umělé inteligence. Připravuje se internetová stránka věnovaná gramotnosti a dovednostem v oblasti umělé inteligence.

Úřad pro umělou inteligenci nebude ukládat přísné požadavky týkající se článku 4 aktu o umělé inteligenci a jeho „dostatečné úrovně gramotnosti v oblasti umělé inteligence“. Naopak považuje za nezbytnou určitou míru flexibility vzhledem k širokému tématu gramotnosti v oblasti umělé inteligence a rychle se vyvíjející technologii, kterou umělá inteligence je. Aby však poskytovatelé a provozovatelé systémů UI dodrželi článek 4 aktu o UI, měli by přinejmenším:

a) Zajistit obecné porozumění umělé inteligenci v rámci své organizace: Co je AI? Jak to funguje? Jaká umělá inteligence se v naší organizaci používá? Jaké jsou její možnosti a nebezpečí?

b) Zvažte úlohu jejich organizace (poskytovatele nebo zavádějícího subjektu systémů UI): Vyvíjí moje organizace systémy UI nebo pouze používá systémy UI vyvinuté jinou organizací?

c) Zvážit riziko poskytovaných nebo zaváděných systémů UI: Co musí zaměstnanci vědět, když pracují s takovým systémem umělé inteligence? Jaká jsou rizika, kterých si musí být vědomi, a musí si být vědomi zmírnění?

d) Konkrétně stavět své činnosti v oblasti gramotnosti v oblasti umělé inteligence na předchozí analýze s ohledem na

• rozdíly v technických znalostech, zkušenostech, vzdělávání a odborné přípravě zaměstnanců a dalších osob – kolik vědí zaměstnanci/osoba o umělé inteligenci a systémech organizace, které používají? Co dalšího by měli vědět?
• jakož i kontext, v němž mají být systémy UI používány, a osoby, na něž mají být systémy UI používány – v jakém odvětví a pro jaký účel/službu se systém UI používá?

Úvahy a, b, c a d zahrnují právní a etické aspekty. Proto se podporuje propojení s nařízením EU o umělé inteligenci (tj. pochopení aktu o umělé inteligenci) a se zásadami etiky a správy věcí veřejných.

Jak bylo uvedeno v odpovědi na předchozí otázku, v zájmu souladu s článkem 4 aktu o umělé inteligenci by organizace měly zvážit svou úlohu (poskytovatelé nebo provozovatelé systémů UI), jakož i rizika spojená se systémy UI, které poskytují a/nebo zavádějí. Podle toho by organizace měly přizpůsobit svůj přístup ke gramotnosti v oblasti umělé inteligence. Pokud jsou například systémy UI v organizaci vysoce rizikové, mohou být podle kapitoly III aktu o UI relevantní další opatření, která zajistí, aby si zaměstnanci byli vědomi toho, jak s danými systémy UI zacházet, a aby se vyhnuli jejich rizikům a/nebo je zmírnili.

To závisí na odpovědích organizace na úvahy uvedené v otázce 1. V mnoha případech však může být pouhé spoléhání se na pokyny k používání systémů UI nebo požadování, aby si je zaměstnanci přečetli, neúčinné a nedostatečné. Cílem článku 4 aktu o UI je poskytovat školení a pokyny, které jsou nejvhodnější na základě úrovně a typu znalostí každé cílové skupiny, jakož i s ohledem na kontext a účel systémů UI používaných v organizaci.

To je rovněž v souladu s dalšími ustanoveními aktu o umělé inteligenci. Článek 26 například zavádí povinnost provozovatelů vysoce rizikových systémů zajistit, aby pracovníci, kteří pracují se systémy UI v praxi, byli dostatečně vyškoleni k tomu, aby se systémem manipulovali a zajistili lidský dohled. Spoléhat se na návod k použití proto nestačí, jsou nezbytná další opatření.

Pokud jde o gramotnost v oblasti umělé inteligence, neexistuje univerzální řešení a Úřad pro umělou inteligenci nemá v úmyslu ukládat přísné požadavky nebo povinná školení. Požadavky na školení závisí na konkrétním kontextu. I když opakování shromážděných postupů automaticky nezakládá předpoklad souladu s článkem 4, iniciativy v živém úložišti gramotnosti v oblasti umělé inteligence by mohly poskytnout určitou inspiraci.

Ne, Úřad pro umělou inteligenci neukládá požadavky pro konkrétní odvětví. Jak je však uvedeno v odpovědi na otázku 1, kontext – včetně odvětví a účelu – v němž jsou systémy UI poskytovány/zaváděny, by měl být při vývoji a iniciativě v oblasti gramotnosti v oblasti UI relevantní. Kromě toho by měla být zvážena úroveň rizika systémů UI.

To závisí na konkrétním typu systému UI a riziku (např. u vysokého rizika). Obecně platí, že lidé pracující pro poskytovatele služeb nebo dodavatele musí mít odpovídající dovednosti v oblasti umělé inteligence, aby mohli plnit daný úkol (stejně jako zaměstnanci).

Ano, měli by být informováni o konkrétních rizicích, například halucinacích.

To jsou dvě odlišné otázky. Zaměstnanci a lidé ve smyčce potřebují odpovídající dovednosti zaměřené na systém, který používají.

Obvykle ano, ale záleží na daném nástroji UI a jeho konkrétní kvalifikaci. To je důležité zejména s ohledem na rychlost technologického vývoje.

Organizace by měla i nadále zvažovat kroky v odpovědi na otázku 1 a ptát se sama sebe: Vědí tito techničtí zaměstnanci, co je třeba vědět o systémech UI v organizaci a jak s nimi nakládat? Jsou si vědomi všech rizik a jak se jim vyhnout? Kromě toho by organizace měla zvážit, co dalšího by tito zaměstnanci mohli potřebovat vědět; např. právní a etické aspekty umělé inteligence.

Ano, článek 4 aktu o umělé inteligenci vybízí poskytovatele a provozovatele, aby zvážili znalosti, zkušenosti, vzdělávání a odbornou přípravu zaměstnanců a dalších osob s cílem zajistit dostatečnou úroveň gramotnosti v oblasti umělé inteligence. Vzhledem k rozdílu mezi systémy UI a k tomu, že úroveň znalostí a zkušeností, jakož i druh absolvovaného vzdělávání a odborné přípravy se mohou lišit, může být vhodné mít různé úrovně přístupů k odborné přípravě nebo učení.

Certifikát není potřeba. Organizace mohou vést interní záznamy o školeních a/nebo jiných hlavních iniciativách.

Ne, žádná konkrétní struktura řízení není pověřena dodržováním článku 4 aktu o umělé inteligenci.

Evropská komise navrhla digitální souhrnný návrh s cílenými změnami aktu o umělé inteligenci jako součást širšího úsilí Komise o zjednodušení a zefektivnění souboru digitálních pravidel EU. 

Pokud jde o článek 4, Komise navrhla přesunout povinnost členských států a Komise podporovat gramotnost v oblasti umělé inteligence a prohlubování dovedností a změnu kvalifikace v oblasti umělé inteligence namísto prosazování nekonkrétní povinnosti organizací. Komise tak rovněž zajistí kontinuitu s dosud vynaloženým úsilím (zejména prostřednictvím tohoto souboru otázek a odpovědí o gramotnosti v oblasti umělé inteligence a úložiště postupů v oblasti gramotnosti v oblasti umělé inteligence).

Je důležité zdůraznit, že pro ty, kteří zavádějí vysoce rizikové systémy UI, platí povinnost zajistit, aby jejich zaměstnanci byli vyškoleni tak, aby byl zachován lidský dohled.

Článek 4 aktu o UI vstoupil v platnost dne 2. února 2025, a proto již platí povinnost přijmout opatření k zajištění gramotnosti svých zaměstnanců v oblasti UI. Pravidla pro dohled a prosazování se použijí ode dne 3. srpna 2026.

Dohled nad článkem 4 aktu o umělé inteligenci a jeho prosazování nespadá do pravomoci Úřadu pro umělou inteligenci, ale spadá do působnosti vnitrostátních orgánů dozoru nad trhem. Vnitrostátní orgány dozoru nad trhem začnou na pravidla dohlížet a prosazovat je od 2. srpna 2026. Zatímco rozhodnutí o prosazování jsou přijímána vnitrostátními orgány dozoru nad trhem v různých členských státech, úřad pro umělou inteligenci bude úzce spolupracovat s radou pro umělou inteligenci na podpoře vhodného provádění.

Zákazy platí od 2. února 2025. S Radou pro umělou inteligenci a spoluprací mezi všemi příslušnými orgány bude zajištěno soudržné uplatňování pravidel.

Veřejné prosazování znamená, že každý členský stát jmenuje orgány odpovědné za prosazování ustanovení aktu o umělé inteligenci, které dohlížejí na dodržování tohoto zákona a vymáhají jeho dodržování. Soukromoprávní prosazování se týká scénáře, kdy soukromá osoba utrpí újmu, a domnívá se, že je to způsobeno tím, že organizace neplní povinnost podle článku 4, a žaluje organizaci o náhradu škody.

Dojde-li k újmě/poškození, může být poskytovatel systému UI v souladu s vnitrostátními právními předpisy žalován. Akt o umělé inteligenci nevytváří trestné činy ani právo na odškodnění.

Komise zveřejní pokyny k uplatňování požadavků a povinností uvedených v článcích 8 až 15 a v článku 25 aktu o umělé inteligenci a tyto pokyny se rovněž dotknou otázek gramotnosti, například při diskusi o lidském dohledu nebo řízení rizik.

V současné době má mnoho agentur již přístup ke vzdělávací platformě Komise (EU-Learn), jakož i ke zdrojům, jako jsou vzdělávací balíčky v oblasti umělé inteligence a další školení Komise.

Na podporu provádění a souladu s článkem 4 aktu o umělé inteligenci bude úřad pro umělou inteligenci nadále rozvíjet živé úložištěpostupů v oblasti gramotnosti v oblasti umělé inteligence, shromažďovat další příklady od organizací a aktualizovat otázky a odpovědi, které jsou k dispozici. Budou uspořádány další osvětové činnosti a budou zřízeny specializované internetové stránky pro činnosti týkající se gramotnosti v oblasti umělé inteligence (v rámci působnosti článku 4 i mimo ni), dovedností a talentů s cílem podpořit přístup ke gramotnosti v oblasti umělé inteligence a podpořit dialog o umělé inteligenci pro všechny.

Živé úložiště o postupech v oblasti gramotnosti v oblasti umělé inteligence je volně dostupné na našich internetových stránkách: Živé úložiště na podporu učení a výměny informací o gramotnosti v oblasti umělé inteligence

Příkladem iniciativy EU, která by mohla podpořit malé a střední podniky, je síť evropských center pro digitální inovace. Evropská centra pro digitální inovace představují 251 jednotných kontaktních míst v celé Evropě (27 členských států, 3 země ESVO – Norsko, Island a Lichtenštejnsko; 8 přidružených zemí: Albánie, Bosna a Hercegovina, Kosovo, Černá Hora, Severní Makedonie, Srbsko, Turecko a Ukrajina), podpora malých a středních podniků a organizací veřejného sektoru při digitalizaci jejich procesů. 80 % evropských center pro digitální inovace již poskytuje služby zaměřené na umělou inteligenci, včetně školení, workshopů, bootcampů pro různé potřeby a úrovně znalostí o umělé inteligenci. Malé a střední podniky a organizace veřejného sektoru se mohou obrátit na evropská centra pro digitální inovace, aby získaly podporu s technologiemi UI a jejich cíli v oblasti digitalizace v širším měřítku. Evropská centra pro digitální inovace mohou být nápomocna jako první asistenční služba v souvislosti s aktemo umělé inteligenci a sloužit jako vstupní místa pro další podpůrná opatření financovaná EU,jakojsou mimo jiné zkušební a experimentální zařízení nebo továrny na umělou inteligenci. EDIH, které je vám nejblíže, naleznete v tomto katalogu.