Definitioner af artikel 4 og AI-forordningen
Udbydere og udbredere af AI-systemer bør træffe foranstaltninger til at sikre et tilstrækkeligt niveau af AI-færdigheder hos deres personale og andre personer, der beskæftiger sig med drift og anvendelse af AI-systemer på deres vegne. De bør gøre dette ved at tage hensyn til deres tekniske viden, erfaring og uddannelse af personale og andre personer samt den kontekst, som AI-systemerne skal anvendes i, og de personer, som AI-systemerne skal anvendes på.
Begrebet AI-færdigheder, der er nævnt i artikel 4 i forordningen om kunstig intelligens, bygger på definitionen af begrebet i artikel 3, nr. 56), i forordningen om kunstig intelligens, i henhold til hvilken: "AI-færdigheder": færdigheder, viden og forståelse, der gør det muligt for udbydere, udbredere og berørte personer under hensyntagen til deres respektive rettigheder og forpligtelser i forbindelse med denne forordning at foretage en informeret udbredelse af AI-systemer samt at opnå bevidsthed om mulighederne og risiciene ved AI og den mulige skade, den kan forårsage.
Artikel 4 i forordningen om kunstig intelligens er en vigtig bestemmelse for at sikre, at alle udbydere og udbredere af AI-systemer udstyrer deres personale med de rette færdigheder og den rette viden om og forståelse af det eller de systemer, der leveres eller udbredes. Dette vedrører alle i den organisation, der direkte beskæftiger sig med et AI-system, og styrker forordningens bestemmelser om gennemsigtighed (artikel 13 i AI-forordningen) og menneskeligt tilsyn (artikel 14 i AI-forordningen). Samtidig bidrager artikel 4 indirekte til beskyttelsen af berørte personer, fordi den sikrer en effektiv anvendelse af reglerne i forordningen om kunstig intelligens.
"Personer, der beskæftiger sig med drift og anvendelse af AI-systemer på vegne af udbydere/distributører", betyder, at disse ikke er ansatte, men personer, der i vid udstrækning hører under det organisatoriske ansvarsområde. Det kan f.eks. være en entreprenør, en tjenesteyder eller en kunde.
Artikel 4 i forordningen om kunstig intelligens indebærer ikke en forpligtelse til at måle medarbejdernes viden om kunstig intelligens. Udvalget bekræfter dog, at AI-udbydere og -idriftsættere bør sikre et tilstrækkeligt niveau af AI-færdigheder under hensyntagen til medarbejdernes tekniske viden, erfaring og uddannelse.
Ja, AI-forordningen skelner mellem AI-modeller (GPAI-modeller), AI-systemer, herunder GPAI-systemer, forbudte højrisikosystemer. Yderligere oplysninger findes i retningslinjerne for definition af AI-systemer, som Kommissionen offentliggjorde den 6. februar for at bistå udbydere og andre relevante personer med at afgøre, om et softwaresystem udgør et AI-system, og lette en effektiv anvendelse af reglerne. Disse retningslinjer, som er ikkebindende og udformet med henblik på at udvikle sig over tid, forklarer den praktiske anvendelse af det retlige begreb som forankret i forordningen om kunstig intelligens. Retningslinjerne for definition af AI-systemer blev offentliggjort i tillæg til retningslinjerne for forbudt praksis inden for kunstig intelligens (AI) som defineret i forordningen om kunstig intelligens.
På nuværende tidspunkt findes der oplysninger om Kommissionens aktiviteter i forbindelse med artikel 4 i AI-forordningen på webstedet for AI-pagten,herunderoptagelsenaf webinaret, der fandt sted den 20. februar, og det levende register over AI-færdigheder. Der er ved at blive udarbejdet en særlig webside om AI-færdigheder.
Overholdelse af artikel 4
AI-kontoret vil ikke indføre strenge krav vedrørende artikel 4 i forordningen om kunstig intelligens og dens "tilstrækkelige AI-færdigheder". Tværtimod mener udvalget, at der er behov for en vis grad af fleksibilitet i betragtning af det brede emne AI-færdigheder og den teknologi i hastig udvikling, som AI er. For at overholde artikel 4 i forordningen om kunstig intelligens bør udbydere og udbredere af AI-systemer dog som minimum:
a) Sikre en generel forståelse af kunstig intelligens i deres organisation: Hvad er AI? Hvordan fungerer det? Hvad bruger vi AI til i vores organisation? Hvad er dens muligheder og farer?
b) Overveje deres organisations rolle (udbyder eller udbreder af AI-systemer): Udvikler min organisation AI-systemer eller anvender den blot AI-systemer, der er udviklet af en anden organisation?
c) Overveje risikoen ved de AI-systemer, der leveres eller udbredes: Hvad har medarbejderne brug for at vide, når de beskæftiger sig med et sådant AI-system? Hvilke risici skal de være opmærksomme på, og skal de være opmærksomme på afbødning?
d) Konkret bygger deres AI-færdigheder på den foregående analyse under hensyntagen til
- forskelle i personalets og andre personers tekniske viden, erfaring og uddannelse — Hvor meget ved medarbejderne/personen om kunstig intelligens og den organisations systemer, de anvender? Hvad skulle de ellers vide?
- samt den kontekst, som AI-systemerne skal anvendes i, og de personer, som AI-systemerne skal anvendes på — i hvilken sektor og til hvilket formål/hvilken tjeneste anvendes AI-systemet?
Overvejelserne a, b, c og d omfatter juridiske og etiske aspekter. Derfor tilskyndes der til forbindelser til EU's AI-forordning (dvs. forståelse af AI-forordningen) og til principper for etik og forvaltning.
Som anført i svaret på det foregående spørgsmål bør organisationer for at overholde artikel 4 i forordningen om kunstig intelligens overveje deres rolle (som udbydere eller udbredere af AI-systemer) samt de risici, der er forbundet med de AI-systemer, de leverer og/eller udbreder. Ifølge dette bør organisationer tilpasse deres tilgang til AI-færdigheder. Hvis organisationens AI-systemer f.eks. er højrisikosystemer, kan yderligere foranstaltninger i henhold til kapitel III i AI-forordningen være relevante for at sikre, at medarbejderne er opmærksomme på, hvordan de skal håndtere de givne AI-systemer og undgå og/eller afbøde deres risici.
Dette afhænger af organisationens svar på overvejelserne i spørgsmål 1. I mange tilfælde kan det dog være ineffektivt og utilstrækkeligt blot at forlade sig på AI-systemernes brugsanvisninger eller bede personalet om at læse dem. Artikel 4 i forordningen om kunstig intelligens har til formål at tilbyde uddannelse og vejledning, alt efter hvad der er mest hensigtsmæssigt, på grundlag af hver målgruppes videnniveau og -type samt i betragtning af konteksten og formålet med de AI-systemer, der anvendes i organisationen.
Dette er også i overensstemmelse med andre bestemmelser i forordningen om kunstig intelligens. Artikel 26 indfører f.eks. en forpligtelse for idriftsættere af højrisikosystemer til at sikre, at det personale, der beskæftiger sig med AI-systemerne i praksis, er tilstrækkeligt uddannet til at håndtere systemet og sikre menneskeligt tilsyn. Det er derfor ikke tilstrækkeligt at henholde sig til brugsanvisningen, og der er behov for yderligere foranstaltninger.
Der er ingen one size fit all, når det gælder AI-færdigheder, og AI-kontoret har ikke til hensigt at indføre strenge krav eller obligatoriske kurser. Kravene til en uddannelse afhænger af den konkrete kontekst. Selv om gentagelse af de indsamlede praksisser ikke automatisk giver formodning om overholdelse af artikel 4, kan initiativerne i det levende register over AI-færdighedergive en vis inspiration.
Nej, AI-kontoret stiller ikke krav til specifikke sektorer. Som anført i svaret på spørgsmål 1 bør den kontekst — herunder sektoren og formålet — hvori AI-systemer leveres/udrulles, dog være relevant i forbindelse med udviklingen og initiativet vedrørende AI-færdigheder. Desuden bør risikoniveauet for AI-systemer tages i betragtning.
Dette afhænger af den konkrete type AI-system og risiko (f.eks. for høj risiko). Generelt skal personer, der arbejder for en tjenesteudbyder eller kontrahent, have de nødvendige AI-færdigheder til at udføre den pågældende opgave (ligesom de ansatte).
Ja, de bør informeres om de specifikke risici, f.eks. hallucinationer.
Det er to forskellige spørgsmål. Medarbejderne og menneske-i-sløjfen har brug for de rette færdigheder, målrettet med hensyn til det system, de bruger.
Normalt ja, men det afhænger af det pågældende AI-værktøj og dets specifikke kvalifikationer. Dette er særlig relevant i betragtning af den hurtige teknologiske udvikling.
Organisationen bør stadig overveje trinnene i svaret på spørgsmål 1 og spørge sig selv: Ved disse tekniske medarbejdere, hvad der skal vides om organisationens AI-systemer, og hvordan de skal håndtere dem? Er de opmærksomme på alle risici, og hvordan man undgår/afbøder dem? Desuden bør organisationen overveje, hvad disse medarbejdere ellers har brug for at vide. f.eks. de juridiske og etiske aspekter af kunstig intelligens.
Ja, artikel 4 i forordningen om kunstig intelligens tilskynder udbydere og udbredere til at overveje viden, erfaring og uddannelse af medarbejdere og andre personer for at sikre et tilstrækkeligt niveau af AI-færdigheder. I betragtning af forskellen mellem AI-systemer, og at niveauet af viden og erfaring samt den type uddannelse, der modtages, kan variere, kan det være hensigtsmæssigt at have forskellige uddannelsesniveauer eller læringstilgange.
Der er ikke behov for et certifikat. Organisationer kan føre en intern fortegnelse over kurser og/eller andre vejledende initiativer.
Nej, ingen specifik forvaltningsstruktur har mandat til at overholde artikel 4 i forordningen om kunstig intelligens.
Håndhævelse af artikel 4
Artikel 4 i forordningen om kunstig intelligens trådte i kraft den 2. februar 2025, og derfor finder forpligtelsen til at træffe foranstaltninger til at sikre deres personales AI-færdigheder allerede anvendelse. Tilsyns- og håndhævelsesreglerne finder anvendelse fra den 3. august 2026 og fremefter.
Tilsynet med og håndhævelsen af artikel 4 i forordningen om kunstig intelligens ligger ikke hos AI-kontoret, men det henhører under de nationale markedsovervågningsmyndigheders ansvarsområde, som skal udpeges senest den 2. august 2025. De nationale markedsovervågningsmyndigheder vil begynde at føre tilsyn med og håndhæve reglerne fra den 2. august 2026. Selv om afgørelser om håndhævelse træffes af de nationale markedsovervågningsmyndigheder i de forskellige medlemsstater, vil AI-kontoret arbejde tæt sammen med AI-udvalget for at støtte en passende gennemførelse.
Forbuddene har været gældende siden den 2. februar 2025. Med AI-udvalget og samarbejdet mellem alle relevante myndigheder vil der blive sikret en sammenhængende anvendelse af reglerne.
De nationale markedsovervågningsmyndigheder kan pålægge sanktioner og andre håndhævelsesforanstaltninger for at sanktionere overtrædelser af artikel 4. Dette vil være baseret på national lovgivning, som medlemsstaterne skal vedtage senest den 2. august 2025.
Det er vigtigt at understrege, at håndhævelsen af AI-forordningen følger en forholdsmæssig tilgang. Enhver sanktion skal stå i et rimeligt forhold til overtrædelsen og tage hensyn til faktorer såsom overtrædelsens art og grovhed og dens forsætlige og uagtsomme karakter. Dette kan dog være mere sandsynligt, hvis der er bevis for en hændelse på grund af mangel på passende uddannelse og vejledning af medarbejdere eller andre personer.
Retsrammen for AI-forordningen finder anvendelse på både offentlige og private aktører i og uden for EU, så længe AI-systemet bringes i omsætning på EU-markedet, anvendes i Unionen eller har indvirkning på personer i EU. Dette gælder også for artikel 4 i forordningen om kunstig intelligens.
Offentlig håndhævelse betyder, at hver medlemsstat udpeger myndigheder, der er ansvarlige for at håndhæve bestemmelserne i AI-forordningen, og som fører tilsyn med og håndhæver overholdelsen af denne lov. Privat håndhævelse vedrører det scenarie, hvor en privatperson lider skade og mener, at dette skyldes, at en organisation ikke overholder forpligtelsen i artikel 4 og sagsøger organisationen for at modtage erstatning.
Når der er tale om skade, kan udbyderen af et AI-system sagsøges i henhold til national ret. AI-forordningen skaber ikke strafbare handlinger eller en ret til erstatning.
AI Office-tilgang til AI-færdigheder
I øjeblikket vil der blive givet vejledning via yderligere eksempler på praksis, webinarer og præciseringer via denne Q&A.
Yderligere vejledning om håndhævelse kan gives af de relevante nationale markedsovervågningsmyndigheder, når de er udpeget. AI-kontoret vil arbejde tæt sammen med AI-udvalget om AI-færdigheder i overensstemmelse med artikel 66, litra f), og artikel 95, stk. 2f, i forordningen om kunstig intelligens.
Kommissionen vil offentliggøre retningslinjer for anvendelsen af de krav og forpligtelser, der er omhandlet i artikel 8-15 og i artikel 25 i AI-forordningen, og disse retningslinjer vil også berøre spørgsmål om læse- og skrivefærdigheder, når de drøfter f.eks. menneskeligt tilsyn eller risikostyring.
I meddelelsen AI@EC blev der allerede peget på en operationel indsats for at udvikle en politik for opbygning og vedligeholdelse af en AI-kvalificeret arbejdsstyrke. Europa-Kommissionen har allerede gennemført flere foranstaltninger for sit personale vedrørende AI-færdigheder:
- Oprettelse af en intern AI-specifik webportal som en kvikskranke, der er tilgængelig for alle medarbejdere med hensyn til AI-relateret indhold — retningslinjer for kunstig intelligens, AI-uddannelsesressourcer, arrangementer og nyheder.
- Definition på Kommissionens uddannelsesplatform af AI-læringspakker, der er rettet mod forskellige mål – generalist, ledere og udviklere (specialister). Disse pakker indeholder en kurateret liste over relevante kurser, der kategoriserer derefter på væsentlige, stærkt anbefales og anbefales. Yderligere kurser og optagelse af webinarer er også tilgængelige på platformen.
- Uddannelse i AI-værktøjer – Der er oprettet et særligt afsnit på AI-portalen med en liste over de AI-værktøjer, der er tilgængelige for alle medarbejdere, og som omfatter de relevante læringsressourcer for hvert værktøj. Der er periodiske Q&A sessioner om brug af AI i dit daglige arbejde.
- Der findes et AI-praksisfællesskab, hvor enhver person kan stille spørgsmål vedrørende AI og interagere med AI-eksperter.
I øjeblikket har mange af agenturerne allerede adgang til Kommissionens læringsplatform (EU-Learn) samt til ressourcer såsom Kommissionens AI-læringspakker og andre kurser.
For at støtte gennemførelsen og overholdelsen af artikel 4 i forordningen om kunstig intelligens vil AI-kontoret fortsætte med at pleje det levende register overAI-færdigheder, indsamle yderligere eksempler fra organisationer og ajourføre den foreliggende Q&A. Der vil blive tilrettelagt yderligere oplysningsaktiviteter, og der vil blive lanceret en særlig webside for aktiviteter vedrørende AI-færdigheder (inden for og uden for rammerne af artikel 4), færdigheder og talent med det formål at fremme adgangen til AI-færdigheder og fremme dialogen om AI for alle.
AI-kontoret sætter stor pris på alle interessenters indsigt og ekspertise, herunder industriens. Derfor har vi oprettet AI-pagten for at fremme oprettelsen af et samarbejdsfællesskab, hvor interessenter kan udveksle bedste praksis og interne politikker, der kan være nyttige for andre i deres overholdelsesrejse. Med hensyn til AI-færdigheder har vi inden for rammerne af AI-pagten for nylig offentliggjort et levende register over AI-færdigheder. enhver udbyder og/eller udvikler af AI-systemer, der har indført et program for AI-færdigheder, opfordres til at indsende deres bidrag.
AI-kontoret kontrollerer regelmæssigt, at alle modtagne bidrag opfylder minimumskriterierne for gennemsigtighed og pålidelighed, inden de accepteres i det offentlige register. I verifikationsperioden kan undersøgelsen være midlertidigt lukket.
Andre nyttige ressourcer
Det levende register over AI-færdigheder er frit tilgængeligt på vores websted: Levende register til fremme af læring og udveksling om AI-færdigheder
Databasen indeholder flere eksempler på igangværende initiativer til fremme af AI-kompetenceorganisationer af forskellig størrelse, der leverer og/eller udbreder forskellige typer AI-systemer i forskellige private og offentlige sektorer. Praksis giver eksempler på, hvordan man griber forskellige medarbejderes viden an (f.eks. tekniske — f.eks. udvikleres — vs. ikketekniske — f.eks. en administrators eller en juridisk medarbejders), men henviser også til initiativer for andre personer, herunder leverandører, partnere og kunder. Listen over praksis er ikke udtømmende og vil regelmæssigt blive ajourført med yderligere praksis.
Selv om kopiering af den praksis, der er indsamlet i dette levende register, ikke automatisk giver formodning om overholdelse af artikel 4, har registret til formål at tilskynde til læring og udveksling mellem udbydere og udbredere af AI-systemer. Ved at offentliggøre denne praksis indebærer Kommissionen hverken godkendelse eller evaluering på nogen måde.
Et eksempel på et EU-initiativ, der kan være til støtte for SMV'er, er netværket af europæiske digitale innovationsknudepunkter (EDIH'er). De europæiske digitale innovationsknudepunkter er 251 kvikskranker i hele Europa (27 medlemsstater, 3 EFTA-lande — Norge, Island og Liechtenstein, 8 associerede lande: Albanien, Bosnien-Hercegovina, Kosovo, Montenegro, Nordmakedonien, Serbien, Tyrkiet og Ukraine), der støtter SMV'er og organisationer i den offentlige sektor i at digitalisere deres processer. 80 % af de europæiske digitale innovationsknudepunkter leverer allerede tjenester med fokus på kunstig intelligens, herunder uddannelse, workshopper, bootcamps til forskellige behov og niveauer af viden om kunstig intelligens. SMV'er og organisationer i den offentlige sektor kan kontakte europæiske digitale innovationsknudepunkter for at modtage støtte til AI-teknologier og deres digitaliseringsmål mere generelt. De europæiske digitale innovationsknudepunkter kan fungere som første helpdesk for forordningen om kunstig intelligens og fungere som indgangspunkter til andre EU-finansierede støtteforanstaltningersåsom bl.a. test- og forsøgsfaciliteter eller AI-fabrikker. Du kan finde det EDIH, der er tættest på dig, i dette katalog.
I forbindelse med AI-pagten afholder AI-kontoret arrangementer og webinarer for at inddrage AI-samfundet, fremme videndeling og bedste praksis for at fremme pålidelig kunstig intelligens. Du kan finde alle optagelser af tidligere begivenheder og annonceringen af kommende på den dedikerede side: Begivenheder i forbindelse med AI-pagten
Der er fri adgang til yderligere nyttigt materiale om kunstig intelligens viaplatformen fordigitale færdigheder og job, herunder:
Da der ikke findes nogen one-size-fits-all-tilgang til AI-færdigheder, er der heller ikke én unik ramme. Nedenfor beskrives nogle af de mest anvendte rammer på europæisk og internationalt plan i henhold til deres målgruppe.
For alle borgere
- Den digitale kompetenceramme for borgere giver en fælles forståelse af, hvad digital kompetence er. Publikationen består af to hoveddele: Den integrerede DigComp 2.2-ramme giver mere end 250 nye eksempler på viden, færdigheder og holdninger, der hjælper borgerne med at engagere sig trygt, kritisk og sikkert i digitale teknologier, herunder kunstig intelligens. En ny version af rammen vil blive offentliggjort i 2025.
- Platformen for digitale færdigheder og job giver åben adgang til en bred vifte af oplysninger og ressourcer af høj kvalitet for alle, der er interesserede i det brede emne digitale færdigheder og job, herunder om kunstig intelligens.
For uddannelsessektoren, lærere og lærende:
- Disse etiske retningslinjer for kunstig intelligens og dataanvendelse i undervisning og læring er udformet med henblik på at hjælpe undervisere med at forstå det potentiale, som anvendelser af kunstig intelligens og dataanvendelse kan have inden for uddannelse, og øge bevidstheden om de mulige risici, så de er i stand til at engagere sig positivt, kritisk og etisk i AI-systemer og udnytte deres fulde potentiale.
- Den europæiske skoleuddannelsesplatform tilbyder en række materialer om kunstig intelligens til lærere og lærende.
- Praksisfællesskabet for det digitale uddannelsesknudepunkt giver interessenter på uddannelsesområdet mulighed for at drøfte og udveksle oplysninger om emner inden for digital uddannelse, herunder kunstig intelligens. Inden for EIAH har en særlig arbejdsgruppe (gruppe) offentliggjort en rapport om AI på uddannelsesområdet, der giver yderligere indsigt i udvikling af AI-færdigheder og læreruddannelse.
- UNESCO's kompetenceramme for AI for lærere har til formål at støtte udviklingen af AI-kompetencer blandt lærere for at sætte dem i stand til at anvende disse teknologiske værktøjer i deres undervisningspraksis på en sikker, effektiv og etisk måde.
- UNESCO's kompetenceramme for AI for studerende har til formål at tjene som vejledning for offentlige uddannelsessystemer med henblik på at opbygge de kompetencer, der kræves af alle studerende og borgere med henblik på en effektiv gennemførelse af nationale AI-strategier og opbygning af en inklusiv, retfærdig og bæredygtig fremtid i denne nye teknologiske tidsalder.
Related content
Kommissionen sigter mod at øge antallet af AI-eksperter ved at uddanne og tiltrække flere forskere og fagfolk og ved at forbedre arbejdstagernes og den brede befolknings AI-færdigheder.