AI Literacy - Frågor & Svar

Enligt artikel 4 i AI-akten ska leverantörer och spridare av AI-system vidta åtgärder för att säkerställa en tillräcklig nivå av AI-kompetens hos sin personal och andra personer som arbetar med drift och användning av AI-system för deras räkning. De är skyldiga att göra detta genom att ta hänsyn till sin tekniska kunskap, erfarenhet, utbildning av personal och andra personer samt det sammanhang som AI-systemen ska användas i och de personer på vilka AI-systemen ska användas.

Begreppet AI-kompetens som nämns i artikel 4 i AI-akten bygger på definitionen av begreppet i artikel 3.56 i AI-akten, enligt vilken AI-kompetens: färdigheter, kunskaper och förståelse som gör det möjligt för leverantörer, spridare och berörda personer, med beaktande av deras respektive rättigheter och skyldigheter inom ramen för denna förordning, att införa AI-system på ett välgrundat sätt samt att öka medvetenheten om möjligheterna och riskerna med AI och den eventuella skada som AI kan orsaka. 

Artikel 4 i AI-akten är en viktig bestämmelse för att säkerställa att alla leverantörer och spridare av AI-system utrustar sin personal med rätt kompetens, kunskap och förståelse för det eller de system som tillhandahålls eller införs. Detta gäller alla i den organisation som direkt hanterar ett AI-system och stärker bestämmelserna om transparens (artikel 13 i AI-akten) och mänsklig tillsyn (artikel 14 i AI-akten) som ingår i förordningen. Samtidigt bidrar artikel 4 indirekt till skyddet av berörda personer, eftersom den säkerställer en effektiv tillämpning av reglerna i AI-akten.  

”Personer som hanterar drift och användning av AI-system för leverantörers/arbetsgivares räkning” innebär att dessa inte är anställda, utan personer som i stort sett omfattas av organisationens ansvarsområde. Det kan till exempel vara en entreprenör, en tjänsteleverantör, en kund. 

I artikel 3.56 nämns berörda personer. Skäl 20 har också följande lydelse: ”Föratt dra största möjliga nytta av AI-system samtidigt som grundläggande rättigheter, hälsa och säkerhet skyddas och för att möjliggöra demokratisk kontroll bör AI-kompetens förse leverantörer, spridare och berörda personer med de begrepp som krävs för att fatta välgrundade beslut om AI-system. Dessa begrepp kan variera med avseende på det relevanta sammanhanget och kan omfatta förståelse av den korrekta tillämpningen av tekniska element under AI-systemets utvecklingsfas, de åtgärder som ska tillämpas under dess användning, lämpliga sätt att tolka AI-systemets utdata och, när det gäller berörda personer, den kunskap som krävs för att förstå hur beslut som fattas med hjälp av AI kommer att påverka dem. I samband med tillämpningen av denna förordning bör AI-kompetens ge alla relevanta aktörer i AI-värdekedjan de insikter som krävs för att säkerställa lämplig efterlevnad och korrekt efterlevnad. Dessutom skulle ett brett genomförande av åtgärder för AI-kompetens och införandet av lämpliga uppföljningsåtgärder kunna bidra till att förbättra arbetsvillkoren och i slutändan upprätthålla konsolideringen av och innovationsvägen för tillförlitlig AI i unionen.” Med tanke på ovanstående, beroende på den specifika risken, kan det vara användbart att ha läs- och skrivkunnighet också för kunder/kunder.”

Artikel 4 i AI-akten medför ingen skyldighet att mäta anställdas kunskaper om AI. Den bekräftar dock att leverantörer och spridare av AI bör säkerställa en tillräcklig nivå av AI-kompetens med beaktande av de anställdas tekniska kunskap, erfarenhet, utbildning och fortbildning.

Ja, AI-akten skiljer mellan AI-modeller (GPAI-modeller), AI-system, inklusive GPAI-system, förbjudna högrisksystem. För mer information, se även riktlinjerna om definitionen av AI-system, som offentliggjordes av kommissionen den 6 februari för att hjälpa leverantörer och andra relevanta personer att avgöra om ett programvarusystem utgör ett AI-system och underlätta en effektiv tillämpning av reglerna. Dessa riktlinjer, som är icke-bindande och utformade för att utvecklas över tid, förklarar den praktiska tillämpningen av det rättsliga begreppet, som är förankrat i AI-akten. Riktlinjerna om definitionen av AI-system offentliggjordes utöver riktlinjerna om förbjudna metoder för artificiell intelligens (AI), enligt definitionen i AI-akten. 

För närvarande finns information om kommissionens verksamhet i samband med artikel 4 i AI-akten påAI-paktens webbplats, inbegripetinspelningenav det webbseminarium som ägde rum den 20 februari och den levande databasen om AI-kompetens. En särskild webbsida om AI-kunskap och AI-färdigheter håller på att utarbetas.

AI-byrån kommer inte att införa strikta krav avseende artikel 4 i AI-akten och dess ”tillräckliga nivå av AI-kompetens”. Tvärtom anser den att det behövs en viss grad av flexibilitet, med tanke på det breda ämnet AI-kompetens och den snabbt föränderliga teknik som AI är. För att åtminstone uppfylla kraven i artikel 4 i AI-akten bör leverantörer och spridare av AI-system

a) Säkerställa en allmän förståelse av AI inom sin organisation: Vad är AI? Hur fungerar det? Vilken AI används i vår organisation? Vilka är dess möjligheter och faror?

b) Beakta den roll som deras organisation (leverantör eller spridare av AI-system) spelar: Utvecklar min organisation AI-system eller använder den bara AI-system som utvecklats av en annan organisation?

c) Beakta risken med de AI-system som tillhandahålls eller används: Vad behöver anställda veta när de hanterar sådana AI-system? Vilka risker behöver de vara medvetna om och behöver de vara medvetna om att minska?

d) Konkret bygga sina AI-kompetensåtgärder på föregående analys, med tanke på

• Skillnader i teknisk kunskap, erfarenhet, utbildning och fortbildning för personal och andra personer – Hur mycket vet de anställda/personen om AI och organisationens system som de använder? Vad mer borde de veta?
• samt i vilket sammanhang AI-systemen ska användas och på vilka personer AI-systemen ska användas – inom vilken sektor och för vilket ändamål/tjänst används AI-systemet?

Övervägandena a, b, c och d omfattar juridiska och etiska aspekter. Därför uppmuntras kopplingar till EU:s AI-förordning (dvs. förståelse av AI-akten) och till etiska principer och styrningsprinciper.

Såsom rapporterades i svaret på föregående fråga bör organisationer, för att följa artikel 4 i AI-akten, beakta sin roll (som leverantörer eller spridare av AI-system) samt de risker som är förknippade med de AI-system som de tillhandahåller och/eller inför. Enligt detta bör organisationer anpassa sin AI-kompetensstrategi. Om organisationens AI-system till exempel är högrisksystem kan ytterligare åtgärder enligt kapitel III i AI-akten vara relevanta för att säkerställa att de anställda är medvetna om hur de ska hantera de givna AI-systemen och undvika och/eller minska deras risker.

Detta beror på organisationens svar på övervägandena i fråga 1. Men i många fall kan det vara ineffektivt och otillräckligt att helt enkelt förlita sig på AI-systemens bruksanvisningar eller be personalen att läsa dem. Artikel 4 i AI-akten är avsedd att tillhandahålla den utbildning och vägledning som är lämpligast på grundval av varje målgrupps nivå och typ av kunskap samt med tanke på sammanhanget och syftet med de AI-system som används i organisationen.

Detta är också i linje med andra bestämmelser i AI-akten. Genom artikel 26 införs till exempel en skyldighet för spridare av högrisksystem att säkerställa att den personal som hanterar AI-systemen i praktiken är tillräckligt utbildad för att hantera systemet och säkerställa mänsklig tillsyn. Att förlita sig på bruksanvisningen är därför inte tillräckligt, ytterligare åtgärder är nödvändiga.

Det finns ingen universallösning när det gäller AI-kompetens och AI-byrån har inte för avsikt att införa strikta krav eller obligatoriska utbildningar. Kraven på en utbildning beror på det konkreta sammanhanget. Även om en upprepning av de metoder som samlats in inte automatiskt ger presumtion om överensstämmelse med artikel 4 skulle initiativen i den levande databasen om AI-kompetenskunna ge viss inspiration.

Nej, AI-byrån ställer inga krav på specifika sektorer. Såsom anges i svaret på fråga 1 bör dock det sammanhang – inbegripet sektorn och syftet – där AI-system tillhandahålls/införs vara relevant vid utveckling och AI-kompetensinitiativ. Dessutom bör risknivån för AI-system beaktas.

Detta beror på den konkreta typen av AI-system och risken (t.ex. för hög risk). I allmänhet måste personer som arbetar för en tjänsteleverantör eller entreprenör ha lämpliga AI-färdigheter för att kunna utföra uppgiften i fråga (samma som de anställda).

Ja, de bör informeras om de specifika riskerna, till exempel hallucinationer.

Det är två skilda frågor. De anställda och människan i kretsen behöver lämpliga färdigheter, inriktade på det system de använder.

Normalt sett ja, men det beror på det berörda AI-verktyget och deras specifika kvalifikationer. Detta är särskilt relevant med tanke på den snabba tekniska utvecklingen.

Organisationen bör fortfarande överväga stegen i svaret på fråga 1 och frågar sig själv: Vet dessa tekniska medarbetare vad som behöver vetas om organisationens AI-system och hur de ska hanteras? Är de medvetna om alla risker och hur man undviker / mildrar dem? Dessutom bör organisationen överväga vad dessa anställda kan behöva veta. t.ex. rättsliga och etiska aspekter av AI.

Ja, i artikel 4 i AI-akten uppmuntras leverantörer och spridare att överväga anställdas och andra personers kunskap, erfarenhet, utbildning och fortbildning för att tillhandahålla en tillräcklig nivå av AI-kompetens. Med tanke på skillnaden mellan AI-system och att kunskapsnivån och erfarenheten, liksom den typ av utbildning som erhålls, kan variera, kan det vara lämpligt att ha olika utbildningsnivåer eller inlärningsmetoder.

Det behövs inget intyg. Organisationer kan föra ett internt register över utbildningar och/eller andra vägledande initiativ.

Nej, ingen särskild styrningsstruktur har mandat att följa artikel 4 i AI-akten.

Europeiska kommissionen föreslog den digitala samlingsförordningen med riktade ändringar av AI-akten, som en del av kommissionens bredare insatser för att förenkla och effektivisera EU:s digitala regelverk. 

När det gäller artikel 4 föreslog kommissionen att medlemsstaternas och kommissionens skyldighet att främja AI-kompetens och kompetenshöjning och omskolning inom AI skulle ändras, i stället för att genomdriva en ospecifik skyldighet för organisationer. Genom att göra detta kommer kommissionen också att säkerställa kontinuitet med de insatser som hittills gjorts (särskilt via denna frågestund, A om AI-kompetens och databasen över praxis för AI-kompetens).

Det är viktigt att betona att för dem som använder AI-system med hög risk kvarstår skyldigheten att säkerställa att deras personal utbildas för att säkerställa mänsklig tillsyn.

Artikel 4 i AI-akten trädde i kraft den 2 februari 2025, och därför gäller redan skyldigheten att vidta åtgärder för att säkerställa personalens AI-kompetens. Tillsyns- och verkställighetsreglerna gäller från och med den 3 augusti 2026.

Tillsynen och efterlevnaden av artikel 4 i AI-akten ligger inte hos AI-byrån, utan faller inom denationella marknadskontrollmyndigheternasansvarsområde. De nationella marknadskontrollmyndigheterna kommer att börja övervaka och kontrollera efterlevnaden av reglerna från och med den 2 augusti 2026. Beslut om verkställighet fattas av de nationella marknadskontrollmyndigheterna i de olika medlemsstaterna, men AI-byrån kommer att ha ett nära samarbete med AI-styrelsen för att stödja ett lämpligt genomförande.

Förbuden gäller sedan den 2 februari 2025. Med AI-nämnden och samarbete mellan alla relevanta myndigheter kommer en enhetlig tillämpning av reglerna att säkerställas.

Nationella marknadskontrollmyndigheter kan ålägga sanktioner och andra verkställighetsåtgärder för att bestraffa överträdelser av artikel 4. Detta kommer att baseras på nationell lagstiftning som medlemsstaterna ska anta senast den 2 augusti 2025.

Det är viktigt att understryka att verkställandet av AI-akten följer en proportionell strategi. Varje sanktion måste vara proportionerlig, grundad på det enskilda fallet och ta hänsyn till faktorer som överträdelsens art och allvar samt dess avsiktliga och försumliga karaktär. Detta kan dock vara mer sannolikt om det finns bevis för en incident på grund av brist på lämplig utbildning och vägledning av anställda eller andra personer.

AI-aktens rättsliga ram är tillämplig på både offentliga och privata aktörer inom och utanför EU så länge AI-systemet släpps ut på unionsmarknaden, används i unionen eller dess användning påverkar människor i EU. Detta gäller även för artikel 4 i AI-akten.

Offentlig verkställighet innebär att varje medlemsstat kommer att utse myndigheter som ansvarar för att verkställa bestämmelserna i AI-akten och som övervakar och verkställer efterlevnaden av denna lag. Privat verkställighet avser det scenario där en privatperson lider skada och anser att detta beror på att en organisation inte uppfyller skyldigheten i artikel 4 och väcker talan mot organisationen för att få skadestånd.

Om det finns en skada kan leverantören av ett AI-system stämmas, i enlighet med nationell rätt. AI-lagen skapar inga brott eller någon rätt till ersättning.

För närvarande kommer vägledning att ges via ytterligare exempel på praxis, webbinarier och förtydliganden via denna frågestund.

Ytterligare vägledning om tillsyn kan ges av de relevanta nationella marknadskontrollmyndigheterna när de väl har utsetts. AI-byrån kommer att ha ett nära samarbete med AI-styrelsen på området AI-kompetens, i linje med artiklarna 66 f och 95.2 f i AI-akten.

Kommissionen kommer att offentliggöra riktlinjer för tillämpningen av de krav och skyldigheter som avses i artiklarna 8–15 och i artikel 25 i AI-akten, och dessa riktlinjer kommer också att beröra frågor om läs- och skrivkunnighet, när man diskuterar till exempel mänsklig tillsyn eller riskhantering.

AI@EC-meddelandet har redan identifierats som en operativ åtgärd för att utveckla en politik för att bygga upp och upprätthålla en AI-kvalificerad arbetskraft. EU-kommissionen har redan vidtagit flera åtgärder för sin personal när det gäller AI-kompetens:

• Inrättandet av en intern AI-specifik webbportal som en enda kontaktpunkt som är tillgänglig för all personal för AI-relaterat innehåll – AI-riktlinjer, AI-utbildningsresurser, evenemang och nyheter.
• Definition på kommissionens utbildningsplattform av AI-lärandepaket som är inriktade på olika mål – generalister, chefer och utvecklare (specialister). Dessa paket innehåller en kuraterad lista över relevanta utbildningar, kategorisering sedan på väsentliga, starkt rekommenderade och rekommenderade.  Ytterligare utbildningar och inspelningar av webbseminarier finns också på plattformen.
• Utbildning i AI-verktyg – Ett särskilt avsnitt i AI-portalen innehåller en förteckning över de AI-verktyg som är tillgängliga för all personal och som innehåller relevanta inlärningsresurser för varje verktyg. Det finns regelbundna Q & A-sessioner om att använda AI i ditt dagliga arbete.
• Det finns en AI-gemenskap där vem som helst kan göra frågor som rör AI och interagera med AI-experter.

För närvarande har många av byråerna redan tillgång till kommissionens lärplattform (EU-Learn) samt till resurser såsom AI-lärandepaket och annan utbildning från kommissionen.

För att stödja genomförandet och efterlevnaden av artikel 4 i AI-akten kommer AI-byrån att fortsätta att vårda det levande arkivet för AI-kompetenspraxis, samla in ytterligare exempel från organisationer och uppdatera den aktuella frågestunden. Ytterligare medvetandehöjande aktiviteter kommer att anordnas och en särskild webbsida för verksamhet som rör AI-kompetens (inom och utanför tillämpningsområdet för artikel 4), färdigheter och talanger kommer att lanseras i syfte att främja tillgången till AI-kompetens och främja dialog om AI för alla.

AI-byrån sätter stort värde på insikterna och expertisen hos alla intressenter, inklusive industrin. Därför har vi skapat AI-pakten för att främja skapandet av en samarbetsgemenskap, där berörda parter kan utbyta bästa praxis och interna strategier som kan vara till nytta för andra i deras efterlevnadsresa. När det gäller AI-kompetens har vi inom ramen för AI-pakten nyligen offentliggjort ett levande register över praxis för AI-kompetens. alla leverantörer och/eller utvecklare av AI-system som har infört ett program för AI-kompetens uppmanas att lämna in sina bidrag.

AI-byrån kommer regelbundet att kontrollera att alla mottagna bidrag uppfyller minimikriterierna för transparens och tillförlitlighet innan de tas emot i den offentliga databasen. Under kontrollperioden kan undersökningen tillfälligt stängas.

Det levande arkivet för AI-kompetenspraxis är fritt tillgängligt på vår webbplats: Levande arkiv för att främja lärande och utbyte om AI-kompetens

Databasen innehåller flera exempel på pågående initiativ för att främja AI-kompetensorganisationer av olika storlek som tillhandahåller och/eller använder olika typer av AI-system inom olika privata och offentliga sektorer. Praxis ger exempel på hur man kan närma sig kunskapen hos olika anställda (t.ex. tekniska – t.ex. utvecklare, jämfört med icke-tekniska, t.ex. administratörer eller jurister), men hänvisar också till initiativ för andra personer, inklusive säljare, partner och kunder. Förteckningen över metoder är inte uttömmande och kommer regelbundet att uppdateras med ytterligare metoder.

Även om en upprepning av de metoder som samlats in i denna levande databas inte automatiskt ger presumtion om överensstämmelse med artikel 4 syftar databasen till att uppmuntra lärande och utbyte mellan leverantörer och spridare av AI-system.  Genom att offentliggöra metoderna innebär kommissionen varken godkännande eller utvärdering på något sätt.

Ett exempel på EU-initiativ som skulle kunna vara till stöd för små och medelstora företag är nätverket av europeiska digitala innovationsknutpunkter. De europeiska digitala innovationsknutpunkterna är 251 gemensamma kontaktpunkter i hela Europa (27 medlemsstater, 3 Eftaländer – Norge, Island och Liechtenstein, Åtta associerade länder: Albanien, Bosnien och Hercegovina, Kosovo, Montenegro, Nordmakedonien, Serbien, Turkiet och Ukraina), som hjälper små och medelstora företag och organisationer inom den offentliga sektorn att digitalisera sina processer. 80 % av de europeiska digitala innovationsknutpunkterna tillhandahåller redan tjänster som är inriktade på AI, inbegripet utbildningar, workshoppar, bootcamps för olika behov och kunskapsnivåer om AI. Små och medelstora företag och organisationer inom den offentliga sektorn kan kontakta europeiska digitala innovationsknutpunkter för att få stöd med AI-teknik och deras digitaliseringsmål mer allmänt. De europeiska digitala innovationsknutpunkterna kan fungera som första hjälpcentral för AI-aktenoch fungera som kontaktpunkter för andra EU-finansierade stödåtgärder,såsom test-och experimentanläggningar eller AI-fabriker. Du hittar den europeiska digitala innovationsknutpunkten närmast dig i denna katalog.

Inom ramen för AI-pakten anordnar AI-byrån evenemang och webbseminarier för att engagera AI-samhället, främja kunskapsutbyte och bästa praxis för att främja tillförlitlig AI. Du hittar alla inspelningar av tidigare evenemang och tillkännagivanden av kommande evenemang på AI-paktensevenemang.

Ett inledande utbildningspaket om grunderna i AI-akten och instrumenten i EU:s ekosystem för AI-innovationgjordes nyligen tillgängligt på de europeiska digitala innovationsknutpunkternas plattform för e-lärande. Paketet utformades för europeiska digitala innovationsknutpunkter, men det kan också användas av en bredare publik.

Ytterligare användbart material om AI kan nås fritt viaplattformen fördigital kompetens och digitala arbetstillfällen, bland annat följande: 

• Utbildningserbjudanden  

• Utbildningsväg  

• Lärandeinnehåll

Eftersom det inte finns någon universallösning för AI-kompetens finns det inte heller någon unik ram. Nedan redovisas några av de mest använda ramverken på europeisk och internationell nivå, beroende på målgrupp. 

För alla medborgare 

• Ramen för digital kompetens för medborgare ger en gemensam förståelse för vad digital kompetens är. Publikationen består av två huvuddelar: Den integrerade ramen DigComp 2.2 ger mer än 250 nya exempel på kunskaper, färdigheter och attityder som hjälper medborgarna att engagera sig på ett tryggt, kritiskt och säkert sätt med digital teknik, inbegripet AI. En ny version av ramverket kommer att släppas 2025.

• Plattformen för digital kompetens och digitala arbetstillfällen ger öppen tillgång till ett brett utbud av information och resurser av hög kvalitet för alla som är intresserade av det breda ämnet digitala färdigheter och arbetstillfällen, inbegripet ämnet artificiell intelligens.

För utbildningssektorn, lärare och studerande:

• Dessa etiska riktlinjer för AI och dataanvändning i undervisning och lärande är utformade för att hjälpa lärare att förstå den potential som AI-tillämpningar och dataanvändning kan ha i utbildningen och för att öka medvetenheten om de möjliga riskerna så att de kan engagera sig positivt, kritiskt och etiskt med AI-system och utnyttja deras fulla potential.
• Europeiska skolutbildningsplattformen erbjuder ett antal material om AI för lärare och elever.
• Praktikgemenskapen för den digitala utbildningsknutpunkten erbjuder en möjlighet för utbildningsaktörer att diskutera och utbyta information om digitala utbildningsfrågor, inbegripet AI. Inom EIAH har en särskild arbetsgrupp publicerat en rapport om AI inom utbildning som ger ytterligare insikter om kompetensutveckling inom AI och lärarutbildning.

• UnescosAI-kompetensram för lärare är avsedd att stödja utvecklingen av AI-kompetens bland lärare för att ge dem möjlighet att använda dessa tekniska verktyg i sina undervisningsmetoder på ett säkert, effektivt och etiskt sätt.
• UnescosAI-kompetensram för studenter syftar till att fungera som en vägledning för offentliga utbildningssystem för att bygga upp den kompetens som krävs av alla studenter och medborgare för ett effektivt genomförande av nationella AI-strategier och uppbyggnad av inkluderande, rättvisa och hållbara framtider i denna nya tekniska era.