Richtsnoeren inzake verplichtingen voor AI-aanbieders met een algemeen doel

AI-modellen voor algemene doeleinden spelen een belangrijke rol bij AI-innovatie omdat ze voor verschillende taken kunnen worden gebruikt en in veel downstream AI-systemen kunnen worden geïntegreerd. Dit legt bijzondere verantwoordelijkheden op hun leveranciers. Zij moeten met name informatie beschikbaar stellen aan aanbieders van AI-systemen die voornemens zijn het model in hun AI-systemen te integreren, zodat deze downstreamaanbieders de mogelijkheden en beperkingen van het model kunnen begrijpen en aan hun eigen verplichtingen uit hoofde van de AI-verordening kunnen voldoen.

Aangezien deze modellen gewoonlijk worden getraind op grote hoeveelheden gegevens die auteursrechtelijk beschermde inhoud kunnen bevatten, vereist de AI-verordening dat aanbieders een auteursrechtelijk beleid vaststellen en samenvattingen publiceren van de inhoud die wordt gebruikt om hun AI-modellen voor algemene doeleinden te trainen.

Tot slot kunnen AI-modellen voor algemene doeleinden systeemrisico’s met zich meebrengen die aanzienlijke gevolgen kunnen hebben voor de markt van de Unie. Aanbieders van dergelijke modellen zijn onderworpen aan aanvullende verplichtingen die erop gericht zijn deze systeemrisico’s te beoordelen en te beperken. Deze verplichtingen omvatten het uitvoeren van modelevaluaties, het melden van incidenten en het waarborgen van adequate cyberbeveiligingsbescherming.

In deze richtsnoeren wordt verduidelijkt hoe de Commissie de belangrijkste concepten in de AI-verordening interpreteert, met name met betrekking tot de verplichtingen voor aanbieders van AI-modellen voor algemene doeleinden die op 2 augustus 2025 in werking treden. Daarbij bieden de richtsnoeren aanbieders rechtszekerheid. Zij helpen actoren in de AI-waardeketen te bepalen of hun model kwalificeert als een AI-model voor algemene doeleinden, of zij de aanbieder zijn die het in de handel brengt, of zij in aanmerking komen voor vrijstellingen en wat zij kunnen verwachten met betrekking tot de handhaving door de Commissie van de verplichtingen uit hoofde van de AI-verordening.

Deze richtsnoeren zijn uitsluitend van toepassing op de AI-verordening en niet op andere wetgeving van de Unie.

Aanbieders van AI-modellen voor algemene doeleinden moeten:

• technische documentatie over het model op te stellen en bij te houden, met inbegrip van details over het ontwikkelingsproces, die op verzoek aan het AI-bureau moet worden verstrekt. Nationale bevoegde autoriteiten kunnen het AI-bureau ook verzoeken om namens hen informatie op te vragen wanneer deze informatie nodig is voor hun toezichthoudende taken;
• verstrekken van informatie en documentatie aan downstreamaanbieders van AI-systemen om hen te helpen de mogelijkheden en beperkingen van het model te begrijpen en aan hun eigen verplichtingen te voldoen;
• een beleid uit te voeren om te voldoen aan het auteursrecht en de naburige rechten van de Unie, waarbij gebruik wordt gemaakt van geavanceerde technologieën om voorbehouden inzake rechten vast te stellen en te eerbiedigen;
• een voldoende gedetailleerde samenvatting publiceren van de inhoud die wordt gebruikt voor de opleiding van het model;
• indien zij buiten de EU zijn gevestigd, een gemachtigde vertegenwoordiger in de Unie aanwijzen alvorens hun model in de handel te brengen.

Aanbieders van AI-modellen voor algemene doeleinden die onder een vrije en opensourcelicentie zijn vrijgegeven, kunnen onder bepaalde voorwaarden worden vrijgesteld van de eerste verplichtingen.

Aanbieders van AI-modellen voor algemene doeleinden met een systeemrisico, met inbegrip van opensourcemodellen, hebben echter te maken met aanvullende verplichtingen. Deze aanbieders moeten de Commissie bijvoorbeeld in kennis stellen wanneer zij een model met systeemrisico ontwikkelen en stappen ondernemen om de veiligheid en beveiliging van het model te waarborgen.

Aanbieders kunnen naleving aantonen door middel van een gedragscode die als adequaat wordt beoordeeld, of via alternatieve adequate middelen.

De richtlijnen helpen bepalen of een model kwalificeert als een AI-model voor algemene doeleinden als de computationele middelen die worden gebruikt voor de training (training compute) groter zijn dan 10^23 floating point operations (FLOP) en het taal (tekst of audio), tekst-naar-beeld of tekst-naar-video kan genereren. Deze rekendrempel komt overeen met wat doorgaans wordt gebruikt om modellen te trainen met een miljard parameters op grote datasets. Bovendien maken de gekozen modaliteiten flexibele contentgeneratie mogelijk die een breed scala aan verschillende taken kan uitvoeren. Dit is echter geen absolute regel: modellen die aan dit criterium voldoen, kunnen bij wijze van uitzondering niet als AI-modellen voor algemene doeleinden worden aangemerkt als zij geen significante algemeenheid vertonen, terwijl modellen onder deze drempel nog steeds AI-modellen voor algemene doeleinden kunnen zijn als zij een aanzienlijke algemeenheid vertonen en op competente wijze een breed scala aan taken kunnen uitvoeren.

AI-bedrijven moeten voldoen aan de verplichtingen voor aanbieders van AI-modellen voor algemene doeleinden indien zij aanbieders zijn die een dergelijk model in de Unie in de handel brengen.

1. Kwalificatie als AI-model voor algemene doeleinden: Op basis van het indicatieve criterium in de richtsnoeren worden modellen die zijn getraind met een hoeveelheid berekening die groter is dan 10^23 FLOP en die taal, tekst-naar-beeld of tekst-naar-video kunnen genereren, beschouwd als AI-modellen voor algemene doeleinden, hoewel er uitzonderingen kunnen zijn.
2. De “aanbieder” zijn: Een “aanbieder” is de entiteit die een AI-model voor algemene doeleinden ontwikkelt of laat ontwikkelen en onder haar eigen naam of handelsmerk in de handel brengt. Dit geldt ook voor buiten de EU gevestigde ondernemingen die modellen in de Unie in de handel brengen.
3. "In de handel brengen": Dit betekent de eerste beschikbaarheid op de markt van de Unie, hetzij via API’s, downloads, clouddiensten, integratie in toepassingen of andere middelen. Dit geldt zelfs wanneer modellen worden geïntegreerd in AI-systemen of worden gebruikt voor interne processen die essentieel zijn voor het leveren van een product of dienst aan derden of die gevolgen hebben voor de rechten van natuurlijke personen in de Unie.

De richtsnoeren bevatten voorbeelden om de aanbieder in verschillende scenario’s te identificeren, waaronder gezamenlijke ontwikkeling en regelingen met derden, en om te verduidelijken welke acties onder het in de handel brengen vallen.

De AI-verordening brengt innovatie en regelgeving in evenwicht door te erkennen dat niet elke wijziging of finetuning van een AI-model voor algemene doeleinden mag worden behandeld als het creëren van een nieuw model. Als zodanig zijn actoren die een model wijzigen of verfijnen niet automatisch onderworpen aan alle verplichtingen voor aanbieders van AI-modellen voor algemene doeleinden.  In de richtsnoeren wordt verduidelijkt dat deze actoren alleen in uitzonderlijke omstandigheden aanbieders worden, met name wanneer bij de wijziging of afstemming meer dan een derde van de opleidingsberekening van het oorspronkelijke model wordt gebruikt.

Deze hoge drempel betekent dat de meeste fine-tuning, aanpassingen en kleine wijzigingen ontwikkelaars niet zullen onderwerpen aan de verplichtingen voor aanbieders.

Ter ondersteuning van innovatie beperkt de Commissie de verplichtingen voor belangrijke wijzigingen verder tot het documenteren van de wijziging zelf — de aangebrachte wijzigingen en de gebruikte nieuwe opleidingsgegevens —  in plaats van volledige documentatie van het volledige model te vereisen.

Deze aanpak zorgt ervoor dat de overgrote meerderheid van de ontwikkelaars kan innoveren door voort te bouwen op bestaande modellen zonder buitensporige regeldruk.

Deze richtlijnen zijn niet juridisch bindend. Een gezaghebbende interpretatie van de AI-verordening kan alleen worden gegeven door het Hof van Justitie van de Europese Unie. Niettemin bevatten deze richtsnoeren de interpretatie en toepassing door de Commissie van de AI-verordening, waarop zij haar handhavingsmaatregelen zal baseren. Dit helpt aanbieders om aan hun verplichtingen te voldoen en ondersteunt de doeltreffende uitvoering van de AI-verordening. Niettemin zal een beoordeling per geval altijd noodzakelijk zijn om rekening te houden met de specifieke kenmerken van elk afzonderlijk geval.

Een AI-model voor algemene doeleinden wordt geclassificeerd als AI met een systeemrisico als het aan een van de twee voorwaarden voldoet.

• Voorwaarde voor de berekeningsdrempel: Het model heeft mogelijkheden die overeenkomen met of groter zijn dan die van de meest geavanceerde modellen. De AI-verordening veronderstelt dit voor modellen die zijn opgeleid met een cumulatieve hoeveelheid computationele middelen van meer dan 10^25 FLOP (de “computedrempel”) om dergelijke capaciteiten te hebben. Deze drempel suggereert dat het model aanzienlijke gevolgen kan hebben voor de markt van de Unie vanwege het bereik ervan of mogelijke negatieve gevolgen voor de volksgezondheid, de veiligheid, de beveiliging, de grondrechten of de samenleving. De Commissie moet deze drempel zo nodig aanpassen om rekening te houden met technologische ontwikkelingen.
• Aanwijzingsvoorwaarde: De Commissie kan een model aanwijzen als AI-model voor algemene doeleinden met systeemrisico, hetzij op eigen initiatief, hetzij naar aanleiding van een gekwalificeerde waarschuwing van het wetenschappelijk panel, indien de capaciteiten of impact van het model gelijkwaardig zijn aan die van de meest geavanceerde modellen. Deze voorziening houdt rekening met modellen die systeemrisico’s kunnen opleveren, zelfs als zij niet aan de berekeningsdrempel voldoen.

Zodra een model aan een van deze voorwaarden voldoet, moet de aanbieder ervan voldoen aan aanvullende verplichtingen, waaronder het beoordelen en beperken van systeemrisico’s.

Wanneer een AI-model voor algemene doeleinden aan de berekeningsdrempel voldoet of bekend wordt dat aan deze drempel zal worden voldaan, moet de aanbieder de Commissie daarvan onverwijld en uiterlijk binnen twee weken in kennis stellen.

In deze kennisgeving kan de aanbieder argumenten aanvoeren om aan te tonen dat het model, hoewel het aan de drempelwaarde voldoet, niet over capaciteiten beschikt die overeenkomen met of groter zijn dan die van de meest geavanceerde modellen, of dat het om andere redenen geen systeemrisico’s met zich meebrengt. Daarom mag het niet worden geclassificeerd als een AI-model voor algemene doeleinden met een systeemrisico. 

Aanbieders kunnen specifiek stellen dat hun model geen systeemrisico’s met zich meebrengt omdat het niet over capaciteiten met een grote impact beschikt - die welke overeenkomen met of groter zijn dan de capaciteiten van de meest geavanceerde modellen, en systeemrisico’s in verband met dergelijke capaciteiten met een grote impact.

De Commissie zal de door de aanbieder ingediende argumenten beoordelen en besluiten deze al dan niet te aanvaarden.  

Als de Commissie de argumenten aanvaardt, zal het model niet langer worden geclassificeerd als een AI-model voor algemene doeleinden met een systeemrisico, en zal de aanbieder ervan niet onderworpen zijn aan de desbetreffende verplichtingen vanaf het moment dat hij in kennis wordt gesteld van het aanvaardingsbesluit.

Als de Commissie de argumenten afwijst, wordt het model bevestigd als een AI-model voor algemene doeleinden met systeemrisico, en is de aanbieder onderworpen aan de verplichtingen voor dergelijke modellen vanaf het moment dat het model aan de berekeningsdrempel voldoet.

Niet alle aanbieders van AI-modellen voor algemene doeleinden zijn aan dezelfde vereisten onderworpen, aangezien er vrijstellingen zijn voor aanbieders van modellen die zijn vrijgegeven onder vrije en opensourcelicenties. Aanbieders van dergelijke modellen kunnen met name worden vrijgesteld van de verplichting om:

• het bijhouden van technische documentatie voor autoriteiten;
• documentatie verstrekken aan downstreamaanbieders van AI-systemen;
• een EU-vertegenwoordiger aanwijzen (voor niet-EU-aanbieders).

Deze vrijstellingen zijn alleen van toepassing indien het model:

• wordt vrijgegeven onder een werkelijk vrije en opensourcelicentie die toegang, gebruik, wijziging en distributie mogelijk maakt zonder inkomsten te genereren;
• heeft parameters, met inbegrip van gewichten, architectuur en gebruiksinformatie, openbaar beschikbaar;
• niet is geclassificeerd als een AI-model voor algemene doeleinden met systeemrisico,aangezien aanbieders van die modellen aan alle verplichtingen moeten voldoen, ongeacht of het model open source is. 

In de vrijstellingen wordt erkend dat opensourcemodellen onderzoek en innovatie ondersteunen en tegelijkertijd transparantie bieden door hun open karakter. Aanbieders van opensourcemodellen moeten echter nog steeds voldoen aan de verplichting van het auteursrechtbeleid en een samenvatting van opleidingsgegevens publiceren. 

Naast standaardverplichtingen moeten aanbieders van alle AI-modellen voor algemene doeleinden en aanbieders van AI-modellen voor algemene doeleinden met systeemrisico:

• Modelevaluatie: Modelevaluatie uitvoeren met behulp van gestandaardiseerde protocollen en geavanceerde instrumenten, waaronder het uitvoeren en documenteren van tests op tegenspraak om systeemrisico’s te identificeren en te beperken.
• Risicobeoordeling: mogelijke systeemrisico’s op het niveau van de Unie, met inbegrip van de bronnen ervan, die kunnen voortvloeien uit de ontwikkeling, het in de handel brengen of het gebruik van deze modellen, beoordelen en beperken.
• Melding van incidenten: Volg, documenteer en rapporteer relevante informatie over ernstige incidenten en mogelijke corrigerende maatregelen onverwijld aan het AI-bureau en, in voorkomend geval, de nationale autoriteiten.
• Beveiligingsmaatregelen op het gebied van cyberbeveiliging: Zorgen voor adequate cyberbeveiligingsbescherming voor zowel het model als de fysieke infrastructuur ervan, om diefstal, misbruik of wijdverbreide gevolgen van storingen te voorkomen.

Aanbieders kunnen naleving aantonen door zich te houden aan de AI-praktijkcode voor algemene doeleinden of door alternatieve adequate wijzen van naleving aan te tonen. Als aanbieders voor het laatste kiezen, moeten zij argumenten aanvoeren waarom dergelijke middelen toereikend zijn, die door de Commissie zullen worden beoordeeld.

De richtsnoeren vormen een aanvulling op de praktijkcode door de belangrijkste concepten in de AI-verordening te verduidelijken, onder meer hoe de code kan worden gebruikt om naleving aan te tonen. Hoewel de richtsnoeren een interpretatief kader bieden voor het begrijpen van de verplichtingen van aanbieders van AI-modellen voor algemene doeleinden, biedt de code specifieke maatregelen die aanbieders kunnen nemen om aan te tonen dat zij aan deze verplichtingen voldoen.

De Commissie heeft deze richtsnoeren ontwikkeld door middel van een inclusief raadplegingsproces om ervoor te zorgen dat zij de praktische ervaring en diverse perspectieven weerspiegelen. Van 22 april tot en met 22 mei 2025 werd een openbare raadpleging met meerdere belanghebbenden gehouden, waarbij input werd gevraagd van aanbieders van AI-modellen voor algemene doeleinden, downstreamaanbieders, het maatschappelijk middenveld, de academische wereld, deskundigen, overheidsinstanties en andere belanghebbenden. De richtsnoeren bevatten ook feedback van de lidstaten via de Europese AI-raad en putten uit de expertise van de pool van deskundigen van het Gemeenschappelijk Centrum voor onderzoek van de Commissie. 

Aanbieders van AI-modellen voor algemene doeleinden moeten voldoen aan twee belangrijke documentatieverplichtingen uit hoofde van de AI-verordening:

• Technische documentatie voor autoriteiten: Aanbieders moeten uitgebreide technische documentatie voor autoriteiten opstellen en bijhouden. Dit omvat informatie over de architectuur van het model, het trainingsproces, trainings-, test- en validatiegegevens, computationele middelen en energieverbruik. Deze documentatie moet op verzoek ter beschikking worden gesteld van het AI-bureau, dat ook namens de nationale bevoegde autoriteiten kan optreden.
• Documentatie voor downstreamaanbieders: Aanbieders moeten ook afzonderlijke documentatie opstellen en bijhouden — degenen die voornemens zijn het betrokken AI-model voor algemene doeleinden in AI-systemen te integreren (“downstreamaanbieders”). Deze documentatie moet algemene informatie bevatten over de beoogde taken van het model, technische integratievereisten, input-/outputspecificaties en trainingsgegevens. Het moet proactief ter beschikking worden gesteld van downstreamaanbieders om hen in staat te stellen de mogelijkheden en beperkingen van het model te begrijpen en te voldoen aan hun verplichtingen uit hoofde van de AI-verordening. 

Beide documentatiesets moeten gedurende de levenscyclus van het model up-to-date worden gehouden. AI-modellen voor algemene doeleinden die zijn vrijgegeven onder een gratis en opensourcelicentie kunnen worden vrijgesteld van deze documentatievereisten, mits zij voldoen aan bepaalde voorwaarden met betrekking tot aanvullende informatie die beschikbaar moet worden gesteld. Deze vrijstelling is echter niet van toepassing op AI-modellen voor algemene doeleinden met een systeemrisico.

Aanbieders van AI-modellen voor algemene doeleinden moeten voldoen aan twee belangrijke verplichtingen op het gebied van publieke transparantie en auteursrechten uit hoofde van de AI-verordening:

• Auteursrechtbeleid: Aanbieders moeten een beleid invoeren om te voldoen aan het auteursrecht en de naburige rechten van de Unie. Dit omvat het identificeren en eerbiedigen van voorbehouden inzake rechten uit hoofde van het auteursrecht van de Unie.
• Openbare samenvatting van de opleidingsinhoud: Aanbieders moeten een voldoende gedetailleerde samenvatting van de inhoud die wordt gebruikt voor de opleiding van hun modellen openbaar maken.

Deze verplichtingen gelden voor alle aanbieders van AI-modellen voor algemene doeleinden, met inbegrip van aanbieders van opensourcemodellen. De AI-praktijkcode voor algemene doeleinden biedt gedetailleerde richtsnoeren over de wijze waarop aanbieders aan de verplichting tot naleving van het auteursrecht kunnen voldoen.

Voor de eis inzake openbare samenvatting ontwikkelt de Commissie een model en bijbehorende richtsnoeren die aanbieders zullen moeten gebruiken voor de presentatie van de openbare samenvatting.

De AI-verordening zorgt ervoor dat downstreamontwikkelaars over voldoende informatie beschikken door middel van verplichte documentatievereisten voor aanbieders van AI-modellen voor algemene doeleinden. Aanbieders moeten documentatie creëren en actief verstrekken die specifiek is ontworpen voor aanbieders van downstream AI-systemen, waaronder:

• de beoogde taken en het beleid inzake aanvaardbaar gebruik van het model;
• technische specificaties, waaronder architectuur, parameters, invoer-/uitvoermodaliteiten en formaat;
• integratievereisten zoals gebruiksaanwijzingen, infrastructuurbehoeften en noodzakelijke instrumenten;
• informatie over het type opleidings-, test- en valideringsgegevens, herkomst- en curatiemethoden.

Door deze informatie-uitwisseling verplicht te stellen, creëert de wet een transparantiekader dat verantwoorde innovatie in de hele AI-waardeketen ondersteunt.

De verplichtingen uit hoofde van de AI-verordening voor aanbieders van AI-modellen voor algemene doeleindenworden op 2 augustus 2025 van toepassing. Vanaf die datum moeten aanbieders die deze modellen in de handel brengen, voldoen aan hun verplichtingen uit hoofde van de AI-verordening en het AI-bureau onverwijld in kennis stellen van modellen met een systeemrisico die in de EU in de handel worden gebracht. 

In het eerste jaar vanaf 2 augustus 2025 zal het AI-bureau aanbieden nauw samen te werken, met name met aanbieders die de praktijkcode naleven, om ervoor te zorgen dat modellen onverwijld in de EU in de handel kunnen worden gebracht. Indien aanbieders die zich aan de code houden, niet alle verbintenissen onmiddellijk volledig nakomen, zal het AI-bureau niet van oordeel zijn dat zij hun verplichtingen uit hoofde van de code niet zijn nagekomen. In plaats daarvan zal het AI-bureau van mening zijn dat zij te goeder trouw handelen en bereid zijn samen te werken om volledige naleving te waarborgen. Vanaf 2 augustus 2026 zal de Commissie echter de volledige naleving van alle verplichtingen voor aanbieders van AI-modellen voor algemene doeleinden afdwingen, onder meer door middel van boetes.

Aanbieders van AI-modellen voor algemene doeleinden die vóór 2 augustus 2025 in de handel zijn gebracht, moeten uiterlijk op 2 augustus 2027 aan de verplichtingen van de AI-verordening voldoen.