De KIDS-wet uitgelegd

Hetvoorstel voor een EU-KIDS-wet - "EU Keeping Internet Digital Spaces Accountable and Trustworthy"doet twee dingen. Ten eerste stelt het gemeenschappelijke leeftijdsregels vast voor de hele EU. Het verbiedt sociale media-accounts jonger dan 13 jaar en voorziet in door ouders gecontroleerde accounts op 13 en 14, evenals in onafhankelijke accounts vanaf 15 jaar. 

Ten tweede legt het ontwerpveiligheid op aan de diensten die kinderen het meest gebruiken, van sociale media en videoplatforms tot games, AI-chatbots en appstores: geen verslavende trucs die leiden tot overmatig gebruik en blootstelling, geen contact van vreemden, standaard veilige instellingen en geen bestedingsvallen.

Nee. De leeftijdsregels zijn het meest zichtbare deel, maar het grootste deel van de wet gaat over hoe diensten worden gebouwd en nog belangrijker dat ze veilig zijn in hun ontwerp.

Leeftijdsgrenzen alleen zouden het echte onderliggende probleem onaangetast laten: diensten die zijn ontworpen om de tijd en aandacht van kinderen te maximaliseren. 

De twee helften werken samen: kinderen krijgen geleidelijk toegang tot de online wereld als ze opgroeien, en de diensten waartoe ze toegang hebben, moeten veilig voor hen zijn.

Het internet stopt niet aan de grenzen. Landen nemen hun eigen leeftijdsgrenzen en regels aan, wat een lappendeken van wetten zou betekenen: een kind beschermd in het ene land en niet in het volgende. Eén EU-verordening biedt elk kind hetzelfde hoge niveau van bescherming dat rechtstreeks op Europees niveau wordt afgedwongen voor de grootste platforms.

Een trap die volgt hoe kinderen opgroeien.

jonger dan 13 jaar: geen rekening. 

Van 13 tot en met 15 jaar: een voogd kan een beperkt account instellen en blijft de controle houden, met ouderlijke hulpmiddelen altijd ingeschakeld, een dagelijkse tijdslimiet van maximaal een uur en ouderlijke goedkeuring van contacten. 

Vanaf 15 jaar: jongeren kunnen een eigen rekening openen voor diensten die volgens de wet veilig voor hen moeten zijn.

De leeftijdsregels zijn van toepassing op sociale netwerken en video-sharingdiensten met bewezen risicovolle functies

Nee, maar ze zullen geen sociale media-accounts hebben.

Er blijft één enge mogelijkheid over, die volledig in handen is van de ouders: op videoplatforms die speciaal voor jonge kinderen zijn ontworpen, kan een ouder beperkte toegang verlenen via het eigen account van de ouder. Het kind heeft geen account, gepersonaliseerde feeds en zoekopdrachten zijn uitgeschakeld, de ouder stelt een dagelijkse limiet van maximaal een uur in en kan de toegang op elk moment stopzetten. 

Deze regeling eindigt om 13 uur wanneer kinderen de volgende toegangsstap bereiken.

Binnen zes maanden na de toepassing van de regels moeten platforms controleren of bestaande rekeninghouders jonger zijn dan 15 jaar en de accounts uitschakelen van degenen die niet kunnen worden vastgesteld of van wie de leeftijd niet kan worden vastgesteld.

Waar een platform al met veel vertrouwen kan zien dat een gebruiker een volwassene is, is er geen nieuwe controle nodig, dus de meeste volwassenen zullen niets opmerken.

Dat is precies waar deze wet op eindigt.

Vandaag de dag is een geboortedatum de enige barrière. Volgens de KIDS-wet is zelfverklaarde leeftijd expliciet niet voldoende: Toegang moet worden afgesloten door gecertificeerde leeftijdsverificatie, bestaande accounts moeten worden gecontroleerd en minderjarige accounts moeten gemakkelijk te melden zijn. 

Het tijdperk van het aanmelden met een valse verjaardag zal voorbij zijn.

Nee, en nee.

Platforms controleren geen identiteitsdocumenten en leren niet wie u bent. Leeftijd wordt geverifieerd door middel van gecertificeerde oplossingen die onafhankelijk zijn van de platforms, waaronder een gratis EU-app voor leeftijdsverificatie en, op termijn, de Europese portemonnee voor digitale identiteit. 

Deze tools vertellen het platform maar één ding: is de gebruiker ouder dan of jonger dan de leeftijd, ja of nee. De wet vereist “zero knowledge proof”-technologie die niemand kan identificeren, lokaliseren, volgen of profileren. 

Elke lidstaat moet ten minste één gratis manier aanbieden om uw leeftijd te bewijzen, ook voor mensen zonder digitale identiteitskaart.

Wanneer providers al een schatting hebben van de leeftijd van de gebruiker op basis van meerdere signalen, zoals de datum van het aanmaken van een account of creditcardgegevens, is er geen leeftijdsverificatie vereist voor de meeste bestaande gebruikers.

Het verbiedt het ontwerpen van diensten om dwangmatig of overmatig gebruik door minderjarigen aan te moedigen, en noemt de technieken zodat er geen onduidelijkheid is. Voor minderjarigen mogen diensten geen gebruik maken van:

• eindeloos automatisch afspelen en oneindig scrollen zonder echte pauzes
• meldingen die zijn ontworpen om het kind terug te trekken, los van alles wat het kind heeft gedaan
• beloningen voor het plaatsen of streamen naar een massapubliek
• “streak”-mechanica die een kind bestraffen omdat het niet elke dag terugkeert

De diensten moeten ook voorzien in doeltreffende tijdslimieten en gebruiksonderbrekingen om de slaap- en schooltijd van kinderen te beschermen.

Fundamenteel gezien. Voor minderjarigen moeten aanbevelingssystemen worden geoptimaliseerd voor veiligheid, kwaliteit en geestelijke gezondheid, niet voor betrokkenheid. 

• Wat een kind actief kiest om te volgen, komt op de eerste plaats
• personalisatie op basis van tracking is standaard uitgeschakeld
• er mogen geen gegevens van buiten de dienst worden gebruikt
• geen "konijnenholten"

Kinderen krijgen ook een eenvoudige feed reset en altijd ten minste één optie zonder profilering.

Niemand kan een kind berichten zonder voorafgaande goedkeuring, en diensten moeten ervoor waken dat kinderen worden gemanipuleerd om het te geven.

Kinderen verschijnen niet in contactsuggesties, kunnen niet zonder toestemming aan groepen worden toegevoegd en kunnen iedereen anoniem blokkeren. Hun inhoud is alleen zichtbaar voor geaccepteerde contacten, hun contactgegevens worden nooit bekendgemaakt, anderen kunnen hun inhoud niet downloaden of screenshots maken en minderjarigen kunnen standaard niet livestreamen.

Ja, dat is waar. AI-metgezellen en chatbots die toegankelijk zijn voor minderjarigen mogen geen ontwerpen gebruiken die menselijke relaties simuleren op manieren die waarschijnlijk emotionele afhankelijkheid creëren. 

Standaard mogen zij de eerdere gesprekken van een kind niet meenemen naar latere gesprekken. Ze moeten vóór de lancering op risico's voor kinderen worden getest en daarna op schade worden gecontroleerd. Jongeren onder de 13 jaar kunnen ze alleen gebruiken via hulpmiddelen voor ouderlijk toezicht. Ingebouwd in een platform of spel, kan een chatbot niet automatisch inschakelen, mag niet naar kinderen worden geduwd en moet gemakkelijk uit te schakelen zijn.

Games moeten ook veilig zijn door ontwerp. Appstores moeten elke app, met inbegrip van videogames, leeftijdscijferen met een gepubliceerde methodologie, ze mogen kinderen geen apps laten openen of kopen die ongeschikt zijn voor hun leeftijd, en moeten de EU-app voor leeftijdsverificatie bij zich hebben.

Effectieve tools voor elke dienst die binnen het toepassingsgebied valt: het instellen van de schermtijd, het zien en goedkeuren van contacten, het beheren van instellingen en het melden van schadelijke inhoud namens het kind. 

Op rekeningen voor 13- en 14-jarigen staan deze tools altijd aan.

Elke lidstaat moet ouders een vrije, privacybeschermende manier bieden om de ouderlijke verantwoordelijkheid aan te tonen. De wet verschuift de last nooit naar de ouders: ouderlijke instrumenten vormen een aanvulling op de verplichtingen van aanbieders, maar vervangen deze niet.

Het doet precies dat.

De grootste platforms – die met 45 miljoen of meer actieve maandelijkse gebruikers in de EU – kunnen zich niet zomaar veilig verklaren: Voordat ze in contact komen met kinderen onder de nieuwe regels, moeten ze een gedetailleerd plan op tafel leggen waaruit blijkt hoe ze van plan zijn aan elke verplichting van de wet te voldoen en dit laten controleren door onafhankelijke auditors. 

Deze controle moet worden betaald door platforms, niet door belastingbetalers. De Commissie kan bezwaar maken tegen de controleur indien zijn onafhankelijkheid niet is gewaarborgd. 

De bewijslast voor de naleving ligt bij de platforms; het is niet aan autoriteiten, ouders of kinderen om schade te bewijzen.

Meer informatie over hetspeciale panel over kinderveiligheid vindt u online.

Handhaving voor onlineplatforms bouwt voort op de bestaande handhavingsstructuren in het kader van dewet inzake digitale diensten en, voor AI-metgezellen en chatbots, deAI-wet. 

Dit betekent dat de Commissie rechtstreeks toezicht houdt op de onlineplatforms en AI-chatbots die in de EU het meest worden gebruikt. Coördinatoren van digitale diensten en nationale markttoezichtautoriteiten blijven verantwoordelijk voor respectievelijk de andere diensten en AI-systemen die onder de wet vallen. 

Voorzeer grote onlineplatforms (VLOP’s) wordt de nalevingslogica omgekeerd en ligt de last bij aanbieders om aan te tonen dat zij voldoen aan: Voordat hun diensten onder de nieuwe regeling in contact komen met kinderen, moeten zeer grote onlineplatforms een nalevingsplan indienen en aantonen dat zij, op eigen kosten geverifieerd door onafhankelijke auditors, voornemens zijn aan elke verplichting te voldoen. 

AI-metgezellen en chatbots kunnen pas in de handel worden gebracht als aanbieders kunnen aantonen dat zij voldoen aan de nieuwe verplichtingen uit hoofde van de wet en beschikken over een monitoringmechanisme voor nieuwe risico’s en incidenten.

Boetes kunnen 6% van de totale wereldwijde jaaromzet bereiken. Voor diensten en systemen waarop de Commissie toezicht houdt, geldt een versnelde procedure: Voorlopige bevindingen binnen 30 dagen en een definitieve beslissing gericht binnen 90 dagen, omdat er geen tijd is om te sparen.

De door de lidstaten aangewezen nationale autoriteiten zullen toezicht houden op de nieuwe regels voor videospellen die geen onlineplatforms zijn.