Das KIDS-Gesetz erklärt

DerVorschlag für ein EU-Kids-Gesetz - "EU Keeping Internet Digital Spaces Accountable and Trustworthy"(EU hält digitale Räume im Internet rechenschaftspflichtig und vertrauenswürdig) tut zwei Dinge. Erstens werden gemeinsame Altersregeln für die gesamte EU festgelegt. Es verbietet social-media-konten unter 13 jahren und sieht elternbeaufsichtigte konten bei 13 und 14 sowie unabhängige konten ab 15 jahren vor. 

Zweitens schreibt es den Diensten, die Kinder am häufigsten nutzen, von sozialen Medien und Videoplattformen bis hin zu Spielen, KI-Chatbots und App-Stores, Sicherheit durch Design vor: keine süchtig machenden tricks, die zu übermäßiger nutzung und exposition führen, kein kontakt von fremden, standardmäßig sichere einstellungen und keine ausgabenfallen.

Nein. Die Altersregeln sind der sichtbarste Teil, aber der größte Teil des Gesetzes dreht sich darum, wie Dienste gebaut werden und was noch wichtiger ist, dass sie in ihrem Design sicher sind.

Altersgrenzen allein würden das eigentliche zugrunde liegende Problem unberührt lassen: Dienstleistungen zur Maximierung der Zeit und Aufmerksamkeit von  Kindern.

Die beiden Hälften arbeiten zusammen: Kinder erhalten allmählich Zugang zur Online-Welt, wenn sie erwachsen werden, und die Dienste, auf die sie zugreifen, müssen für sie sicher sein.

Denn das Internet macht nicht an Grenzen halt. Die Länder nehmen ihre eigenen Altersgrenzen und Regeln an, was ein Flickenteppich von Gesetzen bedeuten würde: Ein Kind ist in einem Land geschützt und nicht im nächsten. Eine EU-Verordnung gibt jedem Kind das gleiche hohe Schutzniveau, das direkt auf europäischer Ebene für die größten Plattformen durchgesetzt wird.

Eine Treppe, die folgt, wie Kinder aufwachsen.

Unter 13: Kein Konto. 

Von 13 bis unter 15 Jahren: Ein Erziehungsberechtigter kann ein begrenztes Konto einrichten und behält die Kontrolle, wobei die elterlichen Werkzeuge immer aktiviert sind, eine tägliche Frist von höchstens einer Stunde gilt und die elterliche Zustimmung zu Kontakten erteilt wird. 

Ab 15 Uhr: Jugendliche können ihr eigenes Konto für Dienstleistungen eröffnen, die gesetzlich für sie sicher sein müssen.

Die Altersregeln gelten für soziale Netzwerke und Video-Sharing-Dienste mit nachgewiesenen riskanten Funktionen.

Nein, aber sie werden keine Social-Media-Konten haben.

Es bleibt eine enge Möglichkeit, die vollständig in den Händen der Eltern liegt: auf Videoplattformen, die speziell für Kleinkinder konzipiert sind, kann ein Elternteil über das eigene Konto des Elternteils eingeschränkten Zugang gewähren. Das Kind hat kein Konto, personalisierte Feeds und die Suche sind deaktiviert, die Eltern legen ein Tageslimit von bis zu einer Stunde fest und können den Zugriff jederzeit stoppen. 

Diese Anordnung endet bei 13, wenn die Kinder den nächsten Zugangsschritt erreichen.

Innerhalb von sechs Monaten nach den geltenden Vorschriften müssen die Plattformen prüfen, ob die bestehenden Kontoinhaber unter 15 Jahre alt sind, und die Konten derjenigen deaktivieren, die sich in einem solchen Alter befinden oder deren Alter nicht festgestellt werden kann.

Wo eine Plattform bereits mit hoher Sicherheit sagen kann, dass ein Benutzer ein Erwachsener ist, ist keine neue Überprüfung erforderlich, so dass die meisten Erwachsenen nichts bemerken werden.

Genau das ist es, was dieses Gesetz beendet.

Heute ist eine Geburtsdatumsbox die einzige Barriere. Nach dem KIDS-Gesetz reicht das selbst deklarierte Alter ausdrücklich nicht aus: Der Zugang muss durch eine zertifizierte Altersüberprüfung gesichert werden, bestehende Konten müssen überprüft werden und Konten für Minderjährige müssen leicht zu melden sein. 

Die Ära der Anmeldung mit einem falschen Geburtstag wird vorbei sein.

Nein, und nein.

Plattformen überprüfen keine Identitätsdokumente und erfahren nicht, wer Sie sind. Das Alter wird durch zertifizierte, von den Plattformen unabhängige Lösungen überprüft, darunter eine kostenlose EU-Altersüberprüfungs-App und rechtzeitig die EUid-Brieftasche. 

Diese Tools sagen der Plattform nur eines: ist der Nutzer über oder unter dem Alter, ja oder nein. Das Gesetz verlangt eine „Knowledge Proof“-Technologie, die niemanden identifizieren, lokalisieren, verfolgen oder profilieren kann. 

Jeder Mitgliedstaat muss mindestens eine kostenlose Möglichkeit zum Nachweis Ihres Alters anbieten, auch für Personen ohne digitale ID.

Wenn Anbieter bereits eine Schätzung des Alters des Benutzers auf der Grundlage mehrerer Signale wie Kontoerstellungsdatum oder Kreditkartendaten haben, ist für die meisten bestehenden Benutzer keine Altersüberprüfung erforderlich.

Es verbietet die gestaltung von diensten, um zwanghafte oder übermäßige nutzung durch minderjährige zu fördern, und nennt die techniken, so dass keine zweideutigkeit besteht. Für Minderjährige dürfen die Dienste nicht genutzt werden:

• endloses Autoplay und unendliches Scrollen ohne echte Pausen
• Benachrichtigungen, die das Kind zurückziehen sollen, unabhängig von allem, was das Kind getan hat
• Belohnungen für das Posten oder Streamen an ein Massenpublikum
• „Streifen“-Mechaniken, die ein Kind dafür bestrafen, dass es nicht jeden Tag zurückkehrt

Die Dienste müssen auch wirksame Fristen und Nutzungsunterbrechungen vorsehen, um den Schlaf und die Schulzeit der Kinder zu schützen.

Im Grunde genommen. Für Minderjährige müssen Empfehlungssysteme auf Sicherheit, Qualität und psychische Gesundheit optimiert werden, nicht auf Engagement. 

• Was ein Kind aktiv wählte, kommt zuerst
• Personalisierung basierend auf Tracking ist standardmäßig deaktiviert
• Es dürfen keine Daten von außerhalb des Dienstes verwendet werden
• keine „Kaninchenlöcher“

Kinder erhalten auch einen einfachen Feed-Reset und immer mindestens eine Option ohne Profiling.

Niemand kann einem Kind ohne Vorabgenehmigung eine Nachricht senden, und die Dienste müssen sich davor schützen, dass Kinder manipuliert werden, um es zu geben.

Kinder erscheinen nicht in Kontaktvorschlägen, können nicht ohne Zustimmung zu Gruppen hinzugefügt werden und können jeden anonym blockieren. Ihr inhalt ist nur für akzeptierte kontakte sichtbar, ihre kontaktdaten werden nie offengelegt, andere können ihren inhalt nicht herunterladen oder screenshots erstellen, und minderjährige können standardmäßig keinen livestream streamen.

Ja. KI-begleiter und chatbots, die für minderjährige zugänglich sind, verwenden möglicherweise keine designs, die menschliche beziehungen auf eine weise simulieren, die wahrscheinlich emotionale abhängigkeit schafft. 

Standardmäßig dürfen sie die früheren Gespräche eines Kindes nicht in spätere Gespräche mitnehmen. Sie müssen vor dem Start auf Risiken für Kinder getestet und anschließend auf Schäden überwacht werden. Kinder unter 13 Jahren können sie nur über Tools zur elterlichen Kontrolle verwenden. Ein Chatbot, der in eine Plattform oder ein Spiel integriert ist, schaltet sich möglicherweise nicht automatisch ein, wird möglicherweise nicht an Kinder gedrückt und muss leicht auszuschalten sein.

Spiele müssen auch durch Design sicher sein. App-Stores müssen jede App, einschließlich Videospielen, mit einer veröffentlichten Methodik altersgerecht bewerten, sie dürfen Kindern keinen Zugang zu Apps gewähren oder Apps kaufen, die für ihr Alter ungeeignet sind, und sie müssen die EU-Altersüberprüfungs-App mit sich führen.

Effektive Tools für jeden Service im Anwendungsbereich: Einstellung der Bildschirmzeit, Anzeigen und Genehmigen von Kontakten, Verwalten von Einstellungen und Melden schädlicher Inhalte im Namen des  Kindes.

Auf Konten für 13- und 14-Jährige sind diese Tools immer eingeschaltet.

Jeder Mitgliedstaat muss den Eltern eine freie und die Privatsphäre schützende Möglichkeit geben, die elterliche Verantwortung nachzuweisen. Das Gesetz verschiebt nie die Last auf die Eltern: elterliche Instrumente ergänzen die Verpflichtungen der Anbieter, sie ersetzen sie nicht.

Es macht genau das.

Die größten Plattformen – diejenigen mit 45 Millionen oder mehr aktiven monatlichen Nutzern in der EU – können sich nicht einfach für sicher erklären: Bevor sie nach den neuen Regeln mit Kindern in Kontakt kommen, müssen sie einen detaillierten Plan auf den Tisch legen, aus dem hervorgeht, wie sie jede Verpflichtung des Gesetzes erfüllen wollen, und ihn von unabhängigen Prüfern überprüfen lassen. 

Diese Prüfung muss von den Plattformen und nicht von den Steuerzahlern bezahlt werden. Die Kommission kann Einwände gegen den Prüfer erheben, wenn seine Unabhängigkeit nicht gewährleistet ist. 

Die Beweislast für die Einhaltung der Vorschriften liegt bei den Plattformen; Es ist nicht Sache von Behörden, Eltern oder Kindern, Schaden zu beweisen.

Weitere Informationen zum Sonderpanel Kindersicherheit finden Sie online.

Die Durchsetzung für Online-Plattformen baut auf den bestehenden Durchsetzungsstrukturen im Rahmen desGesetzes über digitale Dienste und – für KI-Begleiter und Chatbots – desKI-Gesetzes auf. 

Dies bedeutet, dass die Kommission die in der EU am weitesten verbreiteten Online-Plattformen und KI-Chatbots direkt überwacht. Die Koordinatoren für digitale Dienste und die nationalen Marktüberwachungsbehörden sind weiterhin für die anderen unter das Gesetz fallenden Dienste bzw. KI-Systeme zuständig. 

Beisehr großen Online-Plattformen (VLOPs) wird die Compliance-Logik umgekehrt, und die Anbieter müssen nachweisen, dass sie Folgendes einhalten: Bevor ihre Dienste unter dem neuen Regime mit Kindern in Kontakt kommen, müssen VLOPs einen Compliance-Plan vorlegen und zeigen, dass sie, von unabhängigen Prüfern auf eigene Kosten überprüft, beabsichtigen, jede Verpflichtung zu erfüllen. 

KI-Begleiter und Chatbots dürfen erst dann in Verkehr gebracht werden, wenn die Anbieter die Einhaltung der neuen Verpflichtungen aus dem Gesetz nachweisen können und über einen Überwachungsmechanismus für neu auftretende Risiken und Vorfälle verfügen.

Bußgelder können 6% des weltweiten Jahresumsatzes erreichen. Für Dienste und Systeme, die von der Kommission überwacht werden, gilt ein beschleunigtes Verfahren: Vorläufige Feststellungen innerhalb von 30 Tagen und eine endgültige Entscheidung innerhalb von 90 Tagen, da keine Zeit übrig bleibt.

Die von den Mitgliedstaaten benannten nationalen Behörden werden die neuen Vorschriften für Videospiele, die keine Online-Plattformen sind, überwachen.