Prüfkriterien der KidD nach § 24a Jugendschutzgesetz

Das Jugendschutzgesetz (JuSchG) verpflichtet Anbieter von Online-Plattformen unter den Voraussetzungen der §§ 24a ff. JuSchG, die den Artikel 28 Absatz 1 des europäischen Digital Services Act (DSA) umsetzen, besondere Schutzvorkehrungen für Kinder und Jugendliche innerhalb ihrer Dienste zu treffen und damit ein hohes Maß an Sicherheit, Privatsphäre und Schutz zu gewährleisten. Die Regelungen gelten für solche Plattformen, die für Kinder und Jugendliche zugänglich sind. Die Schutzziele „Sicherheit, Privatsphäre und Schutz“ des Artikel 28 Absatz 1 DSA lassen sich weiter konkretisieren und korrespondieren mit Schutzzielen des JuSchG, die unter anderem voraussetzen:

1. der Schutz vor entwicklungsbeeinträchtigenden Medien,
2. der Schutz vor jugendgefährdenden Medien,
3. der Schutz der persönlichen Integrität von Kindern und Jugendlichen bei der Mediennutzung.

Die in der Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) organisatorisch angesiedelte unabhängige Stelle zur Durchsetzung von Kinderrechten in digitalen Diensten (KidD) übt die Aufsicht über die anbieterseitig zu treffenden strukturellen Vorsorgemaßnahmen aus und überprüft deren Umsetzung, konkrete Ausgestaltung und Angemessenheit. In dem mehrstufigen Verfahren nach § 24b JuSchG kann die KidD entsprechende systemisch-strukturelle Vorsorgemaßnahmen auch anordnen und bei Zuwiderhandlung gegen Anordnungen empfindliche Bußgelder verhängen.

Die Prüfkriterien der KidD geben entsprechenden Anbietern von für Kinder und Jugendliche zugänglichen Online-Plattformen nach den Bestimmungen des Digital Services Act (DSA) mit Sitz primär in Deutschland Orientierung, welchen Risiken mit geeigneten strukturellen Vorsorgemaßnahmen zu begegnen ist. Die Ausführungen konkretisieren, welche Kriterien die KidD im Rahmen der Prüfung der Angemessenheit und Wirksamkeit anbieterseitiger Vorsorgemaßnahmen anlegt. Darüber hinaus wird weiteren für Kinder- und Jugendmedienschutz verantwortlichen Akteurinnen und Akteuren sowie der allgemeinen Öffentlichkeit ein Einblick in die Verfahren der KidD ermöglicht.

Risikobewertung (risk assessment)

Grundlage für angemessene und wirksame strukturelle Vorsorgemaßnahmen ist eine valide Bewertung der – bei der konkreten Nutzung des Dienstes – für Kinder und Jugendliche bestehenden Risiken. Als umfassende fachliche Grundlage für die Risikobewertung dient unter anderem der von der BzKJ herausgegebene Gefährdungsatlas, der Medienphänomene und damit verbundene Risiken wissenschaftlich aufbereitet und detailliert darstellt.

Die Gefährdungen lassen sich in drei Risikogruppen übertragen:

1. Konfrontation mit entwicklungsbeeinträchtigenden und jugendgefährdenden Inhalten (Konfrontationsrisiken)
   
   Beispiele: Extremistische Inhalte, altersunangemessene sexuelle Inhalte, Gewalt, Desinformation und Verschwörungserzählungen, Bewerbung und Verbreitung gesundheitsgefährdender Substanzen, Pro-Ana/Pro-Mia sowie weitere Pro-ES-Inhalte, Suizidforen, Darstellungen von Kindern und Jugendlichen als Sexualobjekte.
2. Interaktion mit schädigenden Dritten (Interaktionsrisiken)
   
   Beispiele: Cybergrooming, Cybermobbing, Cyberstalking, die missbräuchliche Verbreitung intimer Inhalte, Fake Accounts mit schädigender Absicht, Identitätsdiebstahl, Online-Pranger/Doxing.
3. Risiken in der individuellen Nutzung des Angebotes und dessen Ausgestaltung (Nutzungsrisiken)
   
   Beispiele: Kostenfallen, (simuliertes) Online-Glücksspiel, Internetsucht und exzessive Mediennutzung, algorithmisierte Empfehlungssysteme, Empfehlungsschleifen, Intransparenz oder Missbrauch persönlicher Daten, Profilbildung und -auswertung, exzessive Selbstdarstellung, unverständliche Nutzungsbedingungen/AGB.

Zu den drei Risikobereichen lassen sich wiederum Zuordnungen von Vorsorgemaßnahmen als adäquate Risikobegegnung ableiten.

Risikobegegnung (risk mitigation)

Den vorgenannten drei Risikogruppen haben Anbieter gemäß § 24a JuSchG mit wirksamen und angemessenen strukturellen Vorsorgemaßnahmen zu begegnen. Das JuSchG setzt in § 24a den Artikel 28 Absatz 1 des europäischen Digital Services Act (DSA) um, weswegen die in Artikel 28 Absatz 1 DSA genannten Schutzziele erfüllt werden müssen. Demnach sind Anbieter von Online-Plattformen, die für unter 18-Jährige zugänglich sind, verpflichtet, geeignete und verhältnismäßige Maßnahmen zu ergreifen, um für ein hohes Maß an Privatsphäre, Sicherheit und Schutz von Kindern und Jugendlichen innerhalb ihrer Dienste zu sorgen.

Um diesen Schutz zu gewährleisten muss den im jeweiligen Angebot bestehenden Risken – es ist stets eine Bewertung im Einzelfall geboten – hinreichend begegnet werden. Hierzu können grundsätzlich insbesondere folgende strukturelle Vorsorgemaßnahmen implementiert sein:
 

• Melde- und Abhilfeverfahren (§ 24a Abs. 2 Nr. 1 JuSchG),
• Alters-Einstufungssystem für nutzergenerierte audiovisuelle Inhalte (§ 24a Abs. 2 Nr. 2 JuSchG),
• Altersverifikation (§ 24a Abs. 2 Nr. 3 JuSchG),
• Hinweise auf anbieterunabhängige Beratungsangebote, Hilfe- und Meldemöglichkeiten (§24a Abs. 2 Nr. 4 JuSchG),
• Sogenanntes Elternbegleitungstool, insbesondere zur Begleitung durch Personensorgeberechtigte (§ 24a Abs. 2 Nr. 5 JuSchG),
• Sichere Voreinstellungen, die Nutzungsrisiken begrenzen (§ 24a Abs. 2 Nr. 6 JuSchG).

Anforderungen an die einzelnen strukturellen Vorsorgemaßnahmen

Um Kindern und Jugendlichen eine möglichst sichere und unbeschwerte Teilhabe an digitalen Diensten zu gewährleisten, überprüft die KidD grundsätzlich die unten benannten Anforderungen an die einzelnen strukturellen Vorsorgemaßnahmen der nach § 24a Absatz 1 JuSchG verpflichteten digitalen Dienste unter Zuordnung der jeweiligen Risiken.

Diese Anforderungen schließen explizit nicht aus, dass Anbieter weitere Maßnahmen vorhalten können, die in die Gesamtbetrachtung einer wirksamen und angemessenen Vorsorge einfließen und berücksichtigt werden können bzw. in Einzelfällen Ausnahmen von dem Prüfungsmaßstab ergeben. Es können z. B. weitergehende Maßnahmen erforderlich sein, wenn dies aufgrund der konkreten Ausgestaltung des digitalen Dienstes und den vorhandenen Risiken notwendig ist.

Folgende Anforderungen an die einzelnen Vorsorgemaßnahmen werden regelmäßig geprüft:

Meldesystem

• Die Meldeoption muss bei der Wahrnehmung des Inhalts leicht erkennbar und ständig verfügbar sein.
• Grundsätzlich muss die Meldeoption mit nicht mehr als zwei „Klicks“ über eine eindeutig beschriebene Verlinkung erreichbar sein.
• Das Meldesystem muss für die jeweiligen durchschnittlichen minderjährigen Nutzenden einfach handhabbar und verständlich sein, insbesondere in der Benutzerführung. Leicht verständlich ist grundsätzlich etwa nicht, wenn zur Meldung juristisches Wissen erforderlich ist, z. B. nur pauschal die vorgegebene Meldemöglichkeit „Meldung nach dem XY Gesetz“ oder sonstige offensichtlich nicht für Kinder- und Jugendliche verständliche oder unklare Meldekategorien verwendet werden, etwa solche, die mit Fachbegriffen aufgeladen sind.
• Die Meldeoption muss auch für nicht registrierte Nutzende möglich sein, wenn die Inhalte für sie ebenfalls verfügbar sind.
• Es muss die Möglichkeit zur individuellen Begründung der Beschwerde/Meldung geben, jedoch können meldende Personen nicht zu individuellen Begründungen verpflichtet werden.

Meldungsbezogenes Abhilfesystem des Anbieters

• Der gemeldete Inhalt muss unverzüglich geprüft werden. Die Bewertung der Nutzenden beschränkt nicht die Prüfpflicht des Anbieters.
• Ein nach Eingang und Prüfung der Meldung zu Recht beanstandeter Inhalt wird unverzüglich entfernt oder der Zugang zu diesem Inhalt gesperrt.
• Nach abgeschlossener Prüfung der Meldung wird die meldende Person über das Ergebnis der Prüfung und die weitere Handhabe informiert.
• Es erfolgt eine Information über das landesrechtlich geregelte Schlichtungsverfahren aus dem Medienschutz-Staatsvertrag.

Rechtsbehelfsmöglichkeiten nach Entscheidung des Anbieters im Meldeverfahren

• Es besteht die technische Möglichkeit einer Gegenvorstellung beider Verfahrensbeteiligten (der meldenden Person und der gemeldeten Person), d. h. beide können gegen Entscheidungen, die zu ihren Ungunsten ausfallen, Einspruch erheben und eine Gegenvorstellung abgeben.
• Das Abhilfeverfahren gewährleistet, dass meldende Personen von Anfang an in angemessener Weise darauf hingewiesen werden, dass der Inhalt ihrer Meldungen an die von den Meldungen betroffenen Nutzenden weitergegeben werden können, ohne dass dadurch jedoch ein Rückschluss auf die Identität der meldenden Person möglich ist.
• Der Plattformanbieter muss die Ausgangsentscheidung unverzüglich überprüfen, wenn eine Gegenvorstellung des anderen Verfahrensbeteiligten eingeht. Es erfolgt eine unverzügliche Begründung des Plattformanbieters mit Einzelfallbezug.

Alters-Einstufungssystem für nutzergenerierte audiovisuelle Inhalte

• Der Plattformanbieter stellt ein Einstufungssystem bereit, mit dem Nutzende aufgefordert werden, nutzergenerierte audiovisuelle Inhalte dahingehend zu bewerten, ob sie ausschließlich für Nutzende ab 18 Jahren geeignet sind.
• Es muss die Möglichkeit bestehen, missbräuchlich vorgenommene oder falsche Eignungs-einstufungen durch andere Nutzende schnell und ohne erheblichen Aufwand melden zu können (Melde- und Nachkontrollmechanismen).

Altersverifikation

• Sobald für den jeweiligen Dienst mit der Kennzeichnung „ab 18“ versehene Inhalte vorliegen, ist diesbezüglich von dem Diensteanbieter ein anerkanntes System zur Altersverifikation vorzuhalten. Anerkannt ist ein System z. B., wenn es von der Kommission für Jugendmedienschutz (KJM) positiv bewertet wurde.

Hinweise auf anbieterunabhängige Beratungsangebote, Hilfe- und Meldemöglichkeiten

• Je nach Angebot muss der Plattformanbieter individuell passende, leicht auffindbare Hinweise auf anbieterunabhängige Beratungsangebote, Hilfe- und Meldemöglichkeiten bereitstellen, z. B. können Hinweise auf entsprechende Beratungsstellen bei nachvollziehbaren Risiken aus dem Bereich der sexuellen Gewalt gegen Minderjährige, selbstschädigendes Verhalten, Suizid, Hate Speech oder Extremismus geboten sein.
• Die externen Beratungsangebote auf die verwiesen wird, sollten sich nicht auf telefonische Angebote beschränken, sondern diverse, jugendaffine Kontaktwege anbieten (z. B. Chats). Die Beratungsangebote müsse auf Deutsch verfügbar sein; weitere Sprachen sind wünschenswert.
• Wenn die Verweise auf externe Beratungsangebote in einem Hilfebereich gebündelt werden, muss dieser Bereich innerhalb des Dienstes aufrufbar sein und nicht erst auf andere Seiten weiterleiten.

Elternbegleitungstool, insbesondere zur Begleitung durch Personensorgeberechtigte

• Das sogenannte Elternbegleitungstool muss leicht auffindbar sowie nutzerfreundlich sein, zu den angebotsspezifischen Risiken passen und je nach Angebot folgende Funktionen bereithalten:
  • eine Zeitkontrolle (Anzeige der vom Kind oder Jugendlichen auf der Plattform verbrachten Zeit),
  • die Festlegung eines finanziellen Ausgabenlimits für einen bestimmten Zeitraum bzw. die grundsätzliche Möglichkeit, ein Zustimmungserfordernis für finanzielle Ausgaben zu aktivieren,
  • je nach Einzelfall weitere Begleitungs- und Kontrollmöglichkeiten in Bezug auf Inhalte, die die körperliche, geistige oder sittliche Entwicklung von Kindern und Jugendlichen beeinträchtigen können.
• In Bezug auf die Ausgestaltung gilt Folgendes:
  • Die Einstellmöglichkeiten müssen leicht auffindbar sein.
  • Die Beschreibung der Steuerungsmöglichkeiten muss eindeutig und leicht verständlich sein, gegebenenfalls auch durch unterstützende Hilfebereiche.
  • Die Einstellmöglichkeiten greifen unabhängig vom verwendeten Gerät, es darf z. B. keinen Unterschied machen, welches Betriebssystem verwendet wird.
  • Die Einstellungen sind nicht ohne Autorisierung der personensorgeberechtigten Personen abzuändern und auch nach Updates noch unverändert.
  • Die Privatsphäre des Kindes oder Jugendlichen wird durch die Elternbegleitung nicht unverhältnismäßig beeinträchtigt. So können personensorgeberechtigte Personen beispielsweise persönliche Nachrichten des Kindes oder Jugendlichen nicht lesen.

Sichere Voreinstellungen, die Nutzungsrisiken begrenzen

• Zur Abwehr von Nutzungsrisiken müssen Diensteanbieter für minderjährige Nutzende sichere Voreinstellungen anbieten und bei Anmeldung standardmäßig einrichten. Dazu gehört insbesondere, dass
  • Nutzerprofile von Kindern und Jugendlichen nicht durch Suchmaschinen aufgefunden werden können,
  • Nutzerprofile von Kindern und Jugendlichen für nicht angemeldete Personen nicht einsehbar sind,
  • Standortdaten, Kontaktdaten und die Kommunikation der minderjährigen Nutzenden nicht veröffentlicht werden,
  • die Sichtbarkeit des Profils von minderjährigen Nutzenden auf einen selbst gewählten Personenkreis beschränkt ist und ungewollte Kontaktaufnahmen durch Fremde nicht möglich sind,
  • eine Nutzungsmöglichkeit besteht, die möglichst keine Rückschlussmöglichkeiten auf die minderjährigen Personen zulässt, z. B. durch die Nutzung eines Pseudonyms.

Hinweise

Die vorgenannten Anforderungen an die strukturellen Vorsorgemaßnahmen nach dem Jugendschutzgesetz schließen nicht aus, dass aus anderen Gründen weitere rechtliche Anforderungen an den Dienst, etwa datenschutzrechtliche Anforderungen, zu stellen sind. Ferner können sich immer wieder neue rechtliche Bewertungen einstellen, neue oder andere Sichtweisen ergeben, diese Information kann daher nur eine Annäherung an das Thema ermöglichen und ersetzt keinesfalls eine Beratung, zumal eine angemessene Ausgestaltung stets nur unter Berücksichtigung aller Aspekte des Einzelfalls möglich ist.

Die Prüfkriterien werden fortwährend und insbesondere im Rahmen des Diskursformates ZUKUNFTSWERKSTATT der BzKJ mit Blick auf sich ändernde Anforderungen in der Angebotslandschaft, einen fortschreitenden Erkenntnisprozess oder auch durch Erkenntnisse des Beirates der BzKJ im Auftrag der KidD überprüft und weiterentwickelt. Es bleibt insoweit der KidD vorbehalten, diese Kritierien jederzeit abzuändern.

Kontakt

Stelle zur Durchsetzung von Kinderrechten in digitalen Diensten
Rochusstraße 8-10
53123 Bonn

E-Mail: info@kidd.bund.de
Internet: www.kidd.bund.de