/
Jugendschutz - Ideen und Konzepte

Jugendschutz - Ideen und Konzepte

Feb 20, 2024

Jugendschutz

Um bei WLO aufgenommen zu werden, soll der Inhalt Jugendschutzkonform sein und mindestens für unter 18 Jahre freigegeben sein.

 

TL;DR Risikoeinschätzung

Für dieses Metadatum gibt es keine offiziellen Angaben wie die Prüfung von Institutionen durchgeführt wird.

Für eine Einschätzung duch Maschinen sollten zunächst Mindestanforderungen pro Altersstufe definiert werden.

Maschinen prüfen dann die erkannten Medien auf diese ""KO-Kriterien"" und geben Hinweise für eine menschliche Prüfung.

Es gibt keine Daten bei edu-sharing bisher zu diesem Metadatum.

 

Abhängig von Kostenpflichtig - Ideen und Konzepte, Werbung - Ideen und Konzepte, Login notwendig - Ideen und Konzepte, Datenschutz - Ideen und Konzepte und Neutralität - Ideen und Konzepte


Weitere Recherchen sind nötig. Erste PoC's wären möglich.


Geschätzte Arbeitszeit: 2 PerMo

 

Begriffsbestimmung

Gesetzesgrundlage - JuSchG

Jugendschutzgesetzt - Abschnitt 3: Jugendschutz im Bereich der Medien

Verfügbarkeitseinschränkung von Medien für Kinder und Jugendliche

Laut JuSchG dürfen Kindern und Jugendlichen Medien (auf Datenträgern) nur zugänglich gemacht werden, wenn sie von der obersten Landesbehörde oder einer Organisation der freiwilligen Selbstkontrolle im Rahmen des Verfahrens nach § 14 Abs. 6 für ihre Altersstufe freigegeben und gekennzeichnet worden sind oder wenn es sich um Informations-, Instruktions- und Lehrprogramme handelt, die vom Anbieter mit "Infoprogramm" oder "Lehrprogramm" gekennzeichnet sind.

Gilt nicht, wenn die Plattform im Inland nachweislich weniger als 1 Mio. NutzerInnen hat.

Gilt nicht, wenn sichergestellt ist, dass die Medien ausschließlich Erwachsenen zugänglich gemacht werden.

Die Vorschrift findet auch auf Diensteanbieter Anwendung, deren Sitzland nicht Deutschland ist.

Wer prüft den Jugendmedienschutz und wie?

Es gibt eine Vielzahl von Entitäten zur Beobachtung jugendschutzrelevanter Angebote:

Internetangebote werden von Kommission für Jugendmedienschutz (KJM) in Zusammenarbeit  mit jugendschutz.net überwacht.

Außerdem wird die Prüfstelle für jugendgefährdende Medien bei der Bundeszentrale  für Kinder- und Jugendmedienschutz (BzKJ) auf Anregung oder Antrag tätig, indiziert Webadressen und nimmt sie in die Liste jugendgefährdender Medien auf. Diese Liste ist bisher nicht maschinenlesbar verfügbar. Bibliotheken haben jedoch Zugriff darauf.

Filme und Spiele werden von der oberste Landesbehörde oder einer Organisation der freiwilligen Selbstkontrolle überwacht.

Weitere Kontroll-Institutionen sind u.a. Freiwillige Selbstkontrolle Multimedia-Dienstanbieter , Freiwillige Selbstkontrolle der Filmwirtschaft, Freiwillige Selbstkontrolle Fernsehen GmbH, Unterhaltungssoftware Selbstkontrolle und die SPIO Juristen-Kommission („JK“).

Es gibt keine offiziellen Angaben wie genau die Prüfung von den Institutionen durchgeführt wird.

Filme und Spielprogamme werden nach Prüfung wie folgt gekennzeichnet:    

  1. "Freigegeben ohne Altersbeschränkung",

  2. "Freigegeben ab sechs Jahren"

  3. "Freigegeben ab zwölf Jahren"

  4. "Freigegeben ab sechzehn Jahren"

  5. "Keine Jugendfreigabe"

Es gibt verschiedene Prüfverfahren, Beurteilungsmaßstäbe von Rundfunk- und Telemedieninhalten sowie Kriterien für die Aufsicht im Rundfunk und in den Telemedien.

Welche Einschränkungen gelten pro Altersstufe?

Von den offiziellen Institutionen zur Jugenschutzprüfung gibt es keine offiziellen Angaben zu altersspezifischen Kriterien.

Nicht gekennzeichnete Filme oder Spiele sollten im Unterricht nicht gezeigt werden.

Abstufung nach Alter:

  • keine Jugendfreigabe

  • Freigegeben ab 16

  • Freigegeben ab 12

  • Freigegeben ab 6

  • Freigegeben ohne Altersbeschränkung

Ein Medium darf nicht in die Liste jugendgefährdender Inhalte aufgenommen werden    

  1. allein wegen seines politischen, sozialen, religiösen oder weltanschaulichen Inhalts

  2. wenn es der Kunst oder der Wissenschaft, der Forschung oder der Lehre dient

  3. wenn es im öffentlichen Interesse liegt, es sei denn, dass die Art der Darstellung zu beanstanden ist

Kriterien

Zunächst müssen die obig genannten Prüfverfahren und Kriterien in technische Anforderungen umgewandelt werden, idealerweise erweitert auf Grundlage des JuSchG.

Mögliche Ausschlusskriterien umfassen:

 

Metriken

Wie können nun folgende technische Bewertungen durchführen.

Eine Themen- und Sentimentanalyse des Inhalts. Worum geht es und wie wird das präsentiert oder kommentiert?

Werden in Bild und Video Menschen oder Körperteile dargestellt, wird Nacktheit zur Schau gestellt, werden Waffen, Gewaltdarstellungen oder Sexuelle Handlungen dargestellt oder angedeutet?

Gibt es Verweise auf problematische oder gar indizierte Seiten oder soziale Netzwerke?

Gibt es Chat-, Melde- oder Kauffunktionen ohne angezeigte Moderation oder Limits?

Werden ohne Einwilligigung persönliche Daten abgefragt?

Dieses Metadatum hängt mit vielen anderen komplex zusammen, s. die bereits aufgezählten.

Ideen

Aufgrund der juristischen Relevanz  des Thema Jugendschutz gibt es bereits eine umfassende Menge von Prüfverfahren, Kriterien, Datensätzen sowie Modelle. Bei beiden gibt es White- als auch Blacklists, also Methoden der Ausschließung bzw. Freigabe. Darüber lässt sich eine Schnittmenge definieren, d.h., ein Satz Kriterien, den ein Inhalt erfüllen muss sowie ein Satz Kriterien den ein Inhalt nicht erfüllen darf um für den Jugendschutz geeignet zu gelten.

 

Eine Liste ausgewerteter Inhalte ist hier zu finden

Es gibt eine Reihe von Datensätzen und Modellen für ein eigenes, verfeinertes Training von KI Modellen, bspw:

Gewalterkennung:

Es gibt eine Vielzahl von Repositories zu Gewalterkennung und Waffenerkennung aus denen Modelle evaluiert werden können, ein Auszug umfasst:

 

Wie würde die Erkennung des Jugendschutzstatus eines Inhaltes ablaufen:

  1. Im einfachsten Fall gibt es ein Jugendschutz-Label oder die Seite ist auf entsprechenden White- oder Blacklists geführt.

  2. Falls nicht, so müssen alle Medien der Seite erkannt und auf ihren Typ (Text, Audio, Bild, ...) kategorisiert werden.

  3. Je nach Typ muss eine entsprechende Prüfung auf jugendschutzgefährdende Inhalte durchgeführt werden. Sobald ein Inhalt gefunden wird, kann die weitere Analyse abgebrochen werden. Es gilt also ein Fail Fast Ansatz.

  4. Als erstes wird Text analysiert, da es am einfachsten und schnellsten bewertet werden kann. Die Analyse erkennt das Sentiment und den Kontext des Textes

  5. Gleichzeitig finden Abfragen der Metadaten zu Kosten, Datenschutz, Werbung, Login, etc. statt, die auf dieses Metadatum einzahlen.

  6. Falls bis hier nichts schädliches gefunden wurde, so werden als nächstes Bilder und Audio, sowie final Videos und eingebettete Dokumente oder Skripte untersucht.

  7. Aufgrund der Komplexität des Metadatums würde nun eine manuelle Prüfung des Inhaltes anstehen, falls bisher kein KO Kriterium eintrat.

Hürden, Probleme und Grenzen

Es gibt keine öffentlichen Kriterien pro Altersstufe. Diese müssen selbst definiert, technologisiert und angewandt werden. Trainingsdaten sollten optimalerweise auch Open Source sein, allerdings sind gewalttätige oder sexualisierte Inhalte schwierig als Trainingsdaten vorzuhalten. Gute Trainingsdaten und Modelle für einen bestimmten Fall zu finden ist nicht leicht. Eine große und vor allem repräsentative Datenmenge ist wichtig. Idealerweise findet parallel ein Labeling durch die Redakteur:Innen statt.

Eine große Hürde ist auch der Kontext des Inhaltes. Wie verhindern wir bspw., dass gewünschte Inhalte zu Sexualkunde ausgeschlossen werden? Ein Ansatz wäre per Textanalyse die Sachrichtigkeit - Ideen und Konzepte des Inhalts prüfen.

Skalavorschlag

KO-Kriterium:

  • (+) Keine Hinweise auf Entwicklungsbeeinträchtigung

  • (-) Entwicklungsbeeinträchtigender Inhalt gefunden

Abstufung nach Alter: (Ausführlichere Definition der Altersstufen notwendig)

  • keine Aussage treffbar

  • keine Jugendfreigabe

  • Freigegeben ab 16

  • Freigegeben ab 12

  • Freigegeben ab 6

  • Freigegeben ohne Altersbeschränkung