Jugendschutz im Netz

Rechtlich unbedenkliche Eignungsbeurteilung von JusProg: Was jetzt zu tun ist

Von Marc Jan Eumann und Henning Mellage
10.03.2021 •

Im Internet können Anbieter entwicklungsbeeinträchtigende Inhalte nach fünf Altersstufen klassifizieren, darunter die Stufen ab 16 Jahren oder ab 18 Jahren. Gibt es mindestens ein anerkanntes geeignetes Jugendschutzprogramm, das diese Altersstufen technisch auslesen kann, brauchen die Anbieter keine weiteren Schutzmaßnahmen zu ergreifen, wie etwa die, den Abruf entwicklungsbeeinträchtigender Inhalte auf die Nachtstunden zu begrenzen. Diese sogenannte Privilegierung der Anbieter ist möglich, weil es die „JusProg“-Software gibt, die jüngst von der Freiwilligen Selbstkontrolle Multimedia-Diensteanbieter (FSM) als geeignet bewertet wurde. Diese Einstufung hat die Kommission für Jugendmedienschutz (KJM) der Landesmedienanstalten zwar bestätigt; doch die KJM kritisiert dabei, dass die JusProg-Software nicht bei problematischen Inhalten funktioniere, die über Social-Media-Plattformen bzw. Apps aufgerufen würden, obwohl Minderjährige solche Angebote überwiegend per Smartphone nutzten. Technisch ist es für externe Anbieter von Jugendschutzprogrammen aber kaum möglich, Social-Media-Plattformen und Apps auf entwicklungsbeeinträchtigende Inhalte hin zu durchleuchten. Im Folgenden MK-Artikel beschreiben aus Sicht der Medienaufsicht Marc Jan Eumann und Henning Mellage die Problemlage beim Jugendschutz im Internet. Eumann, Jg. 1966, ist Direktor der Medienanstalt Rheinland-Pfalz (Ludwigshafen) und KJM-Vorsitzender. Mellage, Jg. 1981, ist Vorsitzender der Arbeitsgruppe ‘Technischer Jugendmedienschutz’ der KJM und juristischer Referent der Landesanstalt für Medien NRW (Düsseldorf). • MK

- - - - - - - - - - - - - - - - - - - -

Jugendschutz im Netz

Rechtlich unbedenkliche Eignungsbeurteilung von JusProg: Was jetzt zu tun ist

Von Marc Jan Eumann und Henning Mellage

Die Freiwillige Selbstkontrolle Multimedia-Diensteanbieter (FSM) hat bei der plattformübergreifenden Eignungsbeurteilung der Software-Angebote „JusProg-Jugendschutzprogramm für iOS“ (Version 2.2), „JusProg-Jugendschutzprogramm für Android“ (Version 1.0.1) und „JusProg“ für Windows (Version 8.3.0) die rechtlichen Grenzen ihres Beurteilungsspielraums nicht überschritten. Zu diesem Ergebnis ist die Kommission für Jugendmedienschutz (KJM) nach langer und intensiver Diskussion Anfang Februar 2021 einstimmig gekommen. Das mag verwundern, nachdem die KJM im Mai 2019 die Eignungsbeurteilung für JusProg für unwirksam erklärt hatte.

Der tragende Grund für die damalige Entscheidung der KJM war, dass das Programm lediglich auf dem Betriebssystem Windows funktionierte und so einen Großteil der Internet-Nutzung durch Kinder und Jugendliche nicht abdeckte. Die KJM war – und ist – der Auffassung, dass Jugendschutzprogramme einen plattform- und systemübergreifenden Schutz bieten müssen.

Ein Blick zurück

Die Medienanstalt Berlin-Brandenburg (MABB) setzte daraufhin den Beschluss der KJM als zuständige Landesmedienanstalt um, woraufhin die FSM Klage und einstweiligen Rechtsschutz beim zuständigen Verwaltungsgericht Berlin eingereicht hat. Im Eilverfahren ist das Berliner Gericht der Auffassung der KJM, dass Jugendschutzprogramme einen plattform- und systemübergreifenden Schutz bieten müssen, nicht gefolgt. In zweiter Instanz wurde das Eilverfahren dann letztlich durch einen Vergleich beendet. Der Verein JusProg, der die JusProg- Software kostenlos zur Verfügung stellt, hat sich im Rahmen dieses Vergleichs verpflichtet, innerhalb von zwei Monaten bei der FSM Anträge auf Eignungsbeurteilung von JusProg für iOS und Android sowie für JusProgDNS* zu stellen. Das Hauptsacheverfahren ist noch nicht abgeschlossen.

Unabhängig vom Ausgang dieses Gerichtsverfahrens hat sich seit der Entscheidung der KJM im Mai 2019 im Bereich des technischen Kinder- und Jugendmedienschutzes sehr viel getan. So hat die FSM mit den Jugendschutzfunktionen von Netflix, Amazon Prime Video, TV Now Premium (RTL-Gruppe) und Magenta Gaming (Deutsche Telekom) vier technische Lösungen als geeignete Jugendschutzprogramme für geschlossene Systeme beurteilt. Die KJM hat ihrerseits allein im letzten Jahr 18 Altersverifikationssysteme bzw. -module (AVS) positiv bewertet. Dass so große und wichtige Player wie Netflix, Amazon, Telekom, die Mediengruppe RTL Deutschland, aber auch zahlreiche kleinere internationale Unternehmen technische Jugendschutzlösungen entwickelt haben, ist ein starkes Signal für einen wirksamen Kinder- und Jugendmedienschutz und sollte für andere Anbieter Anspruch und Ansporn zugleich sein.

Warum hat die KJM jetzt anders entschieden?

Unbestritten ist: Auch bei JusProg hat sich viel getan. Der Verein JusProg hat seine Jugendschutzlösung nunmehr auch auf die Betriebssysteme iOS und Android erweitert und diese der FSM zur Eignungsbeurteilung als Jugendschutzprogramm vorgelegt.

Die KJM kann nach der Novelle des Jugendmedienschutz-Staatsvertrags (JMStV) im Jahr 2016 lediglich überprüfen, ob die anerkannten Einrichtungen der Freiwilligen Selbstkontrolle bei ihren Beurteilungen von Jugendschutzprogrammen die rechtlichen Grenzen ihres Beurteilungsspielraums überschritten haben. Die Überprüfung der rechtlichen Grenzen des Beurteilungsspielraums nach dem JMStV richtet sich nach den für einen Beurteilungsspielraum im öffentlichen Recht allgemein entwickelten Rechtsgrundsätzen. Hierbei sind folgende relevante Kriterien zu berücksichtigen:

• Einhaltung der Verfahrensvorschriften,

• Fehlen sachfremder Erwägungen,

• Beachtung allgemein anerkannter Bewertungsgrundsätze,

• Verkennung des anzuwendenden Rechts,

• Vollständigkeit und Richtigkeit der Sachverhaltsermittlung, insbesondere keine unzutreffende Sachverhaltsermittlung.

Die KJM hat diese Punkte geprüft und ist deshalb zu der Auffassung gekommen, dass die FSM bei der Beurteilung von JusProg ihre rechtlichen Grenzen des Beurteilungsspielraums nicht überschritten hat. Die FSM hat sich – anders als bei der Eignungsbeurteilung im Jahr 2019 – ausführlich zum Beispiel mit der Frage des Einsatzes von Verfahren der Echtzeitanalyse auseinandergesetzt. Die Kritikpunkte der KJM bezüglich des Programms JusProg und der Entscheidung der FSM wurden diesmal umfassend behandelt. Da mit den Versionen für iOS und Android auch die mobile Internet-Nutzung abgedeckt ist, besteht nunmehr auch ein plattform- und systemübergreifender Schutz. Insgesamt ist zu konstatieren: Die FSM hat sehr sorgfältig geprüft und damit – im Zusammenspiel mit der KJM – unter Beweis gestellt, dass das von den Bundesländern implementierte System der koregulierten Selbstkontrolle effektiv sein kann, soweit die Selbstregulierungseinrichtungen der Industrie ihre Rolle ernst- und gewissenhaft ausfüllen. Zu Recht ist dieses System eine Art Blaupause für Brüssel.

Vergrößerte, aber noch nicht ausreichende Schutzwirkung

Mit der Vorlage von Jugendschutzprogrammen für mobile Endgeräte hat der Verein JusProg auf die Kritik der KJM im Jahr 2019 reagiert und die Schutzwirkung von JusProg vergrößert. So weit, so gut, so richtig. Richtig ist aber auch, dass dies für einen umfassenden Schutz im Netz noch immer nicht ausreichend ist. Das Programm ist zwar in der Lage, klassische, vergleichsweise statische Webseiten bei Aufruf in einem Browser zu filtern; die Filterung im Rahmen der Versionen Windows, Android und iOS erfolgt jedoch auch nur, wenn diese Webseiten mit einer Alterskennzeichnung versehen oder ohnehin in den Blacklists von JusProg enthalten sind. Eine Erkennung von stark dynamischen Angeboten (beispielsweise Social-Media-Dienste) kann durch dieses Programm nicht geleistet werden. Auch ist JusProg (bislang) nicht in der Lage, auf Apps wie YouTube, Facebook oder Instagram zuzugreifen, da die App-Anbieter bzw. die Betriebssystemanbieter Apple und Google derartige Zugriffe durch Dritte verweigern.

Aus diesen Gründen ist das Programm JusProg zwar ein guter Baustein, aber alleine nicht geeignet, Kinder und Jugendliche bei der Internet-Nutzung zu schützen. JusProg bietet nämlich gerade dort keinen Schutz, wo sich Kinder und Jugendliche immer öfter – und bald wohl ausschließlich – im Netz bewegen: in Social-Media-Angeboten und sonstigen Apps. Studien wie die JIM- und KIM-Studie, die unter anderem von der Landesanstalt für Kommunikation Baden-Württemberg (LfK) und der Medienanstalt Rheinland-Pfalz initiiert werden, zeigen auf, dass die „klassische“ Internet-Nutzung bei Kindern und Jugendlichen immer mehr an Bedeutung verliert. Davon abgesehen fehlen verbindliche Daten darüber, wie hoch die Verbreitung von JusProg insgesamt ist und wie häufig die heruntergeladenen Programme tatsächlich genutzt werden. Um den verfassungsrechtlichen Auftrag zu erfüllen, muss ein wirksamer technischer Kinder- und Jugendmedienschutz dort wirken, wo Kinder und Jugendliche das Internet auch tatsächlich nutzen.

Jetzt ist der Gesetzgeber gefordert

Gemäß JMStV müssen Anbieter durch verschiedene Maßnahmen sicherstellen, dass Kinder und Jugendliche entwicklungsbeeinträchtigende Angebote – je nach betroffener Altersstufe – üblicherweise nicht wahrnehmen. Neben dem Einsatz von Zeitgrenzen oder der Vorschaltung technischer Mittel kann ein Anbieter sein Angebot auch mit einer Alterskennzeichnung versehen, die von einem als geeignet beurteilten Jugendschutzprogramm ausgelesen werden kann. Macht er dies, spricht man von einer sogenannten Privilegierung: Durch das Kennzeichnen für ein Jugendschutzprogramm müssen keine weiteren Schutzvorkehrungen getroffen werden.

Angesichts des sich veränderten Mediennutzungsverhaltens von Kindern und Jugendlichen stellt sich die Frage, ob diese Idee noch trägt. Unsere kurze Antwort lautet: Nein. Das Konzept „Jugendschutzprogramm“ gibt es seit dem Inkrafttreten des JMStV im Jahr 2003. Damals war die Internet-Welt noch eine andere. Social Media gab es ebenso wenig wie Smartphones und ihre Apps. Die Welt hat sich seither aber weitergedreht und der Gedanke „one size fits all“ ist in der heutigen Medienwelt schlicht nicht mehr zeitgemäß.

Ein zukunftsorientierter technischer Kinder- und Jugendmedienschutz muss sich an der Lebensrealität bzw. dem Nutzungsverhalten von Kindern und Jugendlichen orientieren. Dies kann nur erfolgen, wenn App-Anbieter bzw. deren jeweilige Betriebssystemanbieter entweder eigene geeignete Maßnahmen des technischen Kinder- und Jugendmedienschutzes ergreifen oder über Schnittstellen einen Zugriff für Jugendschutzprogramme ermöglichen. Außerdem muss ein zukunftsorientierter technischer Kinder- und Jugendmedienschutz auch Interaktions- und Kommunikationsrisiken berücksichtigen. Dazu wäre gerade in den sozialen Medien – dem primären Nutzungsbereich von Kindern und Jugendlichen – eine Filterung jugendgefährdender und entwicklungsbeeinträchtigender Inhalte anhand von Text- und Bilderkennung notwendig.

Die gesellschaftliche Verantwortung der Anbieter

Der Gesetzgeber hat die Notwendigkeit, den technischen Jugendmedienschutz zu reformieren, bereits erkannt und einen Diskussionsentwurf für eine Änderung des Jugendmedienschutz-Staatsvertrags auf den Weg gebracht. In der weiteren Diskussion sollte der Gesetzgeber auch die hier angesprochenen Fragen der Privilegierung von Anbietern in den Blick nehmen und überdenken.

Nicht nur der Gesetzgeber ist gefragt, sondern auch die Anbieter sind es. Sie müssen ihrer gesellschaftlichen Verantwortung gerecht werden und den Kinder- und Jugendmedienschutz ernstnehmen. Dass sie es können, haben einige Anbieter beispielsweise bei Streaming- oder Gaming-Plattformen, aber auch bei leicht nutzbaren Altersverifikationssystemen bereits gezeigt. Sie engagieren sich für einen funktionierenden Kinder- und Jugendschutz und legen ihre Lösungen der KJM oder den Selbstkontrolleinrichtungen zur Beurteilung vor.

Bei gesetzeskonformen technischen Lösungen ist Deutschland – dank des guten Zusammenwirkens von Selbstkontrolleinrichtungen und der KJM auf der Grundlage des JMStV – in vielerlei Hinsicht positiver Vorreiter. Gleichwohl gilt: Dies allein reicht noch nicht. Mit der Weiterentwicklung digitaler Angebote muss auch der technische Kinder- und Jugendmedienschutz weiterentwickelt werden. Dazu braucht es nicht nur seitens einiger, sondern seitens aller Anbieter Kreativität und die Bereitschaft zu investieren. Ja: Ein wirksamer Kinder- und Jugendmedienschutz ist nicht zum Nulltarif zu haben.

Alle Beteiligten müssen stärker in den Austausch treten

Aber je überzeugender die Schutzsysteme, desto überzeugender sind die Angebote auch für die Erziehungsberechtigten, die ihre Kinder geschützt wissen möchten. Ihnen wiederum kommt im Übrigen die zentrale Aufgabe zu, mit ihren Kindern über Chancen und Risiken zu reden und sie zu unterstützen, wenn sie mit Inhalten oder Kontakten konfrontiert wurden, die sie weder gesucht haben noch finden wollten. Die Medienanstalten halten dafür vielfältiges Informationsmaterial bereit. Beispielhaft genannt seien hier Klicksafe (www.klicksafe.de), Medien kindersicher (www.medien-kindersicher.de) und das jüngste Angebot Zebra (www.zebra-medienfragen.de).

Kurzum: Es braucht den Dialog zu der Frage, welche technischen Vorkehrungen und gesetzlichen Regelungen sinnvoll sind und welche nicht. Und das geht nur gemeinsam: Der Gesetzgeber, die Anbieter, die Freiwilligen Selbstkontrollen, die Erziehungsberechtigten, Kinder und Jugendliche sowie die Aufsicht müssen dafür stärker in den Austausch treten und ihre jeweiligen Kompetenzen, Erfahrungen und Ideen einbringen. Die KJM ist und bleibt dabei Dreh- und Angelpunkt: Ihre besondere Konstruktion als Sachverständigengremium mit Vertreterinnen und Vertretern der obersten Landesjugendbehörden, des Bundes und der Medienanstalten macht sie zur idealen Plattform eines solchen Dialogs.



*JusProgDNS kann auf verschiedenen Endgeräten und Netzwerk-Routern installiert werden. Es nutzt eine sogenannten „Nameserver-Technologie“ und leitet Webseiten-Aufrufe von für Minderjährige ungeeigneten Webseiten auf eine Infopage (Blockingpage) um. Die Entscheidung der FSM zum Antrag für JusProgDNS liegt nunmehr ebenfalls vor. Die Befassung der KJM steht aber noch aus.

10.03.2021/MK

` `