Einmal im Jahr machen die Jugendschützer aus Mainz öffentlich, was sie in zwölf Monaten über die Sicherheit von Minderjährigen im Internet gesammelt haben. Wie schon in den vorangegangen Jahren zeigt sich: Es gibt keinen Grund, beruhigt zu sein. Im Gegenteil: Das Gefährdungspotenzial für Kinder und Jugendliche im Internet nimmt zu.
Der Nutzungsvielfalt und Attraktivität des Internets stünden weiter sexualisierte Gewalt, Mobbing, demokratiegefährdende Beiträge oder belastende Gewaltdarstellung gegenüber. Hinzu kommt: Mit der Künstlichen Intelligenz (KI) ist ein neuer Mitspieler auf dem Feld unterwegs, der nach Einschätzung von jugendschutz.net zu einer Verschärfung der Risiken für Minderjährige führt: "Die Kehrseite von hilfreichen Tools sind Phänomene wie Deepfakes, die kaum mehr von echten Inhalten zu unterscheiden sind", heißt es im Jahresbericht 2023, der am Mittwoch in Berlin vorgestellt wurde.
Künstliche Intelligenz - so werden die Gefahren verschärft
Mit KI können mit wenigen Befehlen Texte, Bilder oder Videos erzeugt werden. Entsprechende Anwendungen sind in Smartphones und in Social-Media-Diensten wie TikTok oder Snapchat integriert. Allerdings kann und wird die KI nicht nur für kreative Dinge genutzt, sondern auch für kriminelle.
jugendschutz.net weist darauf hin, dass sich zum Beispiel Deepfakes mit wenigen Klicks erstellen lassen. Die generierten Fälschungen seien kaum von tatsächlichen Fotos zu unterscheiden. Oft würden Deepfakes mit Nacktheit oder Pornografie gepaart - dann entstehe sehr schnell Cybermobbing oder sexualisierte Gewalt.
Spricht da ein echter Mensch oder eine KI?
Kinder und Jugendliche sind im Internet auch durch die Kontaktaufnahme durch Fremde gefährdet. Mit Hilfe von Künstlicher Intelligenz haben diese immer leichteres Spiel: So können Fremde mit Hilfe von Stimmgeneratoren ihre Stimme derart verändern, dass sie als gleichaltrig wahrgenommen werden. Dadurch können sie Vertrauen aufbauen, sensible Informationen abgreifen und missbrauchen.
Mit KI wird extremistische Propaganda zum Kinderspiel
Problematisch ist aus Sicht von jugendschutz.net auch der Missbrauch von Künstlicher Intelligenz für extremistische Propaganda und Desinformationen.
"Wir sehen, dass der Krieg in Nahost für antisemitische oder muslimfeindliche Hasspropaganda instrumentalisiert wird. Auch Darstellungen sexualisierter Gewalt an Kindern werden ohne Skrupel verbreitet. Und wir nehmen vermehrt Beiträge in Social Media wahr, die junge Menschen zu gesundheitsgefährdendem Verhalten anstiften. Bei all dem kommen auch KI-generierte Inhalte zum Einsatz", so der Leiter von jugendschutz.net, Stefan Glaser.
Adolf Hitler auf vermeintlichem Disney-Filmplakat
Eine besondere Gefahr sehen die Jugendschützer in einer Kombination von Unterhaltungselementen mit manipulierenden Inhalten. Als Beispiel nennen sie ein vermeintliches Filmplakat von Disney, mit dem Rechtsexteme den Holocaust relativierten. Darauf zu sehen: Adolf Hitler als Figur animiert, lächelnd, vor einem Konzentrationslager - das Ganze als Werbung für einen vermeintlich neuen Disney-Film. Das Bild wurde tausendfach geteilt.
Gut geschützt im Internet unterwegs - das ist Wunschdenken
Die Zahlen von jugendschutz.net für 2023 zeigen, dass es auch weiter haufenweise Verstöße gegen den Jugendschutz gibt. Mehr als 7.600 Fälle hat jugendschutz.net 2023 bearbeitet. Die Zahl steigt seit Jahren immer weiter an. Bei den meisten Verstößen ging es um sexualisierte Gewalt (67 Prozent), gefolgt von Pornografie (12 Prozent) und politischem Extremismus (11 Prozent). Fünf Prozent gingen auf selbstgefährdende Inhalte zurück und zwei Prozent auf Cybermobbing.
Ein Großteil der bearbeiteten Fälle sei dabei "absolut unzulässig", heißt es in dem Jahresbericht. Das sind Inhalte, die nach Jugendmedienschutz-Staatsvertrag nicht verbreitet werden dürfen - und zwar generell, also auch nicht an Erwachsene. In den meisten Fällen ging es hier um Kinderpornografie. Mehr als 3.500 Fälle reichte jugendschutz.net 2023 direkt an die Strafverfolgungsbehörden weiter.
Jugendaffine Dienste nehmen ihre Pflicht zur raschen Abhilfe bei gemeldeten Verstößen nicht ernst.
Zuverlässige Altersprüfung - meist Fehlanzeige
jugendschutz.net hat 2023 nicht nur auf die Verstöße geschaut, sondern auch auf die präventiven Maßnahmen von Plattformen wie TikTok, Instagram, Snapchat, YouTube und Facebook. Die größten Missstände deckte die Schutzstelle erneut bei der Altersprüfung auf.
Rein theoretisch gebe es diese Altersprüfung zwar, denn fast alle Plattformen legten, so jugendschutz.net, ein Mindestalter für die Nutzung fest. Die Altersprüfung finde aber de facto kaum statt. Durch Eingabe eines falschen Geburtsdatums kann diese Hürde den Recherchen von jugendschutz.net zufolge zudem leicht überwunden werden.
Die Folge: Der Schutz von Minderjährigen vor zum Beispiel unzulässiger Kontaktaufnahme greift bei fehlender Altersprüfung nicht mehr verlässlich.
Reaktion auf gemeldete Verstöße: mangelhaft
Die Beurteilung von jugendschutz.net zur Frage, wie Plattformen mit gemeldeten Verstößen umgehen, ist vernichtend: "Die Ergebnisse der Tests 2023 zeigen erneut, dass jugendaffine Dienste ihre Pflicht zur raschen Abhilfe bei gemeldeten Verstößen nicht ernstnehmen."
Die durchschnittliche Löschquote habe in mehreren Kategorien nur bei einem Drittel gelegen. Als Beispiel nennt jugendschuzt.net hier Meldungen von Usern zu Gewalt, Pornografie und politischem Extremismus. Bezogen auf alle Arten von Verstößen löschten die Plattformen nur einen kleinen Teil der von Usern gemeldeten Inhalte:
Enttäuschend seien die Löschquoten bei Meldungen von Usern an Youtube - insbesondere, weil sie sich drastisch verschlechtert haben, so jugendschutz.net. Nur 4 Prozent der gemeldeten Verstöße im Bereich Pornografie wurden demnach gelöscht. 2022 lag diese Quote noch bei 62 Prozent. Fälle von politischem Extremismus wurden nur zu 14 Prozent gelöscht.
"Pakt gegen sexualisierte Gewalt" in RLP
Jugendministerin Katharina Binz (Grüne) fordert eine nachhaltige Bekämpfung von sexualisierter Gewalt im Netz. Um dem Problem umfassend zu begegnen, habe man in Rheinland-Pfalz einen den "Pakt gegen sexualisierte Gewalt" geschlossen. "Unser Ziel ist es, durch ressortübergreifende Zusammenarbeit allen jungen Menschen in unserem Land ein Aufwachsen ohne Gewalt zu ermöglichen", so Binz. Der Pakt setze auf verschiedenen Ebenen an – etwa bei der Polizei, durch niedrigschwellige Präventionsangebote im ländlichen Raum oder die Einbeziehung von Betroffenen.
