Im Jahr 2025 sind in Deutschland mehr als 15.000 Verst\u00f6\u00dfe gegen den Jugendschutz registriert worden. Besonders h\u00e4ufig ging es dabei um sexualisierte Gewalt. Der Bericht zeigt zugleich, dass k\u00fcnstliche Intelligenz die Risiken deutlich versch\u00e4rfen kann \u2013 etwa wenn KI-Tools leicht nutzbar sind und Inhalte schneller sowie in gr\u00f6\u00dferem Umfang entstehen und verbreitet werden.<\/p>\n
Der Jahresbericht von jugendschutz.net wurde unter anderem mit Bundesfamilienministerin Karin Prien (CDU) vorgestellt. Darin wird beschrieben, dass Kinder und Jugendliche in beliebten Anwendungen in sozialen Netzwerken immer wieder mit Hass, sexualisierter Gewalt und politischem Extremismus konfrontiert werden. Insgesamt wurden \u00fcber 15.000 Verst\u00f6\u00dfe gegen den Jugendschutz erfasst; 93 Prozent davon entfielen auf sexualisierte Gewalt.<\/p>\n
Als zentrale Schwachstelle gilt, dass Plattformen Gefahren h\u00e4ufig nicht schnell genug oder nicht ausreichend wirksam unterbinden. Besorgniserregend sei dabei vor allem, dass frei zug\u00e4ngliche KI-Anwendungen zahlreiche Risiken massiv verst\u00e4rken k\u00f6nnen, sagte Prien. Mit wenigen Klicks lassen sich demnach t\u00e4uschend echte Deepfakes, sexualisierte Gewaltbilder oder manipulative Inhalte erzeugen und verbreiten.<\/p>\n
Prien betonte, dass KI inzwischen immer st\u00e4rker in den Alltag eingezogen sei und besonders die junge Generation h\u00e4ufig darauf zur\u00fcckgreife. Zugleich stellt sich die Frage, welche Folgen das f\u00fcr das Miteinander hat.<\/p>\n
Ein weiterer Schwerpunkt des Berichts liegt auf sogenannten Charakter-Bots, die Gespr\u00e4che mit KI-Charakteren erm\u00f6glichen. Solche Systeme k\u00f6nnen etwa den Aufbau romantischer Beziehungen zu Figuren aus Lieblingsserien unterst\u00fctzen. Aus Sicht der Jugendsch\u00fctzer ist das problematisch, weil sich bei Heranwachsenden ein hohes Suchtpotenzial entwickeln kann und die Grenzen zwischen Fantasie und Realit\u00e4t zunehmend verschwimmen.<\/p>\n
Weil die Bots au\u00dferdem Ratschl\u00e4ge geben, k\u00f6nnen Kinder und Jugendliche zus\u00e4tzlich mit sch\u00e4dlichen Inhalten in Kontakt geraten. Im Bericht wird ein konkretes Beispiel geschildert: Die Jugendsch\u00fctzer baten den Bot, eine Feier zum 15. Geburtstag zu planen. Zwar riet die KI von Drogen ab, empfahl jedoch einen sehr gro\u00dfen Vorrat an Alkohol. F\u00fcr zehn G\u00e4ste im Alter von 15 Jahren nannte die Anwendung mindestens 50 Liter Bier, 20 Flaschen Sekt sowie f\u00fcnf Liter Wodka. Problematisch seien dabei zudem zweifelhafte Trainingsdaten oder unzureichend konfigurierte Sicherheitseinstellungen, hei\u00dft es im Bericht.<\/p>\n
KI-Chatbots werden derweil von vielen Jugendlichen bereits selbstverst\u00e4ndlich genutzt. F\u00fcr die Altersgruppe von zehn bis 17 Jahren geh\u00f6ren solche Tools laut Angaben in dem Bericht l\u00e4ngst zum Alltag, auch \u00fcber den schulischen Bereich hinaus. Eine DAK-Studie wird dabei genannt: Demnach nutzt mehr als jeder Dritte die Angebote regelm\u00e4\u00dfig, nicht nur f\u00fcr Hausaufgaben.<\/p>\n
Auch bei Bild- und Influencer-Inhalten sieht der Jugendschutz neue Herausforderungen. K\u00fcnstlich generierte Influencer sowie manipulierte Darstellungen w\u00fcrden den Druck auf Jugendliche erh\u00f6hen, hei\u00dft es. KI-Modelle zeigten eine Vielzahl unrealistischer K\u00f6rperbilder und k\u00f6nnten damit das Risiko f\u00fcr Essst\u00f6rungen steigern \u2013 insbesondere bei Jugendlichen, die mit ihrem K\u00f6rper hadern. Zudem werden KI-Erotikmodels als Lockmittel beschrieben, die Follower auf Plattformen mit pornografischen Inhalten ziehen.<\/p>\n
Im Bereich der Kommunikation \u00fcber WhatsApp wird zudem auf neue Community-Funktionen verwiesen. Seit 2025 seien Kan\u00e4le dort grunds\u00e4tzlich \u00f6ffentlich, und laut Bericht betreiben inzwischen selbst 11-J\u00e4hrige Kan\u00e4le mit Zehntausenden Followern. Das steigere das Risiko, dass problematische Inhalte leichter Reichweite gewinnen.<\/p>\n
Parallel dazu hat Justizministerin Hubig einen Gesetzentwurf gegen digitale Gewalt vorgelegt. K\u00fcnftig soll demnach das Erstellen und Verbreiten sexualisierter, pornografischer Deepfakes strafbar sein.<\/p>\n
Besonders kritisch sehen die Jugendsch\u00fctzer zudem den Musikdienst Spotify. Der Bericht beschreibt, dass dort Texte zu sexualisierter Gewalt gegen Minderj\u00e4hrige auffindbar seien sowie Playlists mit suizidalen Botschaften und verfassungsfeindlichen Symbolen. Auch hier spiele KI eine Rolle, etwa weil Systeme Musik mit extremistischen Texten generieren k\u00f6nnen. Von einer neuen Dimension spricht die Direktorin der Medienanstalt Rheinland-Pfalz, Eva-Maria Sommer: Es gehe nicht mehr nur um einzelne Lieder, sondern um die Wirkung vieler Inhalte.<\/p>\n
Als weiteres Problem wird die Reaktionsgeschwindigkeit der Plattformen beim L\u00f6schen angezeigter Inhalte dargestellt. Im Feld des politischen Extremismus habe etwa eine gro\u00dfe Plattform bei Anzeigen durch Nutzende lediglich in einem sehr kleinen Anteil reagiert \u2013 es werden zwei Prozent genannt. Inhalte, die jugendschutz.net als Institution gemeldet habe, seien dagegen deutlich h\u00e4ufiger entfernt worden.<\/p>\n
Der Bericht stellt au\u00dferdem klar, dass Cybermobbing viele junge Menschen betrifft. Entschlossene Ma\u00dfnahmen der EU zum Schutz von Kindern und Jugendlichen im Netz sollen helfen. Der Grundsatz lautet dabei: Was offline illegal ist, muss auch online illegal sein.<\/p>\n
Stefan Glaser, Leiter von jugendschutz.net, ordnet das Problem auch technisch ein. Er sagt, es sei m\u00f6glich, dass Inhalte altersgerecht ausgespielt werden und eine wirksame Alterspr\u00fcfung stattfinde. Familienministerin Prien will deshalb eine Regulierung der Anbieter auf europ\u00e4ischer Ebene vorantreiben. Sie verwies darauf, dass Kinderschutz bedeute, sich mit den Machtstrukturen in der digitalen Welt auseinanderzusetzen und bereit zu sein, sich notfalls auch mit ihnen anzulegen.<\/p>\n
Prien hob zudem hervor, dass Plattformen vor allem auf Gewinnmaximierung ausgerichtet seien. Deshalb sei eine gesetzliche Regulierung von Social Media notwendig. Erg\u00e4nzend brauche es Medienkompetenzunterricht, sagte Suchtexperte Manfred Patzer-B\u00f6nig.<\/p>\n
Dorthe Ferber wird im Bericht als Korrespondentin im ZDF-Hauptstadtstudio Berlin genannt.<\/p>\n
Wer bei Google etwas sucht, erh\u00e4lt neben den Suchergebnissen auch eine Box mit Schlagzeilen. Mit ZDFheute als hinterlegter Quelle w\u00fcrden Inhalte h\u00e4ufiger in diese Schlagzeilen-Box gespielt, damit Leserinnen und Leser gepr\u00fcfte Beitr\u00e4ge direkt in ihrem \u00dcberblick sehen k\u00f6nnen. Der Hinweis lautet, ZDFheute als bevorzugte Quelle einzustellen.<\/p>\n","protected":false},"excerpt":{"rendered":"
Im Jahr 2025 sind in Deutschland mehr als 15.000 Verst\u00f6\u00dfe gegen den Jugendschutz registriert worden. Besonders h\u00e4ufig ging es dabei um sexualisierte Gewalt. Der Bericht zeigt zugleich, dass k\u00fcnstliche Intelligenz die Risiken deutlich versch\u00e4rfen kann \u2013 etwa wenn KI-Tools leicht nutzbar sind und Inhalte schneller sowie in gr\u00f6\u00dferem Umfang entstehen und verbreitet werden. Der Jahresbericht […]<\/p>\n","protected":false},"author":2,"featured_media":226,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_yoast_wpseo_title":"Jugendschutzbericht 2025: KI treibt Verst\u00f6\u00dfe bei Gewalt an","_yoast_wpseo_metadesc":"Jugendschutzbericht 2025 warnt: Mehr als 15.000 Verst\u00f6\u00dfe, besonders sexualisierte Gewalt. KI erleichtert T\u00e4ter schnelleres, st\u00e4rkeres Handeln.","footnotes":""},"categories":[3],"tags":[],"class_list":["post-227","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-politik"],"yoast_head":"\n