jugendschutz.net: KI verschärft Risiken auf jugendaffinen Plattformen
Sexualisierte Gewalt und extremistische Hassinhalte bleiben zentrale Probleme im Netz: Im zweiten Jahr in Folge hat jugendschutz.net mehr als 15.000 Fälle von Missbrauchsdarstellungen von Kindern bearbeitet. Der Jahres bericht wurde nun veröffentlicht: Bei Spotify und Discord stellte die Stelle zahlreiche volksverhetzende Texte und strafbare extremistische Kennzeichen fest; auf TikTok und Co. dokumentierte jugendschutz.net drastische Hass- und Gewaltfantasien gegenüber Frauen und Mädchen.
Verschärft würden viele Risiken durch KI-Anwendungen, die auch für strafbare Handlungen einsetzbar seien. Die Anbieter der Dienste unternähmen dagegen viel zu wenig. Stefan Glaser, Leiter von jugendschutz.net, sagt dazu: