jugendschutz.net: KI verschärft Risiken auf jugendaffinen Plattformen

Sexualisierte Gewalt und extremistische Hassinhalte bleiben zentrale Probleme im Netz: Im zweiten Jahr in Folge hat jugendschutz.net mehr als 15.000 Fälle von Missbrauchsdarstellungen von Kindern bearbeitet. Der Jahres bericht wurde nun veröffentlicht: Bei Spotify und Discord stellte die Stelle zahlreiche volksverhetzende Texte und strafbare extremistische Kennzeichen fest; auf TikTok und Co. dokumentierte jugendschutz.net drastische Hass- und Gewaltfantasien gegenüber Frauen und Mädchen. 

Verschärft würden viele Risiken durch KI-Anwendungen, die auch für strafbare Handlungen einsetzbar seien. Die Anbieter der Dienste unternähmen dagegen viel zu wenig. Stefan Glaser, Leiter von jugendschutz.net, sagt dazu:

Dieser Inhalt ist nur für Abonnenten sichtbar. Jetzt mehr erfahren...