Discord verbietet Dating-Server für Teenager und die Weitergabe von KI-generiertem CSAM

Discord hat Aktualisiert Seine Politik zielte danach darauf ab, Kinder und Jugendliche auf seiner Plattform zu schützen Berichte Es kam heraus, dass Kriminelle die App zum Erstellen und Verbreiten von Materialien zum sexuellen Missbrauch von Kindern (CSAM) sowie zur Werbung für junge Teenager genutzt haben. Die Plattform jetzt ausdrücklich verbietet KI-generiertes fotorealistisches CSAM. Als Die Washington Post Wie kürzlich berichtet wurde, hat der Aufstieg der generativen KI auch zu einer Explosion lebensechter Bilder mit sexuellen Darstellungen von Kindern geführt. Die Veröffentlichung hatte gesehen Gespräche über die Verwendung von Midjourney – einer generativen Text-zu-Bild-KI auf Discord – um unangemessene Bilder von Kindern zu erstellen.

Neben dem Verbot von KI-generiertem CSAM verbietet Discord nun auch ausdrücklich jede andere Art von Text- oder Medieninhalten, die Kinder sexualisieren. Die Plattform hat auch Teenager-Dating-Server verboten und versprochen, gegen Benutzer vorzugehen, die sich an diesem Verhalten beteiligen. Ein vorheriger NBC-Nachrichten Die Untersuchung ergab, dass Discord-Server als Teenager-Dating-Server beworben wurden und Teilnehmer Nacktbilder von Minderjährigen anforderten.

Erwachsene Nutzer wurden bereits zuvor wegen sexueller Belästigung von Kindern auf Discord strafrechtlich verfolgt, und es gibt sogar Verbrecherbanden, die minderjährige Nutzer erpressen, sexuelle Bilder von sich zu senden. Ein vollständiges Verbot von Dating-Servern für Teenager könnte helfen, das Problem zu entschärfen. Discord hat auch eine Zeile in seine Richtlinien aufgenommen, die besagt, dass ältere Teenager, bei denen festgestellt wird, dass sie sich um jüngere Teenager kümmern, „überprüft und mit Maßnahmen belegt“ werden [its] Unangemessenes sexuelles Verhalten mit Kindern und Verhaltensregeln.“

Neben der Aktualisierung seiner Regeln hat Discord kürzlich ein Family Center-Tool eingeführt, mit dem Eltern die Aktivitäten ihrer Kinder im Chat-Dienst im Auge behalten können. Während Eltern den tatsächlichen Inhalt der Nachricht ihrer Kinder nicht sehen können, können sie mit dem Opt-in-Tool sehen, mit wem ihre Kinder befreundet sind und mit wem sie auf der Plattform sprechen. Discord hofft, dass diese neuen Maßnahmen und Tools neben den alten Maßnahmen, zu denen das proaktive Scannen von auf die Plattform hochgeladenen Bildern mit PhotoDNA gehört, dazu beitragen können, die Sicherheit minderjähriger Nutzer zu gewährleisten.