Eine verängstigte Schülerin hat darüber gesprochen, wie ein kranker Perverser künstliche Intelligenz nutzte, um in ihrem eigenen Schlafzimmer gefälschte Aktfotos von ihr anzufertigen.
Die 15-Jährige sagt, sie lebe jetzt in der Angst, dass ihre Eltern denken würden, die erstellten Fotos seien echt.
Die Teenagerin sagte, sie sei so schockiert gewesen, als sie scheinbar Nacktfotos von ihr entdeckte – dass sie wusste, dass sie diese nie gemacht hatte.
Die Jugendliche sagte, die Bilder schienen legitim zu sein – sie zeigten ihr Gesicht und schienen in ihrem Zimmer zu Hause aufgenommen worden zu sein.
Sie sagte jedoch, dass sie tatsächlich mithilfe künstlicher Intelligenz (KI) anhand von Fotos aus ihren sozialen Medien erstellt worden seien.
Der Teenager meldete sich zu Wort, als sich Organisationen zusammenschlossen, um die Sicherheit von Jugendlichen im Internet zu gewährleisten.
Ein 15-jähriges Mädchen erzählte der Beratungsstelle Kinderlinie: „Ein Fremder hat online gefälschte Aktfotos von mir gemacht. Es sieht so echt aus, es ist mein Gesicht und mein Zimmer im Hintergrund.
„Sie müssen die Bilder von meinem Instagram gemacht und bearbeitet haben.
„Ich habe solche Angst, dass sie sie meinen Eltern schicken. Die Bilder sind wirklich überzeugend und ich glaube nicht, dass sie mir glauben würden, dass sie gefälscht sind.“
Es kommt nur wenige Monate, nachdem Eltern auf der ganzen Welt dringend vor KI-generierten Aktfotos gewarnt wurden.
Die nachgeahmten „Deepfake“-Fotos von Schulmädchen sollen in Schulen verbreitet worden sein und Empörung ausgelöst haben.
Mütter schlossen sich dann zu einer Selbsthilfegruppe zusammen, nachdem Mädchen wegen Bildern erpresst worden waren, die mit künstlicher Intelligenz erstellt wurden.
Das Alter der Opfer wurde auf 11 bis 17 Jahre geschätzt Telegraph gemeldet.
Die Polizei identifizierte dann sieben Verdächtige, von denen sie glaubt, dass sie an der Erstellung und Weitergabe der „Deepfake“-Fotos beteiligt waren.
Diese können mithilfe von Apps generiert werden, die ein Bild des Gesichts des Opfers mit online gefundener Pornografie kombinieren.
Diese jüngsten Bedenken wurden bei den Familien von Mädchen an vier Schulen in der westlichen Region Extremadura in Spanien geäußert.
Das Risiko, dem Kinder durch unregulierte und unsichere KI ausgesetzt sind, ist bereits viel zu hoch, und ihre Sicherheit und Erfahrungen müssen im Mittelpunkt der Gespräche stehen.
Sir Peter Wanless
Eine Mutter, Miriam Al Adib, warnte auf Instagram andere Eltern, nachdem ihr „das Herz einen Schlag ausgesetzt“ hatte, als ihre 14-jährige Tochter ein „Deepfake“-Bild von sich zeigte, das man ihr geschickt hatte.
Frau Al Adib, 46, schrieb: „Wenn ich meine Tochter nicht kennen würde, sieht dieses Foto echt aus.“
Und in einer Nachricht an die verantwortlichen Täter sagte sie: „Sie sind sich des Schadens, den Sie anrichten, nicht bewusst.“
„Die Verwendung von Bildern zur Erstellung dieses abscheulichen Materials und deren Verbreitung ist ein sehr schweres Verbrechen.“
Unterdessen haben sich die britischen und US-amerikanischen Kinderschutzorganisationen NSPCC und Common Sense Media zusammengetan, um die Sicherheit von Schulkindern im Internet zu gewährleisten.
NSPCC-Geschäftsführer Sir Peter Wanless sagte: „Als eine der führenden Stimmen, die zur Verwirklichung des Online Safety Act im Vereinigten Königreich beitragen, sind wir uns seit langem der Notwendigkeit einer globalen Zusammenarbeit von Regierungen, Zivilgesellschaft und Technologieunternehmen bewusst, um die Sicherheit von Kindern im Internet voranzutreiben.“
„Dies kann nicht klarer sein als bei der KI, wo der Eifer, die erheblichen Vorteile der Technologie hervorzuheben, weltweit zu Bedenken hinsichtlich der Gefahr geführt hat, die sie auch darstellen kann.
„Das Risiko, dem Kinder durch unregulierte und unsichere KI ausgesetzt sind, ist bereits viel zu hoch, und ihre Sicherheit und Erfahrungen müssen im Mittelpunkt der Gespräche über ihre Entwicklung und Vorschriften stehen.“
„Ziel dieser Partnerschaft ist es, dies zu erreichen und gleichzeitig jungen Menschen digitale Kompetenzen zu vermitteln, die ihnen dabei helfen, erfolgreich zu sein.“
So schützen Sie Ihre Kinder
Internetsicherheit ist für Eltern zu einem zunehmend besorgniserregenden Problem geworden, aber die Internetexpertin Allison Troutner von The Sun spricht von VPNOverview.com Hier finden Sie die besten Möglichkeiten, Ihr Kind online zu schützen.
Erwägen Sie eine Familien-„Technologievereinbarung“
Laut Allison besteht eine Möglichkeit, mit Ihrem Kind Grundregeln festzulegen, darin, eine Family-Tech-Vereinbarung zu erstellen.
„Eine Family-Tech-Vereinbarung beantwortet so viele Fragen wie möglich zur Internet- und Gerätenutzung, sodass die Grenzen für alle Familienmitglieder klar sind“, erklärt sie.
Es ist eine gute Möglichkeit für die ganze Familie, über sicheres und verantwortungsvolles Online-Verhalten zu sprechen.“
Um eine Familienvereinbarung zu erstellen, empfiehlt der Internetexperte, Themen wie „Welche Regeln wollen wir in unsere Vereinbarung aufnehmen?“ zu besprechen. und „Wissen wir, wie man In-App-Sicherheitsfunktionen wie Blockieren und Melden nutzt?“
Weitere zu berücksichtigende Fragen sind: „Wie lange sollten wir auf unseren Geräten verbringen?“ „Was machen wir, wenn wir etwas Unangemessenes sehen?“ und „Mit wem können wir reden, wenn uns etwas im Internet unangenehm ist?“
Allison weist darauf hin, dass dies ein Ausgangspunkt ist und dass Ihre Familie je nach Alter Ihres Kindes oder Teenagers und der von Ihnen verwendeten Geräte möglicherweise weitere Themen zur Internetsicherheit für Kinder bespricht.
Melden Sie alle schädlichen Inhalte, die Sie sehen
Der Internetexperte betont, wie wichtig es ist, alle schädlichen Inhalte mithilfe von Social-Media-Apps mithilfe von In-App-Berichtsfunktionen zu kennzeichnen oder zu melden.
„Verwenden Sie bei Cyberkriminalität, Cybermobbing oder schädlichen Inhalten In-App-Funktionen wie Abgesicherter Modus von Twitter es zu melden“, rät sie.
Die meisten Social-Media-Unternehmen haben ihre eigenen Sicherheits- und Datenschutzrichtlinien und werden Inhalte oder Benutzer untersuchen und blockieren.“
Allison fügt hinzu: „Apps, die sich zum Beispiel an Kinder richten Facebook Messenger Kidsverfügen über klare Richtlinien und Sicherheitsfunktionen, damit Benutzer Inhalte oder Kontakte blockieren können und ein sichereres Erlebnis in der App haben.“
Bringen Sie Sicherheit und Unabhängigkeit in Einklang
Allison kommentiert: „Technische Kontrollen können eine nützliche Möglichkeit sein, Ihre Kinder online zu schützen, aber sie können nicht alle Ihre Probleme lösen.“
„Kinder brauchen ein gewisses Maß an Freiheit und Privatsphäre, um sich gesund zu entwickeln.“
Sie führt weiter aus, dass Kinder einen eigenen Freiraum brauchen, um durch Ausprobieren zu lernen, was funktioniert und was nicht.
„Also balancieren Sie weiter, das gehört dazu“, so der Internetexperte weiter. „Offene und ehrliche Gespräche mit Ihren Kindern können der beste Weg sein, diese Sicherheit auszugleichen.“
Bewahren Sie den Computer in einem gemeinsamen Raum auf
Allison empfiehlt, Computer und Geräte nach Möglichkeit an einem gemeinsamen Ort aufzubewahren, damit Sie die Aktivitäten im Auge behalten können.
„Es verhindert, dass Kinder Dinge tun, die riskant sein könnten“, stellt sie fest.
„Außerdem können Sie, wenn in Nachrichten schädliche oder unangemessene Inhalte auftauchen, dies sofort mit Ihrem Kind besprechen.“
Schützen Sie alle Konten und Geräte mit einem Passwort
„Von Telefonen über Computer bis hin zu Apps: Geben Sie ein Passwort ein“, sagt Allison.
„Auf diese Weise kann niemand ohne das Passwort auf Sie oder das Gerät Ihres Kindes zugreifen.“
Sie fügt hinzu: „Behalten Sie den Überblick über Passwörter, indem Sie einen Passwort-Manager verwenden.“