META hat ein KI-gestütztes Sticker-Tool veröffentlicht, aber einige Benutzer generieren damit unangemessene Bilder.
Letzte Woche gab Meta bekannt, dass es KI-Sticker in seinen Apps einführen wird, darunter Messenger und Instagram.
Das Tool ermöglicht es Benutzern, „mühelos individuelle Aufkleber für Ihre Chats und Storys zu erstellen“, schreibt Meta in seinem Blog.
Es funktioniert in Sekundenschnelle, indem es Textaufforderungen in eine Reihe einzigartiger Aufkleber umwandelt.
Einige Benutzer, die frühzeitig Zugriff auf das Tool hatten, haben es jedoch verwendet, um Aufkleber mit unangemessenen Inhalten zu erstellen.
Dazu gehören Kindersoldaten, nackte Politiker und Comicfiguren in kompromittierenden Positionen.
X-Benutzer @Pioldes twitterte: „Ich habe herausgefunden, dass der Facebook-Messenger jetzt über KI-generierte Sticker verfügt, und ich glaube nicht, dass irgendjemand der Beteiligten darüber nachgedacht hat.“
Er fügte seinem Tweet Bilder mit Aufklebern bei, die er generieren konnte, darunter „Karl Marx mit großen Brüsten“.
Der Social-Media-Beitrag erregte schnell Aufmerksamkeit auf X, da Hunderte von Benutzern ihre Gedanken zu dem Tool teilten.
Während einige Nutzer das Tool lobten, kritisierte die Mehrheit es.
„Wenn es um künstliche ‚Intelligenz‘ geht, denkt niemand jemals etwas zu Ende. Eigentlich ziemlich ironisch“, sagte ein Benutzer unter dem Tweet.
„Ich mache mir Sorgen, dass es nie eine Möglichkeit geben wird, diesen absoluten Müll zu kontrollieren/einzudämmen“, bemerkte ein zweiter X-Benutzer.
„Auf diese Weise (und noch viel schlimmer) wird es sich bis ins Unendliche vermehren“, fuhren sie fort.
Meta hat Filter eingerichtet, um fragwürdige Inhalte zu erkennen, sie scheinen jedoch nicht alle unangemessenen Eingabeaufforderungen zu verhindern.
The Sun hat Meta um einen Kommentar gebeten, zum Zeitpunkt der Veröffentlichung jedoch noch keine Antwort erhalten.
In der Zwischenzeit werden Benutzer aufgefordert, alle Aufkleber zu melden, die sie sehen und die gegen die Community-Richtlinien von Meta verstoßen.