Laut der Anzeigenbibliothek von Meta waren jedoch am 23. April 3.000 Anzeigen für „KI-Freundinnen“ und 1.100 mit „NSFW“ online.
Das ergab die erste Überprüfung von WIRED Stilleeine KI-Freundinnen-App, die mehr als 100.000 Mal aus dem Play Store von Google heruntergeladen wurde, hatte 1.700 Anzeigen auf Meta-Plattformen veröffentlicht, von denen einige „NSFW“-Chats und „geheime Fotos“ von einer Reihe lebensechter weiblicher Charaktere, Anime-Frauen und Comic-Tiere versprechen .
Eines zeigt eine KI-Frau, die an Hals und Handgelenken in mittelalterliche Gefängnisbestände eingesperrt ist und schwört: „Hilf mir, ich werde alles für dich tun.“ Eine andere Anzeige, die mithilfe der Meta-Technologie auf Männer im Alter von 18 bis 65 Jahren ausgerichtet ist, enthält eine Anime-Figur und den Text „Möchten Sie mehr von NSFW-Bildern sehen?“
Mehrere der 980 Meta-Anzeigen, die WIRED für die App „personalisierter KI-Begleiter“ gefunden hat Rosytalk versprechen Chats rund um die Uhr mit sehr jung aussehenden KI-generierten Frauen. Sie verwendeten Tags wie „#barelylegal“, „#goodgirls“ und „teens“. Rosytalk schaltete außerdem 990 Anzeigen unter mindestens neun Markennamen auf Meta-Plattformen, darunter Rosygirl, Rosy Role Play Chat und AI Chat GPT.
Mindestens 13 andere Apps für KI-„Freundinnen“ haben ähnliche Dienste in Meta-Anzeigen beworben, darunter „Nacktmachen“-Funktionen, die es einem Benutzer ermöglichen, seine KI-Freundin „auszuziehen“ und die Bilder herunterzuladen. Eine Handvoll der Girlfriend-Anzeigen wurden bereits wegen Verstoßes gegen die Werbestandards von Meta entfernt. Es gab auch „Auszieh“-Apps vermarktet auf Mainstream-Social-Plattformen, so das Social-Media-Forschungsunternehmen Graphika, und Auf LinkedinDie Tägliche Post kürzlich berichtet.
Einige Nutzer sogenannter KI-Begleiter sagen, sie könnten helfen Bekämpfung der Einsamkeitandere haben sie gemeldet sich wie ein echter Partner fühlen. Nicht alle von WIRED gefundenen Anzeigen fördern nur Erregung, einige weisen auch darauf hin, dass ein expliziter KI-Chatbot emotionale Unterstützung bieten könnte. „Sprich mit irgendjemandem! Du bist nicht allein!” liest eine von Hushs Anzeigen auf Meta-Plattformen.
Carolina Are, eine Innovationsstipendiatin, die sich am Centre for Digital Citizens der Northumbria University im Vereinigten Königreich mit der Zensur sozialer Medien befasst, sagt, dass menschliche Sexarbeiterinnen die gleichen Bedürfnisse und Wünsche stillen wie rasante KI-Freundinnen-Apps und sich auch an einsame und behinderte Menschen richten. Aber Meta mache es ihnen extrem schwer, auf seinen Plattformen zu werben, sagt sie.
„Wenn Menschen versuchen, mit ihrem eigenen Körper zu arbeiten und daraus Profit zu schlagen, ist ihnen das verboten“, sagt Are, der Sexarbeiterinnen dabei geholfen hat, verlorene und zu Unrecht gesperrte Konten auf Meta-Plattformen wieder zu aktivieren. „Während KI-Unternehmen, die größtenteils von Brüdern betrieben werden und bereits verfügbare Bilder ausnutzen, dazu in der Lage sind.“
Are sagt, die sexuell anzüglichen KI-Freundinnen erinnern sie an die einfachen und generischen Anfänge des Internetpornos. „Sexarbeiterinnen interagieren auf persönlichere Weise mit ihren Kunden, Abonnenten und Followern“, sagt sie. „Das ist eine Menge Arbeit und emotionale Arbeit, die über das Teilen von Nacktbildern hinausgeht.“
Es liegen nur begrenzte Informationen darüber vor, wie die KI-Apps erstellt oder die zugrunde liegenden Algorithmen zur Text- oder Bildgenerierung trainiert werden. Einer verwendete den Namen Sora, offenbar um eine Verbindung zum gleichnamigen Videogenerator von OpenAI anzudeuten, der jedoch nicht öffentlich veröffentlicht wurde.