In den letzten Wochen ist die Popularität der künstlichen Intelligenz-Portrait-App Lensa explodiert. Sie sehen wahrscheinlich seine vage Anime-inspirierten, ätherisch aussehenden Avatare – die von der App generiert werden, wenn Benutzer mindestens 10 Fotos von sich selbst eingeben – überall in den sozialen Medien. Aber zusätzlich zu den laufenden ethischen Debatten darüber, wie die App ist entworfen, um von Künstlern zu stehlensowie seine zu Daten- und Datenschutzrichtlinienwird der App nun vorgeworfen, Material zur sexuellen Ausbeutung von Kindern generiert zu haben.
Olivia Snow, wissenschaftliche Mitarbeiterin am Center for Critical Internet Inquiry der UCLA, schrieb zum Verdrahtet über ihre Beobachtungen der Tendenz der App, stark sexualisierte Bilder von Frauen zu erstellen, die oft „schwüle Posen und riesige Brüste“ und Nacktbilder erzeugen – manchmal nur aus Kopfschüssen.
Snow sagte, dass, als sie Kindheitsbilder von sich hochlud, „das Ergebnis völlig nackte Fotos eines jugendlichen und manchmal kindlichen Gesichts, aber eines ausgesprochen erwachsenen Körpers waren“. Die sexualisierten Posen und Ästhetiken der KI-generierten Bilder ihrer Kindheitsfotos waren nahezu identisch mit denen der KI-generierten Bilder ihrer Erwachsenenfotos. „Ähnlich wie bei meinen früheren Tests, die verführerische Blicke und Posen erzeugten, erzeugte dieses Set eine Art Schüchternheit: einen nackten Rücken, zerzaustes Haar, einen Avatar mit meinem kindlichen Gesicht, der ein Blatt zwischen den Brüsten ihrer nackten Erwachsenen hielt“, schrieb Snow. Dies gilt natürlich trotz der Anweisungen der App, „keine Akte“ und „keine Kinder, nur für Erwachsene“ hochzuladen.
Snow äußerte sich auch besorgt darüber, dass die eindeutig sexualisierte Bildsprache der von Lensa generierten Porträts darauf hindeutet, dass Benutzer ungeachtet der Nutzungsbedingungen explizite Fotos in die App hochladen, „in einer Lautstärke, die hoch genug ist, dass sich Nacktheit in der Technologie einnisten kann“. Störend, sexualisierte KI-generierte Bilder berühmter Prominenter und Sexarbeiterinnen ist bereits weit verbreitet, und Apps wie Lensa haben das Potenzial, jeden, einschließlich Kinder, durch KI-generierte Nacktfotos Belästigungen und Verstößen auszusetzen. Dies ist besonders besorgniserregend, da KI-generierte Kindesmissbrauchsinhalte dies können der Moderation von Social-Media-Inhalten entgehen.
Am Montag stellte TechCrunch fest, dass es für Benutzer einfach zu einfach ist, sich auszuziehen und Nacktfotos und „Soft-Core-Pornos“ von Menschen – von Facebook-Freunden bis hin zu zufälligen Personen, denen Sie im Lebensmittelgeschäft begegnen – ohne deren Zustimmung zu erstellen. „Die Leichtigkeit, mit der Sie Bilder von jedem erstellen können, den Sie sich vorstellen können (oder zumindest von jedem, von dem Sie eine Handvoll Fotos haben), ist erschreckend“, schrieb Haje Jan Kamps für Techcrunch. Das liegt, um Snow zu sagen, am Futurismus Anmerkungen dass es für Benutzer „erschreckend einfach“ ist, die Bedingungen der App zu umgehen und nackte Inhalte zu generieren.
G/O Media kann eine Provision erhalten
20% Rabatt
Aegis Beruhigungsclip für Hunde
Ganz natürlich
Dieser Clip gibt rein natürliche ätherische Öle und ein spezielles Pheromon ab, um Ihren Hund bei Spaziergängen, Autofahrten oder anderen stressigen Situationen entspannt zu halten.
Cyber-Exploitation-Inhalte, oft von missbräuchlichen Intimpartnern, was oft vorkommt genannt „Rache-Porno“, ist auf sozialen Plattformen bereits weit verbreitet, und die Landesregierungen, die Bundesregierung und Social-Media-Unternehmen haben es getan hat jahrelang gekämpft, um es in den Griff zu bekommen. KI-generierte, nicht einvernehmliche Nacktbilder – einschließlich Bilder, die Kinder darstellen – verschlimmern diese ohnehin schon erschütternde Krise exponentiell.
Prisma Labs, dem die App gehört, reagierte nicht sofort auf eine Bitte um Stellungnahme von Jezebel zu Schritten, die unternommen wurden, um KI-generierte Bilder zu verhindern, die Kindernackt darstellen, oder Benutzer daran zu hindern, Nackt- oder Jugendfotos in die App hochzuladen.
Es gibt eine Reihe anderer eklatanter Probleme mit der App, darunter, dass sie anscheinend rassistischen Schönheitsstandards von Natur aus gerecht wird – Snow sagte, dass etwa ein Dutzend farbige Frauen ihr gesagt haben, dass Lensa „ihre Haut weiß gemacht und ihre Gesichtszüge anglisiert“ habe. Künstler sind auch besorgt, dass die App ein weiterer Schritt in Richtung KI ist, die als billige Alternative für Künstlerarbeit dient, während ein Künstler gesagt NBC, dass trotz Lensas Behauptung, dass es „Kunst zu den Massen bringt“, es wirklich „Fälschung, Kunstdiebstahl bringt [and] Kopieren für die Massen.“
Während Prisma Labs Zustände dass es die hochgeladenen Fotos der Benutzer nach dem Generieren von Bildern automatisch löscht, scheinen seine Nutzungsbedingungen Anspruch auf die Rechte Ihres Gesichts nach dem Hochladen zu erheben, was praktisch die Tür für alle Arten von dystopischer Überwachung öffnet. Die Bedingungen von Lensa besagen, dass Sie Lensa durch das Hochladen Ihrer Fotos oder „Benutzerinhalte“ eine „unbefristete, unwiderrufliche, nicht ausschließliche, gebührenfreie, übertragbare, unterlizenzierbare Lizenz zur Nutzung, Vervielfältigung, Änderung und Erstellung abgeleiteter Werke Ihrer Benutzerinhalte gewähren. ”
Unter all diesen Problemen ist Lensas offensichtliche Fähigkeit, Inhalte zur sexuellen Ausbeutung von Kindern und Nacktbilder von Kindern zu erstellen, natürlich am dringendsten. Und da die Nutzung der App weiter zunimmt, steigt auch die Gefahr ihres Missbrauchs, um echte Kinder anzusprechen und zu sexualisieren.