Der Social-Media-Riese Meta (ehemals Facebook) wird in alle Bilder, die er mithilfe künstlicher Intelligenz (KI) erstellt, ein unsichtbares Wasserzeichen einbauen, um die Maßnahmen zur Verhinderung eines Missbrauchs der Technologie zu verstärken.
In einem 6. Dezember Bericht Mit detaillierten Aktualisierungen für Meta AI – dem virtuellen Assistenten von Meta – gab das Unternehmen bekannt, dass es bald unsichtbare Wasserzeichen zu allen KI-generierten Bildern hinzufügen wird, die mit der „Imagine with Meta AI-Erfahrung“ erstellt wurden. Wie zahlreiche andere KI-Chatbots generiert Meta AI Bilder und Inhalte basierend auf Benutzereingaben. Meta zielt jedoch darauf ab, zu verhindern, dass böswillige Akteure den Dienst als ein weiteres Instrument zur Täuschung der Öffentlichkeit betrachten.
Wie zahlreiche andere KI-Bildgeneratoren generiert Meta AI Bilder und Inhalte basierend auf Benutzereingaben. Die neueste Wasserzeichenfunktion würde es für einen Ersteller schwieriger machen, das Wasserzeichen zu entfernen.
„In den kommenden Wochen werden wir mit Meta AI Experience unsichtbare Wasserzeichen zum Bild hinzufügen, um die Transparenz und Rückverfolgbarkeit zu erhöhen.“
Meta sagt, dass es ein Deep-Learning-Modell verwenden wird, um mit seinem KI-Tool erstellte Bilder mit Wasserzeichen zu versehen, die für das menschliche Auge unsichtbar wären. Mit einem entsprechenden Modell können die unsichtbaren Wasserzeichen jedoch erkannt werden.
Im Gegensatz zu herkömmlichen Wasserzeichen behauptet Meta, dass seine KI-Wasserzeichen – mit Meta AI „Imagine“ genannt – „unempfindlich gegenüber gängigen Bildmanipulationen wie Zuschneiden, Farbänderungen (Helligkeit, Kontrast usw.), Screenshots und mehr“ sind. Während die Wasserzeichendienste zunächst für Bilder eingeführt werden, die über Meta AI erstellt wurden, plant das Unternehmen, die Funktion auch auf andere Meta-Dienste zu übertragen, die KI-generierte Bilder nutzen.
In seinem neuesten Update hat Meta AI auch die „Reimagine“-Funktion für Facebook Messenger und Instagram eingeführt. Das Update ermöglicht es Benutzern, KI-generierte Bilder untereinander zu senden und zu empfangen. Dadurch erhalten beide Messaging-Dienste auch die Funktion „Unsichtbares Wasserzeichen“.
Verwandt: Tom Hanks, MrBeast und andere Prominente warnen vor KI-Deep-Fake-Betrügereien
KI-Dienste wie Dall-E und Midjourney bieten bereits die Möglichkeit, den produzierten Inhalten herkömmliche Wasserzeichen hinzuzufügen. Solche Wasserzeichen können jedoch durch einfaches Ausschneiden des Bildrandes entfernt werden. Darüber hinaus verfügen bestimmte KI-Tools über die Fähigkeit, Wasserzeichen automatisch aus Bildern zu entfernen, was laut Meta AI mit der Ausgabe nicht möglich sein wird.
Seit der Mainstreaming generativer KI-Tools haben zahlreiche Unternehmer und Prominente zu KI-gestützten Betrugskampagnen aufgerufen. Betrüger nutzen leicht verfügbare Tools, um gefälschte Videos, Audioaufnahmen und Bilder beliebter Persönlichkeiten zu erstellen und diese im Internet zu verbreiten.
Im Mai löste ein KI-generiertes Bild einer Explosion in der Nähe des Pentagons – dem Hauptquartier des US-Verteidigungsministeriums – einen kurzen Einbruch des Aktienmarktes aus.
Paradebeispiel für die Gefahren im Pay-to-Verify-System: Dieser Account, der ein (höchstwahrscheinlich KI-generiertes) Foto einer (Fake-)Geschichte über eine Explosion im Pentagon getwittert hat, sieht auf den ersten Blick wie eine echte Bloomberg-Nachricht aus füttern. pic.twitter.com/SThErCln0p
— Andy Campbell (@AndyBCampbell) 22. Mai 2023
Das oben gezeigte gefälschte Bild wurde später von anderen Nachrichtenmedien aufgegriffen und verbreitet, was zu einem Schneeballeffekt führte. Lokale Behörden, darunter die für die Sicherheit des Gebäudes zuständige Pentagon Force Protection Agency, sagten jedoch, sie wüssten von dem kursierenden Bericht und bestätigten, dass es „keine Explosion oder einen Zwischenfall“ gegeben habe.
@PFPAOfficial und die ACFD sind sich eines im Internet verbreiteten Social-Media-Berichts über eine Explosion in der Nähe des Pentagons bewusst. Im oder in der Nähe des Pentagon-Reservats ereignet sich KEINE Explosion oder ein Zwischenfall, und es besteht keine unmittelbare Gefahr oder Gefahr für die Öffentlichkeit. pic.twitter.com/uznY0s7deL
– Arlington Fire & EMS (@ArlingtonVaFD) 22. Mai 2023
Im selben Monat fiel die Menschenrechtsorganisation Amnesty International auf ein KI-generiertes Bild herein, das Polizeibrutalität zeigt, und nutzte es, um Kampagnen gegen die Behörden zu starten.
„Wir haben die Bilder aus Social-Media-Beiträgen entfernt, da wir nicht möchten, dass die Kritik an der Verwendung von KI-generierten Bildern von der Kernbotschaft zur Unterstützung der Opfer und ihrer Forderungen nach Gerechtigkeit in Kolumbien ablenkt“, erklärte Erika Guevara Rosas, Direktor für Amerika bei Amnesty.
Zeitschrift: Die Angst und der Zweifel der Gesetzgeber treiben die vorgeschlagenen Krypto-Regulierungen in den USA voran