Der neues Samsung Galaxy S24 setzt auf KI, und zwar so sehr, dass der Telefonhersteller großen Wert darauf legte, wie sein neues KI-Wasserzeichen Benutzer davon abhalten soll, durch KI veränderte oder rein gefälschte Bilder online zu verbreiten. Das Problem ist, dass die S24 verfügt über so viele KI-Funktionen, dass ein einfaches Magic Eraser-ähnliches Tool dasselbe Wasserzeichen mit wenig Aufwand entfernen kann.
An seinem Galaxy ausgepackt Auf einer Veranstaltung am vergangenen Mittwoch erklärte Samsung, dass jedes Bild, das die generativen Fähigkeiten des Unternehmens nutzte, mit einem Wasserzeichen versehen sei. Dies erscheint unten links auf jedem Bild als Samsung-„Sparkle“-Logo.
Gizmodo bestätigte, dass Samsungs eigenes KI-basiertes Tool zum Löschen von Objekten – die beworbene Funktion, die unerwünschte Teile eines Fotos entfernen und ersetzen kann – das Wasserzeichen entfernen kann, das markieren soll, ob ein Bild KI-generiert wurde. Das hat funktioniert Galaxy S24 Ultra Testmodell, und einige andere haben auch das ziemlich große Versäumnis bemerkt, das dazu dienen soll, gefälschte Bilder davon abzuhalten, das Internet noch unwirtlicher zu machen, als es ohnehin schon ist.
Aber es wird noch verwirrender. In den Tests von Gizmodo wurden einige Bilder, bei denen wir das Tool zum Löschen von Objekten verwendeten, nicht mit einem Wasserzeichen angezeigt, während andere, darunter ein KI-modifiziertes Hintergrundbild, dies schon taten. Bei Samsung veröffentlicht die Aufzeichnung seiner Unpacked-Konferenz erneut, das Wasserzeichen erscheint, sobald Mr. Beast das Werkzeug zum Löschen von Objekten verwendet, um seinen Kranich von seiner riesigen (schrecklich schmeckenden) Tafel Schokolade zu entfernen. Im Text am Ende desselben Clips machte Samsung deutlich, dass es nicht die Schuld für etwaige ungenaue Deepfakes auf sich nimmt.
„Generative Edit erfordert eine Netzwerkverbindung und eine Samsung-Kontoanmeldung. Die Bearbeitung mit der generativen Bearbeitung führt zu einem verkleinerten Foto mit bis zu 12 MP. Beim Speichern wird der Bildausgabe ein sichtbares Wasserzeichen überlagert, um anzuzeigen, dass das Bild von KI generiert wurde. Die Genauigkeit und Zuverlässigkeit der generierten Ausgabe kann nicht garantiert werden.“
Samsung reagierte nicht sofort auf die Bitte von Gizmodo um einen Kommentar dazu, ob das Unternehmen Kenntnis von diesen Problemen hat und an einer Lösung arbeitet. Das Werkzeug zum Löschen von Objekten ersetzt, genau wie zuvor Googles Magic Eraser, die Pixel unerwünschter Objekte in einem Bild, um es mit dem Hintergrund zu verschmelzen. Warum das System nicht einfach dasselbe Wasserzeichen im neuen Bild ersetzt, bleibt unklar.
Große KI-Unternehmen mögen Adobe Und sogar das Weiße Haus haben Wasserzeichen als eine Möglichkeit gefördert, mit der Flut von KI-Deepfakes im Internet umzugehen. Diese Wasserzeichen, darunter auch das von Samsung, fügen außerdem Metadaten in jedes Bild ein und weisen darauf hin, dass das Bild geändert wurde. Allerdings ist die Bearbeitung der Metadaten eines Bildes mit ein wenig Know-how sehr einfach. Auf Apps wie Instagram hochgeladene Bilder zeigen Benutzern, die gedankenlos in ihren Grammatiken blättern, keine Metadaten an.
Dann wieder, KI hat sich seit langem als fähig erwiesen, Wasserzeichen zu entfernen. Wenn Samsung das Problem behebt und Wasserzeichen wasserdichter macht, hindert das Benutzer nicht daran, dasselbe Foto in andere ähnliche Apps aufzunehmen, um es zu entfernen. Googles DeepMind hat bereits erklärt, dass es einen Weg dazu gibt Installation eines dauerhafteren Wasserzeichens innerhalb der Pixel eines Bildes. DeepMind hat keine Einblicke in die Funktionsweise oder die Tools gegeben, mit denen Benutzer diese veränderten Bilder identifizieren könnten. Das Unternehmen erwähnte jedoch, dass die Funktion nur bei Bildern funktionieren würde, die mit Googles eigenen Tools geändert wurden.
Für den Rest von uns müssen wir uns mit halben Sachen begnügen.