Google hat heute einen Schritt in Richtung Transparenz bei KI-generierten Bildern gemacht. Google DeepMind angekündigt SynthID, ein Wasserzeichen-/Identifizierungstool für generative Kunst. Das Unternehmen sagt, dass die Technologie ein für das menschliche Auge unsichtbares digitales Wasserzeichen direkt in die Pixel eines Bildes einbettet. SynthID wird zunächst für „eine begrenzte Anzahl“ von Kunden eingeführt, die Imagen verwenden, den Kunstgenerator von Google, der in seiner Suite cloudbasierter KI-Tools verfügbar ist.
Eines der vielen Probleme bei generativer Kunst ist – abgesehen von den ethischen Auswirkungen der Ausbildung auf die Arbeit von Künstlern – das Potenzial für die Schaffung von Deepfakes. Beispielsweise war die angesagte neue Hip-Hop-Kleidung des Papstes (ein mit MidJourney erstelltes KI-Bild), die in den sozialen Medien viral ging, ein frühes Beispiel dafür, was mit der Entwicklung generativer Werkzeuge alltäglich werden könnte. Man braucht nicht viel Fantasie, um sich vorzustellen, dass so etwas wie politische Werbung mit KI-generierter Kunst viel mehr Schaden anrichten könnte als ein lustiges Bild, das auf Twitter kursiert. „Audio- und visuelle Inhalte mit Wasserzeichen zu versehen, um deutlich zu machen, dass Inhalte KI-generiert sind“, war eine der freiwilligen Verpflichtungen, die sieben KI-Unternehmen nach einem Treffen im Juli im Weißen Haus vereinbart hatten. Google ist das erste Unternehmen, das ein solches System auf den Markt bringt.
Google geht nicht allzu sehr auf die technische Implementierung von SynthID ein (wahrscheinlich, um Problemumgehungen zu verhindern), sagt aber, dass das Wasserzeichen nicht einfach durch einfache Bearbeitungstechniken entfernt werden kann. „Es ist schwierig, das richtige Gleichgewicht zwischen Unmerklichkeit und Robustheit gegenüber Bildmanipulationen zu finden“, schrieb das Unternehmen in einem heute veröffentlichten DeepMind-Blogbeitrag. „Wir haben SynthID so konzipiert, dass die Bildqualität nicht beeinträchtigt wird und das Wasserzeichen auch nach Modifikationen wie dem Hinzufügen von Filtern, dem Ändern von Farben und dem Speichern mit verschiedenen verlustbehafteten Komprimierungsschemata – am häufigsten für JPEGs verwendet – erkennbar bleibt“, sagen die SynthID-Projektleiter von DeepMind Sven Gowal und Pushmeet Kohli haben geschrieben.
Google DeepMind
Der Identifizierungsteil von SynthID bewertet das Bild anhand von drei Konfidenzstufen für digitale Wasserzeichen: erkannt, nicht erkannt und möglicherweise erkannt. Da das Tool in die Pixel des Bildes eingebettet ist, kann sein System laut Google mit metadatenbasierten Ansätzen zusammenarbeiten, wie sie Adobe mit seinen generativen Photoshop-Funktionen verwendet, die derzeit in einer offenen Betaversion verfügbar sind.
SynthID umfasst ein Paar Deep-Learning-Modelle: eines für die Wasserzeichenmarkierung und das andere für die Identifizierung. Laut Google trainierten die beiden an verschiedenen Bildern, was in einem kombinierten ML-Modell gipfelte. „Das kombinierte Modell ist auf eine Reihe von Zielen optimiert, darunter die korrekte Identifizierung von mit Wasserzeichen versehenen Inhalten und die Verbesserung der Unwahrnehmbarkeit durch visuelle Ausrichtung des Wasserzeichens auf den Originalinhalt“, schreiben Gowal und Kohli.
Google räumte ein, dass es sich nicht um eine perfekte Lösung handele, und fügte hinzu, dass sie „nicht narrensicher gegen extreme Bildmanipulationen“ sei. Aber es beschreibt das Wasserzeichen als „einen vielversprechenden technischen Ansatz, um Menschen und Organisationen in die Lage zu versetzen, verantwortungsvoll mit KI-generierten Inhalten zu arbeiten.“ Das Unternehmen sagt, dass das Tool auf andere KI-Modelle ausgeweitet werden könnte, einschließlich solcher, die mit der Generierung von Text (wie ChatGPT), Video und Audio beauftragt sind.
Obwohl Wasserzeichen bei Deepfakes hilfreich sein könnten, ist es leicht vorstellbar, dass digitale Wasserzeichen zu einem Wettrüsten mit Hackern werden, da Dienste, die SynthID verwenden, kontinuierlich aktualisiert werden müssen. Darüber hinaus könnte der Open-Source-Charakter von Stable Diffusion, einem der führenden generativen Tools, die branchenweite Einführung von SynthID oder einer ähnlichen Lösung zu einer großen Herausforderung machen: Es gibt bereits unzählige benutzerdefinierte Builds, die auf lokalen PCs in der Welt ausgeführt werden können wild. Unabhängig davon hofft Google, SynthID „in naher Zukunft“ Dritten zur Verfügung zu stellen, um zumindest die KI-Transparenz branchenweit zu verbessern.