Was du wissen musst
- OpenAI hat kürzlich angekündigt, dass es nun Bilder, die mit ChatGPT oder einer API für die DALL-E 3-Technologie erstellt wurden, mit einem Wasserzeichen versehen wird.
- Dies wird Benutzern helfen, mit diesen KI-Tools generierte Bilder zu identifizieren und sie klar von tatsächlichen/realen Bildern zu entmystifizieren.
- Diese Änderung gilt nur für Bilder; Es hat keine Auswirkungen auf KI-generierte Sprache oder Text.
Angesichts der Verbreitung von KI-Deepfakes und Fehlinformationen im Internet ist OpenAI angekündigt Maßnahmen zur Bekämpfung dieses Problems ergriffen werden. Bilder, die mit ChatGPT oder einer API für die DALL-E 3-Technologie erstellt wurden, sind jetzt mit Wasserzeichen versehen. Damit möchte das Unternehmen für mehr Transparenz sorgen, da das Wasserzeichen die Menschen darüber informiert, dass ein Bild KI-generiert ist.
Das Wasserzeichen enthält detaillierte Informationen, einschließlich des Zeitpunkts der Bildgenerierung und des C2PA-Logos. OpenAI räumt jedoch ein, dass die Einbindung der Coalition for Content Provenance and Authenticity (C2PA) in die DALL-E 3-Technologie und ChatGPT kein „Allheilmittel zur Lösung von Provenienzproblemen“ ist. Das Unternehmen weiter hervorgehoben Das:
„Metadaten wie C2PA sind kein Allheilmittel, um Fragen der Herkunft zu lösen. Sie können leicht versehentlich oder absichtlich entfernt werden. Beispielsweise entfernen die meisten Social-Media-Plattformen heutzutage Metadaten aus hochgeladenen Bildern, und auch Aktionen wie das Erstellen eines Screenshots können sie entfernen.“ Daher kann es sein, dass ein Bild, dem diese Metadaten fehlen, mit ChatGPT oder unserer API generiert wurde.“
Bitte beachten Sie, dass sich diese Änderung geringfügig auf die Dateigrößen der mit diesen Tools generierten Bilder auswirken kann. Dies hat jedoch keinen Einfluss auf die Qualität der Bilder. So können sich die C2PA-Metadaten auf die Größe von KI-generierten Bildern auswirken:
- 3,1 MB → 3,2 MB für PNG über API (3 % Steigerung)
- 287.000 → 302.000 für WebP über API (5 % Steigerung)
- 287.000 → 381.000 für WebP über ChatGPT (32 % Steigerung)
Die Änderung wird voraussichtlich nächste Woche, am 12. Februar 2024, für mobile Benutzer eingeführt.
Wasserzeichen sind ein Schritt in die richtige Richtung, aber reicht das aus?
Eines der Dinge, die mich an generativer KI faszinieren, ist die Fähigkeit, die Technologie zu nutzen, um innerhalb von Sekunden lebensechte Bilder mithilfe textbasierter Eingabeaufforderungen zu erzeugen. KI-gestützte Tools, die speziell für diesen Zweck entwickelt wurden, wie Image Creator von Designer (ehemals Bing Image Creator) und ChatGPT, haben sich mit der Zeit nur verbessert.
Es war jedoch nicht nur Spaß und Glamour. Microsofts Image Creator von Designer nutzt die Vorteile Die DALL-E 3-Technologie von OpenAI, wodurch die Bilderzeugungsfähigkeiten auf die nächste Stufe gehoben wurden. Zugegebenermaßen generiert das KI-Tool im Vergleich zu früheren Versionen besser aussehende Bilder.
Leider war der Hype nur von kurzer Dauer, da online immer mehr Berichte auftauchten, in denen Fälle angeführt wurden, in denen das Tool zur Generierung anstößiger und expliziter Inhalte verwendet wurde. Dies zwang Microsoft dazu, Schutzmaßnahmen einzuführen und die Zensur des Bildgenerierungstools zu verschärfen, um Missbrauch zu verhindern.
Während diese Maßnahmen eine entscheidende Rolle dabei spielen, die Kontrolle über das Tool zu erlangen, hatten einige Benutzer das Gefühl, dass Microsoft mit der Zensur etwas übertrieben hat und es letztendlich lobotomiert hat.
VERWANDT: Mit dem neuen Bildgenerierungstool von Google können Sie die Ausgaben optimieren
Vor ein paar Wochen gingen explizite Bilder des bekannten Popstars Taylor Swift auf Social-Media-Plattformen viral, doch die Wahrheit kam später ans Licht und enthüllte, dass es sich um KI-Deepfakes handelte, von denen angenommen wurde, dass sie mit Microsoft Designer erstellt wurden.
Es scheint, je mehr Zensur diese Tools unterliegen, desto schwieriger wird es, ihre Fähigkeiten vollständig auszuschöpfen und zu nutzen.