Als Google damit beginnt, seine neuesten Tools zur Videogenerierung verfügbar zu machen, teilte das Unternehmen mit sagt, es hat einen Plan um Transparenz über die Ursprünge seiner zunehmend realistischen KI-generierten Clips zu gewährleisten. Alle mit dem neuen Veo-Modell des Unternehmens in der VideoFX-App erstellten Videos werden dank des SynthID-Systems von Google mit digitalen Wasserzeichen versehen. Darüber hinaus kann SynthID KI-generierten Text, der von Gemini stammt, mit einem Wasserzeichen versehen.
SynthID ist Googles digitales Wasserzeichen System, das letztes Jahr mit der Einführung von KI-generierten Bildern begann. Die Technologie bettet nicht wahrnehmbare Wasserzeichen in KI-erstellte Inhalte ein, sodass KI-Erkennungstools erkennen können, dass die Inhalte von KI generiert wurden. Angesichts der Tatsache, dass Veo, das neueste Videogenerierungsmodell des Unternehmens, das auf der I/O auf der Bühne gezeigt wurde, längere und höher aufgelöste Clips erstellen kann, als dies bisher möglich war, wird die Verfolgung der Quelle solcher Inhalte immer wichtiger.
Mit der Weiterentwicklung generativer KI-Modelle wenden sich immer mehr Unternehmen dem Wasserzeichen zu, weil sie befürchten, dass KI eine neue Welle von Fehlinformationen auslösen könnte. Wasserzeichensysteme würden Plattformen wie Google einen Rahmen für die Erkennung von KI-generierten Inhalten bieten, die sonst möglicherweise nicht zu unterscheiden wären. TikTok und Meta haben außerdem kürzlich Pläne angekündigt, ähnliche Erkennungstools auf ihren Plattformen zu unterstützen und mehr KI-Inhalte in ihren Apps zu kennzeichnen.
Natürlich gibt es immer noch erhebliche Fragen dazu, ob digitale Wasserzeichen allein ausreichend Schutz vor irreführenden KI-Inhalten bieten. Forscher haben gezeigt, dass Wasserzeichen leicht zu umgehen sind. Aber KI-erstellte Inhalte auf irgendeine Weise erkennbar zu machen, ist ein wichtiger erster Schritt in Richtung Transparenz.
Informieren Sie sich über alle Neuigkeiten von Google I/O 2024 Hier!