Google hat Aktualisiert seine Richtlinie für unangemessene Inhalte, um eine solche Sprache aufzunehmen ausdrücklich untersagt Werbetreibende daran hindern, Websites und Dienste zu bewerben, die Deepfake-Pornografie generieren. Während das Unternehmen bereits strenge Beschränkungen für Anzeigen mit bestimmten Arten von sexuellen Inhalten hat, lässt diese Aktualisierung keinen Zweifel daran, dass die Werbung für „synthetische Inhalte, die so verändert oder generiert wurden, dass sie sexuell eindeutig sind oder Nacktheit enthalten“, gegen seine Regeln verstößt.
Jeder Werbetreibende, der Websites oder Apps bewirbt, die Deepfake-Pornos generieren, die Anweisungen zum Erstellen von Deepfake-Pornos zeigen und verschiedene Deepfake-Pornodienste unterstützen oder vergleichen, wird ohne Vorwarnung gesperrt. Sie können ihre Anzeigen auch nicht mehr auf Google veröffentlichen. Das Unternehmen beginnt am 30. Mai mit der Umsetzung dieser Regel und gibt Werbetreibenden die Möglichkeit, jede Anzeige zu entfernen, die gegen die neue Richtlinie verstößt. Als 404 Medien stellt fest, dass der Aufstieg von Deepfake-Technologien zu einer zunehmenden Anzahl von Werbeanzeigen für Tools geführt hat, die sich speziell an Benutzer richten, die sexuell eindeutige Materialien erstellen möchten. Berichten zufolge geben einige dieser Tools sogar vor, nützliche Dienste zu sein, um im Apple App Store und im Google Play Store gelistet zu werden. Dies wird jedoch in den sozialen Medien verschwiegen, wo sie ihre Fähigkeit zur Generierung manipulierter Pornos bewerben.
Google hat jedoch bereits damit begonnen, Dienste zu verbieten, die sexuell eindeutige Deepfakes in Shopping-Anzeigen erstellen. Ähnlich zu seiner bevorstehenden umfassenderen Richtlinie hat das Unternehmen Shopping-Anzeigen für Dienste verboten, die „synthetische sexuell eindeutige Inhalte oder synthetische Inhalte mit Nacktheit generieren, verbreiten oder speichern“. Dazu gehören Deepfake-Porno-Tutorials und Seiten, die für Deepfake-Porno-Generatoren werben.