Wir befinden uns in einem frühen Stadium, um zu sehen, wie KI-Technologien Elemente der Welt verändern werden, sowohl online als auch im Meatspace, und bisher ist das Urteil ausgesprochen gemischt. Big Tech setzt darauf, dass es Dinge wie die Suche revolutionieren wird, bevor es in alle Aspekte unserer Kommunikation und Interaktion mit der Welt eindringt. Aber dies ist eine leistungsstarke und hochmoderne Technologie, was eines bedeutet: Böse Schauspieler werden versuchen, diese Dinge auf jede erdenkliche Weise auszunutzen.
Deepfake-Videos kursieren nun schon seit einiger Zeit online; Es handelt sich um KI-generierte Clips, bei denen das Bild einer Person über vorhandenes Filmmaterial gelegt wird, sodass es nicht von der realen Person zu unterscheiden ist. Diese Clips werden oft von düsteren Prognosen über ihre zukünftige Verwendung begleitet, und dank TikTok können Sie jetzt eines der ersten weit verbreiteten Beispiele sehen.
Die Plattform zeigt Benutzern eine Betrugsanzeige, die eine KI-generierte Version des enorm beliebten Podcast-Moderators Joe Rogan enthält. Rogan ist aus verschiedenen Gründen eine umstrittene Figur, aber diese Anzeige hat absolut nichts mit dem echten Joe Rogan zu tun, sondern zeigt einen KI-Rogan, der über Penispillen in einem Video diskutiert, das zwischen Einstellungen von „Rogan“-Gesprächen und einer Demonstration der Vorgehensweise wechselt diese Pillen kaufen.
Der Clip wurde von Coffeezilla ans Licht gebracht, einem außergewöhnlichen Ermittler der düstersten Ecken des Internets – in jüngerer Zeit hat er Logan Paul für das katastrophale CryptoZoo-Projekt des Influencers in Verlegenheit gebracht (öffnet in neuem Tab).
Deepfake-Betrug ist hier, und wir sind noch nicht bereit. pic.twitter.com/NtPKWGCULi12. Februar 2023
Was auch immer Sie von Joe Rogan halten mögen, er ist hier das Opfer, und ich ermutige jeden, sich dieses Video anzusehen, nur um zu sehen, wie überzeugend der Betrug ist. Das Video zeigt den gefälschten Rogan, der die Vorzüge eines Produkts namens „Alpha Grind“ anpreist, über seinen Bestseller-Status bei Amazon spricht und in einer Konversationsart spricht, die für meine Amateurohren die Präsentation und den Stil des Moderators nachahmt: „Wenn Sie Gehen Sie zu Amazon und geben Sie Libido Booster for Men ein, Sie werden es ganz oben finden. Weil die Jungs herausfinden, dass es buchstäblich an Größe zunimmt und dort unten einen Unterschied macht.
Ich habe den echten Joe Rogan um einen Kommentar gebeten und werde ihn mit jeder Antwort aktualisieren.
Sie würden niemandem vorwerfen, dass er denkt, dass dies der wahre Deal ist, und die Auswirkungen davon sind ziemlich schrecklich. Es ist auch bemerkenswert, dass die Spitzentechnologie hier eingesetzt wird, um Penispillen für depressive Männer zu verkaufen: plus ça Wechselgeld.