Am 28. August kursierte in den sozialen Medien ein Video, in dem ein junger Kylian Mbappé von einem Mann beschimpft wurde, der angeblich sein Vater sei. Das Video wurde ursprünglich von einem satirischen Account veröffentlicht, der sich auf komödiantische „Deepfakes“ spezialisiert hat – künstlich erzeugte Bilder, die ein Gesicht durch ein anderes ersetzen – und wurde mehrfach erneut gepostet, wobei einige Leute es ernst nahmen. Der Ersteller des Videos hat uns mehr erzählt.
Ausgegeben am:
3 Minuten
Ein „Deepfake“-Video von Kylian Mbappé ging auf verschiedenen Social-Media-Plattformen viral. Obwohl es als Satire begann, wurde das Video mehrfach geteilt und verändert, bis es seinen ursprünglichen Kontext verlor.
„Ich werde mich um dein Problem kümmern. Ich werde dir eine ordentliche Tracht Prügel verpassen, weil es mir so vorkommt, als ob du nicht verstehst, dass du Schwierigkeiten hast, wenn jemand mit dir redet“, sagt ein Mann zu einem Jungen in etwas, das wie eine Schule aussieht.
Das am 28. August vom Twitter- und TikTok-Konto French AI Covers (@frenchaicovers) veröffentlichte Video trägt die Überschrift „FLASH – Exklusives Video: Wilfrid Mbappé tadelt Kylian Mbappé wegen seiner schwankenden Gefühle bezüglich seiner Zukunft bei PSG“. Die Bildunterschrift bezieht sich auf das jüngste Zögern des französischen Fußballspielers, seinen Vertrag bei Paris Saint-Germain zu verlängern und zu Real Madrid zu wechseln. Das im Video gezeigte Kind ähnelt stark dem jungen Kylian Mbappé.
Allerdings handelt es sich bei dem Video um einen „Deepfake“, ein mit künstlicher Intelligenz erstelltes Video, bei dem das in dieser Sequenz tatsächlich gefilmte Gesicht des Kindes durch das von Kylian Mbappé ersetzt wurde.
„Ich habe nur ein paar Stunden gebraucht, um dieses Video zu erstellen“
Das Team von FRANCE 24 Observers sprach mit Younes, einem 25-jährigen Computerentwickler und Administrator des @frenchaicovers-Kontos:
Ich interessiere mich seit meiner Kindheit leidenschaftlich für Informatik und interessiere mich sehr für die „Deepfake“-Technologie. Ich habe es mir selbst beigebracht, indem ich im Internet nach kostenlosen Tutorials gesucht habe, mit denen ich ganz einfach einen „Deepfake“ erstellen konnte. Es erfordert vor allem eine gute Grafikkarte, aber keine besonderen Fachkenntnisse, sondern lediglich ein gewisses Maß an Leichtigkeit im Umgang mit Open-Source-Software.
Ich habe nur ein paar Stunden gebraucht, um aus dem Originalmaterial dieses Video von Mbappé zu erstellen. Ich musste ein paar Bearbeitungsanpassungen vornehmen, um das Gesicht noch realistischer zu machen, aber ich bin kein professioneller Editor. Ich bin ziemlich überrascht von der Qualität des ersten Ergebnisses, das automatisch Beleuchtung und Gesichtsbewegungen berücksichtigt.
Was sehr überraschend ist, ist, dass ich den Algorithmus anhand von Bildern von Mbappé als Erwachsener trainiert habe, nicht als Kind. Allerdings ähnelt das Ergebnis immer noch einem jungen Mbappé.
Younes teilte den Produktionsprozess mit unserem Redaktionsteam. Nach einer ersten Berechnungsphase, in der mithilfe einer Software das Gesicht des Jungen mit dem von Kylian Mbappé vertauscht wurde, waren einige Modifikationen erforderlich, um das Video noch realistischer zu gestalten.
„Ich habe es auf Englisch, Arabisch und sogar Spanisch gesehen“
Der Mann hinter @frenchaicovers wollte jedoch seine Absichten klar zum Ausdruck bringen:
Im Zusammenhang mit meinen Twitter- oder TikTok-Konten ist meine Absicht eindeutig komödiantischer Natur. Es war ein Witz, und im Großen und Ganzen versteht jeder, der den Bericht kommentiert und ihm folgt, weil er mich kennt, dass es eine Parodie war. Ich habe es so deutlich wie möglich gemacht, indem ich dem Video ein Wasserzeichen hinzugefügt und sogar einen zweiten Tweet gepostet habe, um klarzustellen, dass es sich um eine Parodie handelte.
⚠️ Dieses Video ist eine Parodie und wurde mit einem IA (Deepfake) erstellt. ⚠️ Hören Sie sich keine Videos an, die Sie auf WhatsApp gesendet haben
– Französische KI-Cover (@frenchaicovers) 28. August 2023
Younes fährt fort:
Das Problem ist, dass ich, sobald es in den sozialen Medien ist, nicht mehr unbedingt die Kontrolle über das Video habe. Ich habe gesehen, wie viele Leute danach griffen, das Wasserzeichen entfernten und das Video mit der Überschrift posteten, dass es sich um den jungen Mbappé handelte. Das Video hat auch international große Verbreitung gefunden: Ich habe es auf Englisch, Arabisch und sogar Spanisch gesehen.
Ich glaube, die Leute wollten eine Erzählung rund um dieses Video erstellen, um es real erscheinen zu lassen, obwohl es am Anfang nur ein einfacher Witz war. Ich denke, das liegt daran, dass die Leute immer nach neuen Videos aus Mbappés Vergangenheit suchen, Videos, die noch nicht veröffentlicht wurden …
Dies verdeutlicht die Gefahren von „Deepfakes“: Es handelt sich um eine Technologie, die immer zugänglicher wird, immer weniger Rechenleistung erfordert und sich immer weiter verbreitet. Ich denke, dass das Bewusstsein für „Deepfakes“ heute eindeutig unzureichend ist.
Wenn Sie sich für das Thema „Deepfakes“ interessieren und erfahren möchten, wie Sie diese erkennen, können Sie sich unseren Verifizierungsleitfaden-Artikel ansehen, indem Sie auf den untenstehenden Link klicken.
Mehr lesenSo erkennen Sie Deepfakes und grafische Manipulationen