Das virale, KI-generierte Bilder von Donald Trumps Verhaftung, die Sie möglicherweise in den sozialen Medien sehen, sind definitiv gefälscht. Aber einige dieser fotorealistischen Kreationen sind ziemlich überzeugend. Andere sehen eher aus wie Standbilder aus einem Videospiel oder einem luziden Traum. A Twitter-Thread von Eliot Higgins, einem Gründer von Bellingcatdas zeigt, wie Trump vorbeischwärmt synthetische Polizistenherumrennen auf der FluchtUnd einen Gefängnisoverall aussuchen wurde auf der Social-Media-Plattform über 3 Millionen Mal angesehen.
Was glaubt Higgins, können die Zuschauer tun, um den Unterschied zwischen gefälschten KI-Bildern, wie denen in seinem Beitrag, und echten Fotos zu erkennen, die aus der möglichen Verhaftung des ehemaligen Präsidenten stammen könnten?
„Nachdem ich viele Bilder für den Thread erstellt habe, ist es offensichtlich, dass dies oft der Fall ist konzentriert sich auf das erste Objekt beschrieben – in diesem Fall die verschiedenen Mitglieder der Trump-Familie –, wobei alles um sie herum oft mehr Mängel aufweist“, sagte Higgins per E-Mail. Schauen Sie außerhalb des Brennpunkts des Bildes. Scheint der Rest des Bildes ein nachträglicher Einfall zu sein?
Auch wenn die neuesten Versionen von KI-Bildtools wie Midjourney (Version 5, die für den oben genannten Thread verwendet wurde) und Stable Diffusion erhebliche Fortschritte machen, bleiben Fehler in den kleineren Details ein häufiges Zeichen für gefälschte Bilder. Da KI-Kunst immer beliebter wird, weisen viele Künstler darauf hin, dass die Algorithmen immer noch Schwierigkeiten haben, den menschlichen Körper auf konsistente, natürliche Weise nachzubilden.
Wenn man sich die KI-Bilder von Trump aus dem Twitter-Thread ansieht, sieht das Gesicht in vielen Posts ziemlich überzeugend aus, ebenso wie die Hände, aber seine Körperproportionen können verzerrt aussehen oder mit einem nahe gelegenen Polizisten verschmolzen. Auch wenn es jetzt offensichtlich ist, ist es möglich, dass der Algorithmus mit mehr Training in der Lage sein könnte, seltsam aussehende Körperteile zu vermeiden Raffinesse.
Brauchen Sie noch einen Tell? Suchen Sie nach seltsamen Schriftzügen an Wänden, Kleidung oder anderen sichtbaren Gegenständen. Higgins zeigt in Richtung unordentlicher Text um gefälschte Bilder von echten Fotos zu unterscheiden. Zum Beispiel trägt die Polizei Abzeichen, Hüte und andere Dokumente, die auf den ersten Blick auf den gefälschten Bildern von Beamten, die Trump verhaften, Schriftzüge zu haben scheinen. Bei näherer Betrachtung sind die Worte unsinnig.
Eine weitere Möglichkeit, wie Sie manchmal feststellen können, dass ein Bild von KI generiert wurde, besteht darin, es zu bemerken übertriebener Gesichtsausdruck. „Mir ist auch aufgefallen, dass Midjourney, wenn Sie nach Gesichtsausdrücken fragen, dazu neigt, sie übertrieben wiederzugeben, wobei Hautfalten durch Dinge wie Lächeln sehr ausgeprägt sind“, sagte Higgins. Der schmerzerfüllte Ausdruck auf Melania Trumps Gesicht sieht eher wie eine Nachbildung von Edvard Munch aus Der Schrei oder ein Standbild aus einem unveröffentlichten A24-Horrorfilm als ein Schnappschuss eines menschlichen Fotografen.
Denken Sie daran, dass Weltführer, Prominente, Social-Media-Influencer und alle, die große Mengen an Fotos online zirkulieren, auf Deepfake-Fotos möglicherweise überzeugender erscheinen als KI-generierte Bilder von Personen mit weniger sichtbarer Internetpräsenz. „Je berühmter eine Person ist, desto mehr Bilder musste die KI lernen“, sagte Higgins. “So sehr Berühmte Persönlichkeiten werden sehr gut wiedergegeben, während weniger berühmte Leute normalerweise ein bisschen wackelig sind. Für mehr Sicherheit in Bezug auf die Fähigkeit des Algorithmus, Ihr Gesicht neu zu erstellen, sollten Sie es sich vielleicht zweimal überlegen, bevor Sie nach einem lustigen Abend mit Freunden einen Foto-Dump von Selfies posten. (Obwohl es wahrscheinlich ist, dass die KI-Generatoren Ihre Bilddaten bereits aus dem Internet gekratzt haben.)
Welche Politik verfolgt Twitter im Vorfeld der nächsten US-Präsidentschaftswahlen in Bezug auf KI-generierte Bilder? Die Social-Media-Plattform aktuelle Politik heißt es teilweise: „Sie dürfen keine synthetischen, manipulierten oder kontextlosen Medien teilen, die Menschen täuschen oder verwirren und zu Schaden führen können („irreführende Medien“).“ Twitter sieht mehrere Ausnahmen für Memes, Kommentare und Posts vor, die nicht mit der Absicht erstellt wurden, die Zuschauer irrezuführen.
Noch vor wenigen Jahren war es fast unvorstellbar, dass der Durchschnittsbürger bald in der Lage sein würde, fotorealistische Deepfakes von Weltführern zu Hause herzustellen. Da KI-Bilder immer schwieriger von der Realität zu unterscheiden sind, müssen Social-Media-Plattformen möglicherweise ihre Herangehensweise an synthetische Inhalte überdenken und versuchen, Wege zu finden, Benutzer durch die komplexe und oft beunruhigende Welt der generativen KI zu führen.