Ein Bild von schwarzem Rauch, der neben einem bürokratisch aussehenden Gebäude aufstieg, verbreitete sich am Montagmorgen in den sozialen Medien mit der Behauptung, es zeige eine Explosion in der Nähe des Pentagons.
Die Posts lösten einen kurzen Schauer an der Börse aus und wurden schnell von Nachrichtenagenturen außerhalb der USA aufgegriffen, bevor die Beamten einschritten und klarstellten, dass tatsächlich keine Explosion stattgefunden hatte und das Foto eine Fälschung war.
Experten sagen, dass das virale Bild verräterische Anzeichen einer KI-generierten Fälschung aufwies, und seine Beliebtheit unterstreicht das alltägliche Chaos, das diese nun immer raffinierter gestalten und leicht zugängliche Programme können zu Problemen führen.
Hier ist ein genauerer Blick auf die Fakten.
BEHAUPTUNG: Ein Bild zeigt eine Explosion in der Nähe des Pentagons.
DIE FAKTEN: Polizei- und Feuerwehrbeamte in Arlington, Virginia, sagen, das Bild sei nicht real und es habe keinen Vorfall im Hauptquartier des US-Verteidigungsministeriums auf der anderen Seite des Potomac gegenüber der Hauptstadt des Landes gegeben.
Trotzdem wurden das Bild und die Behauptung von Medien wie RT verbreitet, einem von der russischen Regierung unterstützten Medienunternehmen, das früher als Russia Today bekannt war. Es wurde auch in Investmentkreisen weithin geteilt, darunter ein Konto, das das charakteristische blaue Verifizierungshäkchen von Twitter trug Dies deutete fälschlicherweise darauf hin, dass es sich um eine Verbindung zu Bloomberg News handelte.
„Berichte über eine Explosion in der Nähe des Pentagons in Washington DC“, schrieb die staatliche russische Nachrichtenagentur in einem inzwischen gelöschten Tweet an ihre mehr als drei Millionen Follower.
Der Zeitpunkt des gefälschten Bildes, das sich scheinbar weit verbreitete, kurz nachdem der US-Aktienmarkt um 9:30 Uhr für den Handel geöffnet hatte, reichte aus, um die Investmentwelt in Aufruhr zu versetzen.
Der S&P 500 fiel kurzzeitig um bescheidene 0,3 %, da Social-Media-Konten und bei Daytradern beliebte Investment-Websites die falschen Behauptungen wiederholten.
Auch andere Anlagen entwickelten sich auf eine Art und Weise, wie sie typischerweise auftritt, wenn Angst auf den Markt kommt. Beispielsweise begannen die Preise für US-Staatsanleihen und Gold kurzzeitig zu steigen, was darauf hindeutet, dass Anleger nach einem sichereren Ort zum Parken ihres Geldes suchten.
Die schnelle Verbreitung des Bildes veranlasste die Feuerwehr von Arlington County, die sozialen Medien zu nutzen, um die Gerüchte zu zerstreuen.
„@PFPAOfficial und die ACFD sind sich eines im Internet verbreiteten Social-Media-Berichts über eine Explosion in der Nähe des Pentagons bewusst“, schrieb die Agentur und bezog sich dabei auf das Akronym für die Pentagon Force Protection Agency, die das Pentagon überwacht. „Im oder in der Nähe des Pentagon-Reservats ereignet sich KEINE Explosion oder ein Zwischenfall, und es besteht keine unmittelbare Gefahr oder Gefahr für die Öffentlichkeit.“
Hauptmann Nate Hiner, ein Sprecher der Feuerwehr, bestätigte, dass der Tweet der Agentur authentisch sei, lehnte jedoch eine weitere Stellungnahme ab und verwies auf die Polizei des Pentagon, die nicht auf E-Mail- und Telefonnachrichten reagierte.
Experten für Fehlinformationen gehen davon aus, dass das gefälschte Bild wahrscheinlich mit generativen Programmen der künstlichen Intelligenz erstellt wurde, die dies ermöglicht haben Immer realistischere, aber oft fehlerhafte Bilder überschwemmen in letzter Zeit das Internet.
Unstimmigkeiten im Gebäude, im Zaun und in der Umgebung seien Mängel, die typischerweise in KI-generierten Bildern zu finden seien, bemerkte Hany Farid, Informatikprofessor an der University of California in Berkeley, der sich auf digitale Forensik, Fehlinformationen und Bildanalyse spezialisiert hat.
„Konkret gehen Gras und Beton ineinander über, der Zaun ist unregelmäßig, es gibt einen seltsamen schwarzen Pfosten, der vorne aus dem Bürgersteig herausragt, aber auch Teil des Zauns ist“, schrieb er in einer E-Mail. „Die Fenster im Gebäude stimmen nicht mit Fotos des Pentagons überein, die man online finden kann.“
Chirag Shah, Co-Direktor des Center for Responsibility in AI Systems & Experiences an der University of Washington in Seattle, warnte davor, dass das Erkennen von Fälschungen nicht immer so offensichtlich sein werde.
Die Gesellschaft müsse sich stärker auf „Crowdsourcing und gemeinschaftliche Wachsamkeit stützen, um schlechte Informationen auszusortieren und an die Wahrheit zu gelangen“, da sich die KI-Technologie verbessere, argumentierte er.
„Es wird nicht ausreichen, sich einfach auf Erkennungstools oder Social-Media-Beiträge zu verlassen“, schrieb Shah in einer E-Mail.
Vor dem Explosionsschwindel beschäftigte die Wall Street am Montagmorgen die größte Beltway-Intrige, ob die US-Regierung einen katastrophalen Zahlungsausfall bei ihren Schulden vermeiden kann.
Doch da der Markt zunehmend auf schlagzeilenträchtige Nachrichten reagiert, können Fehlinformationen besonders schädlich sein, wenn sie von Medien verbreitet werden, die auch nur annähernd als glaubwürdig gelten, sagte Adam Kobeissi, Chefredakteur von The Kobeissi Letter, einer Branchenpublikation.
„Viele dieser Bewegungen geschehen aufgrund des Hochfrequenzhandels, des algorithmischen Handels, der im Grunde genommen Schlagzeilen macht, sie synthetisiert und sie dann im Millisekundentakt in einen Handel zerlegt“, erklärte er am Telefon und verwies auf einen großen Teil des Marktes ist jetzt automatisiert. „Es ist im Grunde so, als ob man jedes Mal, wenn eine Schlagzeile herauskommt, einen Abzug drückt.“
__
Die Associated Press-Wirtschaftsreporter Stan Choe und Wyatte Grantham-Philips aus New York haben zu dieser Geschichte beigetragen.
___
Dies ist Teil der Bemühungen von AP, weit verbreitete Fehlinformationen zu bekämpfen, einschließlich der Zusammenarbeit mit externen Unternehmen und Organisationen, um irreführenden Inhalten, die online verbreitet werden, einen sachlichen Kontext hinzuzufügen. Erfahren Sie mehr über die Faktenprüfung bei AP.