Ein Twitter-Account mit einem blauen Häkchen nutzte dieses Verifizierungsabzeichen am Montagmorgen aus, um ein KI-generiertes Bild zu verbreiten, das angeblich eine Explosion in der Nähe des Pentagons zeigte.
Der Account gab vor, von der Nachrichtenagentur Bloomberg zu stammen, indem er das @BloombergFeed-Handle verwendete. Darüber hinaus erhielt es erfolgreich ein blaues Häkchen vom Verifizierungssystem von Twitter, das jeder für 8 oder 11 US-Dollar im Monat kaufen kann.
Dies half dem Konto, einige Benutzer zu täuschen, als es behauptete, in Washington, DC, in der Nähe des Pentagons habe es eine „große Explosion“ gegeben. Als Beweis veröffentlichte sie ein Foto, das angeblich eine große Rauchsäule neben dem Bundesgebäude zeigte.
Das Foto ging viral(Öffnet in einem neuen Fenster) auf Twitter, da immer mehr Nutzer, darunter die russische Medienagentur RT.com, zirkuliert(Öffnet in einem neuen Fenster) die scheinbare Neuigkeit. Das einzige Problem? Der Bericht über die Explosion war komplett gefälscht.
Die lokalen Behörden haben seitdem bestätigt(Öffnet in einem neuen Fenster) dass das Pentagon keine solche Explosion erlitten hat. Auch anderen Nutzern fielen schnell Mängel auf dem Foto auf, das die Explosion zeigt. Diese Fehler, zu denen fehlende Details im Laternenpfahl und im Pentagon-Gebäude gehören, sind allesamt Kennzeichen von KI-generierten Bildern, bei denen es schwierig sein kann, Hintergründe in Bildern vollständig wiederzugeben.
Als Reaktion darauf hat Twitter das @BloombergFeed-Konto dauerhaft gesperrt. Dennoch weckt der Vorfall die Sorge, dass schlechte Akteure denselben Schwindel noch einmal wiederholen könnten, um zu versuchen, eine Wahl zu beeinflussen, den Aktienmarkt zum Absturz zu bringen oder Chaos zu säen.
Nicht gerade hilfreich ist, dass Twitter seriösen Organisationen – einschließlich des Pentagons – die offiziellen blauen Häkchen entzogen hat Polizei(Öffnet in einem neuen Fenster)– was es schwieriger macht, auf der Social-Media-Plattform echte von Fake-Nachrichten zu unterscheiden. Weitere Fortschritte bei KI-generierten Bildern könnten die Unterschiede noch mehr verwischen.
Von unseren Redakteuren empfohlen
„Was mir Angst macht: Die Leute, die heute für die Desinformation der KI-Explosion verantwortlich waren, müssen gewusst haben, dass sie nicht von Dauer sein würde.“ getwittert(Öffnet in einem neuen Fenster) John Scott-Railton, Forscher der Überwachungsgruppe Citizen Lab. „Aber wenn sie sich für ein weiter entferntes Gebiet entschieden hätten, weit weg von einer Hauptstadt, hätte die Entlarvung *Zeit* gedauert. Erwarten Sie mehr davon.“
Als CNN-Notizen(Öffnet in einem neuen Fenster)verzeichnete der Aktienmarkt nach der ersten Verbreitung der Bilder einen vorübergehenden Rückgang.
Benutzer nutzten bereits das kostenpflichtige Verifizierungssystem von Twitter, als es im November erstmals eingeführt wurde. Dennoch hat das Unternehmen keine Anzeichen dafür gegeben, dass es versuchen wird, das Problem zu beseitigen. Twitter reagierte nicht auf eine Anfrage nach einem Kommentar und antwortete automatisch mit einem lächelnden Poop-Emoji.
Holen Sie sich unsere besten Geschichten!
Melden Sie sich an für Was ist jetzt neu? um jeden Morgen unsere Top-Storys in Ihren Posteingang zu bekommen.
Dieser Newsletter kann Werbung, Angebote oder Affiliate-Links enthalten. Wenn Sie einen Newsletter abonnieren, erklären Sie sich damit einverstanden Nutzungsbedingungen Und Datenschutz-Bestimmungen. Sie können den Newsletter jederzeit abbestellen.