Anfang des Monats hat ein deutsches Gericht regiert dass die nationalistische rechtsextreme Partei des Landes, die Alternative für Deutschland (AfD), potenziell „extremistisch“ sei und eine Überwachung durch den Geheimdienst des Landes rechtfertigen könne.
Wahlkampfanzeigen der AfD dürfen ohnehin auf Facebook und Instagram erscheinen, heißt es in einer neuer Bericht von der gemeinnützigen Interessenvertretungsorganisation Ekō, exklusiv mit WIRED geteilt. Forscher fanden 23 Anzeigen der Partei, die 472.000 Aufrufe auf Facebook und Instagram erzielten und offenbar Metas eigene Richtlinien zu Hassreden verletzen.
Die Anzeigen verbreiten im Vorfeld der Europawahlen im Juni den Eindruck, Einwanderer seien eine Gefahr und eine Belastung für den deutschen Staat.
In einer Anzeige des AfD-Politikers Gereon Bollmann heißt es, in Deutschland habe es seit 2015 „eine Explosion sexueller Gewalt“ gegeben. Die Schuld wird dabei speziell Einwanderern aus der Türkei, Syrien, Afghanistan und dem Irak zugeschrieben. Die Anzeige wurde in nur vier Tagen, zwischen dem 16. und 20. März, von 10.000 bis 15.000 Menschen gesehen. In einer anderen Anzeige, die mehr als 60.000 Mal angesehen wurde, ist ein farbiger Mann zu sehen, der in einer Hängematte liegt. Der eingeblendete Text lautet: „AfD enthüllt: 686.000 illegale Ausländer leben auf unsere Kosten!“
Ekō konnte außerdem mindestens drei Anzeigen identifizieren, bei denen offenbar generative KI zur Bildmanipulation eingesetzt wurde. Allerdings wurde nur eine davon geschaltet, nachdem Meta seine Richtlinie zu manipulierten Medien in Kraft gesetzt hatte. Eine davon zeigt eine weiße Frau mit sichtbaren Verletzungen, mit dem begleitenden Text, dass „der Zusammenhang zwischen Migration und Kriminalität jahrelang geleugnet wurde“.
„Meta und auch andere Unternehmen haben nur sehr begrenzte Möglichkeiten, Drittanbieter-Tools zu erkennen, die KI-Bilder generieren“, sagt Vicky Wyatt, leitende Kampagnenleiterin bei Ekō. „Wenn extremistische Parteien diese Tools für ihre Anzeigen verwenden, können sie unglaublich emotionale Bilder erzeugen, die die Menschen wirklich bewegen können. Das ist also unglaublich beunruhigend.“
In seinem Beitrag zur Konsultation der Europäischen Kommission zu Wahlrichtlinien, der auf Grundlage eines Informationsfreiheitsantrags von Ekō eingeholt wurde, heißt es in Metas Stellungnahme: „Anbietern ist es noch nicht möglich, alle KI-generierten Inhalte zu identifizieren. Dies gilt insbesondere, wenn die Akteure Schritte unternehmen, um einer Entdeckung zu entgehen, etwa durch das Entfernen unsichtbarer Markierungen.“
Metas eigene Richtlinien Anzeigen zu verbieten, in denen „behauptet wird, Menschen seien aufgrund ihrer persönlichen Eigenschaften eine Bedrohung für die Sicherheit, Gesundheit oder das Überleben anderer“ sowie Anzeigen, die „Verallgemeinerungen enthalten, die auf Minderwertigkeit hinweisen, andere Aussagen über Minderwertigkeit, Ausdrücke der Verachtung, Ausdrücke der Ablehnung, Ausdrücke des Ekels oder Flüche aufgrund des Einwanderungsstatus.“
„Wir dulden keine Hassreden auf unseren Plattformen und haben Gemeinschaftsstandards, die für alle Inhalte gelten – auch für Anzeigen“, sagt Meta-Sprecher Daniel Roberts. „Unser Anzeigenüberprüfungsprozess umfasst mehrere Analyse- und Erkennungsebenen, sowohl vor als auch nach der Veröffentlichung einer Anzeige, und dieses System ist eines von vielen, die wir zum Schutz der Europawahlen eingerichtet haben.“ Roberts sagte gegenüber WIRED, das Unternehmen plane, die von Ekō gemeldeten Anzeigen zu überprüfen, antwortete jedoch nicht auf die Frage, ob die Einstufung der AfD als potenziell extremistisch durch das deutsche Gericht eine weitere Prüfung durch Meta nach sich ziehen würde.
Zielgerichtete Werbung könne wirkungsvoll sein, sagt Wyatt, weil extremistische Gruppen Menschen, die ihre Ansichten teilen, effektiver ansprechen und „Metas Anzeigenbibliothek nutzen können, um sie zu erreichen“. Wyatt sagt auch, dass die Gruppe auf diese Weise testen kann, welche Botschaften bei den Wählern eher Anklang finden.