„Politische Werbung ist bewusst so gestaltet, dass sie Ihre Emotionen weckt und Sie beeinflusst. Die Kultur politischer Werbung besteht also oft darin, Dinge zu tun, die die Art und Weise, wie jemand etwas gesagt hat, zu erweitern und ein Zitat herauszuschneiden, das aus dem Kontext gerissen ist“, sagt Gregory. „Das ist im Wesentlichen, in mancher Hinsicht, wie eine billige Fälschung oder oberflächliche Fälschung.“
Meta reagierte nicht auf eine Anfrage nach einem Kommentar dazu, wie es manipulierte Inhalte überwachen wird, die nicht in den Bereich politischer Werbung fallen, oder wie es plant, den Einsatz von KI in politischen Anzeigen proaktiv zu erkennen.
Aber Unternehmen beginnen erst jetzt, sich mit dem Umgang mit KI-generierten Inhalten von regulären Benutzern zu befassen. Youtube kürzlich eingeführt eine strengere Richtlinie, die Kennzeichnungen für benutzergenerierte Videos vorschreibt, die generative KI nutzen. Google-Sprecher Michael Aciman sagte gegenüber WIRED, dass das Unternehmen zusätzlich zum Hinzufügen einer „Kennzeichnung im Beschreibungsfeld eines Videos, die darauf hinweist, dass einige Inhalte verändert oder synthetisch waren“, eine „markantere Kennzeichnung“ für „Inhalte zu sensiblen Themen“ hinzufügen werde , wie zum Beispiel Wahlen.“ Aciman wies außerdem darauf hin, dass „Cheapfakes“ und andere manipulierte Medien weiterhin entfernt werden können, wenn sie gegen die anderen Richtlinien der Plattform verstoßen, beispielsweise in Bezug auf Fehlinformationen oder Hassreden.
„Wir verwenden eine Kombination aus automatisierten Systemen und menschlichen Prüfern, um unsere Richtlinien im großen Maßstab durchzusetzen“, sagte Aciman gegenüber WIRED. „Dazu gehört ein engagiertes Team von tausend Mitarbeitern, die rund um die Uhr und auf der ganzen Welt arbeiten, unser Werbenetzwerk überwachen und dabei helfen, unsere Richtlinien durchzusetzen.“
Aber soziale Plattformen haben es bereits getan es versäumte, Inhalte effektiv zu moderieren in vielen Ländern, in denen im nächsten Jahr nationale Wahlen stattfinden, betont Hany Farid, Professor an der UC Berkeley School of Information. „Ich möchte, dass sie erklären, wie sie diese Inhalte finden“, sagt er. „Es ist eine Sache zu sagen, dass wir eine Richtlinie dagegen haben, aber wie wollen Sie diese durchsetzen? Denn es gibt in den letzten 20 Jahren keine Beweise dafür, dass diese riesigen Plattformen dazu in der Lage sind, schon gar nicht in den USA, sondern außerhalb der USA.“
Sowohl Meta als auch YouTube verlangen von politischen Werbetreibenden, dass sie sich beim Unternehmen registrieren und zusätzliche Informationen enthalten, etwa wer die Anzeige kauft und wo sie ansässig sind. Allerdings handelt es sich dabei größtenteils um Selbstanzeigen, was bedeutet, dass einige Anzeigen dem Unternehmen entgehen können. Im September berichtete WIRED, dass die Gruppe PragerU Kids, eine Erweiterung der rechten Gruppe PragerU, Anzeigen geschaltet hatte, die eindeutig unter Metas Definition von „politischen oder sozialen Themen“ fielen – genau die Arten von Anzeigen, für die das Unternehmen zusätzliche Anzeigen benötigt Transparenz. Aber PragerU Kids hatte sich nicht als politischer Werbetreibender registriert (Meta entfernte die Anzeigen nach der Berichterstattung von WIRED).
Meta reagierte nicht auf eine Anfrage nach einem Kommentar zu den Systemen, mit denen sichergestellt wird, dass Werbetreibende ihre Anzeigen ordnungsgemäß kategorisieren.
Aber Farid befürchtet, dass die Überbetonung der KI von den größeren Problemen im Zusammenhang mit Desinformation, Fehlinformationen und der Erosion des öffentlichen Vertrauens in das Informationsökosystem, insbesondere als Plattformen, ablenken könnte zurückskalieren Ihre Teams konzentrierten sich auf die Integrität der Wahlen.
„Wenn Sie glauben, dass irreführende politische Werbung schlecht ist, warum kümmert es Sie dann, wie sie erstellt wird?“ fragt Farid. „Es ist nicht so, dass es sich um eine KI-generierte irreführende politische Werbung handelt, sondern dass es sich um eine irreführende politische Werbung handelt, Punkt.“