Indische Wähler werden mit Millionen von Deepfakes bombardiert. Politische Kandidaten stimmen zu

Auf eine Erstickung Aprilnachmittag in Ajmer im indischen Bundesstaat Rajasthan setzte sich die Lokalpolitikerin Shakti Singh Rathore vor einen Greenscreen, um ein kurzes Video zu drehen. Er sah nervös aus. Es war das erste Mal, dass er geklont wurde.

Rathore trug ein strahlend weißes Hemd und einen zeremoniellen Safranschal mit einer Lotusblume – dem Logo der BJP, der Regierungspartei des Landes – und begrüßte sein Publikum auf Hindi. „Namashkar“, begann er. „An alle meine Brüder –“

Bevor er weitermachen konnte, betrat der Regisseur das Bild. Divyendra Singh Jadoun, ein 31-Jähriger mit einer Glatze und einem dicken schwarzen Bart, sagte Rathore, er bewege sich vor der Kamera zu viel. Jadoun versuchte, genügend Audio- und Videodaten zu erfassen, um ein KI-Deepfake von Rathore zu erstellen, das 300.000 potenzielle Wähler in der Umgebung von Ajmer davon überzeugen würde, dass sie ein personalisiertes Gespräch mit ihm geführt hatten – aber übermäßige Bewegung würde den Algorithmus zerstören. Jadoun forderte sein Motiv auf, direkt in die Kamera zu schauen und nur seine Lippen zu bewegen. „Fang noch einmal an“, sagte er.

Gerade jetzt geht die größte Demokratie der Welt zur Wahl. Fast eine Milliarde Inder sind bei den Parlamentswahlen im Land wahlberechtigt, und Deepfakes könnten eine entscheidende und möglicherweise spaltende Rolle spielen. Indiens politische Parteien haben KI ausgenutzt, um die Realität billig zu verzerren Audiofälschungen, Propagandabilderund KI Parodien. Doch während sich der weltweite Diskurs über Deepfakes oft auf Fehlinformationen, Desinformation und andere gesellschaftliche Schäden konzentriert, nutzen viele indische Politiker die Technologie für einen anderen Zweck: Wählerwerbung.

Über das gesamte ideologische Spektrum hinweg verlassen sie sich auf KI, um sich in den 22 offiziellen Sprachen des Landes und Tausenden regionaler Dialekte zurechtzufinden und personalisierte Nachrichten in weiter entfernten Gemeinden zu übermitteln. Während die USA es kürzlich geschafft haben illegal Um KI-generierte Stimmen für unerwünschte Anrufe zu nutzen, sind sanktionierte Deepfakes in Indien zu einer Geschäftsmöglichkeit im Wert von 60 Millionen US-Dollar geworden. Mehr als 50 Millionen KI-generierte Voice-Clone-Anrufe wurden in den zwei Monaten vor Beginn der Wahlen im April getätigt – und weitere Millionen werden während der Abstimmung getätigt, sagte einer der größten Business-Messaging-Anbieter des Landes gegenüber WIRED.

Jadoun ist das Aushängeschild dieser aufstrebenden Branche. Seine Firma, Polymath Synthetic Media Solutions, ist einer von vielen Deepfake-Dienstleistern aus ganz Indien, die sich der politischen Klasse verschrieben haben. In dieser Wahlsaison hat Jadoun bisher fünf KI-Kampagnen durchgeführt, für die sein Unternehmen insgesamt 55.000 US-Dollar erhalten hat. (Er verlangt deutlich weniger als die großen politischen Berater – 125.000 Rupien [$1,500] um einen digitalen Avatar zu erstellen, und 60.000 Rupien [$720] für einen Audio-Klon.) Er hat Deepfakes für Prem Singh Tamang, den Ministerpräsidenten des Himalaya-Staates Sikkim, erstellt und YS Rajasekhara Reddy wiederbelebt, einen berühmten Politiker, der 2009 bei einem Hubschrauberabsturz ums Leben kam, um seinen Sohn YS Jagan Mohan Reddy zu unterstützen , derzeit Ministerpräsident des Bundesstaates Andhra Pradesh. Jadoun hat auch KI-generierte Propagandalieder für mehrere Politiker erstellt, darunter Tamang, einen lokalen Parlamentskandidaten und den Ministerpräsidenten des westlichen Bundesstaates Maharashtra. „Er ist unser Stolz“, lautete ein Lied auf Hindi über einen Lokalpolitiker in Ajmer, mit männlichen und weiblichen Stimmen zu einer schwungvollen Melodie. „Er war immer unparteiisch.“

Obwohl Rathore dieses Jahr nicht zur Wahl steht, ist er einer von mehr als 18 Millionen BJP-Freiwilligen, die dafür sorgen sollen, dass die Regierung von Premierminister Narendra Modi ihre Macht behält. In der Vergangenheit hätte das bedeutet, monatelang kreuz und quer durch Rajasthan zu reisen, einen Wüstenstaat von etwa der Größe Italiens, um mit den einzelnen Wählern zu sprechen und sie daran zu erinnern, wie sie von verschiedenen BJP-Sozialprogrammen profitiert haben – Renten, kostenlose Tanks für Kochgas, Bargeld Zahlungen für schwangere Frauen. Aber mit Hilfe von Jadouns Deepfakes ist Rathores Arbeit viel einfacher geworden.

Er wird hier 15 Minuten lang vor der Kamera über einige der wichtigsten Wahlthemen sprechen, während Jadoun ihm Fragen stellt. Aber es ist eigentlich egal, was er sagt. Alles, was Jadoun braucht, ist Rathores Stimme. Sobald dies erledigt ist, wird Jadoun die Daten nutzen, um Videos und Anrufe zu generieren, die direkt auf die Telefone der Wähler gelangen. Anstelle eines Klopfens an ihrer Tür oder eines kurzen Händedrucks bei einer Kundgebung werden sie sehen oder hören, wie Rathore sie mit Namen anspricht und mit unheimlicher Genauigkeit über die Themen spricht, die ihnen am wichtigsten sind, und sie auffordert, für die BJP zu stimmen. Wenn sie Fragen stellen, sollte die KI antworten – mit klarer und ruhiger Stimme, die fast besser ist als die schnelle, gedehnte Stimme des echten Rathore. Weniger technikaffine Wähler bemerken möglicherweise nicht einmal, dass sie mit einer Maschine gesprochen haben. Sogar Rathore gibt zu, dass er nicht viel über KI weiß. Aber er versteht Psychologie. „Solche Aufrufe können bei Wechselwählern helfen.“

Bürsten Sie die Schultern mit Politiker sind für Jadoun nichts Neues. Er war einmal einer. Im Jahr 2015 kandidierte er in Ajmer für die Wahl zum Bezirkspräsidenten der National Students Union of India (NSUI), dem Jugendflügel des Indischen Nationalkongresses, der einst beeindruckenden nationalen Partei, die heute die größte Opposition gegen Modis BJP darstellt.