Der Einsatz künstlicher Intelligenz (KI) in sozialen Medien wurde als potenzielle Bedrohung für die Beeinflussung oder Beeinflussung der Wählerstimmung bei den bevorstehenden Präsidentschaftswahlen 2024 in den Vereinigten Staaten angesehen.
Große Technologieunternehmen und US-Regierungsbehörden haben die Situation im Zusammenhang mit Desinformation aktiv beobachtet. Am 7. September veröffentlichte die Microsoft-Forschungseinheit „Microsoft Threat Analysis Center“ (MTAC). Forschung Dabei wurde beobachtet, dass „mit China verbundene Akteure“ die Technologie nutzten.
Dem Bericht zufolge nutzten diese Schauspieler KI-generierte visuelle Medien in einer sogenannten „breiten Kampagne“, die einen starken Schwerpunkt auf „politisch spaltende Themen wie Waffengewalt und die Verunglimpfung politischer Persönlichkeiten und Symbole der USA“ legte.
Es gehe davon aus, dass China „diese Technologie im Laufe der Zeit weiter verfeinern wird“, und es bleibe abzuwarten, wie sie für solche Zwecke in großem Maßstab eingesetzt werde.
Andererseits ist KI auch Sein beschäftigt um solche Desinformationen aufzudecken. Am 29. August stellte Accrete AI im Auftrag des US Special Operations Command (USSOCOM) KI-Software zur Echtzeitvorhersage von Desinformationsbedrohungen aus sozialen Medien bereit.
Prashant Bhuyan, der Gründer und CEO von Accrete, sagte, dass diese Deep Fakes und andere „Social-Media-basierte Anwendungen von KI“ eine ernsthafte Bedrohung darstellen.
„Soziale Medien gelten allgemein als unregulierte Umgebung, in der Gegner routinemäßig Schwachstellen in der Argumentation ausnutzen und Verhalten durch die absichtliche Verbreitung von Desinformation manipulieren.“
Bei der letzten US-Wahl im Jahr 2020 gab es Trollfarmen gemeldet Laut einer MIT-Studie sollen jeden Monat 140 Millionen Amerikaner erreicht worden sein Bericht.
Trollfarmen sind eine „institutionalisierte Gruppe“ von Internet-Trollen mit der Absicht, sich in politische Meinungen und Entscheidungen einzumischen.
Verwandt: Metas Angriff auf die Privatsphäre sollte als Warnung vor KI dienen
Die Aufsichtsbehörden in den USA haben bereits vor der Wahl nach Möglichkeiten gesucht, Deep Fakes zu regulieren.
Am 10. August schloss die US-Bundeswahlkommission mit einem einstimmigen Votum eine Petition zur Regulierung politischer Werbung mit KI ab. Eines der Mitglieder der Kommission, die hinter der Petition steht, nannte Deep Fakes eine „erhebliche Bedrohung für die Demokratie“.
Google gab am 7. September bekannt, dass es seine Richtlinie zu politischen Inhalten Mitte November 2023 aktualisieren wird, wodurch nun die Offenlegung von KI für politische Kampagnenanzeigen obligatorisch wird.
Es hieß, dass die Offenlegungen erforderlich seien, wenn es sich um „synthetische Inhalte handelte, die reale oder realistisch aussehende Personen oder Ereignisse unecht darstellen“.
Zeitschrift: Sollten wir Ransomware-Zahlungen verbieten? Es ist eine attraktive, aber gefährliche Idee