ST. PAUL, Minn. (AP) – In einer fast einstimmigen Abstimmung haben die Abgeordneten des Senats von Minnesota am Mittwoch einen Gesetzentwurf verabschiedet, der Personen kriminalisieren würde, die nicht einvernehmlich gefälschte sexuelle Bilder anderer teilen, sowie Personen, die Deepfakes teilen, um einen politischen Kandidaten zu verletzen oder eine Wahl zu beeinflussen .
Deepfakes sind Videos und Bilder, die digital erstellt oder mit künstlicher Intelligenz oder maschinellem Lernen verändert wurden. Deepfake-Pornografie und politische Fehlinformationen wurden mit dieser Technologie erstellt, seit sie vor einigen Jahren erstmals im Internet verbreitet wurde. Diese Technologie ist jetzt einfacher zu nutzen als je zuvor.
Der Gesetzentwurf würde es Staatsanwälten ermöglichen, Personen für die Verbreitung von Deepfakes mit einer Gefängnisstrafe von bis zu fünf Jahren und einer Geldstrafe von 10.000 US-Dollar anzuklagen. Um Gesetz zu werden, muss der Gesetzentwurf noch einen Konferenzausschuss durchlaufen und vom demokratischen Gouverneur Tim Walz unterzeichnet werden.
Nur ein Abgeordneter stimmte am Mittwoch gegen den Gesetzentwurf.
„Die Sorge, die ich habe, ist nur die zivilrechtliche Strafe. Ich möchte es höher sehen“, sagte der republikanische Senator Nathan Wesenberg aus Little Falls im Senat, bevor er gegen den Gesetzentwurf stimmte.
Befürworter sagten, der Gesetzentwurf sei modern und notwendig.
„Wir müssen alle Minnesotaner schützen, die Opfer derjenigen werden könnten, die Technologie oder künstliche Intelligenz nutzen wollen, um jemanden zu bedrohen, zu belästigen oder … zu demütigen“, sagte der republikanische Senator Eric Lucero aus St. Michael zur Unterstützung.
Eine kleine Handvoll anderer Staaten haben ähnliche Gesetze zur Bekämpfung von Deepfakes verabschiedet, sagte die demokratische Senatorin Erin Maye Quade, die Abgeordnete aus Apple Valley, die sich für den Gesetzentwurf einsetzte. Zu diesen Staaten gehören Texas, Kalifornien und Virginia.
„Ich denke, wir sind auf Bundes- und Landesebene wirklich im Rückstand“, was den Datenschutz und die Technologieregulierung angeht, sagte Maye Quade. „Allein die Fortschritte in der KI-Technologie zu beobachten, selbst im letzten Jahr, hat mich wirklich beunruhigt, dass wir noch nichts vorbereitet haben.“
In einem Video vom Januar Präsident Joe Biden sprach über Panzer. Doch eine manipulierte Version des Videos verzeichnete in dieser Woche Hunderttausende Aufrufe in den sozialen Medien, was den Anschein erweckte, als hätte er eine Rede gehalten, in der er Transgender-Personen angriff.
Experten für digitale Forensik sagten, das Video sei mit einer neuen Generation von Tools für künstliche Intelligenz erstellt worden, die es jedem ermöglichen, mit wenigen Klicks schnell Audio zu erzeugen, das die Stimme einer Person simuliert. Und auch wenn es dem Biden-Clip in den sozialen Medien nicht gelungen ist, die meisten Nutzer zu täuschen, zeigte der Clip, wie einfach es für Menschen mittlerweile ist, hasserfüllte und mit Desinformation gefüllte Deepfake-Videos zu erstellen, die in der realen Welt Schaden anrichten könnten.
Einige Social-Media-Unternehmen haben ihre Regeln verschärft um ihre Plattformen besser vor Deepfakes zu schützen.
Sagte TikTok im März dass alle Deepfakes oder manipulierten Inhalte, die realistische Szenen zeigen, gekennzeichnet werden müssen, um darauf hinzuweisen, dass sie gefälscht oder in irgendeiner Weise verändert sind, und dass Deepfakes von Privatpersonen und Jugendlichen nicht mehr erlaubt sind. Zuvor hatte das Unternehmen sexuell eindeutige Inhalte und Deepfakes verboten, die Zuschauer über reale Ereignisse in die Irre führen.
___
Trisha Ahmed ist Korpsmitglied der Associated Press/Report for America Statehouse News Initiative. Bericht für Amerika ist ein gemeinnütziges nationales Serviceprogramm, das Journalisten in lokalen Nachrichtenredaktionen vermittelt, um über verdeckte Themen zu berichten. Folgen Sie Trisha Ahmed auf Twitter: @TrishaAhmed15