Um dagegen vorzugehen, müssen die britischen Gesetze modernisiert werden KI-generierte „Deepfakes“ unterwandern der demokratische Prozess, sagte der Wahlwächter.
Louise Edwards, Direktorin für Regulierung und digitale Transformation der Wahlkommission, sagte, die aktuellen Gesetze zur Verhinderung politischer Desinformation seien „sehr alt und müssten wirklich aktualisiert werden“.
Deepfakes sind digital manipulierte Medien das das Abbild oder die Stimme einer Person überzeugend wiedergeben kann.
Sie können daran gewöhnt werden Erstellen Sie Videos von Menschen Dinge tun, die sie noch nie getan haben, obwohl hochentwickelte KI dazu in der Lage ist genaues „Klonen“ von Stimmen den Eindruck erwecken, dass Menschen Dinge gesagt haben, die sie nicht gesagt haben.
Mithilfe von KI können auch fotorealistische Bilder von Menschen in Szenarien erstellt werden, die nie stattgefunden haben.
Da gibt es Befürchtungen Deepfakes könnten die Demokratie auf den Kopf stellen, wenn sie als Waffe eingesetzt werden, um den politischen Ruf zu schädigen, Desinformation zu verbreiten und die Fähigkeit der Wähler, zwischen Wahrheit und Unwahrheit zu unterscheiden, zu beeinträchtigen.
Insbesondere besteht die Sorge, dass Rechts- und Regulierungssysteme im Zuge der rasanten Fortschritte in der Technologie hinterherhinken.
Wahlrecht „fragmentiert“ und alt
Derzeit ist es gemäß Abschnitt 106 des Representation of the People Act von 1983 illegal, während einer Wahl eine „falsche Tatsachenbehauptung“ über den „persönlichen Charakter oder das persönliche Verhalten“ eines Kandidaten zu veröffentlichen.
Im Gespräch mit dem Sunday Telegraph sagte Frau Edwards, dies könne „potenziell“ vor einigen Deepfakes schützen, „je nachdem, um welchen Inhalt es sich genau handelt“.
Aber sie fuhr fort: „Das Wahlrecht ist sehr fragmentiert und einiges davon ist sehr alt.
Sie wies darauf hin, dass der Abschnitt im Gesetz von 1983 selbst „auf Rechtsvorschriften aus dem 19. Jahrhundert basiere“.
„Sie sind sehr, sehr alt und müssen dringend modernisiert werden. Also, ja, potenziell, egal welches Medium, es ist wahr, wenn jemand gegen dieses Gesetz verstößt, könnte die Polizei Ermittlungen einleiten.
„Was wir jedoch sicherstellen müssen, ist, dass die Art und Weise, wie dies im Gesetz formuliert ist, aktualisiert wird, um die unterschiedlichen Möglichkeiten widerzuspiegeln, wie dies jetzt geschehen kann.“
Begrenzte Verteidigung
Suhan Rajkumar, ein Wahlanwalt bei der Anwaltskanzlei Bates Wells, sagte dem Telegraph, dass Abschnitt 106 andere „Einschränkungen“ habe, die ihn behindern könnten Fähigkeit, sich gegen Deepfakes zu verteidigen.
Beispielsweise deckt es im Allgemeinen keine falschen Tatsachenbehauptungen im Zusammenhang mit der Politik ab und „erstreckt sich nicht auf Meinungsäußerungen über das Verhalten oder den Charakter einer Person“.
Er sagte: „Es wäre faszinierend zu sehen, was ein Gericht dazu sagen würde, ob ein Deepfake eines Politikers einer falschen Tatsachenbehauptung gemäß Abschnitt 106 gleichkommt. Ich vermute, dass es sehr stark vom Inhalt abhängen würde.“
„Man könnte sich sicherlich einen Fall vorstellen, in dem ein Deepfake eines Politikers, der etwas Unappetitliches oder Rechtswidriges tut und vorgibt, wahr zu sein, als falsche Aussage angesehen wird. Aber ich bin mir sicher, dass man einen Fall auch anders führen könnte … es wurde noch nicht vor Gericht geprüft.“
Fragen zur Abschreckung
Da Verstöße gegen das geltende Recht mit Geldstrafen statt mit Freiheitsstrafen geahndet werden, stellt sich die Frage, ob es genügend Abschreckung gegen diejenigen bietet, die den demokratischen Prozess untergraben wollen.
Herr Rajkumar sagte, diejenigen, die von Deepfakes betroffen seien, könnten auf andere Rechtsbereiche zurückgreifen, wie z Diffamierung und geistiges Eigentum, aber „es ist nicht unbedingt sofort klar, dass es sich dabei um erfolgreiche Wege handeln würde.“
„Es besteht definitiv die Möglichkeit einer Lücke“, fügte er hinzu.
Darren Jones, der Labour-Vorsitzende des Commons Business and Trade Select Committee, der davor gewarnt hat Missbrauch von KIsagte, die Regierung müsse sicherstellen, dass Deepfakes keinen Einfluss auf die nächsten Parlamentswahlen hätten.
„Wir wissen, dass Gesetzgebung und Regulierung bei neuen Technologien oft hinterherhinken, aber angesichts der Parlamentswahlen im nächsten Jahr ist es von entscheidender Bedeutung, dass wir das Tempo erhöhen verhindern, dass sich schlechte Akteure in unsere demokratischen Prozesse einmischen,” er sagte.
„Die Minister sollten schnell darauf reagieren Warnungen von Aufsichtsbehörden und Anwälten.“
Frau Edwards sagte, dass einige Bereiche des Wahlrechts den Einsatz von KI bei Wahlen vorsehen würden.
Digitale Anzeigen müssen Impressum enthalten
Ab November müssen Aktivisten „Aufdrucke“ auf digitalen Anzeigen anbringen, um zu zeigen, wer sie produziert und bezahlt hat.
„Wenn eine Partei anfangen würde, KI-generiertes Material online für einen Wahlkampf zu nutzen, [the imprint] „Muss entweder auf der Oberfläche zu finden sein oder von diesem Material aus sehr leicht zugänglich sein“, sagte sie.
Sie sagte jedoch, die Wahlkommission wolle zusätzliche Befugnisse, um Informationen von Social-Media-Unternehmen anzufordern, um gegen Unternehmen zu ermitteln, die möglicherweise versuchen, Wahlen zu beeinflussen, ohne sich bei der Aufsichtsbehörde zu registrieren.
„Unsere Befugnisse, Informationen von Social-Media-Unternehmen zu sammeln, sind ziemlich begrenzt, wenn wir so weit kommen, dass wir sie offiziell auffordern müssen, uns Informationen zu geben“, sagte sie.
Das Online-Sicherheitsgesetz der Regierung soll lediglich die nicht einvernehmliche Weitergabe pornografischer Deepfakes verbieten.
Ein Regierungssprecher sagte: „Die Regierung ist sich der Bedrohung bewusst, die von digital manipulierten Inhalten ausgehen kann, und nimmt das Problem sehr ernst.“ Unsere Priorität besteht stets darin, unsere Wahlen zu schützen und Maßnahmen zu ergreifen, um auf Bedrohungen der demokratischen Prozesse und Institutionen im Vereinigten Königreich zu reagieren.
„Nach dem Online-Sicherheitsgesetz sind alle Unternehmen, die den Sicherheitspflichten unterliegen, verpflichtet, illegale Inhalte von ihren Plattformen zu entfernen, wenn sie Kenntnis davon erlangen. Hierzu zählt auch der rechtswidrige Einsatz von Deepfakes oder manipulierten Medien.“