KI-generierte Stimmen können gut oder schlecht sein – wie der Synchronsprecher von Witcher, Doug Cockle, sagte, hängt alles von der Absicht des Benutzers ab. Wie das Potenzial für Missbrauch effektiv angegangen werden kann, ist eine große Frage, aber die US-amerikanische Federal Communications Commission hat jetzt einen Schritt unternommen, um gegen mindestens eine Möglichkeit des Missbrauchs vorzugehen, indem sie KI-generierte Stimmen in Robocalls verbietet.
Robocalls sind automatisierte Telefonanrufe, bei denen eine zuvor aufgezeichnete Nachricht abgespielt wird, die häufig für Telemarketing oder politische Kampagnen verwendet werden. Selbst in den besten Zeiten sind sie ärgerlich, aber der Aufstieg der KI macht sie besonders gefährlich, denn statt einer zufälligen Stimme hört man vielleicht Clint Eastwood, Gregory Peck oder US-Präsident Joe Biden. Der letzte Vorfall ereignete sich tatsächlich im Januar, als ein Robocall mit gefälschter Biden-Stimme gesendet wurde mehr als 20.000 Menschenund forderte die Demokraten auf, nicht zu wählen.
Menschen über das Telefon zu betrügen ist offensichtlich illegal, aber die neue Regelung der FCC macht den Einsatz von KI zur Generierung der Stimmen, die bei Robocalls verwendet werden, selbst illegal. Die Behörde sagte, die neue Verordnung erweitere „die rechtlichen Möglichkeiten, mit denen staatliche Strafverfolgungsbehörden diese Täter nach dem Gesetz zur Rechenschaft ziehen können“.
„Schlechte Akteure nutzen KI-generierte Stimmen in unerwünschten Robocalls, um gefährdete Familienmitglieder zu erpressen, Prominente zu imitieren und Wähler falsch zu informieren. Wir machen die Betrüger hinter diesen Robocalls aufmerksam“, sagte FCC-Vorsitzende Jessica Rosenworcel in der Pressemitteilung Bekanntmachung der neuen Regel. „Die Generalstaatsanwälte werden nun über neue Instrumente verfügen, um gegen diese Betrügereien vorzugehen und sicherzustellen, dass die Öffentlichkeit vor Betrug und Fehlinformationen geschützt wird.“
Der Feststellungsbeschluss wurde auf der Grundlage des Telefonverbraucherschutzgesetzes vorgenommen, das Geldstrafen von 500 bis 1.500 US-Dollar pro Verstoß – also pro Anruf – vorsieht. Wie Sie sich vorstellen können, kann sich das ganz schnell summieren: Im August 2023 erhob die FCC eine Gebühr 300 Millionen Dollar Strafe über die Täter eines Robocall-Betrugs mit Autogarantie, bei dem innerhalb von drei Monaten mehr als fünf Milliarden Robocalls an mehr als 500 Millionen Telefonnummern getätigt wurden.
Ich bin gegenüber „mehr Regulierung“ immer etwas misstrauisch, weil sie, genau wie KI, bei Missbrauch zu schlechten Ergebnissen führen kann. In diesem Fall halte ich es für durchaus gerechtfertigt, aber wie stark die neue Regelung abschreckend wirken wird, bleibt abzuwarten. Zwei der „zentralen Akteure“ im Autogarantie-Robocall-Betrug waren bereits von der US-amerikanischen Federal Trade Commission und dem Bundesstaat Texas lebenslang für Telefonmarketing-Anrufe gesperrt worden.