SAN FRANCISCO (AP) – Die chinesische Polizei sagte, sie habe kürzlich einen ChatGPT festgenommen Benutzer, der angeblich den KI-gestützten Chatbot verwendet hat, um eine Fake-News-Story über einen nichtexistenten Zugunglück zu erstellen. Es handelt sich um eine der ersten Durchsetzungsmaßnahmen im Rahmen eines kürzlich erlassenen chinesischen Gesetzes zur Regulierung von KI-generierten „Deepfakes“ – scheinbar realistischen, aber fabrizierten digitalen Bildern, Videos oder anderen Medien.
Laut a Polizeibericht Aus der nordwestchinesischen Provinz Gansu nutzte ein Mann, der nur mit seinem Nachnamen Hong identifiziert wurde, ChatGPT, um einen Fake-News-Artikel über einen Unfall zu erstellen, der angeblich zum Tod von neun Bauarbeitern in Gansu geführt hatte. Einundzwanzig Konten auf einer beliebten sozialen Plattform, die alle einem Medienunternehmen mit Sitz in Südchina gehören, verbreiteten die gefälschte Geschichte innerhalb kurzer Zeit.
Wie die meisten ausländischen Websites und Anwendungen ist ChatGPT in China aufgrund der „Großen Firewall“ des Landes, die das Internet für Einwohner zensiert, technisch nicht verfügbar. Aber entschlossene Einzelpersonen können über eine allgemein verfügbare „Virtual Private Network“-Software, die die Firewall umgeht, Zugriff erhalten. Im Polizeibericht wurde nicht beschrieben, wie Hong es schaffte, ChatGPT zu nutzen.
Als die Sicherheitsbeamten von Gansu erkannten, dass der Artikel gefälscht war, hatte er dem Bericht zufolge 15.000 Aufrufe erhalten. Anschließend durchsuchte die Polizei Hongs Wohnung, um Beweise zu sammeln, und ergriff dann „strafrechtliche Zwangsmaßnahmen“ gegen Hong selbst. Die Polizei verwendet diesen Ausdruck, um vorübergehende Maßnahmen zur Einschränkung der Freiheit eines Verdächtigen zu beschreiben.
Das neue chinesische Deepfake-Gesetz trat am 10. Januar in Kraft. Es verbietet mehrere Kategorien gefälschter Medien, die durch „Deep-Synthese-Technologien“ wie maschinelles Lernen und virtuelle Realität hergestellt werden, bietet jedoch für viele dieser verbotenen Klassen nur vage Definitionen.
Laut einer Übersetzung des Gesetzes, die von der Crowdsourcing-Site bereitgestellt wurde China Law TranslateEs verbietet den Einsatz von Deepfakes für Aktivitäten, die die nationale Sicherheit gefährden, das Image des Landes oder das gesellschaftliche öffentliche Interesse schädigen oder die „wirtschaftliche oder soziale Ordnung“ stören. Es verbietet ausdrücklich den Einsatz solcher Technologien zur Produktion, Veröffentlichung oder Übermittlung von Fake News.
__
AP-Nachrichtenassistentin Caroline Chen in Peking hat zu diesem Bericht beigetragen.