Chinesische Polizei verhaftet Mann, weil er ChatGPT zur Generierung und Verbreitung gefälschter Nachrichten verwendet hat

Es handelt sich vermutlich um eine Premiere: In China wurde ein Mann verhaftet, weil er künstliche Intelligenz genutzt hatte, um mehrere Variationen einer gefälschten Nachricht über einen Zugunfall zu generieren und diese im Internet zu verbreiten.

Als die Das berichtet die South China Morning Post(Öffnet in einem neuen Fenster)Der Mann, dessen Nachname Hong ist, wurde von der Polizei in der nordwestlichen chinesischen Provinz Gansu festgenommen. Ihm wird vorgeworfen, ChatGPT genutzt zu haben, um eine Fake-Story über neun Menschen, die bei einem Zugunglück ums Leben kamen, zu generieren und die Nachricht dann gleichzeitig auf 20 Konten auf einer von der Suchmaschine Baidu betriebenen Blog-Plattform namens Baijiahao zu veröffentlichen. Insgesamt erhielten die Beiträge mehr als 15.000 Aufrufe.

Den Cybersicherheitsbeamten gelang es, die Geschichte auf ein persönliches Medienplattformunternehmen von Hong zurückzuführen, was eine Durchsuchung seines Hauses/Computers und die anschließende Verhaftung auslöste. Hong hat inzwischen gestanden und erklärt, dass er ChatGPT verwendet habe, um verschiedene Variationen der Geschichte zu generieren, um die Duplikatprüfungen zu umgehen, die Baijiahao bei neuen Beiträgen durchführt. Er schuf die gefälschten Nachrichten, indem er „Elemente der in China angesagten sozialen Geschichten“ einbrachte, die in den letzten Jahren aufgetreten waren.

Es ist unklar, warum Hong beschlossen hat, die Geschichte über den Zugunfall zu verbreiten und zu verbreiten, doch im Falle einer Verurteilung droht ihm nun eine lange Haftstrafe. Das Verbrechen, das ihm vorgeworfen wird, besteht darin, „Streit anzuzetteln und Unruhe zu provozieren“, was Chinas typisches Verbrechen wegen der Verbreitung falscher Informationen ist und in der Regel mit einer Gefängnisstrafe von bis zu fünf Jahren geahndet wird. Bei schweren Straftaten kann die Strafe jedoch auf zehn Jahre verlängert werden.

ChatGPT ist in China nicht offiziell verfügbar, kann aber dennoch über ein VPN aufgerufen werden. Chinesische Unternehmen produzieren alternative Chatbots, wie etwa den Ernie Bot von Baidu, aber bisher ist keiner annähernd an den Chatbot von OpenAI herangekommen. Ein chinesisches Unternehmen hat jedoch damit begonnen, menschliche Kreative aufzugeben und sie durch eine KI im ChatGPT-Stil zu ersetzen.