KI-Technologie trage dazu bei, falsche Geschichten über die Gräueltaten des Zweiten Weltkriegs zu erschaffen, darunter auch die Leugnung des Holocaust, und berge die Gefahr einer „explosionsartigen Verbreitung des Antisemitismus“, warnte die UNO am Dienstag.
Ausgegeben am: Geändert:
2 Minuten
Die UNESCO, das Bildungs- und Kulturorgan der Vereinten Nationen, forderte Regierungen und Technologieunternehmen dazu auf, ethische Schutzmaßnahmen im Zusammenhang mit KI-Technologien einzuführen, und Schulen dazu, über die Risiken KI-generierter Inhalte aufzuklären.
Der UNESCO-Bericht hob Fälle hervor, in denen Hacker Chatbots manipuliert hatten, um die Nazi-Ideologie zu verbreiten, und in anderen Fällen, in denen Bots sich ihre eigenen Geschichten rund um den Holocaust ausdachten.
„Wenn wir zulassen, dass die schrecklichen Fakten des Holocaust durch den verantwortungslosen Einsatz von KI verwässert, verzerrt oder verfälscht werden, riskieren wir eine explosionsartige Ausbreitung des Antisemitismus“, sagte Audrey Azoulay, Generaldirektorin der UNESCO.
Sie sagte, dies könne auch dazu führen, dass „unser Verständnis für die Ursachen und Folgen dieser Gräueltaten allmählich abnimmt“.
KI-Tools zur Inhaltsgenerierung – wie etwa ChatGPT und DALLE-2 – sind im Jahr 2022 explosionsartig auf die Bildfläche erschienen.
Unternehmen und Institutionen setzen sie eilig für alle möglichen Zwecke ein, von der Textübersetzung bis zum Kundendienst.
Doch Politiker, Aktivisten und Strafverfolgungsbehörden warnten von Anfang an, dass diese Instrumente dazu verwendet werden könnten, Geld zu erpressen, Rufe zu ruinieren, Wahlen zu beeinflussen und die Geschichte zu verfälschen.
Mehrere Tools sind in der Geschichte bereits öffentlich gescheitert.
Das Gemini-Modell von Google sorgte im Februar weltweit für Kontroversen, als es Bilder ethnisch unterschiedlicher Nazisoldaten generierte.
Die UNESCO wies auch darauf hin, dass ChatGPT das Konzept des „Holocaust durch Ertränken“ völlig erfunden habe, während Googles Chatbot Bard Zeugen erfunden habe, um Unwahrheiten über die Massaker der Nazis zu untermauern.
‘Rote Linie’
Das gemeinsam mit dem Jüdischen Weltkongress anlässlich des Internationalen Tages gegen Hassreden veröffentlichte Positionspapier der UNESCO forderte „dringende Maßnahmen“ von Regierungen, Technologieunternehmen und Pädagogen.
Karel Fracapane, ein UNESCO-Experte für Holocaust-Aufklärung, erklärte gegenüber AFP, dass Verzerrungen der Holocaust-Geschichte zeigten, wie KI unser Verhältnis zur Wahrheit auf den Kopf stellen und „zu einer tiefen Erosion der demokratischen Kultur führen“ könne.
Fracapane sagte, die derzeit steigende Popularität rechtsextremer Politiker in Westeuropa sei Teil desselben Prozesses wie die Verbreitung von Hassreden im Internet.
Zwar habe sich die Aufklärung über den Holocaust in den letzten Jahren deutlich verbessert, doch sei die „rote Linie“ der Verbreitung von Holocaust-Leugnung und Nazi-Ideen sowohl im Internet als auch in der realen Welt überschritten worden, sagte er.
„Der Inhalt dieses Berichts ist Ausdruck dessen, was in der Gesellschaft vor sich geht – er hat sehr reale politische Konsequenzen“, sagte er.
Zu den im UNESCO-Bericht hervorgehobenen Beispielen gehörten ein von einer KI generierter Joseph Goebbels, der behauptete, er hätte versucht, jüdische Leben zu retten, und ein Deepfake der „Harry Potter“-Schauspielerin Emma Watson, die aus Adolf Hitlers „Mein Kampf“ vorliest.
Allerdings wurden im UNESCO-Bericht auch positive Einsatzmöglichkeiten von KI hervorgehoben.
Algorithmen könnten Zeugenaussagen kategorisieren und sortieren und so dabei helfen, neue Muster und neue Erkenntnisse zu finden.
Und KI-gestützte Bildungsinstrumente könnten jungen Menschen immersive Erfahrungen ermöglichen, heißt es im UNESCO-Bericht.
Fracapane sagte jedoch, dass er angesichts des aktuellen Stands der Technik in der Debatte eher zur Seite „KI als Bedrohung“ neige als zur Seite „KI als Chance“.
(AFP)