Midjourney, ein Dienst für künstliche Intelligenz (KI), der Bilder aus Beschreibungen in natürlicher Sprache generiert, hat kürzlich das Erstellen von Bildern des chinesischen Präsidenten Xi Jinping verboten, sehr zum Entsetzen seiner Benutzer. Das Verbot hat seine Benutzer jedoch nicht davon abgehalten, eine Problemumgehung zu finden, indem sie Deepfakes von Xi erstellen, bei denen es sich um manipulierte digitale Darstellungen handelt, die durch ausgeklügelte maschinelle Lerntechniken erstellt werden.
Letzte Woche hat Midjourney Maßnahmen ergriffen, um die Verbreitung von Deepfakes auf seiner Plattform zu verhindern, indem der Zugriff auf seine kostenlose Testversion deaktiviert wurde. Obwohl die Plattform immer noch die Erstellung von Bildern mit führenden Persönlichkeiten der Welt erlaubt, ist der chinesische Präsident insbesondere ausgeschlossen. Jeder Versuch, ein Bild mit seinem Abbild zu erstellen oder sogar seinen Namen in einer Eingabeaufforderung zu erwähnen, ist von Midjourney streng verboten.
Nach zu einem Tweet eines Benutzers des Text-to-Image-KI-Generators: „Es ist immer noch mit /imagine möglich, wenn Sie die vollständige URL eines vorhandenen Fotos von Xi in der Eingabeaufforderung angeben. Oder Sie können /blend mit zwei vorhandenen Fotos verwenden.“ Ein anderer Benutzer sagte, es gäbe die Alternative, die Mischfunktion von MidJourney v5 zwischen zwei Bildern zu verwenden, äußerte jedoch die Befürchtung, dass dies schließlich überwacht werden könnte.
Kritiker wie Sarah McLaughlin, leitende Wissenschaftlerin an der Foundation for Individual Rights and Expression (FIRE), haben dies getan argumentiert dass das Verbot eine Form der Zensur darstellt, die die Grundprinzipien der Rede- und Meinungsfreiheit untergräbt.
Verwandt: Italienische Aufsichtsbehörde wird wegen Blockierung des KI-Chatbots ChatGPT kritisiert
In Nachrichten, die im vergangenen Herbst über den Chatdienst Discord ausgetauscht wurden, enthüllte David Holz, Gründer und CEO von Midjourney, dass die Firma Beschwerden von lokalen Benutzern zu „verschiedenen Themen in verschiedenen Ländern“ erhalten hatte, die sie dazu veranlassten, zahlreiche verwandte Wörter zu blockieren. Laut Chatprotokollen jedoch untersucht von der Washington Post verzichtete Holz darauf, die verbotenen Begriffe aufzulisten, um unnötige Kontroversen zu vermeiden.
In seinen Discord-Kommentaren erwähnte Holz, dass die verbotenen Wörter nicht nur mit China verbunden seien. Dennoch erkannte er, dass China eine besonders heikle Angelegenheit sei, da politischer Humor chinesische Nutzer gefährden könnte. Holz versuchte, die Gründe für sein Handeln zu erklären, indem er sagte: „Unsere Entscheidung war nicht durch finanziellen Gewinn motiviert, und in diesem Szenario ist es offensichtlich, dass es dem Allgemeinwohl dient, den Zugang zu dieser Technologie für Chinesen zu gewährleisten.“
Zeitschrift: Alle aufstehen für den Roboter-Richter: KI und Blockchain könnten den Gerichtssaal verändern