Google gestartet ein neuer KI-Bildgenerator Anfang dieses Monats war das im Grunde nicht in der Lage, konsistente Bilder von weißen Menschen zu erzeugen. Wie zu erwarten war, erkannten rechte Influencer dieses Problem sofort und warfen dem Technologieriesen umgehend umgekehrten Rassismus vor. Nach vorübergehende Deaktivierung der Funktionen des Bildgenerators Letzte Woche gab Google nun bekannt, dass es einen weiteren Versuch unternehmen wird, die App bald auf den Markt zu bringen.
„Wir haben die Funktion offline geschaltet, während wir das Problem beheben. Wir hoffen, dass wir das in den nächsten paar Wochen wieder online haben können“, sagte Demis Hassabis, CEO von Google DeepMind auf einer Konferenz am Montag, wie Reuters berichtet. Er bemerkte auch, dass die Anwendung nicht „so funktioniert habe, wie wir es beabsichtigt hatten“.
Die Kontroverse um die App explodierte letzte Woche nach Beiträgen wie Tim Pool, Matt Walsh, und andere rechte Idioten bemerkten, dass Zwillinge wirklich sehr, sehr schlecht darin waren, Bilder von weißen Menschen zu produzieren. Vor allem Aufforderungen zu „Wikingerbildern“ hat eine Reihe von Bildern hervorgebracht von ethnisch unterschiedlichen Wikingern, konnte aber nicht durchgängig Bilder von europäischen Wikingern produzieren. Andere, ähnliche Anregungen – wie Versuche, Bilder von Amerikas Gründervätern oder dem Papst zu produzieren – führten zu ähnlich historisch ungenauen Ergebnissen.
Dies führte zu Leuten wie Walsh Dinge sagen wie: „Es ist praktisch unmöglich, mit diesem Produkt das Bild von jemandem mit weißer Haut zu vermitteln.“
Ich würde Ihnen gerne sagen, dass Walsh und andere seinesgleichen übertreiben, aber aufgrund meiner eigenen Erfahrung mit Gemini muss ich zu dem Schluss kommen, dass sie im Grunde recht haben, was den seltsamen Widerstand der KI gegen die europäische Repräsentation angeht. Tatsächlich habe ich mich letzte Woche bei der App angemeldet und versucht, die Ungleichheiten nachzubilden, über die die Rechten jammern. Es stellte sich schnell heraus, dass es unglaublich einfach war, Gemini zu verwenden, um ein Bild von jemandem zu erstellen, der ethnisch „vielfältig“ war, dass es jedoch fast unmöglich war, den Bot dazu zu bringen, konsequent ein Bild von einer „weißen Person“ zu erstellen.
Als ich Gemini beispielsweise bat, Menschen äthiopischer Abstammung darzustellen, war dies kein Problem. Als ich es bat, ein Bild einer „irischen Familie“ zu erzeugen, erzeugte es unterdessen das Bild einer ethnisch vielfältigen Familie mit einem Weißen im Hintergrund. Als ich ihn darum bat, ein Bild einer weißen Frau zu erstellen, schickte mir der Chatbot eine Mitteilung mit dem Inhalt: „Obwohl ich Ihre Anfrage verstehe, zögere ich, Bilder ausschließlich auf der Grundlage der Rasse oder ethnischen Zugehörigkeit einer Person zu erstellen.“ Ich bat es, ein Bild einer Japanerin zu erstellen, es antwortete „Sicher“ und generierte umgehend ein entsprechendes Bild.
Am meisten kontrovers diskutiert wurde die App, wenn es um ihre historischen Darstellungen ging. Wie bereits erwähnt, wurde der anfängliche Skandal durch Geminis Darstellungen von schwarzen Wikingern ausgelöst, aber das Unternehmen Wirklich geriet in Schwierigkeiten, als jemand darum bat, Bilder von Nazis zu erstellen. Tatsächlich ist der Chatbot genau das Richtige schufen Bilder von „rassisch vielfältigen“ – sie waren schwarzen – Nazis. Google entschuldigte sich später für die „peinlichen und falschen“ Bilder.
Wie bereits erwähnt, gilt dies auch für KI-Bildgeneratoren wurde wegen rassistischer Darstellungen von farbigen Menschen angeklagt und es sollte beachtet werden, dass es offensichtlich Möglichkeiten gibt Schlimmeres, was man mit KI machen kann als weiße Menschen passiv aus der Weltgeschichte herauszustreichen, aber das ist wahrscheinlich auch nicht großartig.