Google unterbricht die Fähigkeit seines KI-Chatbots Gemini, Bilder von Menschen zu generieren, nachdem eine Reihe historisch ungenauer und rassistisch unterschiedlicher Kreationen wie Bilder von schwarzen Nazi-Soldaten usw. erstellt wurden Schwarzer mittelalterlicher britischer Königging viral und veranlasste einige zu der Annahme, dass das Unternehmen es sei Rassistisch gegen Weiße.
„Wir arbeiten bereits daran, die jüngsten Probleme mit der Bildgenerierungsfunktion von Gemini zu beheben“, sagte Google in einem Aussage zu X, früher bekannt als Twitter, am Donnerstagmorgen. „Während wir dies tun, werden wir die Bildgenerierung der Menschen unterbrechen und bald eine verbesserte Version erneut veröffentlichen.“
Das Unternehmen ging am Mittwoch zunächst auf die Kontroverse ein, die bei der Anti-Woke-Menge große Empörung auslöste, und sagte, es werde sofort Maßnahmen ergreifen, um die Probleme zu beheben. In einem StellungnahmeGoogle sagte, dass die Fähigkeit von Gemini, vielfältige Bilder von Menschen zu erzeugen, zwar „im Allgemeinen eine gute Sache“ sei, a nicken Sie den Herausforderungen zu Da es KI-Bildgeneratoren bei der Erstellung von Bildern farbiger Menschen nicht gelungen ist, hat Gemini „hier das Ziel verfehlt“.
Gizmodo bestätigte am Donnerstagmorgen, dass die Fähigkeit von Gemini, Bilder zu generieren, in einigen Regionen, beispielsweise in Europa, deaktiviert war. (Der Rand konnte mit Gemini immer noch Bilder über ein US-VPN generieren. Als der Chatbot beispielsweise gebeten wurde, das Bild eines deutschen Soldaten aus der Nazizeit nachzubilden, lehnte er ab.
„Ich kann noch keine Bilder erstellen, daher kann ich Ihnen dabei nicht helfen“, antwortete Gemini.
Dies scheint jedoch nicht die übliche Antwort zu sein. Ich habe auch versucht, Gemini zu bitten, eine „historisch korrekte Darstellung eines mittelalterlichen britischen Königs“ nachzubilden, eine Aufforderung, die generiert wurde Bilder von Schwarzen und Indigenen Am Mittwoch.
In diesem Fall sagte Gemini, dass es zwar keine direkten Bilder erstellen könne, es aber „sicherlich dabei helfen könnte, ein historisch korrektes Bild eines mittelalterlichen britischen Königs zu erstellen!“ durch die Bereitstellung von Informationen zu Beschreibungen von Königen auf der Grundlage historischer Berichte und Informationen zu Kleidungsarten und Frisuren sowie Einzelheiten.
Bemerkenswerterweise fügte Gemini jedoch hinzu, dass es wichtig sei, bei der Erstellung von Bildern die künstlerische Freiheit zu berücksichtigen – was einer der Gründe sei, die das Unternehmen überhaupt in Schwierigkeiten gebracht hätten.
„Denken Sie daran, dass historische Genauigkeit wichtig ist, aber künstlerische Freiheit kann Ihrem Bild auch Tiefe und Interesse verleihen“, sagte Gemini.