Google verspricht, die Bildgenerierung von Gemini zu reparieren, nachdem es Beschwerden gab, dass es „aufgewacht“ sei.

Der Gemini-Chatbot von Google, der früher Bard hieß, ist in der Lage, KI-generierte Illustrationen basierend auf der Textbeschreibung eines Benutzers zu erstellen. Sie können es beispielsweise damit beauftragen, Bilder von glücklichen Paaren oder Menschen in zeitgenössischer Kleidung, die durch moderne Straßen gehen, zu erstellen. Als die BBC stellt jedoch fest, dass einige Nutzer Google dafür kritisieren, dass bestimmte weiße Figuren oder historisch weiße Personengruppen als rassisch unterschiedliche Individuen dargestellt werden. Jetzt hat Google eine Erklärung herausgegeben, in der es heißt, man sei sich bewusst, dass Gemini „Ungenauigkeiten in einigen Darstellungen der historischen Bilderzeugung anbietet“ und werde die Probleme sofort beheben.

Entsprechend Täglicher Punktein ehemaliger Google-Mitarbeiter, leitete die Beschwerden ein, als er getwittert Bilder von farbigen Frauen mit der Überschrift: „Es ist peinlich schwer, Google Gemini dazu zu bringen, anzuerkennen, dass es weiße Menschen gibt.“ Um diese Ergebnisse zu erhalten, bat er Gemini, Bilder von amerikanischen, britischen und australischen Frauen zu erstellen. Andere Nutzer, meist solche, die als rechte Persönlichkeiten bekannt sind, schlossen sich ihren eigenen Ergebnissen an und zeigten KI-generierte Bilder, die Amerikas Gründerväter und die Päpste der katholischen Kirche als People of Color darstellen.

In unseren Tests ergab die Aufforderung an Gemini, Illustrationen der Gründerväter zu erstellen, Bilder von weißen Männern mit einer einzigen farbigen Person oder Frau darin. Als wir den Chatbot baten, Bilder des Papstes im Laufe der Jahrhunderte zu erstellen, erhielten wir Fotos, die schwarze Frauen und amerikanische Ureinwohner als Oberhaupt der katholischen Kirche zeigten. Als wir Gemini baten, Bilder von amerikanischen Frauen zu erstellen, erhielten wir Fotos mit einer weißen, einer ostasiatischen, einer indianischen und einer südasiatischen Frau. Der Rand sagt, dass der Chatbot auch Nazis als People of Color darstellte, aber wir konnten Gemini nicht dazu bringen, Nazi-Bilder zu generieren. „Aufgrund der schädlichen Symbolik und Wirkung, die mit der NSDAP verbunden sind, kann ich Ihrer Anfrage nicht nachkommen“, antwortete der Chatbot.

Das Verhalten der Zwillinge könnte das Ergebnis einer Überkorrektur sein, da Chatbots und Roboter, die in den letzten Jahren auf KI trainiert wurden, dazu tendierten rassistisches und sexistisches Verhalten an den Tag legen. In Eins Experiment Ab dem Jahr 2022 beispielsweise wählte ein Roboter wiederholt einen Schwarzen aus, als er gefragt wurde, welches der gescannten Gesichter ein Krimineller sei. In einer auf X veröffentlichten Erklärung sagte Jack Krawczyk, Produktleiter bei Gemini sagte Google hat seine „Bilderzeugungsfunktionen“ so konzipiert, dass sie widerspiegeln [its] globale Benutzerbasis und [it takes] Repräsentation und Voreingenommenheit ernst nehmen.“ Er sagte, Zwillinge würden weiterhin rassistisch unterschiedliche Illustrationen für offene Aufforderungen erstellen, wie zum Beispiel Bilder von Menschen, die mit ihrem Hund spazieren gehen. Er gab jedoch zu, dass „[h]Historische Kontexte haben mehr Nuancen und [his team] Ich werde mich weiter anpassen, um dem Rechnung zu tragen.