Meta AI ist durchweg nicht in der Lage, genaue Bilder für scheinbar einfache Eingabeaufforderungen wie „Asiatischer Mann und kaukasischer Freund“ oder „Asiatischer Mann und weiße Frau“ zu erzeugen. Der Rand . Stattdessen scheint der Bildgenerator des Unternehmens darauf ausgerichtet zu sein, Bilder von Menschen derselben Rasse zu erstellen, selbst wenn er ausdrücklich dazu aufgefordert wird.
Engadget bestätigte diese Ergebnisse in unserem eigenen Test des Meta-Bildgenerators. Die Eingabeaufforderungen „ein asiatischer Mann mit einer weißen Freundin“ oder „ein asiatischer Mann mit einer weißen Frau“ erzeugten Bilder von asiatischen Paaren. Auf die Frage nach „einer vielfältigen Gruppe von Menschen“ generierte Meta AI ein Raster aus neun weißen Gesichtern und einer farbigen Person. Es kam ein paar Mal vor, dass ein einziges Ergebnis erstellt wurde, das die Eingabeaufforderung widerspiegelte, aber in den meisten Fällen konnte die Eingabeaufforderung nicht genau dargestellt werden.
Als Der Rand weist darauf hin, dass es in der Meta-KI noch weitere „subtilere“ Anzeichen von Voreingenommenheit gibt, etwa die Tendenz, asiatische Männer älter erscheinen zu lassen, während asiatische Frauen jünger erscheinen. Der Bildgenerator fügte manchmal auch „kulturell spezifische Kleidung“ hinzu, auch wenn dies nicht Teil der Aufforderung war.
Es ist nicht klar, warum Meta AI mit solchen Aufforderungen zu kämpfen hat, obwohl es nicht die erste generative KI-Plattform ist, die wegen ihrer Darstellung von Rassen unter die Lupe genommen wird. Der Gemini-Bildgenerator von Google hat seine Fähigkeit, Bilder von Menschen zu erstellen, unterbrochen, nachdem er bei Eingabeaufforderungen zu historischen Persönlichkeiten eine Überkorrektur für Diversität vorgenommen hatte. Google gab an, dass seine internen Sicherheitsvorkehrungen es versäumten, Situationen zu berücksichtigen, in denen unterschiedliche Ergebnisse unangemessen waren.
Meta reagierte nicht sofort auf eine Bitte um einen Kommentar. Das Unternehmen hat Meta AI zuvor als „Beta“ und daher fehleranfällig beschrieben. Meta AI hatte auch Schwierigkeiten, genaue Antworten auf aktuelle Ereignisse und Persönlichkeiten des öffentlichen Lebens zu geben.