Sundar Pichai, CEO von Google, ging anschließend in historischen Bildern auf die jüngsten Probleme des Unternehmens mit seinem KI-gestützten Bildgenerierungstool Gemini ein. Er bezeichnete die Wendung der Ereignisse als „inakzeptabel“ und sagte, dass das Unternehmen „rund um die Uhr“ an einer Lösung arbeite, so ein
„Keine KI ist perfekt, insbesondere in diesem aufstrebenden Entwicklungsstadium der Branche, aber wir wissen, dass die Messlatte für uns hoch liegt und wir werden daran festhalten, egal wie lange es dauert“, schrieb Pichai an die Mitarbeiter. „Und wir werden überprüfen, was passiert ist, und sicherstellen, dass wir das Problem in großem Umfang beheben.“
Pichai bleibt hinsichtlich der Zukunft des Gemini-Chatbots, früher Bard genannt, optimistisch und stellt fest, dass das Team bereits „bei einer Vielzahl von Eingabeaufforderungen erhebliche Verbesserungen festgestellt hat“. Der Bilderzeugungsaspekt von Gemini, bis eine Lösung vollständig ausgearbeitet ist.
Dies begann, als Gemini-Benutzer bemerkten, dass der Generator historisch ungenaue Bilder ausgab, wie zum Beispiel Bilder von Nazis und Amerikas Gründervätern als farbige Menschen. In den sozialen Medien wurde das schnell zu einer großen Sache, und das Wort „aufgewacht“ war in aller Munde.
Prabhakar Raghavan, Googles Senior Vice President für Wissen und Information, gab nicht der Wachsamkeit die Schuld. Im Grunde wurde das Modell so optimiert, dass es unterschiedliche Personengruppen in Bildern berücksichtigt, es „überließ jedoch Fälle zu berücksichtigen, in denen eindeutig kein Bereich angezeigt werden sollte“. Dies führte zu kontroversen Bildern wie farbigen Menschen, die als Wikinger und katholische Päpste der amerikanischen Ureinwohner auftraten.
Raghavan sagte auch, dass das Modell mit der Zeit vorsichtiger geworden sei und sich gelegentlich geweigert habe, auf bestimmte Eingabeaufforderungen zu antworten, weil es diese fälschlicherweise als sensibel interpretiert habe. Dies ist der Grund für Berichte, wonach sich das Model weigerte, Bilder von Weißen zu erstellen.
Es hört sich so an, als wollte das Unternehmen sowohl ein weltweites Publikum erfreuen als auch sicherstellen, dass das Model nicht in einige der Fallen konkurrierender Produkte tappt, etwa durch die Erstellung sexuell eindeutiger Bilder oder Darstellungen realer Menschen. Das Optimieren dieser KI-Modelle ist eine äußerst heikle Arbeit, und die Software kann das problemlos tun. Auf jeden Fall würde ich an jedem Wochentag einen historisch ungenauen katholischen Papst bevorzugen. Betrachten Sie dies als eine weitere Erinnerung daran, dass die KI noch einen langen Weg vor sich hat.
Was Gemini angeht, verspricht das Unternehmen, dass der Bildgenerator in naher Zukunft zurückkehren wird, aber es sind noch eine Reihe von Korrekturen und Tests erforderlich, um sicherzustellen, dass so etwas nie wieder passiert, darunter „strukturelle Änderungen, aktualisierte Produktrichtlinien, verbesserte Einführungsprozesse, robuste Bewertungen“. und Red-Teaming und technische Empfehlungen.“