Als letzte Woche bizarre und irreführende Antworten auf Suchanfragen, die Googles neue Funktion „AI Overview“ generierte, in den sozialen Medien viral gingen, veröffentlichte das Unternehmen Erklärungen, in denen die Vorstellung, dass die Technologie Probleme habe, im Allgemeinen heruntergespielt wurde. Am späten Donnerstag gab die Leiterin der Suchabteilung des Unternehmens, Liz Reid, zu, dass die Patzer Bereiche aufgezeigt hätten, die verbessert werden müssten, und schrieb: „Wir wollten erklären, was passiert ist und welche Schritte wir unternommen haben.“
Reids Beitrag bezog sich direkt auf zwei der am häufigsten verbreiteten und völlig falschen Ergebnisse der AI Overview. Eines davon zeigte, dass die Algorithmen von Google Steine essen weil das „gut für Sie sein kann“, und der andere schlug vor, ungiftigen Kleber zu verwenden, um Pizzasauce andicken.
Das Thema Steinfressen ist kein Thema, über das viele Leute jemals online geschrieben oder Fragen gestellt haben, daher gibt es nicht viele Quellen, auf die eine Suchmaschine zurückgreifen kann. Laut Reid fand das KI-Tool ein Artikel von The Onioneine satirische Website, die von einem Softwareunternehmen erneut gepostet wurde und die Informationen als Tatsachen missverstand.
Was Googles Empfehlung angeht, Pizza zu kleben, so führte Reid den Fehler auf mangelnden Sinn für Humor zurück. „Wir haben AI-Übersichten gesehen, die sarkastische oder trollige Inhalte aus Diskussionsforen enthielten“, schrieb sie. „Foren sind oft eine großartige Quelle für authentische Informationen aus erster Hand, können aber in manchen Fällen zu weniger hilfreichen Ratschlägen führen, wie etwa, Käse mit Klebstoff an Pizza zu kleben.“
Es ist wahrscheinlich am besten, kein KI-generiertes Abendmenü zu erstellen, ohne es vorher sorgfältig durchzulesen.
Reid meinte auch, dass es unfair wäre, die Qualität von Googles neuer Suchfunktion anhand viraler Screenshots zu beurteilen. Sie behauptete, das Unternehmen habe vor der Einführung umfangreiche Tests durchgeführt und die Daten des Unternehmens zeigten, dass die Leute AI Overviews schätzen. Unter anderem zeigten sie, dass die Leute eher auf einer Seite bleiben, die sie auf diese Weise entdeckt haben.
Warum diese peinlichen Ausfälle? Reid bezeichnete die Fehler, die auffielen, als das Ergebnis einer internetweiten Überprüfung, die nicht immer gut gemeint war. „Es gibt nichts Besseres, als wenn Millionen von Menschen die Funktion mit vielen neuen Suchanfragen nutzen. Wir haben auch unsinnige neue Suchanfragen gesehen, die anscheinend darauf abzielten, falsche Ergebnisse zu produzieren.“
Google behauptet, dass einige weit verbreitete Screenshots von KI-Übersichten, die schiefgelaufen sind, gefälscht waren, was nach WIREDs eigenen Tests zu stimmen scheint. Ein Benutzer auf X hat einen Screenshot gepostet das schien eine KI-Übersicht zu sein, die auf die Frage „Kann eine Kakerlake in Ihrem Penis leben?“ antwortete, mit einer begeisterten Bestätigung der Suchmaschine, dass dies normal sei. Der Beitrag wurde über 5 Millionen Mal aufgerufen. Bei näherer Betrachtung stimmt das Format des Screenshots jedoch nicht mit der Art und Weise überein, wie KI-Übersichten den Benutzern tatsächlich präsentiert werden. WIRED konnte nichts annähernd Ähnliches reproduzieren.
Und es sind nicht nur Nutzer in sozialen Medien, die durch irreführende Screenshots gefälschter KI-Übersichten getäuscht wurden. Die New York Times eine Korrektur herausgegeben zu seiner Berichterstattung über die Funktion und stellte klar, dass AI Overviews den Benutzern nie vorgeschlagen hat, von der Golden Gate Bridge zu springen, wenn sie an Depressionen leiden – das war nur ein dunkles Meme in den sozialen Medien. „Andere haben angedeutet, dass wir gefährliche Ergebnisse für Themen wie das Zurücklassen von Hunden im Auto, Rauchen während der Schwangerschaft und Depressionen geliefert haben“, schrieb Reid am Donnerstag. „Diese AI Overviews sind nie aufgetaucht.“
Doch Reids Beitrag macht auch deutlich, dass mit der ursprünglichen Form von Googles großem neuen Such-Upgrade nicht alles in Ordnung war. Das Unternehmen habe „mehr als ein Dutzend technische Verbesserungen“ an AI Overviews vorgenommen, schrieb sie.
Es werden nur vier davon beschrieben: bessere Erkennung „unsinniger Abfragen“, die einer KI-Übersicht nicht würdig sind; Verringerung der Abhängigkeit der Funktion von benutzergenerierten Inhalten von Websites wie Reddit; selteneres Anbieten von KI-Übersichten in Situationen, in denen die Benutzer sie nicht hilfreich fanden; und Stärkung der Leitplanken, die KI-Zusammenfassungen zu wichtigen Themen wie Gesundheit deaktivieren.
In Reids Blogbeitrag war nicht die Rede davon, die KI-Zusammenfassungen deutlich zurückzuschrauben. Google sagt, es werde weiterhin das Feedback der Nutzer beobachten und die Funktionen bei Bedarf anpassen.