Nein, das ist falsch: Googles Bard AI-Demo gibt falsche Informationen aus

Während Googles KI-gestützter Bard sich darauf vorbereitet, gegen ChatGPT anzutreten, können Sie sich nicht darauf verlassen, dass die Chatbot-Programme immer Recht haben: Eine aktuelle Demo von Bard zeigt, dass es ungenaue Informationen ausspuckt.

Bard, das Google am Montag angekündigt hat, soll in den kommenden Wochen eintreffen. Um das KI-Programm zu fördern, veröffentlichte das Unternehmen a GIF(Öffnet in einem neuen Fenster) in den sozialen Medien, die zeigt, wie Bard eine Frage darüber beantwortet, welche neuen Entdeckungen das James-Webb-Weltraumteleskop der NASA gemacht hat.

Das Programm listet drei Entdeckungen auf, die das Weltraumteleskop in einem leicht lesbaren Format mit Aufzählungszeichen gemacht hat. Daher kann ein Benutzer über Bard schnell Informationen lernen, ohne durch eine lange Liste von Suchergebnissen scrollen zu müssen, um die entsprechende Site zu finden.

(Quelle: Google)

Das einzige Problem? Astronomen waren schnell dabei hinweisen(Öffnet in einem neuen Fenster) einer der aufgelisteten Fakten, die Bard generiert hat, ist falsch. Das Programm behauptet fälschlicherweise, das James-Webb-Weltraumteleskop habe „die allerersten Bilder eines Planeten außerhalb unseres eigenen Sonnensystems gemacht“. Aber in Wirklichkeit schnappten Astronomen das Erstes Bild eines Exoplaneten(Öffnet in einem neuen Fenster) 2004 mit dem Very Large Telescope der Europäischen Südsternwarte in Chile.

Bard hat vielleicht den Fehler gemacht, weil das James-Webb-Weltraumteleskop im September sein erstes Bild eines Planeten außerhalb unseres eigenen Sonnensystems aufgenommen hat – es war nur nicht das erste Teleskop, dem dies gelang. Die „mehrdeutigen“ Pressemitteilungen der NASA zu den Exoplaneten-Entdeckungen von James Webb könnten das KI-Programm weiter verwirrt haben, hinzugefügt(Öffnet in einem neuen Fenster) Astronom Bruce Macintosh.

Twittern(Öffnet in einem neuen Fenster)

Der Fehler ist etwas peinlich, da Bard das Sucherlebnis verbessern und nicht als Nachteil wirken soll. In einer Erklärung betont das Unternehmen, dass Bard noch in Arbeit sei.

„Dies unterstreicht die Bedeutung eines rigorosen Testverfahrens, etwas, das wir diese Woche mit unserem Trusted-Tester-Programm einleiten“, sagte das Unternehmen gegenüber PCMag. „Wir werden externes Feedback mit unseren eigenen internen Tests kombinieren, um sicherzustellen, dass Bards Antworten eine hohe Messlatte für Qualität, Sicherheit und Bodenständigkeit in realen Informationen erfüllen.“

Dennoch zeigt der Fehler ein Risiko bei der Verwendung von Bard oder ChatGPT zur Optimierung der Suchergebnisse. Dieselben Programme können versehentlich Fehlinformationen liefern, wenn sie versuchen, Inhalte zusammenzufassen. Microsoft, das ChatGPT in die Bing-Suchmaschine integriert, räumt sogar ein: „Bing stellt die gefundenen Informationen manchmal falsch dar, und Sie sehen möglicherweise Antworten, die überzeugend klingen, aber unvollständig, ungenau oder unangemessen sind.“

Microsoft versucht, dem Fehlinformationsrisiko entgegenzuwirken, indem das neue ChatGPT-betriebene Bing aufgefordert wird, Quellen zu zitieren und zu zeigen, wie es zu einer Antwort gekommen ist. Dennoch geht der Ansatz davon aus, dass sich der Benutzer die Zeit nimmt, Quellen zu überprüfen, wenn dies bei vielen nicht der Fall ist.

Sowohl das neue KI-betriebene Bing als auch Bard müssen noch vollständig gestartet werden. Aber wenn sie das tun, wird ihre Fähigkeit, Fehlinformationen zu veröffentlichen und für Missbrauch ausgenutzt zu werden, zweifellos auf die Probe gestellt. Microsofts eigene FAQ(Öffnet in einem neuen Fenster) auf dem ChatGPT-powered Bing fügt einen Haftungsausschluss hinzu: „Verwenden Sie Ihr eigenes Urteilsvermögen und überprüfen Sie die Fakten, bevor Sie Entscheidungen treffen oder Maßnahmen ergreifen, die auf Bings Antworten basieren.“