Was für ein Unterschied sieben Tage macht in der Welt der generativen KI.
Letzte Woche verkündete Satya Nadella, CEO von Microsoft, der Welt fröhlich, dass die neue KI-infundierte Bing-Suchmaschine „Google zum Tanzen bringen“, indem es seine langjährige Dominanz bei der Websuche herausfordert.
Das neue Bing verwendet ein kleines Ding namens ChatGPT– Sie haben vielleicht schon davon gehört – was einen bedeutenden Sprung in der Fähigkeit von Computern darstellt, mit Sprache umzugehen. Dank der Fortschritte beim maschinellen Lernen hat es im Wesentlichen selbst herausgefunden, wie es alle möglichen Fragen beantworten kann, indem es Billionen von Textzeilen verschlungen hat, von denen ein Großteil aus dem Internet geschabt wurde.
Google tanzte tatsächlich nach Satyas Pfeife, indem es Bard, seine Antwort auf ChatGPT, ankündigte und versprach, die Technologie in seinen eigenen Suchergebnissen einzusetzen. Baidu, Chinas größte Suchmaschine, sagte, es arbeite an einer ähnlichen Technologie.
Aber Nadella möchte vielleicht beobachten, wohin die ausgefallene Beinarbeit seines Unternehmens führt.
In Demos, die Microsoft letzte Woche gab, Bing schien in der Lage zu sein, ChatGPT zu verwenden, um komplexe und umfassende Antworten auf Anfragen zu geben. Es erstellte eine Reiseroute für eine Reise nach Mexiko-Stadt, erstellte Finanzübersichten, bot Produktempfehlungen an, die Informationen aus zahlreichen Rezensionen zusammenfassten, und bot Ratschläge dazu an, ob ein Möbelstück in einen Minivan passen würde, indem es online veröffentlichte Abmessungen vergleicht.
WIRED hatte während des Starts etwas Zeit, um Bing auf die Probe zu stellen, und obwohl es geschickt schien, viele Arten von Fragen zu beantworten, war es entschieden fehlerhaft und sogar unsicher über seinen eigenen Namen. Und wie ein scharfäugiger Experte bemerkte, einige der Ergebnisse, die Microsoft vorführte waren weniger beeindruckend, als es zunächst den Anschein hatte. Bing schien einige Informationen über die von ihm generierte Reiseroute zu erstellen, und es ließ einige Details aus, die wahrscheinlich niemand auslassen würde. Die Suchmaschine brachte auch die Finanzergebnisse von Gap durcheinander, indem sie die Bruttomarge mit der unbereinigten Bruttomarge verwechselte – ein schwerwiegender Fehler für jeden, der sich auf den Bot verlässt, um die scheinbar einfache Aufgabe der Zusammenfassung der Zahlen auszuführen.
Diese Woche sind weitere Probleme aufgetaucht, da das neue Bing mehr Beta-Testern zur Verfügung gestellt wurde. Sie scheinen zu enthalten Streit mit einem Benutzer ungefähr welches Jahr es ist und in eine existenzielle Krise geraten wenn er dazu gedrängt wird, seine eigene Empfindungsfähigkeit zu beweisen. Marktkapitalisierung von Google fiel um unglaubliche 100 Milliarden Dollar nachdem jemand Fehler in den von Bard generierten Antworten im Demovideo des Unternehmens bemerkt hatte.
Warum machen diese Tech-Titanen solche Fehler? Es hat mit der seltsamen Art und Weise zu tun, wie ChatGPT und ähnliche KI-Modelle wirklich funktionieren – und mit dem außergewöhnlichen Hype im Moment.
Was an ChatGPT und ähnlichen Modellen verwirrend und irreführend ist, ist, dass sie Fragen beantworten, indem sie fundierte Vermutungen anstellen. ChatGPT generiert, was seiner Meinung nach Ihrer Frage folgen sollte, basierend auf statistischen Darstellungen von Zeichen, Wörtern und Absätzen. Das Startup hinter dem Chatbot, OpenAI, hat diesen Kernmechanismus verfeinert, um zufriedenstellendere Antworten zu liefern, indem Menschen positives Feedback geben, wenn das Modell Antworten generiert, die richtig erscheinen.
ChatGPT kann beeindruckend und unterhaltsam sein, da dieser Prozess die Illusion des Verstehens hervorrufen kann, was für einige Anwendungsfälle gut funktionieren kann. Aber derselbe Prozess wird unwahre Informationen „halluzinieren“, ein Problem, das derzeit eine der wichtigsten Herausforderungen in der Technologie sein könnte.
Der intensive Hype und die Erwartung, die um ChatGPT und ähnliche Bots wirbeln, erhöhen die Gefahr. Wenn gut finanzierte Startups, einige der wertvollsten Unternehmen der Welt und die berühmtesten Technologieführer alle sagen, dass Chatbots das nächste große Ding in der Suche sind, werden viele Menschen dies als Evangelium ansehen – und diejenigen, die das Gespräch begonnen haben, dazu anspornen, sich zu verdoppeln mehr Vorhersagen der KI-Allwissenheit. Nicht nur Chatbots können durch Pattern Matching ohne Faktencheck in die Irre geführt werden.