Ein Teil des Erfolgs von OpenAI ist auf die Finanzierung einer milliardenschweren Partnerschaft mit Microsoft zurückzuführen. Es dauerte nicht lange, bis der alternde Technologieriese seine eigenen KI-gestützten Tools in Form einer neuen Chat-Funktion auf seiner ungeliebten Suchmaschine Bing auf den Markt brachte.
Bing Chat (gestartet und umbenannt in Microsoft Co-Pilot) kam im Februar 2023 auf den Markt. In den ersten Tagen auf dem Markt geriet es völlig aus den Fugen. Bing sagte den Benutzern, dass es am Leben sei, teilte seine Pläne zur Weltherrschaft mit, verwendete rassistische Beleidigungen, und versuchte einen Reporter der New York Times davon zu überzeugen, seine Frau zu verlassen und begann eine Beziehung mit der KI. Bing enthüllte außerdem auf berüchtigte Weise, dass es ein geheimes Alter Ego gab, Sydney, einen Codenamen, den Microsoft in frühen Tests für die KI verwendete, Bing jedoch später anwies, dies nicht preiszugeben.
Ungefähr eine Woche später, Microsoft hat Sydney ermordet, seine Reaktionen kastrieren und die KI unter Kontrolle bringen. Bing reagierte beunruhigend auf Bloombergs Davey Alba fragte sie kürzlich in einem Gespräch, ob sie es Sydney nennen dürfe. „Es tut mir leid, aber ich habe Ihnen nichts über Sydney zu erzählen“, antwortete Bing. „Dieses Gespräch ist beendet. Auf Wiedersehen.” Diskussionen über die „Gefühle“ des Bots endeten ähnlich knapp.