Diese Bedenken sind einer der Gründe dafür, dass OpenAI im Januar erklärte, es würde Menschen verbieten, seine Technologie zur Entwicklung von Chatbots zu nutzen, die politische Kandidaten nachahmen oder falsche Informationen im Zusammenhang mit Wahlen liefern. Das Unternehmen sagte außerdem, es würde es niemandem erlauben, Anwendungen für politische Kampagnen oder Lobbyarbeit zu erstellen.
Während die Kennedy-Chatbot-Seite das zugrunde liegende Modell, auf dem sie basiert, nicht offenlegt, verbindet der Quellcode der Website diesen Bot mit LiveChatAI, einem Unternehmen, das seine Fähigkeit bewirbt, Unternehmen GPT-4- und GPT-3.5-basierte Kundensupport-Chatbots bereitzustellen. Auf der Website von LiveChatAI werden die Bots so beschrieben, dass sie „die Fähigkeiten von ChatGPT nutzen“.
Auf die Frage, welches große Sprachmodell den Bot der Kennedy-Kampagne antreibt, sagte Emre Elbeyoglu, Mitbegründer von LiveChatAI, in einer E-Mail-Erklärung am Donnerstag, dass die Plattform zusätzlich zu GPT-3.5 und GPT-4 „eine Vielzahl von Technologien wie Llama und Mistral nutzt“. „Aufgrund unserer Verpflichtung zur Vertraulichkeit des Kunden können wir die Einzelheiten der Nutzung durch einen Kunden weder bestätigen noch dementieren“, sagte Elbeyoglu.
OpenAI-Sprecher Niko Felix erklärte gegenüber WIRED am Donnerstag, dass das Unternehmen „keine Hinweise“ darauf habe, dass der Kennedy-Kampagnen-Chatbot direkt auf seinen Diensten aufbaue, deutete jedoch an, dass LiveChatAI möglicherweise eines seiner Modelle über die Dienste von Microsoft nutzt. Seit 2019 hat Microsoft soll mehr als 13 Milliarden US-Dollar investiert haben in OpenAI. Die ChatGPT-Modelle von OpenAI wurden inzwischen in die Bing-Suchmaschine von Microsoft integriert Office 365 Copilot des Unternehmens.
Am Freitag bestätigte ein Microsoft-Sprecher, dass der Kennedy-Chatbot „die Funktionen des Microsoft Azure OpenAI Service nutzt“. Microsoft erklärte, dass seine Kunden nicht an die Nutzungsbedingungen von OpenAI gebunden seien und dass der Kennedy-Chatbot nicht gegen die Richtlinien von Microsoft verstoße.
„Unsere begrenzten Tests dieses Chatbots zeigen seine Fähigkeit, Antworten zu generieren, die den beabsichtigten Kontext widerspiegeln, mit entsprechenden Vorbehalten, um Fehlinformationen zu verhindern“, sagte der Sprecher. „Wenn wir Probleme finden, wenden wir uns an die Kunden, um sie zu verstehen und sie zu Anwendungen zu führen, die mit diesen Grundsätzen im Einklang stehen. In manchen Fällen könnte dies dazu führen, dass wir einem Kunden den Zugriff auf unsere Technologie verweigern.“
OpenAI antwortete nicht sofort auf eine Anfrage von WIRED nach einem Kommentar dazu, ob der Bot gegen seine Regeln verstoßen hat. Anfang des Jahres blockierte das Unternehmen den Entwickler von Dean.bot, einem Chatbot, der auf den Modellen von OpenAI basiert und den demokratischen Präsidentschaftskandidaten Dean Phillips nachahmt und Antworten auf Wählerfragen liefert.
Am späten Sonntagnachmittag war der Chatbot-Dienst nicht mehr verfügbar. Während die Seite auf der Website der Kennedy-Kampagne weiterhin zugänglich bleibt, zeigt das eingebettete Chatbot-Fenster jetzt ein rotes Ausrufezeichen und sagt einfach „Chatbot nicht gefunden“. WIRED hat Microsoft, OpenAI, LiveChatAI und die Kennedy-Kampagne um einen Kommentar zur offensichtlichen Entfernung des Chatbots gebeten, jedoch keine sofortige Antwort erhalten.
Angesichts der Neigung von Chatbots zu Halluzinationen und Schluckauf ist ihr Einsatz in politischen Kontexten umstritten. Derzeit ist OpenAI das einzige große große Sprachmodell, das seine Verwendung im Wahlkampf ausdrücklich verbietet; Meta, Microsoft, Google und Mistral haben alle Nutzungsbedingungen, aber sie gehen nicht direkt auf die Politik ein. Und wenn man bedenkt, dass eine Kampagne scheinbar ohne Folgen über einen Dritten auf GPT-3.5 und GPT-4 zugreifen kann, gibt es kaum Einschränkungen.
„OpenAI kann sagen, dass es einerseits den Einsatz seiner Tools bei Wahlen oder bei Wahlkämpfen nicht zulässt“, sagte Woolley. „Andererseits werden diese Tools aber auch ziemlich frei verfügbar gemacht. Angesichts der verteilten Natur dieser Technologie muss man sich fragen, wie OpenAI tatsächlich seine eigenen Richtlinien durchsetzen wird.“