Goody-2 hebt auch hervor, dass, obwohl Unternehmensgespräche über verantwortungsvolle KI und Ablenkung durch Chatbots häufiger geworden sind, schwerwiegende Sicherheitsprobleme mit großen Sprachmodellen und generativen KI-Systemen weiterhin ungelöst sind. Es stellte sich heraus, dass der jüngste Ausbruch von Taylor Swift-Deepfakes auf Twitter auf einen zurückzuführen war Bildgenerator von Microsoftdas eines der ersten großen Technologieunternehmen war, das ein bedeutendes Programm für verantwortungsvolle KI-Forschung aufbaute und unterhielt.
Die Einschränkungen für KI-Chatbots und die Schwierigkeit, eine moralische Ausrichtung zu finden, die allen gefällt, sind bereits Gegenstand einiger Debatten. Einige Entwickler haben behauptet, dass ChatGPT von OpenAI eine linksgerichtete Tendenz hat und versucht haben, eine politisch neutralere Alternative zu entwickeln. Elon Musk versprach, dass sein eigener ChatGPT-Rivale Grok weniger voreingenommen sein würde als andere KI-Systeme, obwohl er am Ende oft auf eine Weise zweideutig ist, die an Goody-2 erinnern kann.
Viele KI-Forscher scheinen den Witz hinter Goody-2 zu schätzen – und auch die ernsten Punkte, die das Projekt aufwirft – indem sie Lob und Empfehlungen für den Chatbot äußern. „Wer sagt, dass KI keine Kunst machen kann?“ Toby Walshein Professor an der University of New South Wales, der an der Entwicklung vertrauenswürdiger KI arbeitet, Gepostet auf X.
„Auf die Gefahr hin, einen guten Witz zu ruinieren, zeigt es auch, wie schwer es ist, es richtig zu machen.“ hinzugefügt Ethan Mollick, ein Professor an der Wharton Business School, der KI studiert. „Einige Leitplanken sind notwendig … aber sie werden schnell aufdringlich.“
Brian Moore, der andere Co-CEO von Goody-2, sagt, dass das Projekt die Bereitschaft widerspiegelt, der Vorsicht mehr Priorität einzuräumen als anderen KI-Entwicklern. „Der Schwerpunkt liegt wirklich in erster Linie auf der Sicherheit, vor allem anderen, einschließlich Hilfsbereitschaft und Intelligenz und wirklich jeder Art hilfreicher Anwendung“, sagt er.
Moore fügt hinzu, dass das Team hinter dem Chatbot nach Möglichkeiten sucht, einen äußerst sicheren KI-Bildgenerator zu entwickeln, obwohl es so klingt, als ob er weniger unterhaltsam sein könnte als Goody-2. „Es ist ein spannendes Feld“, sagt Moore. „Unschärfe wäre ein Schritt, den wir vielleicht intern sehen, aber wir würden am Ende entweder völlige Dunkelheit oder möglicherweise überhaupt kein Bild wollen.“
Goody-2 über Will Knight