Es ist etwas, das Ihnen vom ersten Aufsatz an in der Schule eingetrichtert wird: Überprüfen Sie immer Ihre Quellen. Dennoch verließ sich der New Yorker Anwalt Steven Schwartz auf ChatGPT, um sie für ihn zu finden und zu überprüfen – eine Entscheidung, die einen Richter dazu veranlasste, eine Geldstrafe von 5.000 US-Dollar gegen ihn, seinen Partner Peter LoDuca und ihre Anwaltskanzlei Levidow, Levidow und Oberman zu verhängen. Der Wächter Berichte. Schwartz nutzte es für einen Fall, in dem ein Mann die kolumbianische Fluggesellschaft Avianca verklagte, weil er auf einem Flug nach New York City verletzt worden war. In diesem Fall legte ChatGPT sechs Präzedenzfälle vor, etwa „Martinez gegen Delta Airlines“ und „Miller gegen United Airlines“, die entweder unzutreffend waren oder einfach nicht existierten.
In der Entscheidung, gegen Schwartz und Co. ein Bußgeld zu verhängen, erklärte Richter P. Kevin Castel: „Technologische Fortschritte sind an der Tagesordnung und es ist an sich nichts Unangemessenes daran, ein zuverlässiges Werkzeug der künstlichen Intelligenz zur Unterstützung zu verwenden. Aber bestehende Regeln schreiben den Anwälten eine Gatekeeper-Rolle vor, um die Genauigkeit sicherzustellen.“ ihrer Unterlagen.“ Grundsätzlich können Sie ChatGPT für Ihre Arbeit nutzen, prüfen Sie aber zumindest dessen Ansprüche. Indem sie dies nicht taten, hätten die Anwälte „ihre Verantwortung aufgegeben“, auch als sie zu den gefälschten Aussagen standen, nachdem das Gericht deren Legitimität in Frage gestellt hatte.
Beispiele für Ungenauigkeiten bei ChatGPT und anderen KI-Chatbots sind weit verbreitet. Nehmen Sie den Chatbot der National Eating Disorder Association, der Menschen, die sich von Essstörungen erholen, Diättipps gibt oder ChatGPT beschuldigt einen Juraprofessor zu Unrecht des sexuellen Übergriffs Verwendung eines nicht existierenden Artikels von Die Washington Post als Beweis dafür.