Inzwischen haben Sie wahrscheinlich gehört, dass ChatGPT eine Vorliebe dafür hat, Lügen zu erfinden und sie als Tatsachen darzustellen, oder als etwas, was Experten als KI-„Halluzination“ bezeichnen. Das hat nicht aufgehört zwei Anwälte in New York City weil ChatGPT einige juristische Dokumente ausgespuckt hat. Es überrascht nicht, dass die KI einige Zitate und Zitate aus dem Nichts erfunden hat, aber die Anwälte reichten die Dokumente trotzdem ein, offenbar ohne sich die Mühe zu machen, die Fakten zu überprüfen.
Die Machenschaften kamen ans Licht, als das Gericht feststellte, dass sechs der als Zitate verwendeten Rechtsfälle erfunden waren. Der Richter schrieb, dass die Anwälte Peter LoDuca und Steven A. Schwartz die Sache dann noch schlimmer machten, indem sie das Gericht belogen. Als das Gericht ihre erfundene Rechtsprechung in Frage stellte, sagte der Richter, Schwartz habe „wechselnde und widersprüchliche Erklärungen“ gegeben und LoDuca habe so getan, als sei er im Urlaub, um mehr Zeit zu bekommen.
Bundesrichter P. Kevin Castel schrieb, dass die Anwälte und ihre Kanzlei Levidow, Levidow & Oberman, PC in böser Absicht gehandelt und das Gericht belogen hätten, um ihre Fehler zu vertuschen. Die Befragten „haben ihre Verantwortung aufgegeben, als sie mit gefälschten Zitaten und Zitaten, die mit dem künstlichen Intelligenztool ChatGPT erstellt wurden, nicht existierende gerichtliche Stellungnahmen vorlegten, und hielten dann weiterhin an den gefälschten Stellungnahmen fest, nachdem gerichtliche Anordnungen ihre Existenz in Frage gestellt hatten“, schrieb Richter Castel in der Stellungnahme Entscheidung.