Anwälte beschuldigen ChatGPT, sie dazu verleitet zu haben, falsche Rechtsprechung zu zitieren

NEW YORK – Zwei entschuldigende Anwälte, die einem verärgerten Richter am Bundesgericht in Manhattan geantwortet hatten, beschuldigten ChatGPT am Donnerstag, sie dazu verleitet zu haben, gefälschte juristische Recherchen in eine Gerichtsakte aufzunehmen.

Den Anwälten Stephen A. Schwartz und Peter LoDuca droht eine mögliche Strafe, weil sie eine Klage gegen eine Fluggesellschaft eingereicht haben, die Verweise auf frühere Gerichtsverfahren enthielt, die Schwartz für real hielt, in Wirklichkeit aber vom KI-gestützten Chatbot erfunden wurden.

Schwartz sagte, er habe die bahnbrechende Software verwendet, um nach rechtlichen Präzedenzfällen zu suchen, die den Fall eines Kunden gegen die kolumbianische Fluggesellschaft Avianca wegen einer Verletzung während des Fluges im Jahr 2019 unterstützen.

Der Chatbot, der die Welt mit essayartigen Antworten auf Ansprüche von Nutzern verblüfft hat, hat mehrere Fälle mit Flugunfällen vorgeschlagen, die Schwartz mit den in seiner Anwaltskanzlei üblichen Methoden nicht finden konnte.

Das Problem bestand darin, dass viele dieser Fälle nicht real waren oder nicht existierende Fluggesellschaften betrafen.

Schwartz sagte dem US-Bezirksrichter B. Kevin Castle gab an, dass er „von der falschen Annahme ausging, dass diese Website diese Probleme aus Quellen bezieht, zu denen ich keinen Zugang hatte“.

Er sagte, er habe es „kläglich versäumt“, Nachforschungen anzustellen, um sicherzustellen, dass die Zitate korrekt seien.

„Ich habe nicht verstanden, dass ChatGPT Probleme ausgleichen kann“, sagte Schwartz.

Microsoft hat rund 1 Milliarde US-Dollar in OpenAI investiert, das Unternehmen hinter ChatGPT.

Sein Erfolg, der gezeigt hat, wie künstliche Intelligenz die Art und Weise verändern kann, wie Menschen arbeiten und lernen, hat bei einigen Anlass zur Sorge gegeben. Hunderte von Branchenführern unterzeichneten im Mai einen Brief mit der Warnung, dass „die Eindämmung des Risikos des Aussterbens durch KI neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg eine globale Priorität sein sollte“.

Richter Castell zeigte sich verwirrt und verärgert über das ungewöhnliche Ereignis und enttäuschte darüber, dass die Anwälte nicht schnell reagierten, um die falschen Rechtszitate zu korrigieren, als sie zum ersten Mal von den Anwälten von Avianca und dem Gericht auf das Problem aufmerksam gemacht wurden. Avianca berief sich in der März-Anmeldung auf falsche Rechtsprechung.

Der Richter konfrontierte Schwartz mit einem einzigen Rechtsfall, den das Computerprogramm erfunden hatte. Es wurde ursprünglich als Klage einer Frau gegen eine Fluggesellschaft wegen widerrechtlicher Tötung beschrieben, die sich dann in eine Klage gegen einen Mann verwandelte, der einen Flug nach New York verpasst hatte und zusätzliche Kosten tragen musste.

„Können wir uns darauf einigen, dass das juristischer Unsinn ist?“ Fragte Castell.

Schwartz sagte, er habe fälschlicherweise geglaubt, die verwirrende Darstellung sei auf Auszüge aus verschiedenen Teilen des Falles zurückzuführen.

Als Castel seine Befragung beendet hatte, fragte Schwartz, ob er noch etwas zu sagen hätte.

„Ich möchte mich aufrichtig entschuldigen“, sagte Schwartz.

Er fügte hinzu, dass er persönlich und beruflich unter dem Fehler gelitten habe und sich „verlegen, gedemütigt und zutiefst reuig“ gefühlt habe.

Er sagte, dass er und das Unternehmen, für das er arbeitete – Livido, Livido und Opperman – Sicherheitsvorkehrungen getroffen hätten, um sicherzustellen, dass etwas Ähnliches nicht noch einmal passieren würde.

Luduca, der andere Anwalt, der an dem Fall arbeitete, sagte, er vertraue Schwartz und habe nicht ausreichend überprüft, was er gesammelt habe.

Nachdem der Richter Teile eines der zitierten Fälle laut vorgelesen hatte, um zu zeigen, wie leicht zu erkennen war, dass es sich um „Kauderwelsch“ handelte, sagte Loduca: „Mir ist nie in den Sinn gekommen, dass es sich um einen Scheinfall handelte.“

Er sagte, das Ergebnis „tut mir unendlich weh“.

Ronald Minkoff, ein Anwalt der Anwaltskanzlei, sagte dem Richter, dass der Antrag „fahrlässig und nicht böse Absicht“ sei und keine Strafen nach sich ziehen dürfe.

Anwälte hatten in der Vergangenheit Schwierigkeiten mit der Technologie, insbesondere mit neuen Technologien, sagte er, „und es ist nicht einfacher geworden.“

Herr Schwartz, der kaum Bundesforschung betreibt, entschied sich für diese neue Technologie. Minkoff sagte, er dachte, er hätte es mit einer Standardsuchmaschine zu tun, und was er tat, war, mit scharfem Feuer zu spielen.

Daniel Shen, außerordentlicher Professor und stellvertretender Forschungsdirektor am Center for Legal and Court Technology am College of William & Mary Law, sagte, er habe Aviancas Fall letzte Woche während einer Konferenz vorgestellt, an der Dutzende von Teilnehmern aus Bundesstaaten und Bundesländern persönlich und online teilnahmen . Gerichte in den Vereinigten Staaten, einschließlich des Manhattan Federal Court.

Er sagte, dass das Thema bei der Konferenz für Schock und Verwirrung gesorgt habe.

„Wir sprechen über den Südbezirk von New York, den Bundesbezirk, der sich mit den großen Fällen befasst, dem 11. September für alle großen Finanzverbrechen“, sagte Sheen. „Dies war der erste dokumentierte Fall eines möglichen beruflichen Fehlverhaltens eines Anwalts, der generative KI nutzte.“

Er sagte, der Fall zeige, dass Anwälte möglicherweise nicht verstehen, wie ChatGPT funktioniert, weil es zu Halluzinationen neigt und über fiktive Dinge auf eine Weise spricht, die realistisch erscheint, es aber nicht ist.

„Es verdeutlicht die Gefahren des Einsatzes vielversprechender KI-Technologien, ohne die Risiken zu kennen“, sagte Shen.

Der Richter sagte, dass er zu einem späteren Zeitpunkt über die Strafen entscheiden werde.