Anwalt, der von KI erfundene Fälle zitierte, bittet Richter, Sanktionen zu ersparen

8. Juni (Reuters) – Ein New Yorker Anwalt hat am Donnerstag einen Bundesrichter in Manhattan aufgefordert, keine Sanktionen gegen ihn zu verhängen, nachdem er erfundene Fallzitate, die von einem Chatbot mit künstlicher Intelligenz generiert wurden, in einen juristischen Brief aufgenommen hatte.

Der Anwalt Steven Schwartz gab im Mai zu, dass er das ChatGPT-Programm von OpenAI verwendet hatte, um bei der Recherche des Schriftsatzes zu helfen, in dem sechs nicht existierende Gerichtsentscheidungen im Personenschadensfall eines Mandanten gegen Avianca Airlines zitiert wurden.

Schwartz sagte bei der Anhörung am Donnerstag, dass er sich „niemals“ hätte vorstellen können, dass ChatGPT gefälschte Fälle erfinden könnte, und dass er nicht die Absicht hatte, das Gericht in die Irre zu führen.

US-Bezirksrichter P. Kevin Castel, der Schwartz und seine Anwaltskanzlei Levidow, Levidow & Oberman gebeten hatte, zu erklären, warum sie nicht sanktioniert werden sollten, sagte, er werde später eine Entscheidung treffen.

Die Anwälte von Avianca machten das Gericht zunächst darauf aufmerksam, dass sie die in dem Schriftsatz genannten Fälle nicht finden konnten.

Eine wachsende Zahl von Anwälten und Anwaltskanzleien erforscht den Einsatz generativer KI. Schwartz‘ chaotischer Zusammenstoß mit der Technologie sorgte als erstes Beispiel für mögliche Gefahren für Schlagzeilen.

Unter anderem aufgrund des New Yorker Falles erließ ein Bundesrichter in Texas letzte Woche eine Verpflichtung für Anwälte in den ihm vorliegenden Fällen, zu bestätigen, dass sie bei der Erstellung ihrer Akten keine künstliche Intelligenz eingesetzt hätten, ohne dass ein Mensch deren Richtigkeit überprüft habe.

Schwartz sagte am Donnerstag, er hätte mehr tun sollen, um die Fälle zu bestätigen und zu verifizieren.

Schwartz entschuldigte sich in der Anhörung beim Gericht, bei Avianca und anderen. Er sagte, er habe „beruflich und persönlich gelitten“ und sei beschämt und gedemütigt.

Mehr lesen:

Ein Anwalt nutzte ChatGPT, um gefälschte Fälle zu zitieren. Was ist die Ethik?

US-Richter befiehlt Anwälten, KI-Versprechen zu unterzeichnen, und warnt Chatbots, „Sachen zu erfinden“

Unsere Standards: Die Thomson Reuters Trust Principles.

Thomson Reuters

Sara Merken berichtet über Datenschutz und Datensicherheit sowie über Rechtsgeschäfte, einschließlich juristischer Innovationen und wichtiger Akteure in der Rechtsdienstleistungsbranche. Sie erreichen sie unter [email protected]