Anwalt reicht ChatGPT-formulierte Klage mit erfundenen Fällen ein

Die Tücken der generativen KI ChatGPT werden in einem neuen Fall deutlich, der sich vor einem New Yorker Gericht abgespielt hat. Ein Anwaltsbüro, das einen Mann vertrat, der von der kolumbianischen Fluglinie Avianca Schadenersatz wegen einer Verletzung forderte, hat eine Klage eingereicht, die teilweise von ChatGPT formuliert worden war. Wie sich herausstellt, wurden in der Klage allerdings erfundene Gerichtsfälle und erfundene Urteile angeführt, die mit erfundenen Zitaten untermauert wurden.

ChatGPT zur Recherche eingespannt

Der Fall sorgt nun weltweit für Schlagzeilen, wie die BBC berichtet. Der Richter gab an, dass in der Klage sechs gefälschte Gerichtsurteile auftauchen, auf die sich der Kläger beruft. Der Anwalt, der die Klage eingereicht hat, scheint wiederum unschuldig zum Handkuss gekommen zu sein. Einer seiner Kollegen in der derselben Kanzlei war offenbar für die Recherche vergangener ähnlicher Fälle eingeteilt worden. Dieser wiederum nutzte ChatGPT zur Unterstützung.

➤ Mehr lesen: Wie die Technik hinter ChatGPT funktioniert

Programm hat glatt gelogen

In Klarstellungen gegenüber dem Gericht schilderten die zwei Anwälte, wie es zu den Fehlern gekommen war. ChatGPT hatte die besagten, erfundenen Fälle vorgelegt und jener Anwalt, der die KI bediente, versuchte sich gegenüber Fehlern abzusichern, indem er ChatGPT fragte, ob es die Fälle erfunden habe. Das Programm beharrte auf der Echtheit seiner Angaben, was dem Anwalt offenbar zur Verifizierung ausreichte - ein Fehler, wie sich nun herausstellt.

Anwaltsbüro drohen Sanktionen

Laut The Verge scheint der Chatbot teilweise echte und erfundene Fakten vermischt zu haben. Einer der Fälle beruhte etwa auf einem echten Fall, bekam vom Chatbot jedoch einen erfundenen Namen verpasst und wurde um 12 Jahre zu spät datiert. Der Anwalt, der ChatGPT verwendet hatte, bedauert den Vorfall zutiefst und schwört darauf, nicht gewusst zu haben, dass ChatGPT Inhalte solcherart fälschen könne. Der Richter des Falles scheint von dieser Argumentation wenig beeindruckt zu sein. Sanktionen gegen die Anwaltskanzlei werden nun überlegt.