Akten frei erfunden

ChatGPT versagt als Gehilfe und blamiert US-Anwalt

Zum Anwaltsgehilfen taugt ChatGPT offenbar nur bedingt.

(Bild: Shafay - stock.adobe.com)

Dass es ChatGPT mit der Wahrheit nicht immer so genau nimmt, dürfte sich noch nicht überall herumgesprochen haben. Aktuellstes Beispiel: ein Anwalt in den USA, der sich auf frei erfundene Antworten des auf Künstlicher Intelligenz basierenden Chatbots berief - und damit vor Gericht blamierte.

Steven A. Schwartz, seit mehr als 30 Jahren Anwalt bei der New Yorker Kanzlei Levidow, Levidow & Oberman, hatte laut einem Bericht der „New York Times“ in Vorbereitung einer Klage gegen eine Fluggesellschaft, die seinen Mandaten während eines Fluges mit einem Servierwagen angefahren hatte, Präzedenzfälle gesucht und sich dafür Hilfe suchend an ChatGPT gewandt.

Die KI wurde fündig und entdeckte gleich mehrere Präzedenzfälle inklusive der entsprechenden Aktenzeichen, die Schwartz an die gegnerischen Anwälte der Fluggesellschaft Avianca übermittelte. Dort konnte man die aufgelisteten Akten allerdings nicht finden, weshalb man nachbohrte. Schwartz kam der Bitte um zusätzliche Informationen nach und ließ sich von ChatGPT mehrseitige Auszüge aus den Akten zusammensuchen. Doch auch diese konnten die Avianca-Anwälte nicht zufriedenstellen.

„Unzuverlässige Quelle“
Denn wie sich herausstellte, waren sämtliche Präzedenzfälle inklusive Aktenzeichen und der Auszüge von ChatGPT erfunden worden. Dies räumte schließlich auch Schwartz in einer eidesstattlichen Erklärung vor einem Bezirksgericht in Manhattan ein. Er habe sich bei der Recherche von dem Chatbot unterstützen lassen, jedoch habe sich diese Quelle als „unzuverlässig erwiesen“, so der getäuschte Anwalt.

Dabei hatte dieser dem Bericht nach die KI sogar noch gefragt, ob die Fälle echt seien - was ChatGPT auch bejahte. Der Möglichkeit, dass die Inhalte des Chatbots falsch sein könnten, sei er sich nicht bewusst gewesen, sagte Schwartz, der den Chatbot laut eigenen Angaben zuvor nie genutzt hatte. Jedenfalls sei es nicht seine Absicht gewesen, das Gericht oder die Fluggesellschaft zu täuschen.

Vor Gericht sagte Schwartz, er bedauere es sehr, sich auf ChatGPT verlassen zu haben und werde dies „in Zukunft nicht mehr tun, ohne die Authentizität der Daten zu überprüfen“.