Ein Richter aus Oklahoma hat zugegeben, in einer gerichtlichen Anordnung auf nicht existierende Fälle verwiesen zu haben, die er über ChatGPT gefunden hatte. Der Vorfall ereignete sich im Zusammenhang mit einem Sorgerechtsfall im November letzten Jahres, als der Bezirksrichter Lawrence Wheeler aus Stephens County einen Antrag eines Elternteils ablehnte, den anderen Elternteil einem psychologischen Test zu unterziehen. In seiner Begründung führte er mehrere frühere Fälle aus Oklahoma an, die seine Entscheidung stützen sollten. Diese Fälle stellten sich jedoch als nicht real heraus.
Die Oklahoma Council on Judicial Complaints beauftragte das Oklahoma State Bureau of Investigation (OSBI) mit der Untersuchung des Vorfalls. Laut einem Schreiben des Bezirksstaatsanwalts von Stephens County, Jason Hicks, an das Büro des Generalstaatsanwalts im August, räumte Wheeler gegenüber den OSBI-Agenten ein, dass er „mindestens zwei“ Fälle zitiert habe, die von ChatGPT vorgeschlagen wurden und die „nicht existieren“. Wheeler erklärte den Ermittlern, dass er die Anordnung letztlich selbst verfasst und die Künstliche Intelligenz nur für „Forschungszwecke“ genutzt habe.
Tim Gilpin, ein Anwalt und ehemaliger stellvertretender Generalstaatsanwalt, äußerte sich zu den Herausforderungen, die der zunehmende Einsatz von KI in Gerichtssälen mit sich bringt. „Selbst hier in Oklahoma sind Richter sehr verärgert, wenn Anwälte KI in ihren Schriftsätzen nutzen, es aber nicht klar dokumentieren“, sagte Gilpin. „KI ist das neue Terrain für viele Branchen, einschließlich des juristischen Bereichs.“ Er zeigte sich überrascht darüber, dass ein Richter den Angaben einer KI offenbar blindlings vertraut habe. „Es ist darauf programmiert, Ihnen die Antwort zu geben, die Sie suchen, und wahrscheinlich die Antwort, die Sie wollen“, erläuterte Gilpin. „Daher ist die erste Warnung, dass man genau prüfen muss, was einem angeboten wird.“
Das Büro des Generalstaatsanwalts teilte mit, dass es die Ergebnisse des OSBI geprüft habe, jedoch „die Beweise keine strafrechtliche Verfolgung unterstützen“. Zudem wurde darauf hingewiesen, dass der Oberste Gerichtshof von Oklahoma letztlich das Sagen habe, wenn es um disziplinarische Maßnahmen gegen Richter gehe.
Gilpin betonte, dass es für juristische Fachleute durchaus einen Mittelweg im Umgang mit KI geben könne – vorausgesetzt, sie wird korrekt eingesetzt. „Der Trick ist, KI als Werkzeug für uns Juristen zu nutzen“, erklärte Gilpin. „Es ist nicht die Antwort. Es ist ein Hilfsmittel, um zur Antwort zu gelangen. Und das gilt für Anwälte und Richter. Wenn wir es so nutzen, kann es hilfreich sein. Wenn nicht, wenn wir es als Anfang und Ende der Frage betrachten, dann geraten wir in Schwierigkeiten.“
Der Anwalt, der Richter Wheeler vertritt, lehnte eine Stellungnahme ab.
Der Fall wirft ein grelles Licht auf die Herausforderungen und Risiken der Integration von KI in den Rechtsbereich. Während KI-gestützte Technologien in vielen Bereichen zunehmend an Bedeutung gewinnen, zeigt dieser Vorfall die Notwendigkeit einer sorgfältigen und kritischen Auseinandersetzung mit den von KI bereitgestellten Informationen. Richter und Anwälte sind gefordert, die Verantwortung für die Überprüfung und Validierung der von Maschinen gelieferten Daten zu übernehmen, um die Integrität des rechtlichen Prozesses zu wahren.
Der Vorfall dürfte nicht nur in Oklahoma, sondern auch in anderen Gerichtsbarkeiten die Diskussion über den verantwortungsvollen Einsatz von KI in der Justiz anregen. Die Balance zwischen technologischen Innovationen und der Wahrung traditioneller juristischer Standards bleibt eine zentrale Herausforderung für die Rechtswelt.