Drei Anwälte, die das Gefängnissystem von Alabama vertreten, wurden von einem Bundesrichter öffentlich gerügt, weil sie gefälschte juristische Zitate in Gerichtsdokumenten verwendet haben. Die Anwälte Matthew Reeves, William Cranford und William Lunsford, die für die renommierte Kanzlei Butler Snow tätig sind, wurden von US-Bezirksrichterin Anna Manasco scharf kritisiert. Sie warf ihnen vor, «halluzinierte» Zitate von ChatGPT, einer weit verbreiteten generativen Künstlichen Intelligenz, verwendet zu haben.
In ihrem Beschluss erklärte Richterin Manasco, dass die Anwälte von dem Fall entbunden wurden, in dem sie das Alabama Department of Corrections in einer Klage eines Häftlings vertraten. Die Anwälte dürfen die Gefängnisbehörde jedoch weiterhin in anderen Fällen vertreten, einschließlich einer Klage des Justizministeriums aus dem Jahr 2020. Reeves hatte sich bereits vor einigen Monaten aus diesem Fall zurückgezogen.
Manasco ordnete an, dass die Anwälte eine Kopie des Sanktionsbeschlusses an alle ihre Klienten, gegnerischen Anwälte und Richter in allen von ihnen betreuten Fällen weiterleiten müssen. Zudem müssen sie den Beschluss an alle Anwälte in ihrer Kanzlei Butler Snow verteilen. Die betreffenden Anwälte arbeiten im Büro in Huntsville.
Der Beschluss wurde auch in einer bundesweiten juristischen Publikation veröffentlicht. Richterin Manasco erklärte, dass die Erfindung juristischer Autoritäten ein schwerwiegendes Fehlverhalten darstelle, das strenge Sanktionen erfordere. Sie kritisierte außerdem das Alabama Department of Corrections dafür, dass es die Anwälte weiterhin beschäftigt.
Lunsford, der seit über zwei Jahrzehnten das Gefängnissystem vertritt und als Stellvertretender Generalstaatsanwalt von Alabama fungiert, hat seit 2020 laut staatlichen Aufzeichnungen 42 Millionen Dollar für seine Dienste erhalten.
Die gefälschten Zitate wurden in einem Fall verwendet, der 2021 von einem Insassen der Donaldson Correctional Facility in Bessemer eingereicht wurde. Der Insasse war in den Jahren 2019 und 2020 mehrfach mit einem Messer angegriffen worden.
Der Vorfall mit den erfundenen Zitaten kam im Mai ans Licht, als ein Anwalt des Häftlings einen Antrag einreichte, der die Referenzen in Frage stellte. Richterin Manasco versuchte, die Zitate selbst zu überprüfen, konnte sie jedoch nicht finden. Daraufhin forderte sie die Anwälte von Butler Snow auf, zu erklären, warum sie nicht wegen Falschdarstellungen von Tatsachen oder Gesetzen bestraft werden sollten.
In einer Stellungnahme vom 19. Mai erklärte Lunsford, dass Reeves ChatGPT verwendet habe, um Fallzitate für zwei Argumente in den betreffenden Anträgen zu erhalten, ohne deren Richtigkeit zu überprüfen, und dass sich diese Zitate als falsch erwiesen hätten.
Lunsford und sein Team bedauerten den Fehler zutiefst und entschuldigten sich bei allen Beteiligten. Richterin Manasco betonte jedoch, dass selbst in Fällen, in denen Anwälte die Verantwortung für ihre Fehler übernehmen und sich entschuldigen, erheblicher Schaden angerichtet werde.
Lunsford erklärte, dass die Nutzung der KI ein Fehlurteil gewesen sei und dass alles unternommen werde, um sicherzustellen, dass sich ein solcher Vorfall nicht wiederhole. Reeves räumte in seiner Erklärung ein, dass er in der Eile, die Anträge abzuschließen, versäumt habe, die von ChatGPT gelieferten Zitate unabhängig zu überprüfen.
Richterin Manasco erläuterte in ihrem Beschluss, dass strengere Sanktionen notwendig seien, da Geldstrafen nicht ausreichten, um die Gefahren, die von gefälschten Zitaten für die gerechte Rechtsprechung und die Integrität des Justizsystems ausgehen, einzudämmen.
Butler Snow führte eine Überprüfung ihrer anderen Fälle durch, um sicherzustellen, dass keine weiteren von KI generierten Zitate oder andere Probleme auftraten. Die Kanzlei überprüfte 52 Bundesgerichtsverfahren und fand keine ähnlichen Probleme. Eine unabhängige Gruppe bestätigte diese Ergebnisse ebenfalls.