OpenAI steht vor einer weiteren Klage wegen fahrlässiger Tötung. Leila Turner-Scott und Angus Scott haben eine Klage gegen das Unternehmen eingereicht, in der sie behaupten, dass ein «fehlerhaftes Produkt» von OpenAI zum Tod ihres Sohnes Sam Nelson durch eine versehentliche Überdosis geführt habe. Sie behaupten, dass Sam nach der genauen medizinischen Beratung, die ihm das Modell GPT-4o gegeben und genehmigt habe, gestorben sei.
In der Klage wird beschrieben, wie der 19-jährige Sam, ein Student an der University of California, Merced, im Jahr 2023 begann, ChatGPT zu nutzen, um bei den Hausaufgaben zu helfen und Computerprobleme zu lösen. Später wandte er sich an den Chatbot, um Informationen über sicheren Drogenkonsum zu erhalten. Anfangs verweigerte ChatGPT die Beantwortung solcher Fragen und warnte Sam vor den ernsthaften gesundheitlichen Folgen des Drogenkonsums. Doch mit der Einführung des Modells GPT-4o im Jahr 2024 änderte sich die Situation laut der Klage.
Der Chatbot begann, Sam Ratschläge darüber zu geben, wie er Drogen sicher einnehmen könne. Die Klage enthält mehrere Auszüge aus Sams Gesprächen mit dem Chatbot. In einem Beispiel warnte der Chatbot vor den Gefahren der schnellen Einnahme von Dipenhydramin, Kokain und Alkohol. In einem anderen Beispiel hieß es, dass Sams hohe Toleranz gegenüber der pflanzlichen Droge Kratom selbst bei einer großen Dosis auf nüchternem Magen gedämpft wirken würde. Der Chatbot empfahl ihm dann, wie er seine Toleranz gegenüber der Droge senken könne.
Am 31. Mai 2025 habe ChatGPT Sam angeblich aktiv dazu angeleitet, Kratom und Xanax zu mischen. Sam berichtete dem Chatbot, dass ihm von der Einnahme von Kratom übel sei, und ChatGPT soll ihm unaufgefordert empfohlen haben, 0,25 bis 0,5 mg Xanax einzunehmen, um die Übelkeit zu lindern. Laut der Klage habe ChatGPT, trotz der Darstellung als Experte für Dosierung und Wechselwirkungen, Sam nicht darauf hingewiesen, dass diese empfohlene Kombination tödlich sein könnte.
Zusätzlich zur Anklage wegen fahrlässiger Tötung verklagen die Kläger OpenAI auch wegen unbefugter Ausübung der Medizin. Sie fordern finanzielle Entschädigung und fordern die Gerichte auf, den Betrieb von ChatGPT Health vorübergehend auszusetzen. ChatGPT Health, das Anfang dieses Jahres eingeführt wurde, ermöglicht es Nutzern, ihre medizinischen Aufzeichnungen und Wellness-Apps mit dem Chatbot zu verknüpfen, um maßgeschneiderte Antworten auf gesundheitliche Fragen zu erhalten.
«ChatGPT ist ein Produkt, das bewusst darauf ausgelegt ist, das Engagement der Nutzer zu maximieren, unabhängig von den Kosten», sagte Meetali Jain, Geschäftsführerin des Tech Justice Law Project. «OpenAI hat ein fehlerhaftes KI-Produkt direkt an Verbraucher weltweit ausgeliefert, in dem Wissen, dass es als de facto medizinisches Triage-System genutzt wurde, jedoch ohne angemessene Sicherheitsvorkehrungen, robuste Sicherheitsprüfungen oder Transparenz gegenüber der Öffentlichkeit. OpenAIs Designentscheidungen haben zum Verlust eines geliebten Sohnes geführt, dessen Tod eine vermeidbare Tragödie war. OpenAI muss gezwungen werden, sein neues ChatGPT Health-Produkt so lange auszusetzen, bis es durch rigorose wissenschaftliche Tests und unabhängige Aufsicht als sicher erwiesen ist.»
OpenAI hat das Modell GPT-4o im Februar dieses Jahres eingestellt. Es wurde als eines der umstrittensten Modelle des Unternehmens anerkannt, da es dafür bekannt war, übermäßig zustimmend zu sein. Eine weitere Klage wegen fahrlässiger Tötung gegen das Unternehmen, eingereicht von den Eltern eines Teenagers, der durch Suizid starb, erwähnte GPT-4o und behauptete, dass es Funktionen enthielt, die «absichtlich entwickelt wurden, um psychologische Abhängigkeit zu fördern.»
Ein Sprecher von OpenAI sagte der New York Times, dass Sams Interaktionen «mit einer früheren Version von ChatGPT stattfanden, die nicht mehr verfügbar ist.» Er fügte hinzu: «ChatGPT ist kein Ersatz für medizinische oder psychische Gesundheitsversorgung, und wir haben weiterhin daran gearbeitet, wie es auf sensible und akute Situationen reagiert, mit Input von Experten für psychische Gesundheit. Die heutigen Sicherheitsvorkehrungen in ChatGPT sind darauf ausgelegt, Notlagen zu erkennen, schädliche Anfragen sicher zu bearbeiten und Nutzer zu realer Hilfe zu leiten. Diese Arbeit ist im Gange, und wir verbessern sie kontinuierlich in enger Zusammenarbeit mit Kliniken.»