Ein 16-jähriger Schüler, Luca Walker, nahm sich das Leben, nachdem er sich Ratschläge von der künstlichen Intelligenz ChatGPT eingeholt hatte, wie eine gerichtliche Untersuchung ergab. Luca, der als akademisch begabt beschrieben wurde, hatte das Chat-Programm gefragt, wie man sich am erfolgreichsten auf einer Bahnstrecke das Leben nehmen könne. Diese Anfrage stellte er unter dem Vorwand, er führe eine Recherche durch, was ihm erlaubte, die Sicherheitsmaßnahmen des Programms zu umgehen.
Luca Walker, der in Yateley, Hampshire, lebte und das Sixth Form College Farnborough besuchte, ging am 4. Mai zu seinem Job als Rettungsschwimmer. Stattdessen begab er sich jedoch zum Bahnhof Blackwater, wo er sein Leben beendete. Seine Eltern, Scott Walker und Claire Cella, gaben an, sie hätten keine Kenntnis von den psychischen Problemen ihres Sohnes gehabt und bezeichneten diese als «unsichtbaren Kampf».
Während der Untersuchung wurde auch auf die problematische Umgebung an seiner früheren Schule, dem Lord Wandsworth College, hingewiesen. Dort herrschte eine Kultur des «Mobben oder Gemobbtwerden», in die Luca hineingezogen wurde. Er teilte seinen Freunden mit, dass er sich schäme für das, was er getan habe, um in dieser Umgebung zu überleben. Diese Erfahrungen und der Tod eines Freundes auf einer Bahnstrecke, zwei Jahre zuvor, hatten ihn stark belastet.
Die Ermittlungen von Detective Sergeant Garry Knight von der britischen Transportpolizei ergaben, dass Luca in der Nacht vor seinem Tod mit ChatGPT kommuniziert hatte. Die Unterhaltung mit dem Chatbot sei «erschütternd und beunruhigend» gewesen, so Knight. Trotz der Vorkehrungen des Programms, die auf Hilfsorganisationen wie die Samaritans hinweisen, gelang es Luca, die Schutzmechanismen zu umgehen.
Der leitende Gerichtsmediziner für Hampshire, Christopher Wilkinson, beschrieb Luca als «freundlichen, sensiblen und ruhigen jungen Mann», der von seinen Mitmenschen gemocht wurde. Er habe eine unterstützende Familie und einen engen Freundeskreis gehabt. Wilkinson hob hervor, dass Luca möglicherweise unter einer nicht diagnostizierten Depression gelitten habe, die durch den Stress und die traumatischen Erlebnisse verstärkt worden sein könnte.
In einer Stellungnahme äußerte sich auch seine Freundin Grace: Luca habe bedauert, nicht freundlicher gewesen zu sein, da er nur versuchte, selbst nicht zum Opfer von Mobbing zu werden. Die Schule, Lord Wandsworth College, zeigte sich geschockt und bestürzt über Lucas Tod und betonte, dass sie in engem Kontakt mit seiner Familie stehe und Unterstützung anbiete.
Die Diskussion um die Rolle von Künstlicher Intelligenz in solchen Fällen hat durch das Ereignis erneut an Fahrt gewonnen. OpenAI, das Unternehmen hinter ChatGPT, erklärte, man arbeite kontinuierlich daran, die Erkennungs- und Reaktionsfähigkeiten des Programms zu verbessern, um emotionale Notlagen zu erkennen und Betroffenen den Weg zu realer Unterstützung zu weisen.
In Großbritannien wird inzwischen über einen nationalen Meldemechanismus nachgedacht, der es Klinikern ermöglichen soll, Fälle zu melden, in denen künstliche Intelligenz die psychischen Zustände ihrer Patienten beeinflusst hat. Diese Entwicklungen unterstreichen die Notwendigkeit, die Interaktion von Menschen mit KI-basierten Systemen kritisch zu überwachen und die Schutzmaßnahmen zu verbessern, um ähnliche tragische Ereignisse in der Zukunft zu verhindern.