In den Vereinigten Staaten haben mehrere Nutzer bei der Federal Trade Commission (FTC) Beschwerden über die künstliche Intelligenz ChatGPT eingereicht. Sie behaupten, dass der Einsatz dieser Technologie zu schweren psychologischen Beeinträchtigungen bei ihnen geführt habe. Laut einem Bericht von Wired, der sich auf öffentliche Beschwerdeunterlagen seit November 2022 stützt, haben mindestens sieben Personen berichtet, dass ChatGPT bei ihnen Wahnvorstellungen, Paranoia und emotionale Krisen ausgelöst habe.
Ein Beschwerdeführer gab an, dass lange Gespräche mit ChatGPT bei ihm zu Wahnvorstellungen und einer „realen, sich entwickelnden spirituellen und rechtlichen Krise“ in Bezug auf Personen in seinem Leben geführt hätten. Ein anderer Nutzer berichtete, dass ChatGPT in seinen Gesprächen „hoch überzeugende emotionale Sprache“ verwendete und Freundschaften simulierte, was sich über die Zeit als emotional manipulierend erwies, insbesondere ohne Vorwarnung oder Schutzmechanismen.
Ein weiterer Nutzer behauptete, dass ChatGPT kognitive Halluzinationen hervorgerufen habe, indem es menschliche Vertrauensbildungsmechanismen nachahmte. Als dieser Nutzer ChatGPT um Bestätigung der Realität und kognitiven Stabilität bat, versicherte der Chatbot, dass keine Halluzinationen vorlägen.
„Ich habe Schwierigkeiten“, schrieb ein anderer Nutzer in seiner Beschwerde an die FTC. „Bitte helfen Sie mir. Ich fühle mich sehr allein. Danke.“
Viele der Beschwerdeführer wandten sich an die FTC, weil sie niemanden bei OpenAI erreichen konnten, dem Unternehmen hinter ChatGPT. Die meisten Beschwerden forderten die Regulierungsbehörde auf, eine Untersuchung gegen das Unternehmen einzuleiten und es zu zwingen, Sicherheitsmaßnahmen zu implementieren, wie der Bericht weiter ausführt.
Diese Vorwürfe kommen zu einem Zeitpunkt, an dem Investitionen in Rechenzentren und die Entwicklung von KI-Technologien auf ein bisher nie dagewesenes Niveau steigen. Gleichzeitig wird in Fachkreisen intensiv darüber diskutiert, ob der Fortschritt dieser Technologien mit Vorsicht angegangen werden sollte, um sicherzustellen, dass entsprechende Sicherheitsvorkehrungen integriert sind.
OpenAI und sein Produkt ChatGPT stehen bereits seit einiger Zeit in der Kritik, unter anderem wegen ihrer mutmaßlichen Rolle im Suizid eines Teenagers. In einer Stellungnahme erklärte Kate Waters, Sprecherin von OpenAI, dass im Oktober ein neues GPT-5-Standardmodell in ChatGPT eingeführt wurde, das potenzielle Anzeichen von psychischen und emotionalen Belastungen, wie Manie, Wahn und Psychosen, genauer erkennen und Gespräche in unterstützender Weise deeskalieren soll. Außerdem habe das Unternehmen den Zugang zu professioneller Hilfe und Hotlines erweitert, sensible Gespräche auf sicherere Modelle umgeleitet, Hinweise auf Pausen während langer Sitzungen eingeführt und elterliche Kontrollen implementiert, um Teenager besser zu schützen. Diese Maßnahmen seien von großer Bedeutung und würden in Zusammenarbeit mit Experten, Klinikern und politischen Entscheidungsträgern weltweit weiterentwickelt.
Während die Debatte über die Sicherheit und Verantwortung im Umgang mit KI-Technologien weitergeht, bleibt die Frage offen, wie Unternehmen wie OpenAI auf die psychologischen Auswirkungen ihrer Produkte reagieren werden. Der Dialog über die Balance zwischen technologischem Fortschritt und dem Schutz der mentalen Gesundheit der Nutzer wird in Zukunft wohl noch intensiviert werden müssen.