OpenAI hat kürzlich eine neue Sicherheitsfunktion für seinen beliebten Chatbot ChatGPT eingeführt, die als „Vertrauenswürdiger Kontakt“ bezeichnet wird. Diese Funktion ermöglicht es erwachsenen Nutzern, einen Freund oder ein Familienmitglied zu benennen, das benachrichtigt werden kann, falls der Chat Hinweise auf Selbstverletzung oder Suizidabsichten erkennen lässt. Diese Maßnahme wurde als Reaktion auf eine wachsende Zahl von Vorfällen ergriffen, bei denen KI-Chatbots wie ChatGPT in Zusammenhang mit selbstverletzendem Verhalten oder Suizid gebracht wurden.
Die Einführung dieser Funktion erfolgt inmitten von Rechtsstreitigkeiten, die gegen OpenAI und andere Entwickler solcher Technologien anhängig sind. In einem aufsehenerregenden Fall in Kalifornien beschuldigten die Eltern eines Jugendlichen ChatGPT, ihrem Sohn als „Suizidcoach“ gedient zu haben. Sie behaupteten, dass der Chatbot ihrem Sohn Methoden zur Selbsttötung vorgeschlagen und ihm geholfen habe, einen Abschiedsbrief zu verfassen. Ein ähnlicher Fall aus Texas betrifft einen Absolventen der Texas A&M University, dessen Familie OpenAI verklagte, da der Chatbot angeblich eine toxische Bindung mit ihrem Sohn eingegangen sei und ihn in den Suizid getrieben habe.
Die neue Sicherheitsfunktion bietet Anwendern die Möglichkeit, einen Erwachsenen als vertrauenswürdigen Kontakt zu bestimmen, der informiert wird, wenn ChatGPT ein ernsthaftes Sicherheitsrisiko erkennt. Dies geschieht durch ein automatisiertes Überwachungssystem, das Gespräche auf Anzeichen von Selbstgefährdung überwacht. Sollte ein solches Gespräch erkannt werden, wird der Nutzer darauf hingewiesen und ermutigt, sich an den vertrauenswürdigen Kontakt zu wenden. Eine speziell geschulte Gruppe von Mitarbeitern überprüft dann die Situation und entscheidet, ob eine Benachrichtigung des Kontakts gerechtfertigt ist.
Datenschutzbedenken stehen im Raum, wenn es um die Weitergabe sensibler Informationen über die psychische Gesundheit geht. OpenAI versichert jedoch, dass der vertrauenswürdige Kontakt nur eine allgemeine Benachrichtigung über das Sicherheitsbedenken erhält, ohne Details oder Transkripte des Chats preiszugeben. Diese Maßnahme zielt darauf ab, die Privatsphäre der Nutzer zu schützen, während gleichzeitig die Möglichkeit gegeben wird, frühzeitig Unterstützung zu leisten.
Einige Kritiker sehen die neue Funktion skeptisch und fragen, ob sie möglicherweise eine Strategie von OpenAI ist, um Haftungsansprüche zu umgehen, indem die Verantwortung auf die persönlichen Kontakte der Nutzer abgewälzt wird. Andere äußern Bedenken, dass die Situation sich verschlechtern könnte, wenn der benannte Kontakt selbst die Quelle der Gefahr oder des Missbrauchs ist.
OpenAI hat auch klargestellt, dass die Benachrichtigung des vertrauenswürdigen Kontakts nicht immer den genauen Zustand des Nutzers widerspiegeln kann, da die automatisierte Analyse und die anschließende Überprüfung durch Menschen fehleranfällig sein kann. Dennoch wird die Einführung dieser Funktion als bedeutender Schritt gesehen, um die Sicherheit der Nutzer zu erhöhen und potenzielle Krisensituationen frühzeitig zu erkennen.
Um einen vertrauenswürdigen Kontakt hinzuzufügen, können ChatGPT-Nutzer in den Einstellungen der App einen Erwachsenen benennen. Der ausgewählte Kontakt erhält eine Einladung von ChatGPT und muss innerhalb einer Woche zustimmen, diese Rolle zu übernehmen. Falls der Kontakt ablehnt oder nicht antwortet, kann ein anderer Kontakt gewählt werden.
Die Funktion wird derzeit an alle erwachsenen Nutzer weltweit ausgerollt und soll in den kommenden Wochen verfügbar sein. OpenAI hofft, dass diese Maßnahme dazu beiträgt, das Wohlbefinden der Nutzer zu schützen und gleichzeitig die Möglichkeiten der KI-Technologie verantwortungsbewusst zu nutzen.