OpenAI hat eine neue Sicherheitsfunktion für ChatGPT eingeführt, die erwachsenen Nutzern erlaubt, einen Notfallkontakt für mentale Gesundheits- und Sicherheitsanliegen zu benennen. Diese als „Trusted Contact“ bezeichnete Person – sei es ein Freund, ein Familienmitglied oder ein Betreuer – wird benachrichtigt, wenn OpenAI feststellt, dass ein Nutzer Themen wie Selbstverletzung oder Suizid mit dem Chatbot besprochen hat.
Dieses Feature basiert auf der Annahme, dass in Krisensituationen der Kontakt zu jemandem, dem man vertraut, einen bedeutenden Unterschied machen kann. Es ergänzt die bereits existierenden, lokalisierten Notrufnummern, die in ChatGPT verfügbar sind. Die Einführung dieser Funktion zielt darauf ab, eine zusätzliche Sicherheitsebene zu schaffen und die Nutzer in möglichen Krisensituationen besser zu unterstützen.
Die Nutzung der „Trusted Contact“-Funktion ist freiwillig. Jeder erwachsene ChatGPT-Nutzer kann diese aktivieren, indem er in den Einstellungen von ChatGPT die Kontaktdaten einer anderen volljährigen Person hinterlegt. Diese muss die Einladung innerhalb einer Woche bestätigen. Nutzer haben jederzeit die Möglichkeit, den Kontakt zu ändern oder zu entfernen, und auch die benannte Vertrauensperson kann sich jederzeit abmelden.
Wichtig ist, dass die Benachrichtigung an die Vertrauensperson bewusst eingeschränkt ist und keine Details oder Transkripte der Gespräche geteilt werden. Sollte das System von OpenAI feststellen, dass ein Nutzer über Selbstverletzung spricht, wird der Nutzer ermutigt, Kontakt zu seiner Vertrauensperson aufzunehmen, während diese über die potenzielle Gefahr informiert wird. Eine kleine Gruppe speziell geschulter Mitarbeiter überprüft dann die Situation, bevor eine kurze Nachricht per E-Mail, SMS oder In-App-Benachrichtigung an die Vertrauensperson gesendet wird, wenn ernsthafte Sicherheitsbedenken bestehen.
Diese Entwicklung baut auf einer Notfallkontaktfunktion auf, die im September zusammen mit den elterlichen Kontrolloptionen von ChatGPT eingeführt wurde, nachdem der tragische Fall eines 16-Jährigen bekannt wurde, der sich nach monatelangen Gesprächen mit ChatGPT das Leben nahm. Auch andere Unternehmen wie Meta haben ähnliche Sicherheitsfunktionen implementiert. Auf Instagram erhalten Eltern eine Benachrichtigung, wenn ihre Kinder wiederholt nach Themen zur Selbstverletzung suchen.
Die Einführung dieser Funktion unterstreicht die zunehmende Bedeutung von KI-gestützten Technologien im Bereich der psychischen Gesundheit und Sicherheit. Während Chatbots wie ChatGPT zunehmend in das tägliche Leben integriert werden, wächst die Verantwortung der Entwickler, den Schutz der Nutzer zu gewährleisten und potenzielle Risiken abzumildern. OpenAI zeigt mit dieser Maßnahme, dass das Unternehmen bereit ist, seine Systeme kontinuierlich zu verbessern und auf die Bedürfnisse der Nutzer einzugehen.
Gleichzeitig wird damit die Diskussion über die ethischen und technischen Herausforderungen, die mit der Nutzung von KI in sensiblen Bereichen einhergehen, weiter angeheizt. Fragen zur Privatsphäre, zur Genauigkeit der Systeme und zur Verantwortung der Entwickler bleiben bestehen und erfordern eine fortlaufende Auseinandersetzung. Dennoch stellt die Einführung der „Trusted Contact“-Funktion einen bedeutenden Schritt dar, um die Sicherheit und das Wohlbefinden der Nutzer von ChatGPT zu verbessern.