OpenAI hat kürzlich eine neue Version seines beliebten Chatbots ChatGPT für Jugendliche auf den Markt gebracht, die speziell auf die Bedürfnisse junger Nutzer zugeschnitten ist. Diese neue Initiative folgt der Ankündigung des Unternehmens, ein System zu entwickeln, das automatisch Jugendliche identifizieren und deren Nutzung von ChatGPT einschränken kann, nachdem der Suizid eines 16-Jährigen in Verbindung mit dem Chatbot in den Medien breite Beachtung fand.
Lauren Jonas, Leiterin der Abteilung für Jugend und Familien bei OpenAI, erklärte, dass Jugendliche, die als unter 18 Jahre alt erkannt werden oder dies selbst angeben, automatisch auf die neue Version umgeleitet werden. Diese Version soll sie dazu anregen, die zunehmend eingeführten Bildungsfunktionen von OpenAI zu nutzen, darunter der sogenannte «Study Mode» und interaktive Datenvisualisierungen.
OpenAI hat zudem angekündigt, Sicherheitsbenachrichtigungen zu erweitern, sodass Eltern mit verknüpften Konten informiert werden, wenn ihre Kinder riskante Diskussionen, etwa über Essstörungen, mit dem Chatbot führen. Die neuen Richtlinien sollen romantische Sprache und emotionale Abhängigkeit des Chatbots gegenüber Jugendlichen vermeiden und so gesunde, reale Beziehungen fördern.
Ungeachtet der Verbesserungen äußern Kinderschutzexperten weiterhin Bedenken und fordern unabhängige Tests, um die Wirksamkeit der neuen Sicherheitsfunktionen zu überprüfen. Sie betonen, dass OpenAI mehr Transparenz über die Funktionsweise seiner Sicherheitsmechanismen bieten müsse. Robbie Torney, Leiter der Abteilung für KI und digitale Bewertungen bei Common Sense Media, erklärt, dass die angekündigten Verpflichtungen wichtig seien, aber Beweise erforderlich sind, um ihre Wirksamkeit nachzuweisen.
Kritik kommt auch von Josh Golin, Geschäftsführer der gemeinnützigen Organisation Fairplay, die sich für eine sicherere Internetnutzung für Kinder einsetzt. Er hebt hervor, dass das Vertrauen in Unternehmen beim Schutz von Kindern nicht ausreichend sei und dass ein Mechanismus zur Verantwortlichkeit fehle. Vorherige Inhaltsbeschränkungen in Bezug auf Suizid, Gewalt und Drogenkonsum hätten nicht wie gewünscht funktioniert oder seien im Laufe der Zeit erodiert.
Ein weiteres großes Thema bleibt die automatische Altersverifikation. Torney und Golin zweifeln an der Zuverlässigkeit des Systems, das Jugendliche erkennen und auf die neue Version umleiten soll. Sie erwähnen, dass es keine veröffentlichten Daten über die Fehlerraten des Systems gibt und dass Jugendliche versuchen könnten, die Altersverifikation zu umgehen, sei es durch technische Hilfsmittel wie VPNs oder andere kreative Lösungen.
Ebenfalls zur Diskussion steht OpenAIs Zusicherung, dass alle markierten Inhalte von Mitarbeitern überprüft werden, bevor Eltern benachrichtigt werden. Jonas von OpenAI erklärte, dass das Unternehmen über die notwendigen Kapazitäten verfüge, um sicherzustellen, dass Eltern innerhalb einer Stunde benachrichtigt würden. Experten wie Torney heben jedoch hervor, dass es fraglich sei, ob ausreichend Personal vorhanden sei, um eine gründliche Überprüfung der potenziell problematischen Chats zu gewährleisten.
Ein weiteres bedeutendes Thema ist der Umgang mit Essstörungen. Ellen Fitzsimmons-Craft, Professorin für Psychologie und Neurowissenschaften an der Washington University in St. Louis, betont, dass Essstörungen häufiger vorkommen als allgemein angenommen und eine hohe Sterblichkeitsrate unter Jugendlichen aufweisen. OpenAIs Ansatz, Eltern in solche Diskussionen einzubeziehen, wird als positiv bewertet, da Eltern eine entscheidende Rolle im Behandlungsprozess spielen können.
Jedoch betont Golin, dass solche Funktionen in kleinem Rahmen getestet werden sollten, um sicherzustellen, dass sie zu besseren Ergebnissen für die Jugendlichen führen. Er kritisiert, dass die Ankündigung eher wie eine PR-Maßnahme wirke als wie ein durchdachtes Konzept zur Unterstützung von Jugendlichen.
Abschließend bleibt zu sagen, dass OpenAI die Sicherheitsmechanismen weiter verbessern möchte und plant, diese in Zusammenarbeit mit Experten, Familien und Jugendlichen zu testen. Die Frage, wie mit nicht verknüpften Konten verfahren wird, bleibt jedoch unbeantwortet.