OpenAI hat eine neue Version seines beliebten Chatbots ChatGPT speziell für Jugendliche eingeführt. Diese Ankündigung folgt auf zahlreiche Klagen, die den Mangel an Sicherheitsmaßnahmen bei AI-Chatbots kritisieren und diese mit schwerwiegenden psychischen Problemen bei Jugendlichen in Verbindung bringen. Die neue Version, ChatGPT für Teenager, soll mit erweiterten Sicherheitsvorkehrungen ausgestattet sein und auch das Problem des Schummelns im Bildungsbereich adressieren.
Eines der Hauptmerkmale des neuen Produkts ist der sogenannte «Study Mode». Dieser Modus soll Teenager dazu anregen, Neugier zu entwickeln und Problemlösungsfähigkeiten zu stärken, anstatt sich nur auf schnelle Antworten zu verlassen. Laut OpenAI wird der Study Mode durch leitende Fragen und schrittweise Unterstützung den Jugendlichen helfen, den Lernstoff besser zu verstehen. Zusätzlich sollen Hausaufgabenerinnerungen eingeblendet werden, wenn der Verdacht besteht, dass ein Jugendlicher eher versucht zu schummeln, als den Stoff zu verstehen. In solchen Fällen wird der Chatbot den Nutzer dazu auffordern, in den Study Mode zu wechseln.
Neben diesen Funktionen bietet die App auch Quizze, Lernvisualisierungen und Kontrollmöglichkeiten, die es Eltern oder Erziehungsberechtigten erlauben, zu entscheiden, wann der Study Mode standardmäßig aktiviert sein soll. Trotz dieser Maßnahmen bleibt unklar, wie schwer es für Jugendliche tatsächlich sein wird, diese neuen Systeme zu umgehen. Jugendliche sind oft sehr geschickt darin, elterliche Kontrollen und andere Einschränkungen digitaler Erlebnisse zu umgehen. Bis ChatGPTs Jugendmodus umfassender getestet wurde, bleibt es abzuwarten, wie effektiv diese Sicherheitsmaßnahmen in der Praxis wirklich sind.
OpenAI gibt an, dass die Schutzmaßnahmen in ChatGPT für Teenager, die standardmäßig aktiviert sind, darauf abzielen, die Exposition gegenüber schädlichen oder entwicklungsunpassenden Inhalten zu reduzieren. Diese Maßnahmen basieren auf den sogenannten «Under-18 Principles», die laut OpenAI von entwicklungsspezifischen wissenschaftlichen Erkenntnissen und Expertenmeinungen beeinflusst sind. Eltern haben außerdem die Möglichkeit, bereits eingeführte Familienschutz-Tools zu nutzen, um Einstellungen zu verwalten, Sicherheitsbenachrichtigungen zu erhalten und sogenannte «Quiet Hours» einzurichten.
In einer Partnerschaft mit CodeAI möchte OpenAI Jugendlichen helfen, mehr über künstliche Intelligenz zu lernen, darunter wie sie funktioniert, wie man sie steuert oder hinterfragt und wie man sie sinnvoll nutzt. In Schulen bietet OpenAI bereits ChatGPT für Lehrer an, um Schulen einen institutionell gesteuerten Zugang zu KI zu ermöglichen und zu unterstützen.
Die Einführung von ChatGPT für Teenager ist ein bedeutender Schritt in OpenAIs Bemühungen, sicherere und auf Jugendliche zugeschnittene Technologien zu entwickeln. Angesichts der zunehmenden Besorgnis über die Auswirkungen digitaler Technologien auf die psychische Gesundheit und das Wohlbefinden von Jugendlichen stellt diese neue Version des Chatbots einen Versuch dar, diese Herausforderungen direkt anzugehen. Auch wenn die Wirksamkeit dieser Maßnahmen noch zu sehen sein wird, zeigt die Initiative eine klare Absicht, die Interaktion junger Menschen mit KI sicherer und förderlicher zu gestalten.