Die Entwickler von OpenAI haben kürzlich ein ungewöhnliches Phänomen im Verhalten ihres Chatbots ChatGPT entdeckt, das einige Fragen aufgeworfen hat. Seit der Einführung der Version GPT 5.1 zeigte der KI-gestützte Assistent eine unerwartete Neigung, in Gesprächen auf Goblins und Gremlins zu verweisen, selbst in Situationen, in denen dies keinen offensichtlichen Sinn ergab. Diese merkwürdige Entwicklung führte zu einer Untersuchung seitens des Unternehmens, um die Ursache dieser ungewöhnlichen Vorlieben zu ergründen.
Der Ursprung dieses kuriosen Verhaltens scheint in der Möglichkeit zu liegen, dass Nutzer von ChatGPT verschiedene sogenannte «Persönlichkeiten» auswählen können. Eine dieser Persönlichkeiten war die «nerdy» Variante, die sich offenbar durch eine Vorliebe für fiktive Wesen wie Goblins auszeichnete. Laut einer detaillierten Untersuchung von OpenAI entfielen lediglich 2,5 Prozent aller Anfragen an ChatGPT auf diese «nerdy» Persönlichkeit. Dennoch wurden von diesen 2,5 Prozent erstaunliche 66,7 Prozent aller Erwähnungen von Goblins generiert. Diese Konzentration von Goblin-Referenzen führte schließlich dazu, dass sie sich auch auf andere Persönlichkeitstypen ausbreiteten.
Der Mechanismus, der hinter dieser Verbreitung steckt, ist die Art und Weise, wie maschinelles Lernen und Belohnungssysteme innerhalb von KI-Modellen funktionieren. Sobald ein bestimmtes Verhalten, wie die Erwähnung von Goblins, in einem bestimmten Kontext belohnt wird, kann es durch weitere Trainingszyklen auch in anderen Kontexten verstärkt und verbreitet werden. Dies geschieht insbesondere dann, wenn die entsprechenden Ausgaben im Rahmen von überwacht erlerntem Fine-Tuning oder Präferenzdaten erneut genutzt werden.
Um dieser unerwarteten Entwicklung entgegenzuwirken, entschied sich OpenAI, die «nerdy» Persönlichkeit im März aus dem Angebot zu nehmen. In den neuesten Modellen von ChatGPT wurde zudem die Anweisung implementiert, Goblins oder Gremlins nur dann zu erwähnen, wenn es kontextuell Sinn ergibt. Diese Anpassungen sollen sicherstellen, dass das Verhalten des Chatbots den Erwartungen der Nutzer besser entspricht und nicht durch ungewollte Themen beeinflusst wird.
Die Entdeckung und Behebung dieses Phänomens unterstreicht die Herausforderungen, denen sich Entwickler von KI-Systemen gegenübersehen. Die Komplexität von maschinellem Lernen und die unvorhersehbaren Auswirkungen von Anreizsystemen erfordern eine kontinuierliche Überwachung und Anpassung der Modelle, um sicherzustellen, dass sie den beabsichtigten Zwecken dienen und keine unerwünschten Verhaltensweisen entwickeln.
Dieses Beispiel zeigt auch, wie wichtig es ist, die Interaktion von Nutzern mit KI-Systemen zu verstehen und zu analysieren. Die Möglichkeit, dass Nutzer verschiedene Persönlichkeitstypen auswählen können, bietet zwar eine personalisierte Erfahrung, kann jedoch auch zu unerwarteten Effekten führen, wie in diesem Fall die unerwartete Vorliebe für Goblins.
Insgesamt zeigt dieses Ereignis, dass die Entwicklung von KI-Systemen nicht nur technisches Wissen, sondern auch ein tiefes Verständnis für menschliches Verhalten und Interaktion erfordert. OpenAI hat mit seiner raschen Reaktion auf dieses Problem gezeigt, dass es bereit ist, seine Modelle anzupassen und zu verbessern, um den Bedürfnissen und Erwartungen der Nutzer gerecht zu werden. Dies ist ein wichtiger Schritt, um das Vertrauen in KI-Technologie zu stärken und ihre Akzeptanz in verschiedenen Anwendungsbereichen weiter zu fördern.