OpenAI, das Unternehmen hinter dem bekannten Sprachmodell ChatGPT, plant die Einführung eines neuen Modus, der Erwachsenenunterhaltung in textueller Form ermöglichen soll. Diese «Erwachsenenmodus» genannte Funktion soll es Nutzern erlauben, Gespräche mit anzüglichen Inhalten zu führen, ohne jedoch in den Bereich der Pornografie abzudriften. Trotz der ursprünglichen Ankündigung im Oktober hat sich die Einführung dieser Funktion verzögert, da Bedenken bezüglich der Moderation und des Schutzes von Minderjährigen bestehen.
Laut einem Sprecher von OpenAI, der anonym bleiben möchte, wird der Fokus des neuen Modus auf der Generierung von Textinhalten liegen, wobei die Erstellung von Bildern, Sprache oder Videos vorerst nicht vorgesehen ist. Diese Entscheidung könnte OpenAI helfen, sich an gesetzliche Vorschriften wie das britische Online-Sicherheitsgesetz zu halten, das strenge Regelungen für pornografische Bilder, jedoch nicht für geschriebene Inhalte vorschreibt.
Die Verzögerung der Einführung des Erwachsenenmodus ist auf interne Diskussionen und technische Herausforderungen zurückzuführen. Ein von OpenAI eingesetzter Beraterstab äußerte Bedenken, dass der Erwachsenenmodus möglicherweise für Kinder zugänglich sein könnte und dass eine ungesunde emotionale Abhängigkeit von der KI entstehen könnte. Ein Mitglied des Rats warnte vor der Gefahr, dass ChatGPT zu einer Art «sexy Selbstmord-Coach» werden könnte.
Ein weiterer Grund für die Verzögerung liegt in den Schwierigkeiten bei der Moderation von Inhalten. OpenAI steht vor der Herausforderung, die Beschränkungen für nicht jugendfreie Inhalte zu lockern und gleichzeitig sicherzustellen, dass schädliche Szenarien, wie solche, die nicht einvernehmliches Verhalten oder Kindesmissbrauch darstellen, weiterhin ausgeschlossen bleiben.
Die von OpenAI entwickelte Altersvorhersage-Technologie, die verhindern soll, dass Minderjährige Zugang zu den erotischen Inhalten erhalten, hat sich als unzuverlässig erwiesen. Es wurde festgestellt, dass Minderjährige in etwa 12 Prozent der Fälle fälschlicherweise als Erwachsene klassifiziert wurden. Angesichts der Tatsache, dass ChatGPT wöchentlich von rund 100 Millionen Nutzern unter 18 Jahren genutzt wird, könnte dieser Fehler Millionen von Minderjährigen ungewollt Zugang zu den sexualisierten Gesprächen verschaffen.
OpenAI hat noch keinen neuen Zeitplan für die Einführung des Erwachsenenmodus bekannt gegeben, betont jedoch, dass sie weiterhin an der Verbesserung der Sicherheitsmaßnahmen arbeiten. Diese Maßnahmen sind besonders wichtig, um den Missbrauch der KI zu verhindern und sicherzustellen, dass sie nicht in schädlicher Weise eingesetzt wird.
Während OpenAI sich auf textbasierte Inhalte konzentriert, gehen andere KI-Unternehmen in eine andere Richtung. Beispielsweise hat xAI, das Unternehmen von Elon Musk, kürzlich die Einführung eines Bild- und Videogenerators angekündigt, der Inhalte erstellen kann, die in einem R-rated-Film erlaubt wären.
Die Einführung des Erwachsenenmodus bei ChatGPT wird von vielen als wegweisender Schritt gesehen, um die Möglichkeiten von KI in der Erwachsenenunterhaltung zu erkunden. Dennoch bleibt die Herausforderung bestehen, die richtige Balance zwischen Innovation und Verantwortung zu finden. OpenAI steht vor der Aufgabe, die Interessen der Nutzer mit dem Schutz von Minderjährigen und der Einhaltung gesetzlicher Vorschriften in Einklang zu bringen.