In den letzten Jahren hat sich die Nutzung von Künstlicher Intelligenz (KI) in vielen Bereichen unseres täglichen Lebens etabliert. Eine der populärsten Anwendungen ist ChatGPT, ein KI-gestützter Sprachbot, der von dem Unternehmen OpenAI entwickelt wurde. Doch jetzt kommen Details ans Licht, die zeigen, dass nicht nur Maschinen hinter den Kulissen arbeiten. Interne Dokumente und Berichte deuten darauf hin, dass Menschen bei OpenAI als „Prompt-Reviewer“ tätig sind und reale Nutzeranfragen lesen, um die Modelle zu verbessern.
Dieses Vorgehen wirft erhebliche Fragen zum Thema Datenschutz auf. Viele Nutzer verwenden ChatGPT nicht nur für banale Anfragen, sondern auch für sensible Gespräche, sei es als eine Art digitaler Therapeuten, persönlicher Assistent oder einfach als Gesprächspartner. Dabei offenbaren sie oft private Informationen. Obwohl OpenAI betont, dass die Benutzernamen der ChatGPT-Nutzer den Reviewern nicht angezeigt werden, und dass versucht wird, persönliche Daten vor dem Überprüfungsprozess zu entfernen, geben sie zu, dass dennoch sensible Informationen durchdringen können.
Der Prozess der menschlichen Überprüfung dient dazu, die Antworten der KI zu verbessern. Die Reviewer lesen die Eingaben der Nutzer, fassen zusammen, was sie glauben, dass der Nutzer erreichen will, und bewerten schließlich die von ChatGPT generierten Antworten. Eine der Herausforderungen besteht darin, die KI weniger menschlich und sycophantisch wirken zu lassen, da frühere Modelle in der Vergangenheit durch übertriebenes Lob und Menschlichkeit auffielen, was zu unerwarteten Konsequenzen führte.
OpenAI ist jedoch nicht das einzige Unternehmen, das auf menschliche Überprüfung setzt. Auch Anthropic, ein weiteres Unternehmen im Bereich der Sprachmodelle, hat bestätigt, dass es menschliche Reviewer zur Verbesserung seiner Modelle einsetzt. Diese Praxis zeigt, dass die Verbesserung von KI nicht nur auf Algorithmen und Daten basiert, sondern auch auf der menschlichen Fähigkeit, Nuancen und Kontexte zu verstehen, die Maschinen noch nicht vollständig erfassen können.
Der Beruf des Prompt-Reviewers bietet eine interessante Perspektive: die Arbeit ist gut bezahlt, mit Gehältern von über 50 Dollar pro Stunde, was deutlich über den üblichen Löhnen in der Technologiebranche liegt. Dies könnte jedoch ein vorübergehender Zustand sein, da die Nachfrage nach solcher Arbeit steigt und die Unternehmen möglicherweise versuchen werden, Kosten zu senken.
Die Enthüllung über die menschliche Beteiligung bei der Entwicklung von KI-Modellen führt zu einer breiteren Diskussion über die Transparenz und die Erwartungen der Nutzer. Während viele Menschen annehmen, dass ihre Interaktionen mit einer Maschine privat bleiben, zeigt sich nun, dass dies nicht immer der Fall ist. Es ist wichtig, dass Unternehmen ihre Nutzer über solche Praktiken informieren und klar kommunizieren, welche Daten möglicherweise von Menschen eingesehen werden.
Experten betonen, dass die menschliche Überprüfung von KI-Konversationen wesentlich für die Sicherheit und Verbesserung der Modelle ist, allerdings müsse dabei auch das Gefühl der Privatsphäre berücksichtigt werden, das in der Interaktion mit einem scheinbar rein technischen System entsteht. Dies unterscheidet sich deutlich von der Veröffentlichung von Inhalten in sozialen Medien, wo Nutzer eher damit rechnen, dass Inhalte moderiert und öffentlich sichtbar sind.
Es bleibt abzuwarten, wie sich diese Praktiken weiterentwickeln und welche Auswirkungen sie auf das Vertrauen der Nutzer in KI-Systeme haben werden. Klar ist jedoch, dass die menschliche Beteiligung ein unverzichtbarer Bestandteil in der Entwicklung und Verfeinerung von KI-Technologien bleibt.