Der KI-Forscher Diogo Almeida, einst bei OpenAI tätig, zeigt sich enttäuscht über die begrenzten Möglichkeiten der von ihm mitentwickelten Technologien. Trotz der beeindruckenden Fortschritte, die durch die Einführung von ChatGPT und der Verstärkung von Lernmethoden durch menschliches Feedback (RLHF) erzielt wurden, fühlt Almeida, dass die Optimierung menschlicher Sprache allein nicht ausreicht, um echten technologischen Fortschritt zu erzielen. Seiner Ansicht nach sprechen Computer eine andere „Sprache“, die für Automatisierungszwecke besser geeignet ist.
Vor zwei Jahren verließ Almeida OpenAI, um TypeSafe AI zu gründen, ein Unternehmen, das sich der Lösung dieses Problems widmet. Diese Woche brachte das Unternehmen ein neues, transformer-basiertes Modell namens Jev auf den Markt, das sich von den gängigen großen Sprachmodellen (LLM) unterscheidet. Statt Text zu generieren, produziert Jev Wahrscheinlichkeiten, die als „kalibrierte Entscheidungen“ bezeichnet werden.
Das Modell verzichtet auf Sprachgenerierung, was es besonders kostengünstig und schnell macht. Da die Ausgaben im Vorfeld definiert werden, kann das Modell nicht „halluzinieren“. Die Nutzung von Jev hat unter Entwicklern großes Interesse geweckt. Die riesige Nachfrage führte zeitweise dazu, dass die API des Unternehmens überlastet war. Jev zeigt sich besonders nützlich im Bereich der Software-Automatisierung. Entwickler sehen es als kostengünstigere und robustere Möglichkeit, Intelligenz in ihren Code zu integrieren.
Ein Beispiel für den Einsatz von Jev ist Vercel, ein Unternehmen, das auf agentische Infrastrukturen spezialisiert ist. Deren Software-Ingenieur Pranit Sharma berichtete, dass der Wechsel von OpenAIs ChatGPT Luna 5.6 zu Jev die Geschwindigkeit und Genauigkeit der Klassifizierung von Befehlen erheblich verbessert habe. Auch Bryo AI, ein anderes Unternehmen, testete Jev im Vergleich zu Gemini zur Klassifizierung von Geschäftsemails. Obwohl Gemini eine etwas höhere Genauigkeit erreichte, erwies sich Jev als deutlich kostengünstiger und schneller. Besonders angetan war Bryo AIs CTO Nikhil Mudholkar von den vertrauenswürdigen Wahrscheinlichkeitsbewertungen, die Jev liefert, was es ideal für die Automatisierung von Arbeitsabläufen macht.
Jev kann nicht nur als Ersatz für LLMs in bestimmten Anwendungen dienen, sondern diese auch ergänzen, indem es als intelligente Kontrolle gegen Fehlverhalten fungiert. Almeida argumentiert, dass die Überwachung von Agenten durch andere Agenten kostenintensiv werden kann, während die Nutzung von Jev hierbei sinnvoll sei. Er sieht die Anwendung von Jev zur Verfolgung von LLM-Agenten-Spuren und zur Vermeidung von Sicherheitslücken.
Armin Ronacher, CTO von Earendil, erklärt, dass Jev auch zur Modell-Routing nützlich sein könnte. Die Vorhersage, ob eine bestimmte Arbeitslast ein spezifisches Modell erfordert, wäre kostengünstig und schnell durchführbar. Almeida selbst hofft, dass das Modell den Weg für weitverbreitete intelligente Software ebnen wird, die auf eine Art und Weise verteilt ist, die an das frühe Internet erinnert.
Das Modell Jev, benannt nach dem Ökonomen William Stanley Jevons und seinem Jevons-Paradoxon, soll durch die sinkenden Kosten der Intelligenz eine breite Anwendung finden. Almeida ist bezüglich der Architektur des Modells zurückhaltend, jedoch vermuten Beobachter, dass es auf einem offenen LLM basiert. Das Unternehmen beschreibt Jev als „System Eins Modell“, das sich auf Intuition statt auf Logik konzentriert und spezifisch für die jeweilige Aufgabe trainiert wurde. Jev wird ausschließlich mit synthetischen Daten trainiert, was Almeida als eine der besten Entscheidungen seines Lebens bezeichnet.
Jev steht momentan allein in seinem Ansatz, doch Ronacher erwartet, dass bald Konkurrenten auftauchen werden, nachdem der Nutzen des Modells klar geworden ist. TypeSafe plant bereits, weitere Versionen des Modells in neuen Modalitäten zu entwickeln, um die Intelligenz in der digitalen Welt weiter zu verbreiten.