TypeSafe AI stellt Entscheidungsmodell Jev vor

TypeSafe AI hat mit Jev das erste Modell einer Klasse vorgestellt, die das Unternehmen „System One models“ nennt. Jev nimmt Text entgegen, antwortet aber nicht mit Text, sondern mit Gleitkommazahlen für Kategorien, Ja/Nein-Fragen und Bewertungen samt Konfidenzwerten. Abgerechnet wird nur die Eingabe, die Ausgabe ist kostenlos. Das erste Modell kostet 0,042 Dollar pro Million Eingabe-Tokens, OpenAIs GPT-5 Nano liegt bei 0,05 Dollar.

An die API geht ein „State“-Objekt aus einem String, einer Liste von Strings oder Name-Wert-Paaren, dazu so viele Fragen, wie ins Kontextfenster passen. Jev beantwortet Ja/Nein-Fragen mit einem Wert zwischen 0 und 1, Auswahlfragen mit einer Wahrscheinlichkeitsverteilung über alle Optionen und Bewertungsfragen mit einem Wert auf einer vorgegebenen Skala. Die Fragen laufen parallel, viele dauern daher ähnlich lange wie eine. Laut der Dokumentation zu Jev 1.13 hat das Modell Schwächen bei Zahlen, Datumsangaben und „adversarial content“, Simon Willison hat es mit dem Plugin llm-typesafe in sein Kommandozeilenwerkzeug LLM eingebunden.

Warum das wichtig ist: Wer in Automatisierungen Spam aussortiert oder Nachrichten einem Team zuordnet, bekommt von Jev eine Zahl statt Freitext, den ein nachgelagerter Schritt erst auswerten muss. Weil Jev seine Entscheidungen nicht begründet, bleibt offen, welche Signale den Ausschlag geben. Umso wichtiger sind Tests, und die kosten laut Willison für Hunderte oder Tausende Anfragen nur wenige Cent. Vom Einsatz bei der Rangfolge von Bewerbern rät er ab, weil die Zahl unsichtbare Verzerrungen verbergen kann.