Ein Modell, das nichts erklärt
Stell dir vor, du gibst einem Modell eine Kundenmail und drei Fragen: Welche Abteilung? Braucht das dringend einen Menschen? Wie wütend ist der Absender? Zurück kommt kein Text, sondern Zahlen. Am offenen Nachbau Kev sieht das so aus: Abteilung Rücksendungen mit 0,47, dringend mit 0,93, Wut bei 1,44 auf einer Skala von null bis zwei, nach knapp 500 Millisekunden. Das Original heißt Jev, und Simon Willison hat am Wochenende beschrieben, warum ihn das mehr beschäftigt als der nächste Chatbot.
Was es ist. TypeSafe AI nennt die Sorte „System One“, nach Kahnemans schnellem, intuitivem Denken. Das Modell erzeugt keinen Text. Es nimmt einen Zustand entgegen, ein Stück Text, und beantwortet dazu beliebig viele vorab definierte Fragen von drei Typen: eine Wahl aus benannten Optionen, eine Einordnung auf einer Skala, ein Ja oder Nein. Alle Fragen werden parallel beantwortet, laut Anbieter in 70 bis 500 Millisekunden, und jede Antwort kommt mit einer Verteilung und einer Konfidenz. Kostenpunkt: 0,042 Dollar je Million Eingabetoken, die Ausgabe ist kostenlos, weil sie aus ein paar Zahlen besteht. Willison rechnet vor, dass man hunderte Experimente für ein paar Cent fahren kann.
Was daran neu ist. Klassifikatoren gibt es seit Jahrzehnten. Neu ist die Kombination: die Allgemeinbildung eines großen Sprachmodells in der Bauform eines Klassifikators, und das ohne Training für jede neue Frage. Du beschreibst die Optionen in Worten, das Modell wählt. TypeSafe nennt das „smart if-statements“, Verzweigungen im Programm, an denen bisher ein Sprachmodell einen Absatz erzeugte, der dann mühsam geparst wurde. Wer je JSON aus einem Chatmodell herausgekitzelt hat, versteht den Reiz.
Der Haken steht bei Willison in einem Satz: „Black boxes are back in fashion.“ Du gibst Text hinein und bekommst eine Fließkommazahl zurück, sonst nichts. Keine Begründung, kein Zwischenschritt, den man prüfen könnte. Er hat es ausprobiert und Städte der Bay Area auf die Frage „gute Stadt?“ bewerten lassen. Cupertino landete oben, East Palo Alto unten. Woher das Modell das nimmt, sagt es nicht. Wer so etwas für Bewerbungen, Kredite oder Mieter einsetzt, betreibt einen Vorurteilsgenerator mit Konfidenzangabe.
Und die Konfidenz ist das eigentliche Produkt. Ein 0,93 auf „braucht ein Mensch das jetzt?“ ist nur dann etwas wert, wenn es in 93 von 100 Fällen stimmt. Das nennt man Kalibrierung. TypeSafe behauptet sie („higher confidence means higher accuracy“) und belegt sie in der Ankündigung mit keiner Zahl. In der Diskussion auf Hacker News, fast 200 Kommentare, spricht niemand darüber. Dafür berichtet ein Nutzer, dass ein feinjustiertes ModernBERT, ein kleines offenes Modell, seine Dokumente zu 98 Prozent richtig sortiert; ein anderer kommt mit Embeddings und logistischer Regression auf 95 Prozent, mit 50 bis 100 Beispielen und einem Modell unter einem Megabyte. Das ist die Messlatte, an der sich Jev messen lassen muss, nicht der Chatbot.
Der Graben ist schmal. Es gibt bereits offene Nachbauten. Laya liefert dieselben drei Fragetypen mit offenen Gewichten unter Apache-Lizenz, in einer Variante für über hundert Sprachen, und veröffentlicht Kalibrierungszahlen: Nach eigenen Angaben liegt der Kalibrierungsfehler bei 0,08 gegenüber 0,25 bei Jev. Das sind Zahlen des Wettbewerbers, nicht unabhängig geprüft, aber immerhin Zahlen. Kev baut die Schnittstelle von TypeSafe auf Qwen3.5 nach, in drei Größen, mit Trainingsskript; die Fassung mit neun Milliarden Parametern liegt in der eigenen Messung dicht an Jev. Und ein Kommentator berichtet, Jev nenne sich auf Nachfrage selbst Qwen. Ob das stimmt, kann ich nicht prüfen. Das Rezept ist jedenfalls öffentlich.
Wo die Daten hingehen. Die Datenschutzerklärung sagt, dass mit Eingaben nicht trainiert wird, dass die Dienste in den USA gehostet sind und dass Nutzer aus Europa ihre Daten dorthin übertragen. Wie lange Eingaben aufbewahrt werden, steht nicht drin. Für eine Kanzlei, eine Praxis oder einen Betrieb mit Kundendaten ist damit alles gesagt.
Was ich damit mache. Bei mir laufen Modelle auf eigener Hardware, und die Frage war, ob diese Bauform dort einen Platz hat. Sie hat einen, unter einer Regel: Ein Modell, das nichts erklärt, darf sortieren, vorziehen, markieren und weiterreichen. Es darf nicht entscheiden, und es darf nicht begründen. In meiner Werkstatt gilt seit dem Sommer die Belegpflicht, jede Aussage mit Fundstelle. Eine Zahl ohne Grund verstößt konstruktionsbedingt dagegen. Als Vorfilter ist sie trotzdem wertvoll: Welcher von 25 Vorschlägen für diesen Blog ist einer, den ich anklicken würde? Welches der sechs Bilder auf einer Firmenwebsite ist das Logo? Ist dieser Satz im Diktat ein Befehl oder Text? Für jede dieser Fragen habe ich schon Etiketten, weil Menschen sie täglich beantworten. Damit lässt sich messen, ob ein offenes Modell wie Laya das auf Deutsch kann, und ob es die einfache Regression überhaupt schlägt. Die Antwort gibt es hier, sobald sie gemessen ist.
Zwei Dinge nehme ich aus dieser Woche mit. Erstens: Ein Modell, das schweigt, ist verführerisch, weil es nie widerspricht. Zweitens: Wer eine Konfidenz ausgibt, schuldet den Beweis, dass sie stimmt. Wie viele Systeme, die dir heute Wahrscheinlichkeiten anzeigen, haben diesen Beweis je angetreten?
▸ KI & Macht · ▸ Werkstatt