Einleitung
Ein Modell, das eine 90%ige Zuversicht angibt, sollte in 90% der Fälle korrekt sein. Wenn diese Beziehung nicht mehr zutrifft, spricht man von einem Kalibrierungsproblem. Die Bewertungen des Modells geben dann keine nützlichen Informationen über die Zuverlässigkeit mehr her.
Bei großen Sprachmodellen (LLMs) ist eine fehlerhafte Kalibrierung weit verbreitet. Eine Umfrage der NAACL aus dem Jahr 2024 ergab, dass die Vertrauenswerte von den tatsächlichen Richtigkeitsraten in den Bereichen faktische Fragen, Code-Generierung und logisches Denken abweichen.
Eine weitere Studie zu biomedizinischen Modellen zeigte, dass die durchschnittlichen Kalibrierungswerte nur zwischen 23,9% und 46,6% lagen. Diese Diskrepanz ist konstant.
Die gängige Lösung in der klassischen maschinellen Lernmethodik ist die nachträgliche Kalibrierung: Eine einfache Funktion wird auf einem zurückgehaltenen Validierungsdatensatz angepasst, um rohe Vertrauenswerte in besser kalibrierte Wahrscheinlichkeiten zu überführen.
Drei Methoden dominieren diesen Prozess: Temperaturkalibrierung, Platt-Skalierung und isotone Regression. Alle drei wurden für diskriminative Klassifikatoren entwickelt, und ihre Anwendung auf LLMs erfordert besondere Sorgfalt.
Kalibrierung messen
Die dominierende Kennzahl ist der Expected Calibration Error (ECE). Dabei werden Vorhersagen in Vertrauensbins gruppiert, die Differenz zwischen dem durchschnittlichen Vertrauen und der beobachteten Genauigkeit in jedem Bin berechnet und über die Bins gewichtet nach Größe gemittelt. Ein ECE von 0 bedeutet perfekte Kalibrierung.
Ein Zuverlässigkeitsdiagramm stellt Vertrauen gegen Genauigkeit dar. Ein perfekt kalibriertes Modell liegt auf der Diagonalen. Ein übermäßig zuversichtliches Modell liegt darunter: Die Kurve zeigt ein hohes Vertrauen, aber die Genauigkeit kann nicht mithalten.
Eine Bewertung von GPT-4o-mini als Textklassifikator im Jahr 2025 ergab, dass 66,7% der Fehler bei über 80% Vertrauen auftraten – ein typisches Muster übermäßiger Zuversicht.
Der ECE allein wird zunehmend als unzureichend angesehen. Eine Forschungsarbeit empfiehlt, den ECE mit dem Brier-Score, den Übervertrauensraten und Zuverlässigkeitsdiagrammen zu kombinieren. Eine einzelne Zahl verdeckt bedeutungsvolle Variationen darin, wo und wie ein Modell fehlerhaft agiert.
Warum LLMs die Standardmethoden komplizieren
Die drei behandelten Methoden setzen einen festen Ausgaberaum voraus. Ein Klassifikator erzeugt eine Wahrscheinlichkeit pro Klasse, und die Kalibrierung passt diese an, um bessere Schätzungen zu liefern.
LLMs funktionieren jedoch nicht auf diese Weise.
Vier Komplikationen sind hier von Bedeutung:
- Der Ausgaberaum ist exponentiell groß: Die Sequenzebene kann nicht aufgezählt werden. Semantisch äquivalente Ausgaben können sehr unterschiedliche Token-Wahrscheinlichkeiten aufweisen.
- Das Vertrauen variiert über verschiedene Granularitäten; eine Forschungsarbeit zur atomaren Kalibrierung zeigte, dass generative Modelle ihre niedrigste durchschnittliche Zuversicht in der Mitte der Generierung aufweisen, nicht am Anfang oder Ende.
- Viele LLMs geben nur die Top-k-Token-Wahrscheinlichkeiten über ihre API preis, sodass klassische Kalibrierungsansätze, die auf vollständigem Logit-Zugriff basieren, modifiziert werden müssen.
Temperaturkalibrierung anwenden
Die Temperaturkalibrierung teilt den Logit-Vektor durch einen Skalar T, bevor die Softmax-Funktion angewendet wird. Wenn T > 1, wird die Verteilung flacher und das Vertrauen sinkt. Wenn T < 1, geschieht das Gegenteil.
T wird auf einem zurückgehaltenen Validierungsdatensatz angepasst, indem die negative Log-Likelihood minimiert wird. Diese Methode fügt einen Parameter hinzu, bewahrt die Vorhersagerankings und ist kostengünstig in der Berechnung.
Die ursprüngliche Formulierung zielte auf DenseNet-Bildklassifikatoren ab. Bei LLMs steuert die Temperatur die Wahrscheinlichkeitsverteilung über das Vokabular bei jedem Dekodierungsschritt, sodass dieselbe Logik gilt.
Das Problem liegt im Reinforcement Learning aus menschlichem Feedback (RLHF). Nach dem RLHF entwickeln Modelle eine eingabebezogene Überzuversicht: Der Grad der fehlerhaften Kalibrierung variiert je nach Eingabe, und ein einzelnes T kann diese Variation nicht berücksichtigen.
Durchschnittliche ECE-Werte über 0,377 wurden für Modelle wie GPT-3 in verbalisierten Vertrauensaufgaben dokumentiert, und eine Umfrage aus dem Jahr 2025 bestätigt, dass RLHF-optimierte Modelle durchweg das Vertrauen überschätzen.
Adaptive Temperaturkalibrierung (ATS) geht dieses Problem direkt an. ATS sagt eine temperaturabhängige pro-Token-Temperatur aus den tokenbasierten versteckten Merkmalen voraus, die auf einem überwachten Feinabstimmungsdatensatz angepasst wird, anstatt ein festes T zu verwenden. Forscher bestätigten, dass ATS die Kalibrierung um 10–50% verbesserte, ohne die Aufgabenleistung zu beeinträchtigen. Für jedes RLHF-optimierte Modell ist ATS eine stärkere Basislinie als die Standard-Temperaturkalibrierung.
Die Standard-Temperaturkalibrierung funktioniert jedoch gut für Basismodelle vor dem RLHF. Wenn die fehlerhafte Kalibrierung über die Eingaben hinweg weitgehend einheitlich ist, ist ein einzelnes T oft ausreichend, um systematische Über- oder Unterzuversicht zu korrigieren.
Das Problem ist spezifisch für Modelle nach dem RLHF, bei denen die eingabebezogene Überzuversicht bedeutet, dass ein einzelnes T nicht alle Eingaben korrigieren kann.
Platt-Skalierung anwenden
Die Platt-Skalierung passt eine logistische Funktion über die nicht kalibrierten Werte an: p = σ(A·s + B), wobei A und B aus einem zurückgehaltenen Validierungsdatensatz mit binären Richtigkeitslabels gelernt werden.
Die Sigmoid-Form bietet eine parametrische Zuordnung mit zwei freien Parametern.
Die Platt-Skalierung wurde ursprünglich für SVMs entwickelt, lässt sich jedoch auf jedes System übertragen, das einen skalaren Vertrauenswert erzeugt.
Die Anpassung mit zwei Parametern ist auch dateneffizient im Vergleich zur isotonen Regression: Sie kann aus einem kleineren Kalibrierungsdatensatz brauchbare Schätzungen erzeugen, was in Einsatzkontexten, in denen die Daten zur Richtigkeit begrenzt sind, von Bedeutung ist.
Im Kontext von LLMs funktioniert die Platt-Skalierung über sequenzielle oder tokenbasierte Vertrauenswerte.
Eine Studie zur Vertrauenswürdigkeit von LLM-generiertem Code ergab, dass die Platt-Skalierung besser kalibrierte Ausgaben als nicht kalibrierte Werte lieferte. Eine weitere Untersuchung zu LLMs für Text-zu-SQL führte die multivariate Platt-Skalierung (MPS) ein, die die eindimensionale Platt-Skalierung erweiterte, um die Häufigkeitswerte von Unterklauseln über mehrere generierte Proben zu kombinieren – und dabei durchweg besser abschnitt als Baselines mit einem einzelnen Wert.
Es sind zwei Einschränkungen dokumentiert. Erstens ist die globale sequenzielle Platt-Skalierung zu grob für Aufgaben, bei denen die Richtigkeit von lokalen Bearbeitungsentscheidungen abhängt: Eine einzelne Sigmoid-Zuordnung kann die von Probe zu Probe variierenden fehlerhaften Kalibrierungsmuster nicht erfassen.
Darüber hinaus kann die Platt-Skalierung die ordnungsgemäße Bewertungsleistung für starke Modelle beeinträchtigen.
Isotone Regression anwenden
Die isotone Regression verfolgt einen nicht-parametrischen Ansatz.
Sie lernt eine stückweise konstante, monoton nicht abnehmende Zuordnung von nicht kalibrierten Werten zu kalibrierten Wahrscheinlichkeiten mithilfe des Pool Adjacent Violators Algorithmus (PAVA). Es wird keine Form für die Kalibrierungsfunktion angenommen, was sie flexibler macht als die Platt-Skalierung, wenn die Beziehung zwischen Vertrauen und Genauigkeit nicht sigmoidförmig ist.
Die stückweise konstante Ausgabe passt sich jeder monotonen Form an: linear, gestuft oder konkav. Diese Anpassungsfähigkeit ist der Hauptgrund, warum die isotone Regression in empirischen Vergleichen tendenziell besser abschneidet als die Platt-Skalierung.
Der Nachteil ist das Risiko des Überanpassens bei kleinen Kalibrierungsdatensätzen. Die Zuordnung generalisiert nur gut, wenn genügend Daten vorhanden sind, um sie einzuschränken.
Empirisch übertrifft die isotone Regression die Platt-Skalierung.
Ein rigoroser Vergleich über mehrere Datensätze und Architekturen ergab, dass die isotone Regression die Platt-Skalierung hinsichtlich ECE und Brier-Score mit statistischer Signifikanz übertraf, wobei gepaarte t-Tests mit Bonferroni-Korrektur bei α = 0,003 verwendet wurden.
In dieser Studie verbesserte sich eine Random Forest-Basislinie von einem Zuverlässigkeitswert von 0,8268 ohne Kalibrierung auf 0,9551 mit Platt-Skalierung und auf 0,9660 mit isotone Regression. Beide Methoden könnten die ordnungsgemäße Bewertungsleistung für starke Modelle beeinträchtigen, aber der Vorteil der isotonen Regression blieb konstant.
Für LLM-Multiklassen-Einstellungen wurde gezeigt, dass die Standard-isotone Regression durch normalisierungsbewusste Erweiterungen weiter verbessert werden kann, die durchweg sowohl die OvR-isotone Regression als auch die Standard-parametrischen Methoden hinsichtlich NLL und ECE übertreffen.
Die Datenanforderung ist die bindende Einschränkung. Der Vorteil der isotonen Regression ist real, überträgt sich jedoch nicht auf Szenarien mit wenig Daten.
Offene Fragen in der Literatur
Drei Lücken sind zu beachten, bevor eine dieser Methoden eingesetzt wird.
- Die Interaktion mit RLHF wurde bisher nur für die Temperaturkalibrierung untersucht. Wie Platt-Skalierung und isotone Regression bei Modellen nach RLHF abschneiden, wurde nicht systematisch getestet. ATS existiert, weil die Standard-Temperaturkalibrierung eine explizite Lösung für diesen Fall benötigte. Ob die anderen beiden Methoden ähnliche Erweiterungen benötigen, ist eine offene Frage.
- Die meisten direkten Vergleiche aller drei Methoden stammen aus der allgemeinen Literatur zur Kalibrierung im maschinellen Lernen. LLM-spezifische Benchmarks, die alle drei direkt vergleichen, sind selten. Das ICSE 2025-Papier zur Codekalibrierung ist eines der wenigen, dessen Umfang jedoch auf die Codegenerierung beschränkt ist.
- Die Größe des Kalibrierungsdatensatzes ist eine echte Einschränkung für den Einsatz. Die Ergebnisse der isotonen Regression in den Studien setzen Datensätze voraus, die groß genug sind, um die Zuordnung einzuschränken. In der Produktion mit begrenzten gekennzeichneten Beispielen könnte die Lücke zwischen isotoner Regression und Platt-Skalierung schließen oder umkehren.
Fazit
Die Temperaturkalibrierung ist der richtige Ausgangspunkt für die meisten Teams. Bei Basismodellen ohne RLHF reicht oft ein einzelnes T aus.
Für RLHF-optimierte Modelle sollte auf ATS umgeschaltet werden: Die temperaturabhängige pro-Token-Temperatur berücksichtigt die eingabebezogene Überzuversicht, die ein globaler Skalar nicht erfassen kann.
Die Platt-Skalierung ist die praktische Wahl, wenn der Kalibrierungsdatensatz klein ist oder wenn die Kalibrierung in einen größeren Prozess integriert werden muss. Sie ist dateneffizient und einfach zu implementieren. Die Einschränkung liegt im Umfang: Sie kann keine fehlerhafte Kalibrierung erfassen, die von Probe zu Probe variiert, und neigt dazu, die Leistung starker Modelle zu beeinträchtigen.
Die isotone Regression hat die stärkste empirische Erfolgsbilanz der drei Methoden. Sie sollte verwendet werden, wenn der Kalibrierungsdatensatz groß genug ist, um die Zuordnung ohne Überanpassung einzuschränken, und sollte in Multiklassen-Einstellungen mit normalisierungsbewussten Erweiterungen kombiniert werden.
Die Entscheidung, die allen diesen Methoden vorausgeht, ist, was „Vertrauen“ für die jeweilige Aufgabe bedeutet. Token-Wahrscheinlichkeit, Sequenzwahrscheinlichkeit, verbalisiertes Vertrauen und Konsistenz über Proben hinweg können unterschiedliche Werte für dieselbe Ausgabe liefern. Eine Kalibrierungsmethode, die auf das falsche Signal angewendet wird, verbessert die Zuverlässigkeit nicht. Die korrekte Definition ist die Voraussetzung dafür, dass eine der oben genannten Methoden funktioniert.
Quellen: kdnuggets
Bildquelle: KI generiert
