Ein Sprachmodell entscheidet bei jedem Schritt nicht einfach, welches Wort als Nächstes kommt. Es berechnet für alle infrage kommenden Token eine Wahrscheinlichkeit. Nach „Wir bestätigen Ihre“ sind „Bestellung“ und „Anfrage“ wahrscheinlich, „Giraffe“ ist es nicht. Aus dieser Verteilung wird dann eines ausgewählt, und an dieser Stelle setzt die Temperatur an. Sie verändert, wie stark die Auswahl die ohnehin wahrscheinlichen Kandidaten bevorzugt.
Der Name stammt aus der Physik, die Wirkung ist leicht zu beschreiben. Bei niedriger Temperatur rückt das Modell eng an die wahrscheinlichste Fortsetzung heran. Bei hoher Temperatur bekommen auch seltenere Kandidaten eine echte Chance. OpenAI formuliert es in seiner Schnittstellenbeschreibung so: Höhere Werte wie 0,8 machen die Ausgabe zufälliger, niedrigere wie 0,2 machen sie fokussierter und deterministischer.
Wie sich die Einstellung auswirkt
Ein konstruiertes Beispiel macht den Unterschied greifbar. Soll ein Modell zu einer Reklamation einen Antwortentwurf schreiben, entsteht bei niedriger Temperatur fast immer derselbe solide, etwas formelhafte Text. Bei höherer Temperatur variieren Formulierungen, Satzbau und Aufbau von Entwurf zu Entwurf. Für eine Werbeidee kann das erwünscht sein. Für eine Kategorienzuordnung, bei der jede Mail unter dieselben Regeln fallen soll, ist es ein Nachteil.
Die Anbieter geben dazu ähnliche Empfehlungen. Anthropic rät in seiner Schnittstellendokumentation zu Werten nahe null für analytische Aufgaben und Auswahlaufgaben und zu Werten nahe eins für kreative Aufgaben. Die Wertebereiche selbst unterscheiden sich: Bei OpenAI reicht die Temperatur von 0 bis 2, bei Anthropic von 0 bis 1. Ein Wert lässt sich deshalb nicht einfach von einem Anbieter auf den anderen übertragen.
Neben der Temperatur gibt es einen verwandten Regler namens Top-p oder Nucleus Sampling. Er schneidet die Liste der Kandidaten ab, sobald deren Wahrscheinlichkeiten zusammen einen festgelegten Anteil erreichen, und wählt nur aus diesem Kern. Holtzman und Kollegen haben das Verfahren 2019 vorgeschlagen, nachdem sie gezeigt hatten, dass ein stures Festhalten am Wahrscheinlichsten zu fadem und auffällig repetitivem Text führt. OpenAI empfiehlt, entweder die Temperatur oder Top-p zu verändern, nicht beides zugleich.
Was die Temperatur nicht leistet
Sie macht Antworten nicht richtiger. Eine niedrige Temperatur sorgt dafür, dass das Modell seine wahrscheinlichste Antwort gibt. Ist diese falsch, gibt es sie eben zuverlässig falsch. Gegen Halluzinationen hilft die Einstellung deshalb kaum. Wer erfundene Angaben vermeiden will, muss dem Modell die nötigen Fakten mitgeben und seine Ausgaben prüfen. Umgekehrt ist eine hohe Temperatur nicht die eigentliche Ursache von Halluzinationen. Sie erhöht die Streuung und damit die Chance auf ungewöhnliche Fortsetzungen, aber auch ein Modell bei niedrigster Einstellung erfindet, wenn ihm Wissen fehlt.
Sie garantiert keine Wiederholbarkeit. Viele erwarten, dass Temperatur null bei gleicher Eingabe immer dieselbe Ausgabe liefert. Anthropic schreibt ausdrücklich, dass die Ergebnisse auch bei Temperatur null nicht vollständig deterministisch sind und identische Eingaben über verschiedene Aufrufe hinweg unterschiedliche Ausgaben erzeugen können, auch über die Cloud-Plattformen von Drittanbietern. Für die Nachvollziehbarkeit heißt das: Man kann eine Entscheidung nicht später durch erneutes Ausführen rekonstruieren. Eingabe, Ausgabe und Modellversion müssen bei jedem Vorgang gespeichert werden, wie es ein Audit-Trail vorsieht.
Sie ersetzt keine Formatvorgabe. Dass ein Modell bei niedriger Temperatur meistens dasselbe Format liefert, ist keine Zusicherung. Wenn ein nachfolgendes System feste Felder erwartet, gehört das in eine strukturierte Ausgabe mit technischer Prüfung, nicht in die Hoffnung auf gleichförmiges Verhalten.
Ein Regler, den es nicht überall mehr gibt
Mit neueren Modellgenerationen verliert die Temperatur an Bedeutung. In der Schnittstellendokumentation von Anthropic ist sie inzwischen als veraltet gekennzeichnet: Bei Modellen, die nach Claude Opus 4.6 erschienen sind, lässt sie sich nicht mehr einstellen. Der Wert 1,0 wird nur noch aus Gründen der Abwärtskompatibilität angenommen, andere Werte weist die Schnittstelle mit einer Fehlermeldung zurück. Für Top-p und Top-k gilt dort Ähnliches (Stand Oktober 2026). Andere Anbieter können das anders handhaben, und es kann sich mit jeder Modellgeneration wieder ändern.
Für Unternehmen hat das eine praktische Folge. Eine Anwendung, die sich auf eine bestimmte Temperatur verlässt, kann beim Wechsel auf ein neueres Modell nicht mehr so eingestellt werden. Gleichförmigkeit muss dann auf anderem Weg entstehen: durch eindeutige Anweisungen, feste Antwortformate, Beispiele im Prompt und eine Prüfung der Ergebnisse.
Worauf man in der Praxis achtet
- Für Zuordnung, Extraktion und Prüfaufgaben eine niedrige Temperatur wählen, sofern das Modell sie erlaubt.
- Für Entwürfe, die ein Mensch ohnehin überarbeitet, sind mittlere Werte vertretbar.
- Die Einstellung zusammen mit Prompt und Modellversion dokumentieren, weil sie das Verhalten mitbestimmt.
- Nicht von der Temperatur erwarten, was nur eine Prüfung leisten kann.
Die Temperatur regelt also die Streuung einer Antwort, nicht ihre Qualität.
Quellen
- Create a model response: temperature, top_p, OpenAI, API-Referenz
- Messages API: temperature, top_p, top_k, Anthropic, Claude Developer Platform
- Glossary: Temperature, Anthropic, Claude Developer Platform
- The Curious Case of Neural Text Degeneration, Holtzman et al., arXiv, 2019
Inhaltlich geprüft im Oktober 2026. Der Eintrag erklärt einen Begriff und ersetzt keine Rechts- oder Steuerberatung.

