Was ist Temperature bei LLMs? Steuerung der Zufälligkeit von KI-Antworten erklärt

Temperature ist ein Einstellwert bei großen Sprachmodellen (LLMs), der steuert, wie zufällig oder wie vorhersehbar die erzeugte Antwort ausfällt. Ein niedriger Wert nahe 0 macht die Ausgabe fokussiert und wiederholbar; ein hoher Wert erhöht die Vielfalt und lässt das Modell auch unwahrscheinlichere Wörter wählen (Vellum). Man kann Temperature als „Regler" für die Balance zwischen Verlässlichkeit und Kreativität verstehen.

Wie Temperature technisch wirkt

Ein Sprachmodell erzeugt Text Wort für Wort. Für jeden nächsten Schritt berechnet es Rohwerte (sogenannte Logits) für viele mögliche Wörter. Eine mathematische Funktion namens Softmax verwandelt diese Rohwerte in Wahrscheinlichkeiten, die zusammen 100 Prozent ergeben. Temperature greift genau vor diesem Schritt ein: Sie skaliert die Logits, bevor die Softmax-Funktion angewendet wird, und verändert damit die Form der gesamten Wahrscheinlichkeitsverteilung (Dylan Castillo).

Konkret wird der Rohwert durch den Temperature-Wert geteilt. Ein niedriger Wert macht die Verteilung „steiler": Die wahrscheinlichsten Wörter bekommen noch mehr Gewicht, seltene Wörter fallen kaum ins Gewicht. Ein hoher Wert flacht die Verteilung ab, sodass auch weniger wahrscheinliche Wörter eine reelle Chance haben, gewählt zu werden (Ken Muse). Damit ist Temperature kein nachträglicher Filter, sondern verändert die Grundlage, aus der das Modell überhaupt auswählt.

Wichtig ist die Abgrenzung: Temperature verändert die Form der Verteilung, während Verfahren wie Top-p festlegen, welche Wörter überhaupt in Frage kommen. Beide arbeiten an unterschiedlichen Stellen der Auswahl und lassen sich kombinieren (Medium).

Niedrige und hohe Werte im Vergleich

Ein einfaches Beispiel verdeutlicht den Unterschied. Vervollständigt ein Modell den Satz „Die Katze saß auf dem ___", wählt es bei niedriger Temperature verlässlich naheliegende Wörter wie „Stuhl" oder „Boden". Bei höherer Temperature steigt die Wahrscheinlichkeit für ungewöhnliche Fortsetzungen wie „Kronleuchter" – kreativer, aber weniger konventionell (AI Goes to College).

In vielen Chat-Systemen liegt der mögliche Bereich zwischen 0 und 2, wobei Werte nahe 0 die Ausgabe deterministischer machen (AI Goes to College). Faustregel:

• Niedrige Temperature (etwa 0 bis 0,3): Für Aufgaben, bei denen es auf Genauigkeit und Wiederholbarkeit ankommt – etwa Datenextraktion, Klassifizierung oder strukturierte Antworten.
• Mittlere Temperature (etwa 0,4 bis 0,8): Für Texte, die natürlich wirken sollen, aber sachlich bleiben müssen, etwa Kundenkommunikation.
• Hohe Temperature (etwa 0,9 und höher): Für Aufgaben, bei denen Vielfalt und ungewöhnliche Formulierungen erwünscht sind, etwa das Brainstorming von Ideen oder Textvarianten.

Zu beachten: Ein hoher Wert erhöht nicht die „Intelligenz" des Modells, sondern nur die Streuung. Er kann dazu führen, dass Antworten weniger kohärent werden oder eher zu Fehlern neigen.

Temperature im Kontext von KI-Agenten

Für die AI-Mitarbeiter von scoreprise.AI ist die Wahl der Temperature eine bewusste Entscheidung pro Aufgabe – kein Zufall. Ein AI-Mitarbeiter, der Daten aus Dokumenten liest oder Leads nach festen Kriterien einordnet, braucht eine niedrige Temperature, damit die Ergebnisse verlässlich und reproduzierbar sind. Das gilt zum Beispiel für Aufgaben rund um die Lead-Qualifizierung, bei denen zwei gleiche Eingaben möglichst dieselbe Einordnung ergeben sollten.

Anders liegt der Fall bei Aufgaben, die Formulierungsvielfalt verlangen. Ein AI-Mitarbeiter, der personalisierte Anschreiben in mehreren Varianten erstellt, profitiert von einer etwas höheren Temperature, damit die Texte nicht schablonenhaft klingen. Die Kunst besteht darin, den Wert zur Aufgabe passend zu setzen – nicht pauschal für alles.

Temperature ist dabei nur einer von mehreren Hebeln. Zusammen mit dem Systemprompt, sauberem Prompt Engineering und Sicherheitsleitplanken bestimmt sie, wie sich ein Modell verhält. Wer die Zufälligkeit senkt, reduziert die Streuung der Antworten – ersetzt damit aber keine inhaltliche Kontrolle. Gegen falsche Aussagen helfen zusätzlich Maßnahmen wie Retrieval-Augmented Generation, also das Nachschlagen in verlässlichen Quellen.

Grenzen und Missverständnisse

Ein verbreitetes Missverständnis ist, dass Temperature 0 immer exakt dieselbe Antwort liefert. In der Praxis ist die Ausgabe zwar deterministischer, aber technische Faktoren können weiterhin zu leichten Abweichungen führen. Für strikte Reproduzierbarkeit wird zusätzlich ein sogenannter Seed genutzt, der den Startzustand des Zufallsgenerators festlegt (Dylan Castillo).

Ein zweites Missverständnis: Eine höhere Temperature macht ein Modell nicht „kreativer" im menschlichen Sinne. Sie erhöht lediglich die statistische Wahrscheinlichkeit, dass seltenere Wörter gewählt werden. Das kann zu frischeren Formulierungen führen, aber ebenso zu abschweifenden oder unpräzisen Antworten. Für geschäftskritische Anwendungen ist deshalb oft ein niedriger Wert die sinnvollere Wahl – kombiniert mit klaren Vorgaben und, wo nötig, einer menschlichen Prüfung (Human-in-the-Loop).

Häufige Fragen

Welche Temperature ist die richtige für meinen Anwendungsfall?

Das hängt vom Ziel ab. Für präzise, wiederholbare Aufgaben wie Klassifizierung oder Datenextraktion eignet sich ein niedriger Wert nahe 0. Für Texte, die abwechslungsreich klingen sollen, etwa Anschreiben-Varianten, ist ein mittlerer bis höherer Wert sinnvoll. Am besten testet man mehrere Werte mit realen Beispielen und beobachtet, ob die Ausgaben verlässlich bleiben.

Was ist der Unterschied zwischen Temperature und Top-p?

Temperature verändert die Form der gesamten Wahrscheinlichkeitsverteilung, bevor das Modell auswählt. Top-p filtert dagegen die bereits berechnete Verteilung und begrenzt die Auswahl auf die wahrscheinlichsten Wörter, deren Summe einen bestimmten Anteil erreicht (Medium). Beide steuern die Vielfalt, greifen aber an unterschiedlichen Stellen ein und lassen sich kombinieren.

Liefert Temperature 0 immer exakt dieselbe Antwort?

Meistens ist die Ausgabe bei Temperature 0 sehr vorhersehbar, aber nicht garantiert bitgleich. Technische Faktoren können kleine Abweichungen verursachen. Wer strikte Reproduzierbarkeit braucht, kombiniert einen niedrigen Wert mit einem festen Seed, der den Zufallsgenerator auf denselben Startzustand setzt (Dylan Castillo).

Verhindert eine niedrige Temperature Falschaussagen?

Nein. Eine niedrige Temperature macht Antworten fokussierter und weniger zufällig, korrigiert aber keine inhaltlichen Fehler. Gegen falsche Aussagen helfen andere Maßnahmen, etwa das Nachschlagen in verlässlichen Quellen per RAG oder eine menschliche Kontrolle bei kritischen Antworten.