Wie LLMs Text generieren

Sieh Schritt für Schritt, wie ein Sprachmodell Token für Token Text erzeugt

Tokenisierung

LLMs sehen die Welt in Teilwörtern — Tokens, nicht ganze Wörter. Tippe Text und sieh die Tokens.

Basierend auf allen vorherigen Tokens wird das statistisch beste nächste Token abgeleitet.

Prompt

Schreibe einen kurzen Satz über Kaffee.

Temperatur

Max Tokens

Diese Demo läuft mit vorbereiteten Beispielen. Im Kurs arbeitest du mit eigenen Eingaben.

Wahrscheinlichkeiten einfärben

Klicke „Generieren", um die Ausgabe zu sehen.