Zum Inhalt springen

KI-Grundlagen

Token

Ein Token ist die kleinste Einheit, in der ein Sprachmodell Text verarbeitet: meist ein Wortteil, manchmal ein ganzes Wort, ein Satzzeichen oder ein einzelnes Zeichen. Nach Token bemessen sich Kosten, Antwortzeit und die Menge, die ein Modell auf einmal verarbeiten kann.

Auch: Tokens, Tokenisierung, Tokenizer

Ein Sprachmodell sieht keine Buchstaben und keine Wörter, sondern Zahlen. Bevor ein Text verarbeitet wird, zerlegt ein vorgeschaltetes Programm, der Tokenizer, ihn in kurze Stücke und ersetzt jedes Stück durch eine Nummer aus einem festen Vokabular. Diese Stücke heißen Token. Anthropic beschreibt sie als die kleinsten Einheiten eines Sprachmodells, die Wörtern, Wortteilen, einzelnen Zeichen oder sogar Bytes entsprechen können. Auch die Antwort entsteht Token für Token: Das Modell berechnet das nächste Stück, hängt es an und berechnet das nächste.

Für Anwender bleibt das meist unsichtbar. Sichtbar wird es auf der Rechnung, bei der Antwortzeit und an der Grenze, ab der ein Dokument nicht mehr in eine Anfrage passt.

Warum Wortteile statt ganzer Wörter

Ein Vokabular aus ganzen Wörtern hätte zwei Probleme. Es wäre riesig, und es käme mit jedem Wort, das im Training nicht vorkam, nicht zurecht: mit Eigennamen, Artikelnummern, Tippfehlern oder neuen Zusammensetzungen. Sennrich, Haddow und Birch haben 2015 vorgeschlagen, seltene Wörter stattdessen als Folge kleinerer Einheiten darzustellen, und dafür ein Verfahren namens Byte Pair Encoding eingesetzt. Häufige Zeichenfolgen werden dabei zu einem einzigen Token zusammengefasst, seltene bleiben in kleinere Stücke zerlegt. Auf dieser Idee beruhen die meisten heutigen Tokenizer.

Die Folge ist ein Kompromiss, den Anthropic in seinem Glossar benennt: Große Token machen die Verarbeitung effizienter, kleine erlauben es, auch ungewöhnliche und nie gesehene Wörter zu verarbeiten. Ein häufiges englisches Wort ist oft ein einziges Token. Ein langes deutsches Kompositum wie „Eingangsrechnungsverarbeitung“ wird dagegen typischerweise in mehrere Teile zerlegt. Wie genau, hängt vom jeweiligen Tokenizer ab, und der unterscheidet sich von Anbieter zu Anbieter und manchmal sogar zwischen Modellgenerationen desselben Anbieters.

Faustregeln und wie weit sie tragen

Die Anbieter nennen grobe Umrechnungen. Google gibt für seine Gemini-Modelle an, ein Token entspreche etwa vier Zeichen, und 100 Token entsprächen etwa 60 bis 80 englischen Wörtern. Anthropic nennt für Claude rund 3,5 englische Zeichen je Token und weist darauf hin, dass das Verhältnis je nach Sprache schwankt.

Beide Angaben beziehen sich auf englischen Text. Für deutsche Geschäftsdokumente mit langen Wörtern, Tabellen, Zahlen und Fachbegriffen sollte man sich nicht darauf verlassen. Wer Kosten planen will, misst besser an echten eigenen Dokumenten: Die großen Anbieter stellen Funktionen bereit, mit denen sich die Tokenzahl einer Anfrage vor dem Absenden zählen lässt.

Auch Bilder, Audio und PDFs werden in Token umgerechnet. Google beziffert zum Beispiel ein kleines Bild bis 384 Pixel Kantenlänge mit 258 Token und Audio mit 32 Token je Sekunde (Stand der Dokumentation Oktober 2026). Ein eingescannter Lieferschein kostet also nicht nur das, was an Text darauf steht.

Was Token für die Kosten bedeuten

Abgerechnet wird bei den großen Anbietern nach Millionen Token, getrennt nach Eingabe und Ausgabe. Ausgabetoken sind dabei deutlich teurer: In der Preisliste von Anthropic kostet ein Ausgabetoken bei den aktuellen Modellen ein Mehrfaches eines Eingabetokens (Stand Oktober 2026). Bei Modellen, die vor der Antwort ausführlich „nachdenken“, kommen die Zwischenschritte hinzu: Anthropic etwa rechnet sie als Ausgabetoken ab.

Ein Rechenbeispiel mit angenommenen Werten: Ein Prozess wertet im Monat 5.000 E-Mails aus. Jede Anfrage enthält eine feste Anweisung, die E-Mail selbst und ein paar Stammdaten, zusammen angenommen 2.000 Eingabetoken, und die Antwort umfasst angenommen 300 Token. Das ergibt im Monat 10 Millionen Eingabe- und 1,5 Millionen Ausgabetoken. Ob das einige Euro oder einige Hundert Euro kostet, hängt fast nur vom gewählten Modell ab, und genau darin liegt die eigentliche Stellschraube. Für eine einfache Zuordnung reicht oft ein kleines, günstiges Modell. Ein großes Modell lohnt sich dort, wo es messbar weniger Fehler macht.

Drei Hebel senken die Tokenkosten, ohne an der Qualität zu sparen:

  • Feste Teile zwischenspeichern. Wiederholt sich der Anfang jeder Anfrage, etwa eine lange Anweisung, bieten die Anbieter eine Zwischenspeicherung an. Bei Anthropic kostet das Lesen aus diesem Speicher für die meisten Modelle ein Zehntel des normalen Eingabepreises.
  • Nur mitschicken, was gebraucht wird. Statt eines ganzen Handbuchs gehören nur die passenden Abschnitte in die Anfrage. Das spart Token und verbessert oft die Antwort, wie der Eintrag zum Kontextfenster erläutert.
  • Kurze Ausgaben verlangen. Wer feste Felder statt eines Fließtexts anfordert, bezahlt weniger Ausgabetoken und erhält ein Ergebnis, das sich leichter weiterverarbeiten lässt.

Token als Grenze und als Takt

Neben den Kosten bestimmen Token zwei weitere Dinge. Jedes Modell kann nur eine begrenzte Zahl von Token auf einmal verarbeiten. Diese Grenze ist das Kontextfenster, und laut Google umfasst sie Eingabe und Ausgabe zusammen. Außerdem entsteht die Antwort Token für Token. Eine lange Antwort dauert deshalb spürbar länger als eine kurze, was bei Anwendungen mit Wartezeit am Telefon oder im Chat mehr ins Gewicht fällt als bei einer nächtlichen Stapelverarbeitung.

Nicht verwechseln sollte man Token mit Embeddings: Token sind die Stücke, in die ein Text zerlegt wird, ein Embedding ist eine Zahlenreihe, die seine Bedeutung beschreibt.

Für die Wirtschaftlichkeit einer Automatisierung sind Token selten der größte Posten. Integration, Betrieb und die Prüfung unsicherer Fälle kosten in der Regel mehr. In eine ehrliche Rechnung der Gesamtkosten gehören sie trotzdem, weil sie mit jedem zusätzlichen Vorgang wachsen.

Quellen

  1. Glossary: Tokens, Anthropic, Claude Developer Platform
  2. Understand and count tokens, Google, Gemini API-Dokumentation
  3. Pricing, Anthropic, Claude Developer Platform
  4. Context windows, Anthropic, Claude Developer Platform
  5. Neural Machine Translation of Rare Words with Subword Units, Sennrich, Haddow, Birch, arXiv, 2015

Inhaltlich geprüft im Oktober 2026. Der Eintrag erklärt einen Begriff und ersetzt keine Rechts- oder Steuerberatung.

Welcher Prozess kostet Ihr Team jeden Tag unnötig Zeit?

Bringen Sie einen konkreten Ablauf mit. In 45 Minuten klären wir, ob sich seine Automatisierung rechnet und was der nächste Schritt wäre.

Direkt mit einem Gründer · unverbindlich · ohne Verkaufsshow

Erst ein Prozess.
Dann der nächste.