Was sind KI-Tokens und wie Sie KI-Kosten senken können

Künstliche Intelligenz ist im deutschen Mittelstand angekommen. Laut der Bitkom-Umfrage von 2026 setzen inzwischen 41 Prozent der deutschen Unternehmen KI aktiv ein. Das ist eine Steigerung um den Faktor 2,4 innerhalb eines Jahres. Doch diese Steigerung kommt auch mit einer unbequemen Zahl: 33 Prozent der KI-User haben festgestellt, dass KI zu deutlich höheren Kosten geführt hat, als zuvor erwartet wurde.

Ein zentraler Kostentreiber dahinter sind die Tokens. In diesem Artikel erfahren Sie, was Tokens sind und wie Sie Ihre Token-Kosten reduzieren können.

Was sind KI-Tokens?

KI-Sprachmodelle lesen keine Wörter und keine Buchstaben. Sie zerlegen jeden Text in Tokens – kleine Bausteine, ähnlich den Silben der Sprache. Ein Token ist mal ein ganzes Wort, mal nur ein Wortteil, mal ein Satzzeichen. Der Sinn von Tokens ist es, Text zu komprimieren, indem häufige Zeichenketten durch eigene Kennungen ausgetauscht werden.

Ein Beispiel mit dem OpenAI-Tokenizer macht es greifbar: Das englische Wort „hello“ ist genau 1 Token. Das deutsche „hallo“ wird dagegen in 2 Tokens zerlegt. Und schreiben Sie „héllo“ mit Akzent, sind es ebenfalls 2 Tokens – das Sonderzeichen kostet extra.

Warum ist das wichtig? Weil KI nicht in Stunden oder Lizenzen abgerechnet wird, sondern in Tokens. Jeder Token, den Sie hineingeben, und jeder Token, den die KI ausgibt, kostet Geld. Tokens sind das Taxameter der KI: Es tickt bei jeder Eingabe UND bei jeder Ausgabe.

Wie werden Tokens berechnet?

Sprachmodelle benötigen mathematische Vektoren, um ihre Berechnungen durchzuführen. Dafür ist es erforderlich, dass Texte vorab in den folgenden Schritten umgewandelt werden.

1. Satz → Tokens. Der Beispielsatz „Tokenisierung macht Sprache berechenbar.“ wird durch einen Tokenizer in einzelne Tokens (Bausteine) zerlegt. Dabei wurde vorab analysiert, welche Zeichenketten häufig in der Sprache vorkommen. Anstatt diese einzeln zu buchstabieren, erhalten die häufigen Textbestandteile eigene Kennungen (IDs). Wörter wie „und“, „aber“ erhalten quasi ihre eigene Kennung im KI-Alphabet. Das Token-Alphabet von großen Sprachmodellen wie ChatGPT, Gemini, Claude und Co. umfasst mehrere hunderttausend Tokens.
   
   Durch die Tokenisierung wird die Größe der Eingabe signifikant komprimiert. Aus den 40 Zeichen entsteht eine Liste von nur 8 Tokens. Für die Kosten zählt aber vor allem eins: Je mehr Tokens, desto teurer. Wie Ihr eigener Text zerlegt wird, können Sie z. B. im Tokenizer von OpenAI selbst ausprobieren.

2. Tokens → Embeddings. Hinter jedem Token steckt eine eindeutige ID aus dem jeweiligen KI-Alphabet. Aus diesen IDs werden Vektoren gebildet. Diese Vektoren werden Embeddings genannt.
   
   Diese Embeddings sind der eigentliche Trick. Stellen Sie sich eine riesige Bedeutungs-Landkarte vor, auf der jedes Wort einen festen Ort hat. Begriffe mit ähnlicher Bedeutung liegen nah beieinander: „König“ und „Königin“ sind Nachbarn, „König“ und „Kühlschrank“ liegen weit auseinander. So „versteht“ die Maschine, dass „Rechnung“ und „Zahlungsziel“ in Ihrer Kundenanfrage thematisch zusammengehören – obwohl sie nur Zahlen verarbeitet. Rechnerisch sind sogar mathematische Operationen möglich, z. B. Kätzchen - Katze + Hund = Welpe.
   
   Die Embeddings werden beim KI-Training durch den Kontext von Wörtern trainiert. Allein die Position eines Wortes im Satz bzw. zu anderen Wörtern gibt Aufschluss über die Bedeutung. Welches Wort wird hier gesucht?

• „Der [___] jagt den Postboten.“
• „Ich gehe mit meinem [___] Gassi.“
• „Der [___] bellt laut.“

Warum Deutsch teurer ist als Englisch

Deutsche Texte kosten mehr als englische, da sie aus mehr Tokens bestehen. Der Grund dafür ist, dass Tokenizer überwiegend auf englischen Texten trainiert werden. Dazu kommen unsere Komposita. Ein Wort wie „Suchmaschinenoptimierung“ ist für einen Menschen ein Begriff – für den Tokenizer aber eine Kette aus mehreren Bausteinen.

Die meisten Modelle sind für die englische Sprache optimiert. Als Faustregel, gemessen an einem Tokenizer-Vergleich 2026:

• Englisch: ca. 1,17 Tokens pro Wort
• Deutsch: ca. 1,71 Tokens pro Wort

Ein deutscher Text mit 1.000 Wörtern kommt je nach Modell so schnell auf 1.700 bis 3.000 Tokens. Extrembeispiel Zahlen: „neunzehnhundertvierundachtzig“ wird in rund zehn Tokens zerlegt, das englische „nineteen eighty four“ in nur fünf.

Die praktische Folge: Derselbe Prompt verbraucht auf Deutsch spürbar mehr Tokens als auf Englisch.

Preisunterschiede von KI-Tokens

Zwei Dinge müssen Sie zur KI-Abrechnung mit Tokens wissen.

Erstens: Input-Tokens ≠ Output-Tokens. Sie zahlen getrennt für das, was Sie hineingeben (Input), und das, was die KI generiert (Output). Der Output ist dabei durchweg teurer – typischerweise das Drei- bis Zehnfache, bei den großen Modellen meist Faktor fünf bis sechs. Der Grund: Text zu lesen ist für die Maschine deutlich einfacher, als Wort für Wort neuen Text zu generieren.

Zweitens: Die Token-Preise unterscheiden sich stark von Modell zu Modell. Eine Million Output-Token kostet bei dem OpenAI-Modell gpt-5.6-luna $1,20 und im Vergleich bei dem Flagship-Modell gpt-6-astra $50 (Stand September 2026, aktuelle Preisübersicht OpenAI hier). Flagship-Modelle sind wesentlich größer und benötigen wesentlich mehr Berechnungen. Sie werden für komplexe, logische Aufgaben verwendet.

Daher ist es sinnvoll, individuell pro Aufgabe zu entscheiden, welches Modell sinnvoll ist. Beispielsweise kann ein Flagship-Modell auch Weihnachtskarten schreiben oder einen Text übersetzen, jedoch wäre das absurd teuer. Es ist eher sinnvoll, Flagship-Modelle für komplexe Aufgaben wie Recherchen, Softwareentwicklung und Evaluationen zu verwenden und für einfache Aufgaben lieber auf kleinere Modelle zurückzugreifen. Tools wie Auto Router von LiteLLM können selbstständig Anfragen semantisch klassifizieren und das jeweilige beste Modell für die jeweilige Komplexität aufrufen.

KI-Kosten senken: Sieben konkrete Möglichkeiten

1. Model Routing: Nicht jede Anfrage braucht das Flagship. Ein Router prüft die Anfrage und leitet sie an das passende Modell weiter. Der Stanford-Ansatz „FrugalGPT“ der Autoren Lingjiao Chen, Matei Zaharia und James Zou belegt, dass ein Cascade-Routing je nach Aufgabe eine gemessene Gesamtersparnis von bis zu 98 Prozent erreichen kann.

2. Prompt-Caching: Wiederkehrende Prompt-Bestandteile, z. B. eine feste Systemanweisung oder ein Referenzdokument, lassen sich zwischenspeichern und werden dann deutlich günstiger abgerechnet. Die Ersparnis für „Cached Input“-Tokens liegt häufig im Bereich von 90 Prozent. Das Sicherheits-Unternehmen ProjectDiscovery betrieb seinen Agenten „Neo“ mit einem 20.000-Token-System-Prompt und 20 bis 40+ LLM-Schritten pro Aufgabe. Eine einzige Umstellung hob die Cache-Trefferquote von 7 auf 74 Prozent, weitere Optimierungen auf 84 Prozent. Insgesamt bediente ProjectDiscovery 9,8 Milliarden Tokens aus dem Cache und senkte die LLM-Kosten um 59 Prozent. (s. Quelle).

3. Batch-Verarbeitung: Für nicht eilige Aufgaben – nächtliche Auswertungen, Massen-Klassifizierung, Dokumentenanalyse – bieten OpenAI, Anthropic und Google einen Batch-Modus mit aktuell 50 Prozent Rabatt. Die Batch-Verarbeitung verwendet dabei das gewünschte Modell und hat damit keine Auswirkung auf die Qualität der Ausgabe. Die Ergebnisse werden nicht sofort, sondern z. B. innerhalb von 24 Stunden geliefert.

4. Kontext kurz halten. Jeder unnötige Token im Prompt kostet. Bei langen Dialogen gilt: alte Gesprächsverläufe zusammenfassen statt komplett mitschleppen.

5. System-Prompts und Werkzeuge verschlanken. Präzise, schlanke Systemanweisungen statt seitenlanger Instruktionen. Jede Werkzeug-Definition, die ein Agent bei jedem Aufruf mitschickt, zählt: Ein komplexer Agent mit 20+ Werkzeugen kann allein für deren Beschreibung tausende Tokens pro Aufruf verbrauchen. Anthropic hat den System-Prompt von Claude Code für seine neueste Modellgeneration um über 80 Prozent gekürzt – ohne Qualitätsverlust (s. Quelle).

6. Auf Füllphrasen verzichten. Anweisungen wie „Könntest du mir bitte den folgenden Text zusammenfassen?“ können auf „Fasse zusammen:“ reduziert werden. Außerdem ist es nicht erforderlich, sich bei KI-Agenten zu bedanken. Dadurch wird erneut der ganze Gesprächsverlauf verarbeitet, um eine unnötige Antwort zu generieren.

7. Output-Länge begrenzen. Der Output ist der teure Teil. Fordern Sie präzise Formate an – etwa „Antworte in maximal drei Stichpunkten“ statt eines offenen Aufsatzes. Antworten können mit Parametern wie max_tokens als Sicherheit hart gekürzt werden.

Ausblick: Wenn die Kostenfrage komplett neu gestellt wird

Alle sieben Hebel optimieren den Token-Verbrauch der Cloud-KI. Doch es gibt eine Alternative, die die Rechnung von Grund auf verändert. Lokale KI-Modelle, die auf Ihrer eigenen Hardware laufen – ersetzen das variable Taxameter durch kalkulierbare Fixkosten. Was das für Datenschutz, Unabhängigkeit von US-Konzernen, Planbarkeit und Ihre Kostenstruktur bedeutet, erfahren Sie in unseren nächsten Blog-Artikeln.

Wir haben in einen lokalen KI-Server investiert, um kritische Unternehmensdaten sicher in unserem Intranet zu verarbeiten. Wir haben Prozesse automatisiert, bei denen wir die Daten nicht an Cloud-Dienstleister weitergeben möchten. Ergänzend nutzen wir weiterhin Flagship-Modelle in der Cloud, um komplexe Aufgaben zu bearbeiten.

Fazit

KI wird nicht in Lizenzen oder Arbeitsstunden abgerechnet, sondern in Tokens – und zwar bei jeder Eingabe und bei jeder Ausgabe. Das dürfte ein Grund sein, warum ein Drittel der Unternehmen von der eigenen KI-Rechnung überrascht wird.

Die gute Nachricht: Die Kostentreiber sind bekannt und beherrschbar. In der Praxis machen vier Dinge den Großteil der Rechnung aus: ein zu großes Modell für eine einfache Aufgabe, ein aufgeblähter Kontext, ungenutztes Caching und unbegrenzte Ausgabelängen. Wer hier ansetzt, senkt seine KI-Kosten häufig um mehrere zehn Prozent – ohne Abstriche bei der Qualität.

Entscheidend ist die Reihenfolge: erst messen, dann optimieren. Wer nicht weiß, welche Anwendung wie viele Input- und Output-Tokens verbraucht, optimiert ins Blaue. Der Blick in die Nutzungsstatistik Ihres Anbieters ist der günstigste erste Schritt – und meist der aufschlussreichste.