Token-Limit / Context Limit
von Nicole Angela Buck
Warum KI irgendwann abbricht – und was Du dann verstehst, wenn Du die Sammlung gelesen hast
contao--scroll-offset#store" data-contao--scroll-offset-target="autoFocus">
Wenn Du diese Sammlung von Anfang bis Ende gelesen hast, kommt jetzt der Eintrag, der alles zusammenbringt. Token-Limit klingt erstmal technisch, aber wenn Du Token, Kontextfenster, LLM, RAG und Embedding verstanden hast, dann hast Du jetzt die Vokabeln, um zu begreifen, warum KI manchmal mittendrin aufhört oder etwas vergisst. Dieser letzte Eintrag ist eine Art Synthese. Er zeigt Dir, dass die scheinbar zufälligen Macken von KI gar nicht zufällig sind, sondern eine konkrete technische Ursache haben.
Was ist ein Token-Limit?
Ein Token-Limit ist die obere Grenze dessen, was eine KI auf einmal verarbeiten kann. Es wird in Token gemessen, also den kleinen Spracheinheiten, in denen KI denkt und rechnet.
Jedes KI-Modell hat verschiedene Limits, die ineinandergreifen.
Das Kontextfenster-Limit ist die maximale Menge an Token, die in einem einzigen Chat zusammen verarbeitet werden können. Alles, was Du jemals in den Chat geschrieben hast, alle Antworten der KI, alle hochgeladenen Dokumente. Das alles fließt in dieses eine Fenster. Wenn es voll ist, fliegt entweder etwas raus (das Älteste zuerst), oder die KI sagt „geht nicht mehr".
Das Output-Limit ist die maximale Länge einer einzelnen Antwort. Selbst wenn Dein Kontextfenster groß genug wäre, hat jede einzelne Antwort eine Maximallänge. Bei den meisten Modellen sind das ein paar Tausend Token, also ein paar Dutzend Seiten. Wenn Du also eine sehr lange Antwort forderst, bricht die KI irgendwann ab oder fasst zusammen, statt vollständig zu antworten.
Das Nutzungs-Limit ist eine Grenze, die der Anbieter setzt, um seinen Service zu schützen. Bei kostenlosen Versionen oft sehr eng. „Du hast Dein Limit für diese Stunde erreicht." Bei kostenpflichtigen Versionen großzügiger, aber auch dort gibt es Grenzen. Das ist weniger technisch und mehr geschäftlich, aber für Dich im Alltag spürbar.
Token-Limits sind also ein Geflecht aus technischen Grenzen (was schafft das Modell) und wirtschaftlichen Grenzen (was lässt der Anbieter zu).
Was Du wirklich wissen musst
Hier ziehen sich alle Fäden zusammen, die in den letzten 21 Einträgen aufgetaucht sind.
Wenn Du verstehst, dass KI in Token denkt, und dass Token Geld kosten und Verarbeitungsleistung brauchen, dann verstehst Du, warum Anbieter Limits setzen. Sie sind keine Schikane, sondern Ausdruck einer realen Ressourcenfrage.
Wenn Du verstehst, dass Kontextfenster begrenzt sind, dann verstehst Du, warum lange Chats unzuverlässig werden. Was am Anfang stand, ist irgendwann nicht mehr im Speicher.
Wenn Du verstehst, dass RAG existiert, und dass es Dokumente in kleine Stücke zerlegt, weißt Du, dass RAG ein Trick ist, um die Begrenzung des Kontextfensters auszutricksen. Statt alles auf einmal in den Speicher zu legen, holt RAG nur die relevanten Stücke raus.
Wenn Du verstehst, dass Embeddings die mathematische Basis für RAG sind, dann hast Du den ganzen Mechanismus durchschaut: Token sind die Einheit, Kontextfenster ist der Speicherplatz, Embeddings sind die Suchhilfe, RAG ist die Strategie, mit den Grenzen umzugehen.
Das Token-Limit ist also keine isolierte Eigenschaft, sondern der Punkt, an dem die ganze Architektur von KI sichtbar wird. Wer ihn versteht, versteht KI nicht mehr als magische Box, sondern als ein System mit klaren Grenzen und klaren Strategien, mit diesen Grenzen umzugehen.
Eine Sache, die viele unterschätzen: Die Limits werden in Zukunft größer. Vor drei Jahren waren Kontextfenster von wenigen Tausend Token Standard. Heute sind hunderte Tausend normal. In ein paar Jahren werden vermutlich Millionen die Regel sein. Das verändert, was möglich ist. Aber egal wie groß die Limits werden, irgendwo sind sie immer. Die Frage ist nur, wo.
Was Du damit machst
Sehr praktisch im Alltag: Wenn Du auf ein Limit stößt, weißt Du jetzt, welches es ist.
Wenn die KI mitten in einer Antwort abbricht, ist es vermutlich das Output-Limit. Lösung: Frag nach „schreib bitte weiter, wo Du aufgehört hast."
Wenn die KI in einem langen Chat plötzlich vergisst, was am Anfang besprochen war, ist es das Kontextfenster. Lösung: Neuen Chat starten mit einer kurzen Zusammenfassung der wichtigsten Punkte.
Wenn die KI sagt „Du hast Dein Tageslimit erreicht", ist es das Nutzungs-Limit. Lösung: Warten oder zur kostenpflichtigen Variante wechseln.
Wenn Du große Dokumente verarbeiten willst, ist es eine Kombination aus Kontextfenster und Output-Limit. Lösung: RAG nutzen, also Dokumente nicht komplett hochladen, sondern in Projekten oder spezialisierten Werkzeugen wie NotebookLM verarbeiten.
Wenn Du eine eigene KI-Anwendung baust und merkst, dass die Kosten explodieren, dann ist es das Token-Limit in seiner wirtschaftlichen Form. Lösung: Eingaben kürzen, Antworten begrenzen, smarter mit Tokens haushalten.
Verwandte Begriffe: Token, Kontextfenster, RAG, Embedding
Stand: Mai 2026