Deine KI vergisst mitten im Gespräch — und das ist kein Bug

Mittwochabend, halb elf. Ich sitze seit einer Stunde in einem Chat mit meiner KI, wir haben zusammen einen Urlaubsplan gebastelt: Flüge, drei Hotel-Optionen, eine Liste mit Dingen, die noch gebucht werden müssen. Dann frage ich kurz nach, was wir eigentlich für Tag zwei entschieden hatten. Die Antwort ist falsch. Nicht ein bisschen falsch — komplett daneben, so als hätten wir nie darüber geredet.

Kein Absturz, keine Fehlermeldung. Die KI hat einfach den Anfang unseres Gesprächs verloren.

Das ist kein Zufall und kein Ausrutscher des Modells. Es steckt System dahinter, und wenn du das System einmal verstehst, ärgerst du dich nicht mehr, sondern arbeitest anders.

Der Schreibtisch, auf den nur begrenzt Papier passt

Stell dir vor, die KI hat einen Schreibtisch vor sich, auf dem dein ganzes Gespräch als Papier ausgebreitet liegt — jede Nachricht, jede Antwort, jedes Detail, das du erwähnt hast. Der Schreibtisch ist aber nicht unendlich groß. Irgendwann ist er voll.

Wenn neues Papier dazukommt, muss altes runter vom Tisch. Meistens verschwindet zuerst, was ganz am Anfang lag. Fachleute nennen diese Tischgröße das Kontextfenster: die Menge an Text, die ein Modell gleichzeitig „im Blick” behalten kann, gemessen in Textbausteinen, den sogenannten Tokens.

Und die Tischgrößen unterscheiden sich erheblich. ChatGPT Plus arbeitet standardmäßig mit rund 128.000 Tokens, die aktuellen Spitzenmodelle von OpenAI und Anthropic packen inzwischen bis zu einer Million drauf. Mistral, das französische KI-Unternehmen, kommt mit seinem Medium-Modell auf 256.000 Tokens — solide Mittelklasse, kein Ausreißer nach oben, aber für die meisten Alltagsgespräche mehr als genug Tisch. Klingt nach viel Papier. Ist es auch. Nur füllt sich der Tisch schneller, als man denkt, sobald ein Gespräch über Stunden oder mehrere Sitzungen läuft.

Warum „mehr Tisch” das Problem nicht wirklich löst

Man könnte meinen: Dann kauf halt das Modell mit der Million Tokens, Problem gelöst. Ist es nicht ganz.

Erstens kostet ein größeres Kontextfenster oft mehr Rechenleistung, und die KI wird bei sehr vollen Tischen langsamer und teilweise ungenauer — sie muss ja aus einem riesigen Papierstapel das Wichtige wieder herausfischen. Zweitens: Sobald der Tisch wirklich voll ist, muss irgendetwas geräumt werden, egal wie groß er ist. Manche Systeme fassen ältere Teile des Gesprächs automatisch zusammen, um Platz zu schaffen — das klingt praktisch, bedeutet aber, dass Details verloren gehen, ohne dass du es merkst. Andere kappen einfach den Anfang. Beides erklärt, warum die KI mitten im Gespräch plötzlich vergisst, was ihr vor einer Stunde wichtig war.

Ehrlich gesagt: Für die meisten von uns ist das größere Kontextfenster nice to have, aber keine Lösung. Das eigentliche Problem ist, wie wir Gespräche führen.

Was wirklich hilft

Der wirksamste Trick ist banal simpel: Wenn ein Gespräch lang wird, bitte die KI selbst um eine kurze Zusammenfassung — die wichtigsten Entscheidungen, offenen Fragen, Zahlen. Diese Zusammenfassung kopierst du, öffnest einen neuen Chat und fügst sie als ersten Satz ein. Der Tisch ist wieder leer, aber das Wichtigste liegt schon drauf.

Genauso hilfreich: für jede neue Aufgabe einen neuen Chat starten, statt alles in ein einziges Mammutgespräch zu packen. Das fühlt sich am Anfang unpraktisch an, weil man das Gefühl hat, den Kontext „mitschleppen” zu müssen. Tatsächlich ist es umgekehrt — ein Chat pro Thema bleibt länger präzise, weil der Tisch gar nicht erst mit Nebensächlichkeiten vollgestopft wird. Willst du eine Excel-Formel klären und danach eine E-Mail formulieren? Zwei Chats, keiner.

Und wenn du merkst, dass die Antworten seltsam werden, dass Namen durcheinandergeraten oder Zahlen sich plötzlich ändern — das ist meistens kein Zeichen, dass die KI schlechter geworden ist. Das ist der Moment, in dem der Tisch überquillt.

Meine Haltung dazu

Ich finde, dass genau das die uncoolste, aber wichtigste Grunderkenntnis im Umgang mit KI ist: Sie hat kein Gedächtnis in dem Sinn, wie wir eines haben. Sie hat einen Arbeitsspeicher, der irgendwann endet. Wer das ignoriert und einfach immer weitertippt, wird an einem bestimmten Punkt frustriert aufgeben und denken, das Tool tauge nichts.

Dabei ist die Lösung keine große Umstellung. Ein zusätzlicher Klick, eine kopierte Zusammenfassung, ein neuer Tab. Ich würde sogar so weit gehen zu sagen: Wer lange, unstrukturierte Chatverläufe pflegt, arbeitet gegen das Werkzeug statt mit ihm. Und das merkt man der Qualität der Antworten an, lange bevor irgendeine Fehlermeldung kommt.