← Alle BeiträgePRAXISWISSEN

Kontextfenster bei LLMs richtig nutzen

Das Kontextfenster umfasst die Informationen, die ein Modell bei einer konkreten Anfrage gleichzeitig berücksichtigen kann. Mehr Kontext ist nicht automatisch besser: relevant, aktuell, widerspruchsfrei und strukturiert ist wichtiger als bloße Menge. Der Beitrag zeigt ein kontrolliertes Vorgehen, ein realistisches CTPM-Praxisbeispiel und ein konkretes Transferergebnis.

Realistische Unternehmensszene zum Thema Kontextfenster bei LLMs richtig nutzen
Kurzantwort

Das Kontextfenster umfasst die Informationen, die ein Modell bei einer konkreten Anfrage gleichzeitig berücksichtigen kann. Mehr Kontext ist nicht automatisch besser: relevant, aktuell, widerspruchsfrei und strukturiert ist wichtiger als bloße Menge.

Was der Begriff tatsächlich bedeutet

Im Kontext stehen Systemanweisung, Nutzerauftrag, Gesprächsverlauf, Dokumente und Werkzeugergebnisse. Lange Eingaben können wichtige Passagen verdrängen oder durch widersprüchliche Hinweise die Ergebnisqualität senken.

Warum das im Unternehmen relevant ist

Unternehmen sollten Kontext als kuratiertes Arbeitspaket behandeln: Welche Quelle gilt, welcher Zeitraum ist relevant, welche Version ist freigegeben und welche Informationen dürfen das System verlassen?

Kontrolliert vorgehen

Der CTPM-Praxisrahmen für kontrollierbare KI-Anwendungen führt in sieben Schritten von der Aufgabe zur belastbaren Nutzung: Aufgabe verstehen, Kontext und Daten klären, KI gezielt einsetzen, fachlich prüfen, Abweichungen behandeln, verantwortlich freigeben und den Transfer dokumentieren. Er ist ein transparenter Arbeitsrahmen, keine Zertifizierung.

  • Aufgabe und Wirkung festlegen
  • Daten, Kontext und Berechtigung klären
  • Ergebnis gegen fachliche Kriterien prüfen
  • Abweichung, Freigabe und Nachweis regeln

CTPM-Praxisbeispiel

CTPM-Praxisbeispiel: Für einen Architekturreview werden nur aktuelle Zielbild-, Schnittstellen- und Qualitätsdokumente eingebracht. Historische Varianten werden gekennzeichnet und getrennt abgefragt, damit das Modell keine alten Entscheidungen vermischt.

Qualitäts- und Testkriterien

Die folgenden Kriterien machen die Qualität für diesen Anwendungsfall beobachtbar:

  • Kontextquellen sind versioniert und benannt.
  • Relevante Passagen sind gegenüber Füllmaterial priorisiert.
  • Widersprüche werden vor der Ausgabe behandelt.
  • Vertrauliche Inhalte folgen einer Datenklassifikation.

Risiken und typische Fehlannahmen

Risiken sind „lost in the middle“, veraltete Gesprächsinhalte, Prompt Injection in Dokumenten und unbemerkte Kürzung durch technische Grenzen.

Beispiel für Ihr Transferergebnis

Transferergebnis: eine Kontext-Checkliste mit Quellenrangfolge, Version, Gültigkeit, Vertraulichkeit und maximalem Umfang.

Quellen und Referenzen

  1. NIST: Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (2024)
  2. OWASP GenAI Security Project: OWASP Top 10 for LLM Applications 2026 (2026)
  3. OpenAI: Prompt engineering guide (2026)