Hvad er et kontekstvindue?
Et kontekstvindue er den maksimale mængde tekst (målt i tokens), som en AI-model kan "se" samtidigt — inklusive både input (prompt, dokumenter, samtalehistorik) og genereret output.
Kontekstvindusstørrelser
Modeller fra 2024-2026 tilbyder stadig større vinduer: GPT-4o — 128K tokens (~300 tekstsider), Claude — 200K tokens, Gemini — op til 2M tokens. Trods dette forbliver kontekstvinduet en begrænsning: mere tekst betyder højere omkostninger, længere latens og potentielt dårligere kvalitet.
Strategier for kontekststyring
I virksomhedssystemer er intelligent kontekststyring afgørende: RAG (lever kun relevante fragmenter, ikke hele dokumenter), kontekstkomprimering (sammenfat samtalehistorik), agenthierarki (hver agent arbejder i sin egen mindre kontekst) og hukommelsessystemer (persistent hukommelse uden for kontekstvinduet).