Mi a kontextusablak?
A kontextusablak a maximális szövegmennyiség (tokenekben mérve), amelyet egy AI-modell egyszerre „láthat" — beleértve mind a bemenetet (prompt, dokumentumok, beszélgetéselőzmények), mind a generált kimenetet.
Kontextusablak-méretek
A 2024–2026-os modellek egyre nagyobb ablakokat kínálnak: GPT-4o — 128K token (~300 oldalnyi szöveg), Claude — 200K token, Gemini — akár 2M token. Ennek ellenére a kontextusablak korlát marad: több szöveg magasabb költséget, nagyobb késleltetést és potenciálisan rosszabb minőséget jelent.
Kontextuskezelési stratégiák
Vállalati rendszerekben az intelligens kontextusablak-kezelés kulcsfontosságú: RAG (csak releváns részleteket adjon meg, ne teljes dokumentumokat), kontextustömörítés (beszélgetéselőzmények összefoglalása), ügynökhierarchia (minden ügynök saját kisebb kontextusán dolgozik) és memóriarendszerek (a kontextusablakon kívüli tartós memória).