Mitä on konteksti-ikkuna?
Konteksti-ikkuna on suurin tekstimäärä (mitattuna tokeneina), jonka tekoälymalli voi "nähdä" samanaikaisesti — sisältäen sekä syötteen (prompt, dokumentit, keskusteluhistoria) että generoidun tulosteen.
Konteksti-ikkunan koot
Vuosien 2024–2026 mallit tarjoavat yhä suurempia ikkunoita: GPT-4o — 128K tokenia (~300 tekstisivua), Claude — 200K tokenia, Gemini — jopa 2M tokenia. Tästä huolimatta konteksti-ikkuna on edelleen rajoite: enemmän tekstiä tarkoittaa korkeampia kustannuksia, pidempää viivettä ja mahdollisesti huonompaa laatua.
Kontekstin hallintastrategiat
Yritysjärjestelmissä älykäs kontekstin hallinta on avainasemassa: RAG (tarjoa vain relevantit fragmentit, ei kokonaisia dokumentteja), kontekstin pakkaus (keskusteluhistorian tiivistäminen), agenttihierarkia (kukin agentti toimii omassa pienemmässä kontekstissaan) ja muistijärjestelmät (pysyvä muisti konteksti-ikkunan ulkopuolella).