Что такое контекстное окно?
Контекстное окно (англ. context window) — это максимальный объём текста (измеряемый в токенах), который модель AI может «видеть» одновременно — включает как вход (промпт, документы, историю разговора), так и сгенерированный ответ.
Размеры контекстных окон
Модели 2024-2026 гг. предлагают всё большие окна: GPT-4o — 128K токенов (~300 страниц текста), Claude — 200K токенов, Gemini — до 2M токенов. Тем не менее контекстное окно остаётся ограничением: чем больше текста, тем выше стоимость, длиннее задержка и потенциально хуже качество («lost in the middle»).
Стратегии управления контекстом
В корпоративных системах ключевым является грамотное управление контекстным окном: RAG (предоставляйте только релевантные фрагменты, а не целые документы), сжатие контекста (суммирование истории разговора), иерархия агентов (каждый агент работает со своим, меньшим контекстом) и системы памяти (персистентная память вне контекстного окна).