Zer da Testuinguru-leihoa?
Testuinguru-leihoa AA eredu batek aldi berean «ikus» dezakeen testu kopuru maximoa da (tokenetan neurtua) — sarrera (prompt, dokumentuak, elkarrizketa-historia) eta sortutako irteera barne.
Testuinguru-leihoaren tamainak
2024-2026ko ereduek gero eta leiho handiagoak eskaintzen dituzte: GPT-4o — 128K token (~300 testu-orrialde), Claude — 200K token, Gemini — 2M token arte. Hala ere, testuinguru-leihoa murrizketa izaten jarraitzen du: testu gehiago = kostu handiagoa, latentzia luzeagoa eta agian kalitate txarragoa.
Testuinguru-kudeaketa estrategiak
Enpresa-sistemetan, testuinguru-leihoaren kudeaketa adimentsua funtsezkoa da: RAG (zati garrantzitsuak soilik eman, ez dokumentu osoak), testuinguru-konpresioa (elkarrizketa-historiaren laburpena), agenteen hierarkia (agente bakoitzak bere testuinguru txikiagoan funtzionatzen du) eta oroimen-sistemak (testuinguru-leihotik kanpoko oroimen iraunkorra).