X'inhi t-Tieqa tal-Kuntest?
It-tieqa tal-kuntest hija l-ammont massimu ta' test (imkejjel f'tokens) li mudell tal-IA jista' "jara" simultanjament — inklużi kemm l-input (prompt, dokumenti, storja tal-konversazzjoni) u kemm l-output iġġenerat.
Daqsijiet tat-tieqa tal-kuntest
Il-mudelli 2024-2026 joffru twieqi dejjem akbar: GPT-4o — 128K tokens (~300 paġna ta' test), Claude — 200K tokens, Gemini — sa 2M tokens. Minkejja dan, it-tieqa tal-kuntest tibqa' restrizzjoni: aktar test = spiża ogħla, latenza itwal, u potenzjalment kwalità agħar.
Strateġiji ta' ġestjoni tal-kuntest
F'sistemi tal-intrapriżi, il-ġestjoni intelliġenti tat-tieqa tal-kuntest hija kruċjali: RAG (ipprovdi biss frammenti relevanti, mhux dokumenti sħaħ), kompressjoni tal-kuntest (sommarju tal-istorja tal-konversazzjoni), ġerarkija tal-aġenti (kull aġent jopera fuq il-kuntest iżgħar tiegħu stess), u sistemi tal-memorja (memorja persistenti barra mit-tieqa tal-kuntest).