Limity jediného AI
Většina podniků zahajuje svou AI cestu s jediným chatbotem — univerzálním asistentem, od nějž se očekává, že zvládne vše od zákaznické podpory po analýzu dat. Na jednoduché dotazy to funguje, ale jakmile potřebujete doménově specifické uvažování, soulad s předpisy nebo orchestraci napříč systémy, model „vše v jednom“ nestačí.
Základním problémem je kontext. Jeden model musí žonglovat s finančními předpisy, DevOps příručkami, HR politikami a komunikací s klienty — vše v jednom kontextovém okně. Výsledkem jsou povrchní odpovědi, halucinované postupy a nulová odpovědnost, když se něco pokazí.
Multi-agentní paradigma
V ESKOM.AI jsme zvolili jiný přístup s naší multi-agentní platformou. Místo jednoho vševědoucího chatbota jsme vybudovali síť desítek specializovaných AI agentů, každý s jasně definovanou rolí, sadou nástrojů a znalostní bází. Výkonný asistent se stará o plánování a třídění e-mailů. Finanční agent spravuje analýzu rozpočtu. Technický agent navrhuje architektury. Každý agent je expertem ve svém oboru.
To nejsou jen organizační kosmetické úpravy. Každý agent nese vlastní systémový prompt, paměť, oprávnění k nástrojům a kvalitativní prahy. Když CEO dostane e-mail o obnovení smlouvy, systém neklade obecnému LLM otázku, jak to vyřešit — úkol směruje příslušnému specialistovi, který kontextu již rozumí.
Orchestrace je ta náročná část
Budování jednotlivých agentů je relativně přímočaré. Skutečnou inženýrskou výzvou je orchestrace — rozhodování o tom, který agent zpracuje úkol, jak agenti spolupracují na složitých pracovních postupech a jak udržovat konzistenci napříč sítí. Naše platforma kombinuje osvědčené frameworky pro orchestraci agentů ke správě:
- Klasifikace záměru — automatické směrování příchozích úkolů ke správnému specialistovi
- Multi-agentní pracovní postupy — řetězení agentů pro složité procesy (např. právní přezkum → finanční analýza → výkonné shrnutí)
- Řešení konfliktů — zpracování případů, kdy mají agenti překrývající se kompetence
- Samo-učení — agenti se zdokonalují prostřednictvím epizodické paměti a ladění promptů na základě výsledků
Reálné produkční výsledky
Po 10 vývojových fázích a tisících automatizovaných testů pokrývajících unit, integrační, E2E, UI, bezpečnostní, výkonnostní, regresní, smoke a akceptační náš systém zpracovává e-maily CEO rychlostí 86 zpráv za minutu s dobou odezvy p95 pod 2 sekundy. Systém se integruje se stovkami obchodních nástrojů — Gmail, Jira, Confluence, Slack, MS Graph a dalšími — přičemž každý agent má přístup ke konkrétním platformám, které potřebuje.
Klíčový poznatek je, že podnikový AI nestojí na tom, mít nejchytřejší model. Jde o to mít správný model pro každý úkol, s odpovídajícími kontrolními mechanismy, auditními stopami a zabudovanou doménovou expertizou. Tým soustředěných specialistů vždy překoná jednoho generalistu, který se snaží dělat vše najednou.