Pillar page

Multiagentové systémy AI

Tím špecializovaných AI agentov namiesto jedného všeobecného chatbota. Orchestrácia, viacúrovňový routing LLM modelov, epizodická pamäť, kontrola nákladov a audit trail. Interne používame platformu HybridCrew na poskytovanie služieb klientom.

Porozprávajme sa o nasadení Pozrite HybridCrew

Jediný chatbot v štýle ChatGPT je nástroj všeobecného použitia. Skvele rozumie jazyku, generuje texty, odpovedá na otázky — ale keď úloha vyžaduje sekvenciu akcií, prístup k firemným databázam, pamäť o predchádzajúcich interakciách alebo overenie kvality, jeho obmedzenia sa stávajú viditeľnými.

Multiagentový systém AI je iná architektúra: tím špecializovaných agentov, každý s vlastnou rolou, nástrojmi, pamäťou a stratégiou činnosti. Asistent CEO klasifikuje poštu. Finančný controller generuje reporty. Security reviewer skenuje kód. Content writer píše marketingové drafty. Všetko koordinované orchestrátorom, ktorý rozhoduje, kto dostane ktorú úlohu.

Odkiaľ pochádza výhoda multiagentových systémov

Špecializácia v AI funguje rovnako ako v biznise. Namiesto jednej osoby, ktorá „vie všetko po troche", dosahuje lepšie výsledky tím špecialistov. Agent sústredený na jeden typ úloh — s optimalizovanými promptmi, vhodným LLM modelom, prístupom k správnym nástrojom — vykonáva prácu lepšie a lacnejšie ako univerzálny model, ktorý sa snaží uhádnuť kontext od nuly.

Druhá výhoda: kontrola nákladov. Väčšina úloh nevyžaduje najsilnejší LLM model. Drobné klasifikácie, generovanie šablónových obsahov, vyťahovanie dát zo štruktúrovaných dokumentov — všetko môžu vykonať lokálne, bezplatné modely bežiace na GPU klienta. Iba najkomplexnejšie rozhodnutia idú do najsilnejších cloudových modelov. Typický prevádzkový náklad: zlomok toho, čo pri jednotnom používaní najsilnejších modelov.

Tretia: compliance a bezpečnosť. Každý agent má minimálne oprávnenia (least privilege). Každá interakcia je logovaná (audit trail). Osobné údaje sú anonymizované pred odoslaním externým modelom (mikroslužba Anoxy). Celá architektúra navrhnutá v súlade s GDPR a EU AI Act od prvého riadku kódu.

Komponenty enterprise multiagentového systému

Deväť prvkov, ktoré musia fungovať spolu, aby sa multiagentový systém hodil na produkčné použitie vo firme.

Špecializovaní agenti

Každý agent má jednu zodpovednosť: asistent CEO, finančný controller, security reviewer, backend developer, content writer. Špecializácia dáva lepšie výsledky ako jeden všeobecný chatbot.

Orchestrátor

Centrálna vrstva rozhodujúca, ktorý agent dostane ktorú úlohu. Vychádza z klasifikácie zámeru, dostupnosti agentov, nákladov LLM modelov a obchodného kontextu.

Viacúrovňový routing LLM

Drobné úlohy → lokálny model (Ollama, náklad $0). Stredné → lacnejší cloudový model. Komplexné → najsilnejšie cloudové modely. Drastická redukcia nákladov bez straty kvality.

Epizodická pamäť

Agenti si pamätajú, čo robili predtým, aké boli výsledky, čo fungovalo. Časom sa stávajú lepšími v opakovateľných úlohách — učia sa z každej interakcie.

Sémantická pamäť

Vektorová databáza doménových znalostí (Qdrant, pgvector). Agenti môžu rýchlo nájsť podobné prípady z minulosti, referenčné dokumenty, firemné politiky.

Anonymizácia dát (Anoxy)

Pred odoslaním obsahu do externých LLM modelov dedikovaná mikroslužba Anoxy skenuje a anonymizuje osobné údaje. Súlad s GDPR bez funkčných kompromisov.

Audit trail

Každá interakcia medzi agentmi zaznamenaná: kto, komu, čo sa pýtal, akú dostal odpoveď, aké LLM modely boli použité, aký náklad. Plná observabilita.

Monitoring a kontrola nákladov

Limity per agent, per používateľ, per organizácia. Dashboard s nákladmi real-time. Alerty pri netypických rastoch spotreby. Optimalizácia routingu na základe dát.

Eskalácia na človeka

Nízky confidence score, kritické finančné alebo právne rozhodnutie, neobvyklý prípad → automatická eskalácia na ľudského operátora s úplným kontextom.

Použitie vo firme

Šesť oblastí, v ktorých multiagentové systémy AI dodávajú merateľnú obchodnú hodnotu. Každá z nich je nasadená ako pilot 4-8 týždňov.

Asistent CEO

Klasifikuje a odpovedá na e-maily, dohaduje stretnutia, pripravuje briefy pred rozhovormi, sumarizuje dlhé dokumenty, monitoruje deadliny. Typicky ušetrí CEO 10-15 hodín týždenne administratívy.

Compliance a právny monitoring

Nepretržitý monitoring zmien v práve, klasifikácia vplyvu na firmu, alerty pri nových povinnostiach. Generovanie predbežných reportov GDPR, EU AI Act, ISO 27001. Drafty politík a procedúr.

Vývoj softvéru

Code review, generovanie testov, písanie dokumentácie, refaktoring, generovanie databázových migrácií. Dvaja-traja ľudia s agentmi dodávajú hodnotu tímu 8-10 ľudí.

Zákaznícka podpora

Klasifikácia tiketov, automatické odpovede na opakovateľné otázky (založené na znalostnej báze), eskalácia na človeka pri komplexných prípadoch. Skrátenie času odpovede z hodín na minúty.

Analýza dokumentov

Extrakcia dát zo zmlúv, faktúr, ponúk. Porovnávanie obchodných podmienok. Detekcia nezrovnalostí a rizík. Generovanie súhrnov a reportov pre právny tím.

Predaj a marketing

Monitoring social media a zmienok o značke, klasifikácia sentimentu, generovanie odpovedí (kontrolovaných človekom pred publikáciou), tvorba predbežných marketingových obsahov.

Chatbot vs. multiagentový systém

AspektJediný chatbot (ChatGPT/Copilot)Multiagentový systém
ŠpecializáciaVšeobecný model, „vie všetko po troche"Špecializovaní agenti per doména
Prístup k firemným dátamObmedzený (kopírovanie do okna chatu)Natívny (integrácia s CRM, ERP, databázami)
PamäťChat session (typicky 1-2 hod.)Epizodická + sémantická pamäť (trvalá)
Routing nákladovJeden model pre všetky úlohyViacúrovňový (lokálny → cloud → premium)
Vykonávanie akciíGeneruje text, nevykonáva akcieVolá API, zapisuje do databáz, posiela e-maily
Audit trailŽiadny (alebo torzovitý)Úplný — každá interakcia zaznamenaná
Anonymizácia PIIZávisí od používateľaVynútená, automatická (Anoxy)
Compliance (GDPR, EU AI Act)Ťažká na preukázanieZabudovaná v architektúre

Referenčná platforma: HybridCrew

HybridCrew je interná platforma ESKOM AI, ktorú používame na poskytovanie služieb klientom. Orchestruje desiatky špecializovaných AI agentov — každý s vlastnou rolou (napr. asistent organizácie, finančný controller, project manager, backend developer, security reviewer), poľským rozhraním, prístupom k nástrojom a integráciami s obchodnými systémami.

Kľúčové technické vlastnosti:

  • Viacúrovňový routing LLM — od bezplatných lokálnych modelov (Ollama) po najsilnejšie cloudové modely. Voľba modelu automatická, na základe komplexnosti úlohy.
  • Široké integrácie — Gmail, Slack, Jira, Confluence, Microsoft Graph, Salesforce, Airtable a mnoho ďalších. Vieme pripojiť ľubovoľné API klienta.
  • Email Intelligence — automatická klasifikácia pošty CEO, rozpoznávanie zámerov, generovanie odpovedí na schválenie.
  • Anoxy — anonymizácia PII — dedikovaná mikroslužba anonymizujúca osobné údaje pred odoslaním externým modelom. Súlad s GDPR bez kompromisov.
  • Epizodická a sémantická pamäť — agenti sa učia zo skúseností, môžu siahnuť po doménových znalostiach vo vektorovej databáze.
  • Monitoring nákladov — dashboard s nákladmi real-time per agent, per používateľ, per organizácia. Limity a alerty pri netypických rastoch.
  • EU AI Act compliance — systém klasifikovaný ako AI ohraničeného rizika, s úplnými povinnosťami transparentnosti (Art. 50): banner informujúci o AI, označenie generovaných obsahov, metadáta exportu.

Najčastejšie otázky

Čo je multiagentový systém?
Multiagentový systém AI je architektúra, v ktorej niekoľko alebo niekoľko desiatok špecializovaných AI agentov spolupracuje na riešení úloh. Každý agent má vlastnú rolu (napr. asistent CEO, finančný controller, security reviewer, backend developer), vlastné nástroje (API, prístup k databázam, internet), pamäť (epizodickú — čo robil predtým, sémantickú — doménové znalosti) a stratégiu činnosti. Namiesto jediného všeobecného chatbota dostáva firma AI tím s jasným rozdelením zodpovedností.
Čím sa to líši od jediného chatbota v štýle ChatGPT?
Jediný chatbot si skvele poradí s jednoduchými textovými úlohami, ale keď úloha vyžaduje: prístup k firemným databázam, integráciu s obchodnými systémami (CRM, ERP, email), vykonanie sekvencie krokov, pamäť o predchádzajúcich interakciách, overenie kvality — chatbot prestáva stačiť. Multiagentový systém to rieši cez špecializáciu (finančný agent pozná účtovníctvo, právny agent pozná GDPR), spoluprácu (agenti sa vedia konzultovať) a orchestráciu (mechanizmus výberu, ktorý agent dostane ktorú úlohu).
Aké úlohy je možné delegovať na multiagentový systém?
V praxi: správa kalendára a pošty CEO, klasifikácia a odpovedanie na e-maily klientov, monitorovanie zmien v práve, príprava finančných reportov, code review pull requestov, generovanie dokumentácie, automatizácia onboardingu zamestnancov, obsluha podporných tiketov, analýza dokumentov (zmlúv, faktúr, ponúk), monitoring social media a zmienok o značke, generovanie marketingových obsahov. Čím opakovateľnejšie a opísateľnejšie procedúrou — tým lepšie sa hodí na automatizáciu.
Sú multiagentové systémy drahé na údržbu?
Závisí od architektúry nákladov. Ak každý agent používa najsilnejší LLM model pre každú úlohu, mesačný náklad rýchlo rastie. Preto aplikujeme viacúrovňový routing LLM modelov: drobné úlohy idú do lokálnych modelov (Ollama na GPU v infraštruktúre klienta — prevádzkový náklad blízky 0), stredné úlohy do lacnejších cloudových modelov, len najkomplexnejšie rozhodnutia do najsilnejších modelov. Vďaka tomu typický klient platí zlomok toho, čo pri jednotnom použití najsilnejších modelov.
Ako spolu agenti komunikujú?
Dve hlavné cesty: synchrónna (agent A položí otázku agentovi B a čaká na odpoveď) a asynchrónna (agent A hodí úlohu do fronty, agent B spracuje vo svojom tempe, agent A dostane notifikáciu o výsledku). Centrálna orchestračná platforma spravuje routing, uchováva históriu konverzácií (audit trail), kontroluje náklady (limity tokenov per agent, per používateľ). Celá komunikácia je logovaná — možno reprodukovať každú interakciu medzi agentmi a overiť, ako sa dospelo ku konkrétnemu rozhodnutiu.
Čo s bezpečnosťou dát v multiagentovom systéme?
Tri vrstvy zabezpečenia. Po prvé: anonymizácia PII (osobné údaje, čísla účtov, daňové identifikátory, adresy) pred odoslaním externým LLM modelom — používame na to mikroslužbu Anoxy, ktorá skenuje obsah pred odoslaním. Po druhé: izolácia agentov — každý agent má minimálne oprávnenia (least privilege), nevidí dáta mimo svojej domény. Po tretie: možnosť behu na infraštruktúre klienta — LLM modely môžu bežať lokálne (Ollama na GPU), bez toho aby dáta opúšťali sieť klienta. Súlad s GDPR a usmerneniami EU AI Act.
Môžu agenti robiť chyby? Čo potom?
Áno, každý LLM model môže halucinovať, robiť logické chyby alebo nesprávne interpretovať kontext. Stratégie minimalizácie: 1) validácia výsledkov (napr. finančný agent musí vrátiť čísla v určenom formáte, validátor overuje zhodu); 2) double-checking pre kritické rozhodnutia (druhý agent nezávisle overí výsledok prvého); 3) eskalácia na človeka (pri nízkom confidence score alebo netypickom prípade); 4) audit trail (každé rozhodnutie zaznamenané — možno vrátiť späť, analyzovať, zlepšiť prompt). Kritické finančné a právne rozhodnutia nikdy nie sú autonómne — vyžadujú schválenie človeka.
Ako vyzerá nasadenie multiagentového systému vo firme?
Typicky štyri fázy. 1) Discovery (2-4 týždne): identifikácia procesov na automatizáciu, hodnotenie ROI pre každý, výber 2-3 pilotných. 2) Pilot (4-8 týždňov): nasadenie prvých agentov pre vybrané procesy, meranie vplyvu, dolaďovanie. 3) Škálovanie (3-6 mesiacov): rozšírenie na ďalšie procesy a oddelenia, integrácia s existujúcimi systémami. 4) Optimalizácia (continuous): zlepšovanie agentov na základe dát z produkcie, pridávanie nových rolí, redukcia nákladov LLM modelov.
Nahradí multiagentový systém zamestnancov?
Nahradí konkrétne úlohy, ale nie ľudí. Najčastejší efekt: zamestnanci získavajú späť čas (typicky 30-50 % v administratívnych oddeleniach), ktorý môžu venovať úlohám vyžadujúcim ľudský úsudok, kreativitu, budovanie vzťahov. Firmy neprepúšťajú — naopak, častejšie rastú rýchlejšie (viac projektov obsluhovaných tým istým tímom). Výnimka: opakovateľné úlohy nízkej hodnoty (napr. ručné kopírovanie dát medzi systémami) — tie miznú a nikto za nimi nesmúti.
Aké technológie stoja za multiagentovými systémami?
Najčastejšie frameworky: Microsoft AutoGen, CrewAI, LangGraph, Haystack Agents. LLM modely: Anthropic Claude, OpenAI GPT, lokálne modely Llama, Mistral, poľský Bielik. Vektorové databázy pre sémantickú pamäť: Qdrant, Weaviate, pgvector. Message queues pre async: Redis, RabbitMQ, Kafka. Monitoring: Prometheus + Grafana, Sentry, OpenTelemetry. V ESKOM AI to všetko spájame do jednej internej platformy (HybridCrew) s úplnou observabilitou, kontrolou nákladov a compliance.

Prvý pilot za 4-8 týždňov

Vyberáme 2-3 obchodné procesy s najväčším ROI potenciálom a nasadzujeme pilotných agentov. Meriame vplyv, dolaďujeme a rozhodujeme o škálovaní.

Dohodnúť rozhovor o pilote Vývoj s AI