Pillar stranica

Višeagentski AI sustavi

Tim specijaliziranih AI agenata umjesto jednog općeg chatbota. Orkestracija, višeslojni routing LLM modela, epizodičko pamćenje, kontrola troškova i revizijski trag. Interno koristimo platformu HybridCrew za pružanje usluga klijentima.

Razgovarajmo o implementaciji Pogledajte HybridCrew

Pojedinačni chatbot u stilu ChatGPT-a je alat opće namjene. Odlično razumije jezik, generira tekstove, odgovara na pitanja — ali kada zadatak zahtijeva sekvencu radnji, pristup tvrtkinim bazama podataka, pamćenje prethodnih interakcija ili provjeru kvalitete, njegova ograničenja postaju vidljiva.

Višeagentski AI sustav je drugačija arhitektura: tim specijaliziranih agenata, svaki s vlastitom ulogom, alatima, pamćenjem i strategijom djelovanja. Asistent direktora klasificira poštu. Financijski controller generira izvještaje. Security reviewer skenira kod. Content writer piše marketinške drafte. Sve koordinira orkestrator, koji odlučuje tko će dobiti koji zadatak.

Odakle prednost višeagentskih sustava

Specijalizacija u AI funkcionira isto kao i u biznisu. Umjesto jedne osobe koja „zna sve pomalo", bolje rezultate postiže tim specijalista. Agent fokusiran na jednu vrstu zadataka — s optimiziranim promptovima, prikladnim LLM modelom, pristupom pravim alatima — obavlja posao bolje i jeftinije od univerzalnog modela koji pokušava pogoditi kontekst od nule.

Druga prednost: kontrola troškova. Većina zadataka ne zahtijeva najjači LLM model. Sitne klasifikacije, generiranje predloženih sadržaja, izvlačenje podataka iz strukturiranih dokumenata — sve to mogu izvesti lokalni, besplatni modeli pokrenuti na GPU klijenta. Samo najsloženije odluke dolaze do najjačih cloud modela. Tipičan operativni trošak: djelić onoga što bi koštalo jednoliko korištenje najjačih modela.

Treća: compliance i sigurnost. Svaki agent ima minimalne ovlasti (least privilege). Svaka interakcija je zabilježena (revizijski trag). Osobni podaci anonimiziraju se prije slanja vanjskim modelima (mikroservis Anoxy). Cijela arhitektura projektirana je u skladu s GDPR-om i EU AI Aktom od prve linije koda.

Komponente višeagentskog sustava enterprise klase

Devet elemenata koji moraju raditi zajedno da bi višeagentski sustav bio spreman za produkcijsko korištenje u tvrtki.

Specijalizirani agenti

Svaki agent ima jednu odgovornost: asistent direktora, financijski controller, security reviewer, backend developer, content writer. Specijalizacija daje bolje rezultate nego jedan opći chatbot.

Orkestrator

Središnji sloj koji odlučuje koji agent dobiva koji zadatak. Temelji se na klasifikaciji namjere, dostupnosti agenata, troškovima LLM modela i poslovnom kontekstu.

Višeslojni routing LLM

Sitni zadaci → lokalni model (Ollama, trošak $0). Srednji → jeftiniji cloud model. Složeni → najjači cloud modeli. Drastično smanjenje troškova bez gubitka kvalitete.

Epizodičko pamćenje

Agenti pamte što su učinili ranije, kakvi su bili rezultati, što je funkcioniralo. S vremenom postaju bolji u ponavljajućim zadacima — uče iz svake interakcije.

Semantičko pamćenje

Vektorska baza domenskog znanja (Qdrant, pgvector). Agenti mogu brzo pronaći slične slučajeve iz prošlosti, referentne dokumente, politike tvrtke.

Anonimizacija podataka (Anoxy)

Prije slanja sadržaja vanjskim LLM modelima, dedicirani mikroservis Anoxy skenira i anonimizira osobne podatke. Usklađenost s GDPR-om bez funkcionalnih kompromisa.

Revizijski trag

Svaka interakcija između agenata je zabilježena: tko, kome, što je pitao, kakav je odgovor dobio, koji su LLM modeli korišteni, kakav je bio trošak. Potpuna observabilnost.

Monitoring i kontrola troškova

Limiti po agentu, po korisniku, po organizaciji. Dashboard s troškovima real-time. Upozorenja kod netipičnih porasta potrošnje. Optimizacija routinga na temelju podataka.

Eskalacija čovjeku

Niska razina pouzdanosti, kritična financijska ili pravna odluka, netipičan slučaj → automatska eskalacija ljudskom operateru s potpunim kontekstom.

Primjena u tvrtki

Šest područja u kojima višeagentski AI sustavi isporučuju mjerljivu poslovnu vrijednost. Svako se uvodi kao pilot 4-8 tjedana.

Asistent direktora

Klasificira i odgovara na e-mailove, zakazuje sastanke, priprema brifove prije razgovora, sažima duge dokumente, prati rokove. Obično štedi direktoru 10-15 sati tjedno na administraciji.

Compliance i pravni monitoring

Stalan monitoring promjena u zakonu, klasifikacija utjecaja na tvrtku, upozorenja kod novih obveza. Generiranje preliminarnih izvještaja GDPR, EU AI Act, ISO 27001. Drafti politika i procedura.

Razvoj softvera

Pregled koda, generiranje testova, pisanje dokumentacije, refaktoring, generiranje migracija baze podataka. Dvije do tri osobe s agentima isporučuju vrijednost tima od 8-10 ljudi.

Korisnička služba

Klasifikacija prijava, automatski odgovori na ponavljajuća pitanja (temeljeni na bazi znanja), eskalacija čovjeku kod složenih slučajeva. Skraćivanje vremena odgovora s sati na minute.

Analiza dokumenata

Ekstrakcija podataka iz ugovora, faktura, ponuda. Usporedba komercijalnih uvjeta. Detekcija nesukladnosti i rizika. Generiranje sažetaka i izvještaja za pravni tim.

Prodaja i marketing

Monitoring društvenih mreža i spominjanja brenda, klasifikacija sentimenta, generiranje odgovora (provjerenih od strane čovjeka prije objave), izrada preliminarnih marketinških sadržaja.

Chatbot vs. višeagentski sustav

Aspekt	Pojedini chatbot (ChatGPT/Copilot)	Višeagentski sustav
Specijalizacija	Opći model, „zna sve pomalo"	Specijalizirani agenti po domeni
Pristup tvrtkinim podacima	Ograničen (kopiranje u prozor chata)	Nativni (integracija s CRM, ERP, bazama)
Pamćenje	Sesija chata (obično 1-2 h)	Epizodičko + semantičko pamćenje (trajno)
Routing troškova	Jedan model za sve zadatke	Višeslojan (lokalni → oblak → premium)
Izvođenje akcija	Generira tekst, ne izvodi akcije	Poziva API-je, piše u baze, šalje e-mailove
Revizijski trag	Nema (ili rudimentaran)	Potpun — svaka interakcija zabilježena
Anonimizacija PII	Ovisi o korisniku	Nametnuta, automatska (Anoxy)
Compliance (GDPR, EU AI Act)	Teško dokaziva	Ugrađena u arhitekturu

Referentna platforma: HybridCrew

HybridCrew je interna platforma ESKOM AI koju koristimo za pružanje usluga klijentima. Orkestrira desetke specijaliziranih AI agenata — svaki s vlastitom ulogom (npr. asistent organizacije, financijski controller, project manager, backend developer, security reviewer), sučeljem na poljskom jeziku, pristupom alatima i integracijama s poslovnim sustavima.

Ključne tehničke značajke:

Višeslojni routing LLM — od besplatnih lokalnih modela (Ollama) do najjačih cloud modela. Odabir modela automatski, na temelju složenosti zadatka.
Široke integracije — Gmail, Slack, Jira, Confluence, Microsoft Graph, Salesforce, Airtable i mnoge druge. Možemo spojiti bilo koji klijentov API.
Email Intelligence — automatska klasifikacija pošte direktora, prepoznavanje namjere, generiranje odgovora za odobrenje.
Anoxy — anonimizacija PII — dedicirani mikroservis koji anonimizira osobne podatke prije slanja vanjskim modelima. Usklađenost s GDPR-om bez kompromisa.
Epizodičko i semantičko pamćenje — agenti uče iz iskustva, mogu dosezati do domenskog znanja u vektorskoj bazi.
Monitoring troškova — dashboard s troškovima real-time po agentu, po korisniku, po organizaciji. Limiti i upozorenja kod netipičnih porasta.
EU AI Act compliance — sustav je klasificiran kao AI ograničenog rizika, s potpunim obvezama transparentnosti (čl. 50): banner koji informira o AI, označavanje generiranih sadržaja, metapodaci izvoza.

Najčešća pitanja

Što je višeagentski sustav?

Višeagentski AI sustav je arhitektura u kojoj nekoliko ili nekoliko desetaka specijaliziranih AI agenata surađuje na rješavanju zadataka. Svaki agent ima svoju ulogu (npr. asistent direktora, financijski controller, security reviewer, backend developer), vlastite alate (API, pristup bazama podataka, internet), pamćenje (epizodičko — što je učinio ranije, semantičko — domensko znanje) i strategiju djelovanja. Umjesto jednog općeg chatbota, tvrtka dobiva AI tim s jasnom podjelom odgovornosti.

Po čemu se to razlikuje od pojedinog chatbota u stilu ChatGPT-a?

Pojedini chatbot odlično se nosi s jednostavnim tekstualnim zadacima, ali kada zadatak zahtijeva: pristup tvrtkinim bazama podataka, integraciju s poslovnim sustavima (CRM, ERP, e-mail), izvršavanje sekvence koraka, pamćenje prethodnih interakcija, provjeru kvalitete — chatbot prestaje biti dovoljan. Višeagentski sustav to rješava kroz specijalizaciju (financijski agent zna računovodstvo, pravni agent zna GDPR), suradnju (agenti se znaju konzultirati) i orkestraciju (mehanizam izbora kojem agentu koji zadatak).

Koje zadatke se može delegirati višeagentskom sustavu?

U praksi: upravljanje kalendarom i poštom direktora, klasifikacija i odgovaranje na e-mailove klijenata, praćenje pravnih promjena, priprema financijskih izvještaja, pregled koda pull requestova, generiranje dokumentacije, automatizacija onboardinga zaposlenika, obrada prijava podrške, analiza dokumenata (ugovora, faktura, ponuda), monitoring društvenih mreža i spominjanja brenda, generiranje marketinških sadržaja. Što je više ponavljajuće i opisivo procedurom — to bolje pristaje automatizaciji.

Jesu li višeagentski sustavi skupi za održavanje?

Ovisi o arhitekturi troškova. Ako svaki agent koristi najjači LLM model za svaki zadatak, mjesečni trošak brzo raste. Zato primjenjujemo višeslojni routing LLM modela: sitni zadaci idu u lokalne modele (Ollama na GPU-u u klijentovoj infrastrukturi — operativni trošak blizu 0), srednji zadaci u jeftinije cloud modele, samo najsloženije odluke u najjače modele. Zahvaljujući tome tipičan klijent plaća djelić onoga što bi koštalo jednoliko korištenje najjačih modela.

Kako agenti međusobno komuniciraju?

Dvije glavne staze: sinkrona (agent A postavlja pitanje agentu B i čeka odgovor) i asinkrona (agent A baca zadatak u red, agent B obrađuje svojim tempom, agent A dobiva obavijest o rezultatu). Središnja platforma orkestracije upravlja routingom, čuva povijest konverzacija (revizijski trag), kontrolira troškove (limiti tokena po agentu, po korisniku). Sva komunikacija je zabilježena — može se reproducirati svaka interakcija između agenata i provjeriti kako je došlo do konkretne odluke.

Što sa sigurnošću podataka u višeagentskom sustavu?

Tri sloja zaštite. Prvo: anonimizacija PII (osobni podaci, brojevi računa, porezni brojevi, adrese) prije slanja vanjskim LLM modelima — za to koristimo mikroservis Anoxy, koji skenira sadržaj prije slanja. Drugo: izolacija agenata — svaki agent ima minimalne ovlasti (least privilege), ne vidi podatke izvan svoje domene. Treće: opcija rada na klijentovoj infrastrukturi — LLM modeli mogu raditi lokalno (Ollama na GPU-u), bez izlaska podataka izvan klijentove mreže. Usklađenost s GDPR-om i smjernicama EU AI Akta.

Mogu li agenti griješiti? Što onda?

Da, svaki LLM model može halucinirati, raditi logičke greške ili pogrešno protumačiti kontekst. Strategije minimizacije: 1) validacija rezultata (npr. financijski agent mora vratiti brojeve u određenom formatu, validator provjerava sukladnost); 2) double-checking za kritične odluke (drugi agent neovisno provjerava rezultat prvog); 3) eskalacija čovjeku (kod niske pouzdanosti ili netipičnog slučaja); 4) revizijski trag (svaka odluka zabilježena — može se opozvati, analizirati, prompt poboljšati). Kritične financijske i pravne odluke nikada nisu autonomne — zahtijevaju odobrenje čovjeka.

Kako izgleda implementacija višeagentskog sustava u tvrtki?

Obično četiri faze. 1) Discovery (2-4 tjedna): identifikacija procesa za automatizaciju, procjena ROI za svaki, odabir 2-3 pilot kandidata. 2) Pilot (4-8 tjedana): implementacija prvih agenata za odabrane procese, mjerenje utjecaja, dotjerivanje. 3) Skaliranje (3-6 mjeseci): proširenje na sljedeće procese i odjele, integracija s postojećim sustavima. 4) Optimizacija (kontinuirana): unaprjeđenje agenata na temelju produkcijskih podataka, dodavanje novih uloga, smanjenje troškova LLM modela.

Hoće li višeagentski sustav zamijeniti zaposlenike?

Zamijenit će konkretne zadatke, ali ne ljude. Najčešći učinak: zaposlenici vraćaju vrijeme (obično 30-50% u administrativnim odjelima), koje mogu posvetiti zadacima koji zahtijevaju ljudski sud, kreativnost, izgradnju odnosa. Tvrtke ne otpuštaju — naprotiv, češće rastu brže (više projekata opslužuje isti tim). Iznimka: ponavljajući zadaci niske vrijednosti (npr. ručno kopiranje podataka između sustava) — oni nestaju i nitko za njima ne čezne.

Koje tehnologije stoje iza višeagentskih sustava?

Najčešći frameworci: Microsoft AutoGen, CrewAI, LangGraph, Haystack Agents. LLM modeli: Anthropic Claude, OpenAI GPT, lokalni modeli Llama, Mistral, poljski Bielik. Vector databases za semantičko pamćenje: Qdrant, Weaviate, pgvector. Message queues za async: Redis, RabbitMQ, Kafka. Monitoring: Prometheus + Grafana, Sentry, OpenTelemetry. U ESKOM AI to sve spajamo u jednu internu platformu (HybridCrew) s potpunom observabilnošću, kontrolom troškova i compliance.

Prvi pilot u 4-8 tjedana

Odabiremo 2-3 poslovna procesa s najvećim ROI potencijalom i uvodimo pilot agente. Mjerimo utjecaj, dotjerujemo i odlučujemo o skaliranju.

Dogovorite razgovor o pilotu Razvoj s AI