Pillér oldal

Többszereplős MI-rendszerek

Specializált MI-ügynökök csapata egyetlen általános chatbot helyett. Orkesztráció, többszintű LLM-modell routing, epizodikus memória, költségkontroll és audit trail. Belsőleg a HybridCrew platformot használjuk ügyfeleink számára nyújtott szolgáltatások teljesítésére.

Beszéljünk a bevezetésről HybridCrew megtekintése

Egy egyedi chatbot ChatGPT stílusban általános rendeltetésű eszköz. Kiválóan érti a nyelvet, szövegeket generál, kérdésekre válaszol — de amikor a feladat műveletsort, hozzáférést a vállalati adatbázisokhoz, korábbi interakciók emlékezetét vagy minőségellenőrzést igényel, korlátai láthatóvá válnak.

A többszereplős MI-rendszer más architektúra: specializált ügynökök csapata, mindegyikük saját szereppel, eszközökkel, memóriával és cselekvési stratégiával. A CEO-asszisztens osztályozza az e-maileket. A pénzügyi controller riportokat generál. A security reviewer szkenneli a kódot. A content writer marketing drafteket ír. Mindezt egy orkesztrátor koordinálja, amely eldönti, ki kapja meg melyik feladatot.

Miből származik a többszereplős rendszerek előnye

Az MI-ben a specializáció ugyanúgy működik, mint az üzletben. Egyetlen ember helyett, aki „mindenből egy keveset tud", jobb eredményeket ér el a szakértők csapata. Egy egy feladattípusra fókuszáló ügynök — optimalizált promptokkal, megfelelő LLM-modellel, megfelelő eszközökhöz való hozzáféréssel — jobban és olcsóbban végzi el a munkát, mint egy univerzális modell, amely nulláról próbálja kitalálni a kontextust.

A második előny: költségkontroll. A feladatok többsége nem igényli a legerősebb LLM-modellt. Apró osztályozások, sablonos tartalmak generálása, adatok kinyerése strukturált dokumentumokból — mindezt megtehetik az ügyfél GPU-ján futtatott helyi, ingyenes modellek. Csak a legbonyolultabb döntések kerülnek a legerősebb felhőmodellekhez. Tipikus működési költség: töredéke annak, mint a legerősebb modellek egységes használata mellett.

A harmadik: compliance és biztonság. Minden ügynöknek minimális jogosultságai vannak (least privilege). Minden interakció naplózva van (audit trail). A személyes adatok anonimizálva vannak, mielőtt külső modellekhez kerülnének (Anoxy mikroszolgáltatás). Az egész architektúrát a GDPR-rel és az EU AI Act-tel összhangban tervezzük a kód első sorától.

Enterprise osztályú többszereplős rendszer komponensei

Kilenc elem, amelyeknek együtt kell működniük, hogy egy többszereplős rendszer alkalmas legyen produkciós vállalati használatra.

Specializált ügynökök

Minden ügynöknek egy felelőssége van: CEO-asszisztens, pénzügyi controller, security reviewer, backend developer, content writer. A specializáció jobb eredményt ad, mint egy általános chatbot.

Orkesztrátor

Központi réteg, amely eldönti, melyik ügynök melyik feladatot kapja. A szándékosztályozáson, az ügynökök elérhetőségén, az LLM-modellek költségein és az üzleti kontextuson alapul.

Többszintű LLM routing

Apró feladatok → helyi modell (Ollama, 0 költség). Közepes → olcsóbb felhőmodell. Bonyolult → legerősebb felhőmodellek. Drasztikus költségcsökkentés a minőség elvesztése nélkül.

Epizodikus memória

Az ügynökök megjegyzik, mit csináltak korábban, milyenek voltak az eredmények, mi vált be. Idővel jobbak lesznek az ismétlődő feladatokban — minden interakcióból tanulnak.

Szemantikus memória

Domain tudás vektoros adatbázisa (Qdrant, pgvector). Az ügynökök gyorsan találhatnak hasonló múltbeli eseteket, referenciadokumentumokat, vállalati szabályzatokat.

Adatanonimizálás (Anoxy)

A tartalom külső LLM-modellekhez küldése előtt egy dedikált Anoxy mikroszolgáltatás szkenneli és anonimizálja a személyes adatokat. GDPR megfelelés funkcionális kompromisszum nélkül.

Audit trail

Minden ügynökök közötti interakció rögzítve: ki, kinek, mit kérdezett, milyen választ kapott, milyen LLM-modellek voltak használva, mennyi volt a költség. Teljes megfigyelhetőség.

Monitoring és költségkontroll

Limitek ügynökönként, felhasználónként, szervezetenként. Dashboard valós idejű költségekkel. Riasztások szokatlan használati növekedéseknél. Routing optimalizálása adatok alapján.

Eszkaláció emberre

Alacsony confidence score, kritikus pénzügyi vagy jogi döntés, szokatlan eset → automatikus eszkaláció emberi operátorhoz teljes kontextussal.

Alkalmazások a cégben

Hat terület, ahol a többszereplős MI-rendszerek mérhető üzleti értéket szállítanak. Mindegyiket 4-8 hetes pilotként vezetjük be.

CEO-asszisztens

E-maileket osztályoz és válaszol rájuk, megbeszéléseket szervez, briefeket készít a beszélgetések előtt, hosszú dokumentumokat foglal össze, határidőket monitoroz. Tipikusan heti 10-15 órát takarít meg a CEO-nak az adminisztrációból.

Compliance és jogi monitorozás

Folyamatos monitoring a jogszabályok változásairól, a cégre gyakorolt hatás osztályozása, riasztások új kötelezettségeknél. Előzetes GDPR, EU AI Act, ISO 27001 riportok generálása. Szabályzatok és eljárások draftjai.

Szoftverfejlesztés

Kódfelülvizsgálat, tesztgenerálás, dokumentációírás, refaktorálás, adatbázis-migrációk generálása. Két-három ember ügynökökkel olyan értéket szállít, mint egy 8-10 fős csapat.

Ügyfélszolgálat

Megkeresések osztályozása, automatikus válaszok ismétlődő kérdésekre (tudásbázis alapján), eszkaláció emberhez bonyolult esetekben. A válaszidő órákról percekre csökkentése.

Dokumentumelemzés

Adatkinyerés szerződésekből, számlákból, ajánlatokból. Kereskedelmi feltételek összehasonlítása. Eltérések és kockázatok detektálása. Összefoglalók és riportok generálása a jogi csapat számára.

Értékesítés és marketing

Social media és márkaemlítések monitorozása, sentiment osztályozás, válaszok generálása (publikálás előtt ember által ellenőrizve), előzetes marketingtartalmak készítése.

Chatbot vs. többszereplős rendszer

Szempont	Egyedi chatbot (ChatGPT/Copilot)	Többszereplős rendszer
Specializáció	Általános modell, „mindenből egy keveset tud"	Domain szerint specializált ügynökök
Hozzáférés vállalati adatokhoz	Korlátozott (másolás a chat ablakba)	Natív (integráció CRM-mel, ERP-vel, adatbázisokkal)
Memória	Chat session (tipikusan 1-2 óra)	Epizodikus + szemantikus memória (tartós)
Költség routing	Egy modell minden feladatra	Többszintű (helyi → felhő → prémium)
Műveletek végrehajtása	Szöveget generál, nem hajt végre műveleteket	API-kat hív, adatbázisokba ír, e-maileket küld
Audit trail	Nincs (vagy minimális)	Teljes — minden interakció rögzítve
PII anonimizálás	A felhasználótól függ	Kötelező, automatikus (Anoxy)
Compliance (GDPR, EU AI Act)	Nehéz bizonyítani	Beépítve az architektúrába

Referenciaplatform: HybridCrew

A HybridCrew az ESKOM AI belső platformja, amelyet ügyfeleink számára nyújtott szolgáltatások teljesítésére használunk. Tucatnyi specializált MI-ügynököt orkesztrál — mindegyiknek saját szerepe van (pl. szervezeti asszisztens, pénzügyi controller, project manager, backend developer, security reviewer), magyar nyelvű felülete, hozzáférése az eszközökhöz és integrációja az üzleti rendszerekkel.

Főbb műszaki jellemzők:

Többszintű LLM routing — az ingyenes helyi modellektől (Ollama) a legerősebb felhőmodellekig. A modell kiválasztása automatikus, a feladat bonyolultsága alapján.
Széles körű integrációk — Gmail, Slack, Jira, Confluence, Microsoft Graph, Salesforce, Airtable és sok más. Az ügyfél bármely API-jához csatlakozhatunk.
Email Intelligence — a CEO postájának automatikus osztályozása, szándékfelismerés, jóváhagyandó válaszok generálása.
Anoxy — PII anonimizálás — dedikált mikroszolgáltatás, amely anonimizálja a személyes adatokat a külső modellekhez küldés előtt. GDPR megfelelés kompromisszum nélkül.
Epizodikus és szemantikus memória — az ügynökök tanulnak a tapasztalatokból, vektoros adatbázisban tárolt domain tudáshoz nyúlhatnak.
Költségmonitoring — dashboard valós idejű költségekkel ügynökönként, felhasználónként, szervezetenként. Limitek és riasztások szokatlan növekedéseknél.
EU AI Act compliance — a rendszer korlátozott kockázatú MI-ként van besorolva, teljes transzparenciakötelezettségekkel (50. cikk): banner, amely tájékoztat az MI-ről, a generált tartalmak megjelölése, exportok metaadatai.

Gyakran ismételt kérdések

Mi az a többszereplős rendszer?

A többszereplős MI-rendszer olyan architektúra, amelyben több vagy több tucat specializált MI-ügynök együttműködik a feladatok megoldásán. Minden ügynöknek saját szerepe van (pl. CEO-asszisztens, pénzügyi controller, security reviewer, backend developer), saját eszközei (API-k, adatbázis-hozzáférés, internet), memóriája (epizodikus — mit csinált korábban, szemantikus — domain tudás) és cselekvési stratégiája. Egy általános chatbot helyett a cég egy MI-csapatot kap, világos felelősségmegosztással.

Miben különbözik ez egy ChatGPT stílusú chatbottól?

Egy egyedi chatbot kiválóan megbirkózik az egyszerű szöveges feladatokkal, de amikor a feladat: hozzáférést igényel a vállalati adatbázisokhoz, integrációt az üzleti rendszerekkel (CRM, ERP, email), lépéssorozat végrehajtását, korábbi interakciók memóriáját, minőségellenőrzést — a chatbot már nem elég. A többszereplős rendszer ezt specializációval (a pénzügyi ügynök ismeri a könyvelést, a jogi ügynök a GDPR-t), együttműködéssel (az ügynökök tudnak egymással konzultálni) és orkesztrációval (mechanizmus annak kiválasztására, melyik ügynök melyik feladatot kapja) oldja meg.

Milyen feladatokat lehet delegálni egy többszereplős rendszerre?

A gyakorlatban: a CEO naptárának és postájának kezelése, ügyfelek e-mailjeinek osztályozása és megválaszolása, jogi változások monitorozása, pénzügyi riportok készítése, pull requestek kódfelülvizsgálata, dokumentációgenerálás, munkavállalói onboarding automatizálása, support megkeresések kezelése, dokumentumelemzés (szerződések, számlák, ajánlatok), social media és márkaemlítések monitorozása, marketingtartalmak generálása. Minél ismétlőbb és eljárással leírható egy feladat — annál jobban alkalmas automatizálásra.

Drágák a többszereplős rendszerek üzemeltetésben?

A költségarchitektúrától függ. Ha minden ügynök a legerősebb LLM-modellt használja minden feladatra, a havi költség gyorsan nő. Ezért alkalmazunk többszintű LLM-modell routingot: az apró feladatok helyi modellekhez kerülnek (Ollama az ügyfél infrastruktúrájában lévő GPU-n — a működési költség közel 0), a közepes feladatok olcsóbb felhőmodellekhez, csak a legbonyolultabb döntések a legerősebb modellekhez. Így a tipikus ügyfél töredékét fizeti annak, mintha egységesen a legerősebb modelleket használná.

Hogyan kommunikálnak egymással az ügynökök?

Két fő útvonal: szinkron (az A ügynök kérdést tesz fel a B-nek és várja a választ) és aszinkron (az A ügynök betesz egy feladatot a sorba, a B saját ütemében dolgozza fel, az A értesítést kap az eredményről). A központi orkesztrációs platform kezeli a routingot, megőrzi a beszélgetés történetét (audit trail), kontrollálja a költségeket (token limitek ügynökönként, felhasználónként). A teljes kommunikáció naplózva van — minden ügynökök közötti interakció visszajátszható és ellenőrizhető, hogy hogyan jutottak el egy konkrét döntéshez.

Mi van az adatbiztonsággal egy többszereplős rendszerben?

Három biztonsági réteg. Először: PII anonimizálás (személyes adatok, számlaszámok, adóazonosítók, címek) a külső LLM-modellekhez küldés előtt — ehhez az Anoxy mikroszolgáltatást használjuk, amely a küldés előtt szkenneli a tartalmat. Másodszor: ügynökök izolációja — minden ügynöknek minimális jogosultságai vannak (least privilege), nem lát a saját doménjén kívüli adatokat. Harmadszor: opció az ügyfél infrastruktúráján való működésre — az LLM-modellek helyben (Ollama GPU-n) futhatnak, anélkül hogy az adatok elhagynák az ügyfél hálózatát. Megfelelés a GDPR-nek és az EU AI Act irányelveinek.

Hibázhatnak az ügynökök? Mi történik akkor?

Igen, minden LLM-modell hallucinálhat, logikai hibákat követhet el vagy helytelenül értelmezheti a kontextust. Minimalizálási stratégiák: 1) eredmények validációja (pl. a pénzügyi ügynöknek meghatározott formátumban kell visszaadnia a számokat, a validátor ellenőrzi a megfelelést); 2) double-checking kritikus döntéseknél (második ügynök függetlenül ellenőrzi az első eredményét); 3) eszkaláció emberre (alacsony confidence score-nál vagy szokatlan esetnél); 4) audit trail (minden döntés rögzítve — visszavonható, elemezhető, a prompt javítható). A kritikus pénzügyi és jogi döntések soha nem autonómak — emberi jóváhagyást igényelnek.

Hogy néz ki egy többszereplős rendszer bevezetése a cégben?

Tipikusan négy fázis. 1) Discovery (2-4 hét): az automatizálható folyamatok azonosítása, ROI értékelése mindegyikre, 2-3 pilot kiválasztása. 2) Pilot (4-8 hét): az első ügynökök bevezetése a kiválasztott folyamatokra, a hatás mérése, finomítás. 3) Skálázás (3-6 hónap): bővítés a többi folyamatra és osztályra, integráció a meglévő rendszerekkel. 4) Optimalizálás (folyamatos): az ügynökök finomítása a produkciós adatok alapján, új szerepek hozzáadása, új rendszerek integrálása, compliance fejlesztése, LLM-modellek költségeinek csökkentése.

Egy többszereplős rendszer le fogja váltani a munkavállalókat?

Konkrét feladatokat fog leváltani, de nem embereket. A leggyakoribb hatás: a munkavállalók visszakapnak időt (tipikusan 30-50%-ot az adminisztratív osztályokon), amit emberi ítélőképességet, kreativitást, kapcsolatépítést igénylő feladatokra fordíthatnak. A cégek nem bocsátanak el — éppen ellenkezőleg, gyakrabban gyorsabban növekednek (több projekt ugyanazzal a csapattal). Kivétel: az alacsony értékű ismétlődő feladatok (pl. adatok kézi másolása rendszerek között) — ezek eltűnnek, és senki sem hiányolja őket.

Milyen technológiák állnak a többszereplős rendszerek mögött?

A leggyakoribb keretrendszerek: Microsoft AutoGen, CrewAI, LangGraph, Haystack Agents. LLM modellek: Anthropic Claude, OpenAI GPT, helyi Llama, Mistral, lengyel Bielik. Vektoros adatbázisok a szemantikus memóriához: Qdrant, Weaviate, pgvector. Message queues az async kommunikációhoz: Redis, RabbitMQ, Kafka. Monitoring: Prometheus + Grafana, Sentry, OpenTelemetry. Az ESKOM AI-ban mindezt egyetlen belső platformban (HybridCrew) kombináljuk, teljes megfigyelhetőséggel, költségkontrollal és compliance-szel.

Az első pilot 4-8 hét alatt

2-3 üzleti folyamatot választunk a legnagyobb ROI-potenciállal és pilot ügynököket vezetünk be. Mérjük a hatást, finomítjuk és döntünk a skálázásról.

Beszélgetés egyeztetése pilotról Fejlesztés MI-vel