Pillar lapa

Daudzu aģentu MI sistēmas

Specializētu MI aģentu komanda viena vispārēja chatbota vietā. Orķestrācija, daudzlīmeņu LLM modeļu maršrutēšana, epizodiskā atmiņa, izmaksu kontrole un audita pieraksts. Iekšēji izmantojam platformu HybridCrew, lai sniegtu pakalpojumus klientiem.

Parunāsim par ieviešanu Skatīt HybridCrew

Atsevišķs chatbots ChatGPT stilā ir vispārēja lietojuma rīks. Lieliski saprot valodu, ģenerē tekstus, atbild uz jautājumiem — bet, kad uzdevums prasa darbību secību, piekļuvi uzņēmuma datu bāzēm, atmiņu par iepriekšējām mijiedarbībām vai kvalitātes verifikāciju, tā ierobežojumi kļūst redzami.

Daudzu aģentu MI sistēma ir cita arhitektūra: specializētu aģentu komanda, katrs ar savu lomu, rīkiem, atmiņu un darbības stratēģiju. CEO asistents klasificē pastu. Finanšu kontrolieris ģenerē atskaites. Security reviewer skenē kodu. Content writer raksta marketinga melnrakstus. Viss saskaņots ar orchestrator, kas izlemj, kurš saņem kuru uzdevumu.

No kurienes nāk daudzu aģentu sistēmu priekšrocība

Specializācija MI darbojas tāpat kā biznesā. Vienas personas, kas „prot visu pamazām", vietā labākus rezultātus sasniedz speciālistu komanda. Aģents, kas koncentrējas uz vienu uzdevumu veidu — ar optimizētiem prompts, piemērotu LLM modeli, piekļuvi pareizajiem rīkiem — veic darbu labāk un lētāk nekā universāls modelis, kas mēģina kontekstu uzminēt no nulles.

Otra priekšrocība: izmaksu kontrole. Vairums uzdevumu neprasa spēcīgāko LLM modeli. Sīkas klasifikācijas, šablonu satura ģenerēšana, datu izvilkšana no strukturizētiem dokumentiem — to visu var izpildīt lokāli, bezmaksas modeļi, kas darbojas klienta GPU. Tikai sarežģītākie lēmumi nonāk pie spēcīgākajiem mākoņa modeļiem. Tipiskās darbības izmaksas: daļa no tā, kas būtu pie vienota spēcīgāko modeļu lietojuma.

Trešā: atbilstība un drošība. Katram aģentam ir minimālas atļaujas (least privilege). Katra mijiedarbība tiek pierakstīta (audita pieraksts). Personas dati tiek anonimizēti pirms nosūtīšanas uz ārējiem modeļiem (mikropakalpojums Anoxy). Visa arhitektūra projektēta saskaņā ar GDPR un EU AI Act no pirmās koda rindas.

Enterprise klases daudzu aģentu sistēmas komponenti

Deviņi elementi, kuriem jādarbojas kopā, lai daudzu aģentu sistēma būtu piemērota ražošanas lietošanai uzņēmumā.

Specializēti aģenti

Katram aģentam viena atbildība: CEO asistents, finanšu kontrolieris, security reviewer, backend izstrādātājs, content writer. Specializācija dod labākus rezultātus nekā viens vispārējs chatbots.

Orchestrator

Centrāls slānis, kas izlemj, kurš aģents saņems kuru uzdevumu. Balstīts uz nodomu klasifikāciju, aģentu pieejamību, LLM modeļu izmaksām un biznesa kontekstu.

Daudzlīmeņu LLM maršrutēšana

Sīki uzdevumi → lokāls modelis (Ollama, izmaksas $0). Vidēji → lētāks mākoņa modelis. Sarežģīti → spēcīgākie mākoņa modeļi. Drastiska izmaksu samazināšana bez kvalitātes zaudēšanas.

Epizodiskā atmiņa

Aģenti atceras, ko ir darījuši iepriekš, kādi bija rezultāti, kas strādāja. Laika gaitā tie kļūst labāki atkārtotos uzdevumos — mācās no katras mijiedarbības.

Semantiskā atmiņa

Vektoru zināšanu bāze par nozari (Qdrant, pgvector). Aģenti var ātri atrast līdzīgus gadījumus no pagātnes, atsauces dokumentus, uzņēmuma politikas.

Datu anonimizācija (Anoxy)

Pirms satura nosūtīšanas uz ārējiem LLM modeļiem dedicēts mikropakalpojums Anoxy skenē un anonimizē personas datus. Atbilstība GDPR bez funkcionālajiem kompromisiem.

Audita pieraksts

Katra mijiedarbība starp aģentiem pierakstīta: kas, kam, ko jautāja, kādu saņēma atbildi, kādi LLM modeļi izmantoti, kādas izmaksas. Pilna novērojamība.

Monitorings un izmaksu kontrole

Limiti uz aģentu, lietotāju, organizāciju. Dashboard ar reālā laika izmaksām. Brīdinājumi pie netipiska patēriņa pieauguma. Maršrutēšanas optimizācija, balstīta uz datiem.

Eskalācija pie cilvēka

Zems confidence score, kritisks finanšu vai juridisks lēmums, netipisks gadījums → automātiska eskalācija pie cilvēka operatora ar pilnu kontekstu.

Pielietojumi uzņēmumā

Sešas jomas, kurās daudzu aģentu MI sistēmas sniedz izmērāmu biznesa vērtību. Katra tiek ieviesta kā 4-8 nedēļu pilotprojekts.

CEO asistents

Klasificē un atbild uz e-pastiem, vienojas par sapulcēm, sagatavo brīfingus pirms sarunām, apkopo garus dokumentus, uzrauga termiņus. Parasti ietaupa CEO 10-15 stundas nedēļā administrācijā.

Atbilstība un juridiskais monitorings

Pastāvīga tiesību aktu izmaiņu monitorings, ietekmes uz uzņēmumu klasifikācija, brīdinājumi pie jauniem pienākumiem. Sākotnējo GDPR, EU AI Act, ISO 27001 atskaišu ģenerēšana. Politiku un procedūru melnraksti.

Programmatūras izstrāde

Koda pārskats, testu ģenerēšana, dokumentācijas rakstīšana, refaktorēšana, datu bāzes migrāciju ģenerēšana. Divi-trīs cilvēki ar aģentiem nodrošina 8-10 cilvēku komandas vērtību.

Klientu apkalpošana

Pieprasījumu klasifikācija, automātiskas atbildes uz atkārtotiem jautājumiem (balstītas uz zināšanu bāzi), eskalācija cilvēkam pie sarežģītiem gadījumiem. Atbildes laika saīsināšana no stundām līdz minūtēm.

Dokumentu analīze

Datu izvilkšana no līgumiem, rēķiniem, piedāvājumiem. Komercnosacījumu salīdzināšana. Neatbilstību un risku noteikšana. Kopsavilkumu un atskaišu ģenerēšana juridiskajai komandai.

Pārdošana un marketings

Sociālo mediju un zīmola pieminējumu monitorings, sentimenta klasifikācija, atbilžu ģenerēšana (pirms publicēšanas pārbauda cilvēks), sākotnējo marketinga saturu izveide.

Chatbots vs. daudzu aģentu sistēma

Aspekts	Atsevišķs chatbots (ChatGPT/Copilot)	Daudzu aģentu sistēma
Specializācija	Vispārējs modelis, „prot visu pamazām"	Specializēti aģenti pa domēniem
Piekļuve uzņēmuma datiem	Ierobežota (kopēšana chat logā)	Native (integrācija ar CRM, ERP, datu bāzēm)
Atmiņa	Čata sesija (parasti 1-2 stundas)	Epizodiskā + semantiskā atmiņa (pastāvīga)
Izmaksu maršrutēšana	Viens modelis visiem uzdevumiem	Daudzlīmeņu (lokāls → mākonis → premium)
Darbību veikšana	Ģenerē tekstu, neveic darbības	Izsauc API, raksta datu bāzēs, sūta e-pastus
Audita pieraksts	Nav (vai fragmentārs)	Pilns — katra mijiedarbība pierakstīta
PII anonimizācija	Atkarīga no lietotāja	Piespiesta, automātiska (Anoxy)
Atbilstība (GDPR, EU AI Act)	Grūti pierādāma	Iebūvēta arhitektūrā

Atsauces platforma: HybridCrew

HybridCrew ir ESKOM AI iekšējā platforma, ko izmantojam pakalpojumu sniegšanai klientiem. Tā orķestrē desmitiem specializētu MI aģentu — katrs ar savu lomu (piem., organizācijas asistents, finanšu kontrolieris, project manager, backend izstrādātājs, security reviewer), poļu valodas saskarni, piekļuvi rīkiem un integrācijām ar biznesa sistēmām.

Galvenās tehniskās iezīmes:

Daudzlīmeņu LLM maršrutēšana — no bezmaksas lokāliem modeļiem (Ollama) līdz spēcīgākajiem mākoņa modeļiem. Modeļa izvēle automātiska, balstīta uz uzdevuma sarežģītību.
Plašas integrācijas — Gmail, Slack, Jira, Confluence, Microsoft Graph, Salesforce, Airtable un daudzas citas. Varam pievienot jebkuru klienta API.
Email Intelligence — automātiska CEO pasta klasifikācija, nodoma atpazīšana, atbilžu ģenerēšana apstiprināšanai.
Anoxy — PII anonimizācija — dedicēts mikropakalpojums, kas anonimizē personas datus pirms nosūtīšanas uz ārējiem modeļiem. Atbilstība GDPR bez kompromisiem.
Epizodiskā un semantiskā atmiņa — aģenti mācās no pieredzes, var sasniegt nozares zināšanas vektoru bāzē.
Izmaksu monitorings — dashboard ar reālā laika izmaksām uz aģentu, lietotāju, organizāciju. Limiti un brīdinājumi pie netipiska pieauguma.
EU AI Act atbilstība — sistēma klasificēta kā ierobežota riska MI, ar pilniem transparences pienākumiem (Art. 50): baneris, kas informē par MI, ģenerētā satura marķēšana, eksporta metadati.

Biežāk uzdotie jautājumi

Kas ir daudzu aģentu sistēma?

Daudzu aģentu MI sistēma ir arhitektūra, kurā vairāki vai vairāki desmiti specializētu MI aģentu sadarbojas, lai atrisinātu uzdevumus. Katram aģentam ir sava loma (piem., CEO asistents, finanšu kontrolieris, security reviewer, backend izstrādātājs), savi rīki (API, piekļuve datu bāzēm, internets), atmiņa (epizodiskā — ko izdarījis iepriekš, semantiskā — nozares zināšanas) un darbības stratēģija. Viena vispārēja chatbota vietā uzņēmums saņem MI komandu ar skaidru atbildības sadalījumu.

Ar ko tas atšķiras no atsevišķa chatbota ChatGPT stilā?

Atsevišķs chatbots lieliski tiek galā ar vienkāršiem teksta uzdevumiem, bet, kad uzdevums prasa: piekļuvi uzņēmuma datu bāzēm, integrāciju ar biznesa sistēmām (CRM, ERP, e-pasts), soļu secības izpildi, atmiņu par iepriekšējām mijiedarbībām, kvalitātes verifikāciju — chatbots vairs nepietiek. Daudzu aģentu sistēma to atrisina ar specializāciju (finanšu aģents zina grāmatvedību, juridiskais aģents zina GDPR), sadarbību (aģenti var konsultēties) un orķestrāciju (mehānisms, kurš aģents saņems kuru uzdevumu).

Kādus uzdevumus var deleģēt daudzu aģentu sistēmai?

Praksē: CEO kalendāra un pasta pārvaldība, klientu e-pastu klasifikācija un atbildēšana, tiesību aktu izmaiņu monitorings, finanšu atskaišu sagatavošana, pull request koda pārskats, dokumentācijas ģenerēšana, darbinieku onboarding automatizācija, atbalsta pieprasījumu apstrāde, dokumentu analīze (līgumi, rēķini, piedāvājumi), sociālo mediju un zīmola pieminējumu monitorings, marketinga satura ģenerēšana. Jo atkārtotāks un procedūrā aprakstāms — jo labāk piemērots automatizācijai.

Vai daudzu aģentu sistēmas ir dārgas uzturēšanā?

Atkarīgs no izmaksu arhitektūras. Ja katrs aģents katram uzdevumam izmanto spēcīgāko LLM modeli, mēneša izmaksas ātri pieaug. Tāpēc izmantojam daudzlīmeņu LLM modeļu maršrutēšanu: sīki uzdevumi nonāk lokāliem modeļiem (Ollama klienta infrastruktūras GPU — darbības izmaksas tuvas 0), vidēji uzdevumi lētākiem mākoņa modeļiem, tikai sarežģītākie lēmumi spēcīgākajiem modeļiem. Pateicoties tam tipisks klients maksā daļu no tā, ko maksātu pie spēcīgāko modeļu vienota lietojuma.

Kā aģenti savā starpā sazinās?

Divi galvenie ceļi: sinhrons (aģents A uzdod jautājumu aģentam B un gaida atbildi) un asinhrons (aģents A iemet uzdevumu rindā, aģents B apstrādā savā tempā, aģents A saņem paziņojumu par rezultātu). Centrālā orķestrācijas platforma pārvalda maršrutēšanu, saglabā sarunu vēsturi (audita pieraksts), kontrolē izmaksas (token limiti uz aģentu, lietotāju). Visa komunikācija tiek pierakstīta — var atjaunot katru mijiedarbību starp aģentiem un pārbaudīt, kā tika pieņemts konkrēts lēmums.

Kā ar datu drošību daudzu aģentu sistēmā?

Trīs aizsardzības slāņi. Pirmais: PII anonimizācija (personas dati, kontu numuri, NIP, adreses) pirms nosūtīšanas ārējiem LLM modeļiem — tam izmantojam mikropakalpojumu Anoxy, kas pirms nosūtīšanas skenē saturu. Otrais: aģentu izolācija — katram aģentam ir minimālas atļaujas (least privilege), tas neredz datus ārpus sava domēna. Trešais: iespēja darboties klienta infrastruktūrā — LLM modeļi var darboties lokāli (Ollama uz GPU), datiem neiziet ārpus klienta tīkla. Atbilstība GDPR un EU AI Act vadlīnijām.

Vai aģenti var pieļaut kļūdas? Ko tad?

Jā, jebkurš LLM modelis var halucinēt, pieļaut loģikas kļūdas vai nepareizi interpretēt kontekstu. Minimizācijas stratēģijas: 1) rezultātu validācija (piem., finanšu aģentam jāatgriež skaitļi noteiktā formātā, validators pārbauda atbilstību); 2) double-checking kritiskiem lēmumiem (otrs aģents neatkarīgi pārbauda pirmā rezultātu); 3) eskalācija pie cilvēka (pie zema confidence score vai netipiska gadījuma); 4) audita pieraksts (katrs lēmums pierakstīts — var atcelt, analizēt, uzlabot prompt). Kritiski finanšu un juridiski lēmumi nekad nav autonomi — tie prasa cilvēka apstiprinājumu.

Kā izskatās daudzu aģentu sistēmas ieviešana uzņēmumā?

Parasti četras fāzes. 1) Discovery (2-4 nedēļas): automatizācijai paredzēto procesu identificēšana, katra ROI novērtējums, 2-3 pilotprojektu izvēle. 2) Pilots (4-8 nedēļas): pirmo aģentu ieviešana izvēlētajiem procesiem, ietekmes mērīšana, pilnveidošana. 3) Mērogošana (3-6 mēneši): paplašināšana uz nākamajiem procesiem un nodaļām, integrācija ar esošajām sistēmām. 4) Optimizācija (continuous): aģentu pilnveidošana, balstoties uz ražošanas datiem, jaunu lomu pievienošana, LLM modeļu izmaksu samazināšana.

Vai daudzu aģentu sistēma aizstās darbiniekus?

Aizstās konkrētus uzdevumus, bet ne cilvēkus. Visbiežākais efekts: darbinieki atgūst laiku (parasti 30-50% administratīvajās nodaļās), ko var veltīt uzdevumiem, kas prasa cilvēka spriedumu, radošumu, attiecību veidošanu. Uzņēmumi neatlaiž — gluži pretēji, biežāk aug ātrāk (vairāk projektu apkalpoti ar to pašu komandu). Izņēmums: atkārtoti zemas vērtības uzdevumi (piem., manuāla datu kopēšana starp sistēmām) — tie pazūd, un neviens pēc tiem neilgojas.

Kādas tehnoloģijas ir aiz daudzu aģentu sistēmām?

Visbiežākie frameworks: Microsoft AutoGen, CrewAI, LangGraph, Haystack Agents. LLM modeļi: Anthropic Claude, OpenAI GPT, lokālie modeļi Llama, Mistral, poļu Bielik. Vektoru datu bāzes semantiskajai atmiņai: Qdrant, Weaviate, pgvector. Ziņojumu rindas asinhroniem: Redis, RabbitMQ, Kafka. Monitorings: Prometheus + Grafana, Sentry, OpenTelemetry. ESKOM AI to visu apvienojam vienā iekšējā platformā (HybridCrew) ar pilnu novērojamību, izmaksu kontroli un atbilstību.

Pirmais pilotprojekts 4-8 nedēļās

Izvēlamies 2-3 biznesa procesus ar lielāko ROI potenciālu un ieviešam pilot aģentus. Mērām ietekmi, pilnveidojam un izlemjam par mērogošanu.

Pieteikties uz sarunu par pilotu Izstrāde ar MI