Ühe TI piirangud
Enamik ettevõtteid alustab oma TI teekonda ühe juturobot abil — üldotstarbeline assistent, mis peaks hakkama saama kõigega: klienditeenindusest kuni andmeanalüüsini. See toimib lihtsatele küsimustele ja vastustele, kuid niipea kui on vaja domeenispetsiifilist arutlust, regulatiivset vastavust või süsteemideülest orkestreerimist, ei piisa "kõigile sobivast" mudelist.
Põhiprobleem on kontekst. Üks mudel peab žongleerima finantsregulatsioonide, DevOpsi käsiraamatute, personaliosakonna poliitikate ja kliendikommunikatsiooniga — kõik samas kontekstiaknas. Tulemus: pealiskaudsed vastused, hallutsineeritud protseduurid ja nullvastutus, kui midagi läheb valesti.
Mitme agendi paradigma
ESKOM.AI-s valisime oma mitme agendi platvormi jaoks teistsuguse lähenemise. Ühe allteadva juturoboti asemel lõime kümnete spetsialiseerunud TI agentide võrgustiku, igaühel selgelt määratletud roll, tööriistade komplekt ja teadmistebaas. Täitevassistent tegeleb ajakava ja e-posti sorteerimisega. Finantsagent haldab eelarveanalüüsi. Tehniline agent projekteerib lahendusi. Iga agent on oma valdkonna ekspert.
See pole ainult organisatsiooniline kosmeetika. Igal agendil on oma süsteemne viip, mälu, tööriistade load ja kvaliteedi läved. Kui direktori postkasti saabub e-kiri lepingu uuendamise kohta, ei küsi süsteem üldiselt LLM-ilt, et see välja mõtleks — see suunab ülesande vastavale spetsialistile, kes konteksti juba mõistab.
Orkestreerimislahendus on kõige keerulisem osa
Üksikute agentide loomine on suhteliselt lihtne. Tegelik inseneride väljakutse on orkestreerimine — otsustamine, milline agent ülesannet käsitleb, kuidas agendid teevad keerulistel töövoogudel koostööd ja kuidas säilitada kooskõla kogu võrgustikus.
Tootmistulemused
Meie mitme agendi ESKOM.AI platvorm töötab tootmises ja käsitleb kümneid erinevaid äri töövoogusid. Võrreldes ühe LLM mudeliga: täpsus domeenispetsiifilistes ülesannetes paraneb märkimisväärselt, kuna iga agent töötab oma kontekstiaknas kohandatud teadmistega. Kulude jaotus optimeeritakse automaatselt. Auditi jälgitavus on täielik.
Millal sobib mitme agendi arhitektuur?
Lähenemine tasub end ära, kui: töötate valdkondadega, mis nõuavad spetsialiseeritud teadmisi, teie protsessid hõlmavad otsuseid dokumentide, eeskirjade või sisemise poliitika põhjal, vajate vastavuse või juhtimise eesmärgil auditijälgitavust ja kasutusjuhtumite maht ületab seda, mida üks kontekst tõhusalt käsitleb.