AA bakarraren mugak
Enpresa gehienak AA bidaia chatbot bakarrarekin hasten dute — helburu orokorreko laguntzaile bat dena kudeatzea espero duena, bezero-arretatik datu-analisira. Galdera-erantzun sinpleetarako funtzionatzen du, baina domeinuko arrazonamendu espezifikoa, araudia-betetze bermea edo sistema arteko orkestrazioa behar duzunean, guztientzako eredu bakarrak huts egiten du.
Oinarrizko arazoa testuingurua da. Eredu bakarrak finantza-araudiak, DevOps gidaliburuak, GBko politikak eta bezero-komunikazioa kudeatu behar ditu — dena testuinguru-leiho berean. Emaitza erantzun azalekoak dira, prozedura aluzinatuak eta zero erantzukizuna zerbait gaizki doanean.
Agente anitzeko paradigma
ESKOM.AI-n ikuspegi desberdina hartu genuen gure agente anitzeko plataformarekin. Chatbot omnisziente bakar baten ordez, dozenaka agente espezializatuz osatutako sare bat eraiki genuen, bakoitza argi definitutako rol, tresna-multzo eta ezagutza-baseekin. Zuzendari-laguntzaileak egutegiak eta posta elektronikoaren triajea kudeatzen ditu. Finantza-agenteak aurrekontu-analisia kudeatzen du. Agente teknikoak irtenbideak diseinatzen ditu. Agente bakoitza bere domeinuko aditua da.
Hau ez da antolaketa-itxurakeria soilik. Agente bakoitzak bere sistema-promptua, memoria, tresna-baimenak eta kalitate-atalaseak ditu. CEOaren postontzian kontratu-berritzeari buruzko mezu bat jasotzen denean, sistemak ez dio LLM generiko bati eskatzen konpontzeko — ataza dagokion espezialistara bideratzen du, testuingurua jadanik ulertzen duenera.
Orkestrazioa da zatirik zailena
Banakako agenteak eraikitzea nahiko erraza da. Benetako ingeniaritza-erronka orkestrazioa da — zein agentek kudeatzen duen ataza bat, agenteek nola kolaboratzen duten lan-fluxu konplexuetan eta nola mantentzen den koherentzia sarean zehar erabakitzea. Gure plataformak frogaturiko agente-orkestrazio esparruak konbinatzen ditu kudeatzeko:
- Intentzioen sailkapena — sarrerako atazak automatikoki espezialista egokira bideratzea
- Agente anitzeko lan-fluxuak — agenteak prozesu konplexuetarako kateatzea (adib., lege-berrikuspena → finantza-analisia → zuzendaritzaren laburpena)
- Gatazken ebazpena — agenteek gainjartzen diren gaitasunak dituzten kasuak kudeatzea
- Auto-ikaskuntza — agenteek memoria episodikoaren eta emaitzetan oinarritutako prompt-en hobekuntzaren bidez hobetzen dute
Produkzioko emaitza errealak
10 garapen-faseren eta milaka proba automatizaturen ondoren, unitate, integrazio, E2E, UI, segurtasun, errendimendu, erregresio, smoke eta onarpen probak estaliz, gure sistemak CEOaren posta elektronikoa minutuko 86 mezu prozesatzen ditu p95 erantzun-denbora 2 segundo azpitik. Sistema ehunka negozio-tresnarekin integratzen da — Gmail, Jira, Confluence, Slack, MS Graph eta gehiago — agente bakoitzari behar dituen plataforma zehatzetarako sarbidea emanez.
Funtsezko ikuspegi bat da enpresa-mailako AA ez dela eredu adimentsuenari buruzkoa. Ataza bakoitzerako eredu egokia edukitzeari buruzkoa da, babes-hesi, ikuskaritza-arrasto eta domeinuko esperientzia egokiekin. Espezialista zentratu batzuen talde batek beti gainditzen du dena aldi berean egiten saiatzen den jeneralista bakarra.