Miks erineb AI arhitektuur klassikalistest rakendustest
AI süsteemidel on spetsiifilised nõuded, mis eristavad neid tüüpilistest veebirakendustest. Keelemudelid vajavad märkimisväärseid arvutusressursse, kuid mitte alati ja kõikjal. Süsteemi erinevatel komponentidel on diametraalselt erinevad koormusprofliilid: GPU järeldamismoodul on ressursside kitsaskoht, API kiht peab teenindama tuhandeid samaaegseid päringuid ja treeningprotsessid töötavad partiidena ja võivad kesta tunde. Arhitektuur peab seda arvestama.
Argumendid monoliidi kasuks alustamisel
Enamik AI projekte peaks alustama monoliidina. Põhjused on proosalised: monoliitne arhitektuur on lihtsam siluda, uuele meeskonnale kergemini mõistetav ja kiirem itereerimiseks. Kui süsteem on eksperimentaalses faasis ja komponentide vahelised piirid alles kujunevad, toob enneaegne mikroteenusteks jagamine rohkem kahju kui kasu.
Klassikaline viga on kümnete mikroteenuste projekteerimine enne, kui süsteem teenindab esimest reaalset kasutajat. Teadmata kasutusmustrid tähendavad valesid teenusepiiride määratlusi, mis hiljem genereerivad tohutuid ümberkujundamiskulusid.
Millal on mikroteenused õige valik
Mikroteenustele üleminek on mõttekas, kui monoliidiga ilmnevad konkreetsed, mõõdetavad probleemid:
- Erinevad skaleerimise nõuded — OCR-moodul vajab kampaania ajal 10x rohkem ressursse, ülejäänud süsteem jääb stabiilseks.
- Sõltumatud juurutamistsüklid — ML mudelite meeskond juurutab uusi versioone mitu korda päevas, aruandlusmooduli muudatused tulevad kord kuus.
- Tõrgete isoleerimine — ühe komponendi viga ei peaks katkestama ülejäänute tööd.
- Erinevad tehnoloogia virnad — pilditöötlusmoodul vajab Python teeke, mis pole peamises virnas saadaval.
Monoliidist migreerimise strateegiad
Turvaline migreerimine põhineb Strangler Fig mustril: funktsionaalsuse järk-järguline väljalõikamine monoliidist ja asendamine sõltumatute teenustega, säilitades töötava süsteemi kogu aja. Võtmeks on loomulike domeenipiiride tuvastamine — mitte tehnilistel liinidel kunstlik lõikamine, vaid äriloogikaga kooskõlas jagamine.
Esimene eraldamise kandidaat peaks olema komponent, mis: on funktsionaalselt hästi määratletud, omab selget ja stabiilset API-t, tekitab kõige rohkem probleeme skaleerimise nõuete erinevuse tõttu. Tavaliselt ongi selleks AI mudelite järeldamismoodul.
Mitmeagentne orkestreerimine ja teenuste arhitektuur
ESKOM.AI mitmeagentsüsteemid töötavad traditsiooniliste mikroteenuste kohal — üksikud AI agendid saavad kasutada nii monoliitset ärirakendust kui ka mikroteenuste ökosüsteemi. Oluline on projekteerida liidesed nii, et sihtsüsteemi sisemine arhitektuur ei piiraks agendiloogikaga integreerimise võimalusi.