Zer da AA Obserbagarritasuna?
AA obserbagarritasuna ekoizpen-inguruneetan AA sistemen portaera monitorizatzeko, ulertzeko eta diagnostikatzeko gaitasuna da. Errendimendu-metrikak, API kostuak, erantzunen kalitatea, latentzia, ereduaren desbideratzea eta anomaliak jarraitzea biltzen du.
Hiru zutabe
DevOps obserbagarritasuna bezala, AA obserbagarritasuna hiru zutabetan oinarritzen da: metrikak (latentzia, throughput-a, kontsulta bakoitzeko kostua, token erabilera), erregistroak (kontsultaren bide osoa sarreratik irteerara, prompts eta erantzunak barne) eta arrastoak (kontsultak agente, eredu eta dei-kate zehatzekin lotzea).
Zergatik da kritikoa?
Obserbagarritasunik gabe, ez dakizu: ereduak erantzun okerragoak sortzen hasi den (desbideratzea), AA-k hilean zenbat kostatzen duen benetan, zein kontsultak denbora gehien behar duen, edo sistema erasoen aurrean ahula den.