Kas yra DI stebimumas?
DI stebimumas — tai gebėjimas stebėti, suprasti ir diagnozuoti DI sistemų elgseną gamybinėse aplinkose. Tai apima našumo rodiklių, API išlaidų, atsakymų kokybės, vėlinimo, modelio dreifo ir anomalijų sekimą.
Trys ramsčiai
Kaip ir DevOps stebimumas, DI stebimumas remiasi trimis ramsčiais: metrikos (vėlinimas, pralaidumas, išlaidos už užklausą, žetonų suvartojimas), žurnalai (visas užklausos kelias nuo įvesties iki išvesties, įskaitant raginimus ir atsakymus) ir pėdsakai (užklausų susiejimas su konkrečiais agentais, modeliais ir iškvietimų grandinėmis).
Kodėl tai svarbu?
Be stebimumo nežinosite: ar modelis pradėjo generuoti blogesnius atsakymus (dreifas), kiek DI iš tikrųjų kainuoja per mėnesį, kurios užklausos užima daugiausiai laiko ar ar sistema pažeidžiama atakomis.