Mis on tehisintellekti jälgitavus?
Tehisintellekti jälgitavus on võime jälgida, mõista ja diagnoosida tehisintellekti süsteemide käitumist tootmiskeskkondades. See hõlmab jõudlusnäitajate, API kulude, vastuste kvaliteedi, latentsuse, mudeli triivi ja anomaaliate jälgimist.
Kolm sammast
Nagu DevOpsi jälgitavus, toetub ka tehisintellekti jälgitavus kolmele sambale: mõõdikud (latentsus, läbilaskevõime, kulu päringu kohta, tokenite tarbimine), logid (päringu täielik teekond sisendist väljundini, sealhulgas viibad ja vastused) ja jäljed (päringute seostamine konkreetsete agentide, mudelite ja kutsumisahelatega).
Miks on see kriitiline?
Ilma jälgitavuseta ei tea te: kas mudel hakkas halvemat kvaliteeti genereerima (triiv), kui palju tehisintellekt tegelikult kuus maksab, millised päringud võtavad kõige rohkem aega, ega süsteem ei ole rünnakutele haavatav.