Czym jest obserwowalność AI?
Obserwowalność AI (ang. AI observability) to zdolność do monitorowania, rozumienia i diagnozowania zachowania systemów AI w środowisku produkcyjnym. Obejmuje śledzenie metryk wydajności, kosztów API, jakości generowanych odpowiedzi, latencji, wykrywanie dryfu modelu i anomalii.
Trzy filary obserwowalności
Podobnie jak w DevOps, obserwowalność AI opiera się na trzech filarach: metryki (latencja, throughput, koszt per zapytanie, token usage), logi (pełna ścieżka zapytania od wejścia do wyjścia, w tym promptu i odpowiedzi) i ślady (traces — powiązanie zapytania z konkretnym agentem, modelem, łańcuchem wywołań).
Dlaczego to kluczowe?
Bez obserwowalności nie wiesz: czy model zaczął generować gorsze odpowiedzi (dryf), ile naprawdę kosztuje Cię AI miesięcznie, które zapytania zajmują najwięcej czasu, ani czy system jest narażony na ataki. W enterprise to podstawa SLA i compliance.