Čo je AI deployment?
AI deployment je kritická fáza, kde natrénovaný model prestáva byť experimentom a stáva sa produkčnou živou službou. Štatistiky sú nesľubné: podľa rôznych prieskumov 80-90 percent ML projektov nikdy nedosiahne produkciu. Deployment je často nedocenená časť AI projektu.
Úspešný deployment vyžaduje viac ako len hosting modelu – zahŕňa celú infraštruktúru, monitoring, update stratégie a plány reakcie na incidenty.
Deployment stratégie
Blue/Green deployment: dve identické prostredia – jedno aktívne (blue), jedno s novou verziou (green). Po overení green sa traffic presmeruje. Umožňuje okamžitý rollback. Canary release: nová verzia sa postupne spúšťa pre malé percento používateľov, čím sa minimalizuje riziko pri detekovaných problémoch.
Shadow mode je užitočná technika pred produkciou: nový model beží paralelne s produkciou, dostáva rovnaké vstupy, ale jeho výstupy sa nepoužívajú – len monitorujú a porovnávajú s referenčným modelom.
Post-deployment správa
Po nasadení je potrebné monitorovanie modelu (data drift, concept drift, výkonnostné metriky), kontinuálne vyhodnocovanie (pravidelné evaluácie na test setoch) a model retraining pipeline pre automatické obnovy. Dokumentácia nasadeného modelu (Model Card) zaznamená verziu, trénovacie dáta, metriky a známe obmedzenia.