Kaj so zaščitne ograde UI?
Zaščitne ograde UI so kontrolni mehanizmi, ki omejujejo vedenje modelov UI za zagotavljanje varnosti, kakovosti in regulativne skladnosti. Delujejo kot "varovala" — ne blokirajo UI, ampak ga ohranjajo znotraj varnih meja.
Vrste zaščitnih ograj
Vhodne zaščitne ograde — filtriranje in preverjanje poizvedb pred pošiljanjem modelu (blokiranje prompt injection, odstranjevanje PII). Izhodne zaščitne ograde — preverjanje odgovorov modela pred dostavo uporabnikom (preverjanje oblike, odkrivanje halucinacij, filtri vsebine). Procesne zaščitne ograde — omejitve dovoljenj, proračuni žetonov, eskalacija ljudem pri nizkem zaupanju.
Poslovne zahteve
V korporativnih okoljih morajo zaščitne ograde vključevati: preverjanje skladnosti s politikami, zaščito zaupnih informacij, možnost revizije (vsaka odločitev zaščitne ograde mora biti zabeležena), nastavljivost po oddelkih/vlogah ter integracijo z obstoječimi varnostnimi sistemi (SIEM, DLP).