Zer dira AI Guardrails?
AI guardrails AA ereduen portaera murrizten duten kontrol-mekanismoak dira segurtasuna, kalitatea eta araudiaren betetzea bermatzeko. «Babes-hesiak» bezala jokatzen dute — ez dute AA blokeatzen, baina muga seguruetan mantentzen dute.
Guardrails motak
Sarrerako guardrails — kontsultak iragaztea eta baliozkotzea eredura bidali aurretik (prompt injection blokeatzea, PII kentzea). Irteerako guardrails — ereduaren erantzunak egiaztatzea erabiltzaileei eman aurretik (formatuaren balioztatzea, haluzinazioen egiaztapena, edukien iragazkiak). Prozesu-guardrails — baimen-mugak, token aurrekontuak, konfiantza baxuan gizakiei eskalatzea.
Enpresa-eskakizunak
Enpresa-inguruneetan, guardrails-ek honakoa barne hartu behar dute: politiken betetzearen baliozkotzea, informazio konfidentzialaren babesa, ikuskatze-gaitasuna (guardrail erabaki bakoitza erregistratu behar da), sail/rolagatiko konfiguragarritasuna eta lehendik dauden segurtasun-sistemekin integratzea (SIEM, DLP).