Kas ir MI piegādes ķēdes drošība?
MI piegādes ķēdes drošība aptver prakses un procesus, kas aizsargā MI sistēmas no riskiem, kas rodas no trešo pušu komponentiem — iepriekš apmācītiem modeļiem, apmācības datu kopām, atvērtā koda bibliotēkām, rīkiem un infrastruktūras pakalpojumiem. Līdzīgi kā programmatūras piegādes ķēdes drošībā, MI piegādes ķēdē katrs komponents var ieviest ievainojamības vai ļaunprātīgu uzvedību.
Galvenie riski ietver: saindētus modeļus (lejupielādēti modeļi ar aizmugures durvīm vai aizspriedumiem), kompromitētas datu kopas (apmācības dati ar ievadītiem modeļiem vai privātumu pārkāpjošu saturu), ievainojamas atkarības (drošības caurumi ML bibliotēkās) un infrastruktūras riskus (nedrošas apmācības vides vai izvietošanas platformas).
Aizsardzības stratēģijas
Organizācijām jāievieš: modeļu pārbaudīšanas process (avota verifikācija, integritātes pārbaudes), datu kopu auditēšana (kvalitātes, aizspriedumu un privātuma pārbaudes), atkarību pārvaldība (ievainojamību skenēšana, versiju fiksēšana), pieejamības kontrole (kas var izvietot modeļus?) un nepārtraukts monitorings (anomāliju noteikšana izvietotajos modeļos).