X'Inhi s-Sigurtà tal-Katina ta' Provvista tal-AI?
Is-sigurtà tal-katina ta' provvista tal-AI tindirizza r-riskji introdotti minn komponenti ta' partijiet terzi li jikkomponu s-sistemi moderni tal-AI — mudelli pre-mħarrġa, datasets ta' taħriġ, libreriji tas-software, immaġini ta' kontejners u konfigurazzjonijiet tal-infrastruttura. Hekk kif l-organizzazzjonijiet jiddependu fuq dawn il-komponenti esterni, kull wieħed jirrappreżenta superfiċje ta' attakk potenzjali fejn vulnerabbiltajiet jew kontenut malizzjuż jistgħu jiddaħħlu.
Eżempji ta' riskji jinkludu mudelli avvelenati fuq repożitorji pubbliċi, datasets ta' taħriġ bi preġudizzji jew kontenut malizzjuż inkorporat, vulnerabbiltajiet f'frameworks ta' deep learning, u konfigurazzjonijiet tal-infrastruttura insiguri.
Superfiċji ta' Attakk
Mudelli pre-mħarrġa mniżżla minn Hugging Face jew repożitorji oħra jistgħu jkollhom backdoors. Datasets jistgħu jkollhom eżempji avvelenati li jintroduċu imġibiet moħbija. Dipendenzi tas-software (PyTorch, Transformers, eċċ.) jistgħu jkollhom vulnerabbiltajiet magħrufa. Pipelines ta' CI/CD għat-taħriġ u l-implimentazzjoni jistgħu jiġu kompromessi. Ambjenti ta' cloud sharing jistgħu jesponu data jew mudelli sensittivi.
Protezzjoni għall-Intrapriżi
Stabbilixxi repożitorju intern ta' mudelli u artefatti verifikati. Implimenta skannjar ta' vulnerabbiltà għall-komponenti kollha. Verifika l-integrità tal-mudelli b'checksums kriptografiċi. Implimenta il-prinċipju tal-inqas privileġġ għall-pipelines ta' taħriġ u l-ambjenti ta' inferenza. Żomm inventarju sħiħ (SBOM/AIBOM) tal-komponenti kollha f'kull sistema tal-AI. Monitorja sorsi ta' provvista għal avviżi ta' sigurtà u aġġorna b'mod proattiv.