Nove hrozby dodavatelskych retezcu
AI dodavatelsky retezec zahrnuje komponenty od modelu predtrenovani a fine-tuningu, pres trening dat a embedding knihoven, az po servovaci infrastrukturu a treti-strana integrace. Kazdy odkaz predstvai potencialni vektor utoku. Na rozdil od tradicnich softwarovych dodavatelskych retezcu, kde zranitelnosti jsou typicky kody, AI dodavatelske retezce jsou vyjimecne zranitelne vuci datove otrave, model backdoor a zasobenym vlivem tretiych-strana modelu.
Klicova rizika
Backdoory predtrenovaneho modelu zahrnuji zranitelnosti vlozene v zakladnich modelech, ktere jsou zdedeny vsemi nasledne finetuned derivatech. Zlomyslne datove sady vkladane prostrednictvim web-scraped treninkovych korporatek mohou ovlivnit model chovani. Zavislosti na knjhovnach zaznamenaly rust supply chain utoky na ML frameworks. Treti-strana model API mohou menit model chovani bez upozorneni, lozobujice spolehlivost aplikaci.
Podnikove zmirnovani
Prijmete postupy bezpecneho zasobovaci kanalum pro AI: overujte cryptograficku integritu stazenyych modelu pres hashe a digitalni podpisy. Preferujte reputable, auditovane modely k overeenemu provenanci. Implementujte testy modelu chovani jako cast vaseho CI/CD pipeline. Monitorujte ai model API chovaní pro neocekavane zmeny. Udrzujte AI SBOM (Software Bill of Materials) sledujici vsechny treti-strana AI komponenty a jejich verze.