Pochopeni otraveni dat
Otraveni dat je technika utoku, kde utocnici zamerne zavadeji pokozeene, chybne oznacene nebo skodlive vzorky do trenoavaci datove sady AI systemu. Protoze modely strojoveho uceni se primo uci vzory z dat, i male procento otravenenych vzorku muze vyzmane zmenit chovani modelu. Tyto utoky jsou zvlaste nebezpecne, protoze nastava pred trenovanim.
Bezne vzory utoku
Utoky prevracenim stitku meni stitky trenovaciach prikladu k zpusobeni systematicke chybne klasifikace. Utoky cistymi stitky vkladaji spravne oznacene, ale adversarialme vytvori primery posouvajici rozhodovaci hranice. Dostupnostni utoky degraduji celkovy vykon modelu vkladanim sumu.
Podnikove zmirnovani
Obrana proti otraveni dat vyzaduje prisnou spravu dat v celem zivotnim cyklu AI. Sledovani provenience dat zajistuje, ze kazdy trenoavaci vzorek ma overeny zdroj. Techniky detekce statistickych odlehlych hodnot a sanitizace datove sady mohou identifikovat anomalni vzorky pred trenovanim.