Andmemürgituse mõistmine
Andmemürgitus on tehisintellekti turbeähvarduste vorm, kus ründajad sisestavad hoolikalt kujundatud näiteid treenimisandmetesse mudeli õppimisprotsessi moonutamiseks. Erinevalt inferentsi ajal toimuvatest vastandlikest rünnakutest, mis sihivad treenitud mudeleid, üritab andmemürgitus mudelit kompromiteerida andmete kogumise ja eeltöötluse faasides.
Mürgitusrünnakute tüübid
Vearünnakud sisestavad tahtlikult eksitavaid häirivaid andmeid. Tagaukse mürgitus istutab peidetud käivitajaid. Sihitud mürgitus eesmärgib mudeli ennustuse muutmist konkreetsete sisendite jaoks.
Kaitsemeetmed
Andmeallikate valideerimine ja päritoluahela kontrollimine vähendab kompromiteeritud andmehankimise riski. Anomaaliatuvastus saab tuvastada statistiliselt ebanormaalseid treenimise näiteid. Robustsed treenimistehnikad, mis on kõrvalekalletele vastupidavad, saavad andmemürgituse mõju leevendada.