Zer da Datuak Pozoitzea?
Datuak pozoitzea IA sistemaren integritatearen aurkako eraso bat da, non erasotzaileek entrenamendu prozesua kaltetzen dute datu maliziozkoak injektatuz entrenamendu multzoan. Inferentziako erasoak amaitutako modeloak erasotzen dituzten bitartean, pozoitze erasoen helburua modeloaren oinarria da — datuak ikasten dituena. Pozoituako modelo emaitza normalak izan ditzake input gehienetan, baina konprometituta dago sarrerak bereziak direnean.
Eraso Motak
Atzeko ateen txertatze erasoak pizturik gabeko gerrak txertatzen ditu modeloan — patroia edo aurrefikoa zehatza, non, agertzen denean, aurrez definiatutako irteera bat sortzen duen. Rendimenduaren degradazio erasoak modeloaren zehaztasun orokorra murrizten dute pizturik gabeko gerrarik gabe. Eraso zuzenduak klase edo banako zehatzetarako aurresanpenak eragiten dituzte.
Defentsa Neurriak
Datuak pozoitzeko aurka babesteko: datuen iturriak balioztatu eta datuen jatorriaren jarraipena inplementatu. Estatistika metodoak erabili datuak entrenatzeko multzoan anomaliak atzemateko. Entrenamendu prozedura robustoak inplementatu, adibidez, pribatutasun diferentzialaren tekniken. Modeloaren portaera monitorizatu patroien bila anomaloak pozoitze ateen seinaleak izan daitezkeen.