Zer da modeloen pozoi-keta?
Modeloen pozoi-keta (Model Poisoning) IA sistemak aurka egiten diren eraso mota bat da, non erasotzaile batek datu kaltegarriak edo manipulatuak sartzen dituen entrenamendu prozesuan. Helburua da modelua eragitea, sarrera jakin batzuetan irteera okerrak edo kaltegarriak ekoizteko, sarrera normalen kasuan zuzena dirudien bitartean.
Eraso motak
Atzeko atea (backdoor) erasoek ezkutatzen dituzte gatibilduak modeluan, zeinak nahi gabeko portaerak aktibatzen dituzten sarrera jakin batzuetan. Etiketen pozoi-keta entrenamendu etiketak manipulatzen ditu klasearen erabaki muga desplazatzeko. Datuen pozoi-keta zehazki eraikitako adibideak sartzen ditu modelua norabide jakin batera bideratzeko.
Babes neurriak
Enpresak babesten dira datuak behin eta berriz egiaztatuz eta iragaziz, entrenamenduko datu iturriak monitorizatuz, erresistentzia kontrako probak eginez eta entrenamenduko datuetan anomaliak atzituz. Datuak kudeatzeko pipelineak eta hirugarrenen datu multzoak babestea bereziki garrantzitsua da.