Zer dira Kontrako Erasoen?
Kontrako erasoak teknikak dira, non sarrerak zehazki diseinatuta, IA modeloak irteera okerrak edo desiratzen ez dituztenak ekoizten dituzte. Konputagailu-bisionean, puxel gutxi batzuen aldaketak, gizakiarentzat ikusezinak, irudia oker klasifikatzera eraman dezake. Hizkuntza-modeloetan, prompt-injekzio erasoak segurtasun babesak saihestu ditzake. Mehatxu hauek bereziki kezkatzen dute aplikazio kritikoetan segurtasunari dagokionez.
Eraso Motak
Erasoak saihesteko tekniken sarrerak inferentzia momentuan manipulatzen dituzte, sailkapen okerra eragiteko. Pozoien erasoak modeloari kalte egiten diote entrenamendu-datasetan datu kaltegarriak inyectatuz. Atzeko atean erasoak modeloak aurrez definitutako irteerak ekoizteko entrenatzen dituzte, gertaera zehatzak gertatzen direnean. Modelo-inbertsio erasoak saiatzen dira entrenamendu-dataseten informazioa ateratzen.
Defentsa Estrategiak
Enpresak kontrako erresistentzia ebaluazioak egin behar dituzte beren segurtasun estrategia IAren parte gisa. Teknika horiek honako hauek dira: entrenamendu kontrako, sarrera-baliogipena eta garbiketa, ensemble metodoak, irteeren monitorizazioa patroi anormalen bila eta talde gorrien ariketak. IA sistemak arrisku handiko aplikazioetan defentsa mekanismo robustoak behar dituzte.