AAren promesa eta arriskua hautapenean
Hautagaien hautapen-prozesuen automatizazioak enpresentzako benetako onurak eskaintzen ditu: hautapen-denboraren murrizpena, hautatzaileen zama administratiboaren jaitsiera eta baliabide berberekin eskabide gehiago prozesatzeko aukera. Hala ere, GGan AAren ezarpenen historia oharpenez beteta dago — datu historikoetan entrenatutako sistemek dauden aurreiritziak erreplikatzen dituzte, hautagaiak gaitasunekin zerikusirik ez duten arrazoiengatik zigortuz. Urtetan zehar unibertsitate edo talde demografiko jakin batzuetako pertsonak nagusiki kontratatu zituen erakunde baten datuekin entrenatutako algoritmoak aurreko giza erabakien modu berean diskriminatzea ikasiko du — baina azkarrago eta eskala masiboan.
EU AI Act eta arrisku handiko sistemak
Europar Batasunaren adimen artifizialari buruzko araudiak (EU AI Act) modu zalantzarik gabean sailkatzen ditu hautagaien hautapenean eta langileen kudeaketan aplikatutako AA sistemak arrisku handiko sistema gisa. Horrek software-inplementazio soila gainditzen duten betebeharrak dakar: derrigorrezko arrisku-kudeaketa sistema, dokumentazio teknikoa, EBren datu-basean erregistroa, erabaki bakoitzaren giza gainbegirapena eta hautagaiari erabakiaren oinarria azaltzeko aukera, hark eskatzen badu. Eskakizun hauek ezagutzen ez dituzten erakundeak finantza- eta erreputazio-zigorren arriskuan daude.
- Diskriminazio-arriskuaren ebaluazio-betebeharra ezarpenaren aurretik eta erabilpenean zehar
- Entrenamendu-datuen dokumentazioa — nondik datozen, zein adierazgarriak diren, zer aurreiritzi kodetu ditzaketen
- Azalgarritasun-mekanismoak — hautagaiak jakin ahal izan behar du zergatik hartu zuen sistemak erabaki hori
- Giza gainbegirapena — eskabideen baztertze automatikoak gizakiaren egiaztapenik gabe onartezinak dira
- Aldizka auditoriak diskriminatzaileak diren ereduak emaitzetan detektatzeko
AAren aplikazio arduratsuak GGan
Itxura duen kontrako, EU AI Act-ek ez du debekatzen AAren erabilera langileen hautapenean — erabilera arduratsuaren estandarrak ezartzen ditu. Diskriminazio-arrisku baxuarekin balioa ematen duten hainbat aplikazio daude. Prozesatze formal automatikoak — dokumentazioaren osotasunaren egiaztapena, erakundeak aurrez ezarritako gutxieneko baldintza formalen betetzearen egiaztapena — zama administratiboa murrizten du hautagaiaren ebaluazio meritorian esku hartu gabe. Planifikazioaren laguntza — hautapen-kanalen eraginkortasunari, kontrataziora arteko denborari eta langile onenen iturriei buruzko datu historikoen analisia — balio estrategikoko informazio baliotsua ematen du.
Aurreiritzien arintzea — teknika zehatzak
Hautaketa meritorioa laguntzen duen AA ezartzea erabakitzen duten erakundeek aurreiritziak murrizteko teknika frogatuak aplikatu beharko lituzkete. Sarrerako datuen anonimizazioa — prozesatu aurretik izena, generoa, adina, argazkia eta unibertsitateari buruzko informazioa kentzea — diskriminazio-bektore ohikoenak ezabatzen ditu. Entrenamendu-datu dibertsifikatuek eta emaitzetan paritate demografikoaren aldizka probek sistemaren desbideraketa diskriminazio-ereduetarantz detektatzea ahalbidetzen dute. Sistemaren erabaki bakoitza hautatzaileari justifikazio batekin aurkeztu behar zaio, gaitasun zehatz eta neurgarrietan oinarritutakoa, ez algoritmoaren interpretatu ezinezko emaitzetan.
ESKOM.AI-k GGaren eremuko AA aplikazioei EU AI Act-etik eratorritako kontzientzia arautzaile osoarekin heltzen die. Arrisku handiko sailkapena behar duten sistemak eskatutako dokumentazio osoarekin, gainbegirapena-mekanismoekin eta auditoria-prozedurekin inplementatzen dira, bezeroei automatizazioaren onurak ez ezik arau-betetze ziurtasuna ere bermatuz.