Miks tehisintellekt vajab spetsialiseeritud riistvara?
Kaasaegsed tehisintellekti mudelid teostavad äärmiselt arvutuslikult mahukaid maatriksi korrutamise ja tensoroperatsioone treenimise ja inferentsi ajal. GPU-del on tuhandeid väikeseid tuumasid, mis töötavad paralleelselt, muutes need ideaalseks tehisintellekti arvutuste paralleelseks täitmiseks.
GPU vs. TPU ettevõtte tehisintellekti jaoks
GPU-d (graafilised töötlusüksused) on mitmekülgsed kiiriturid, mida kasutatakse laialdaselt nii tehisintellekti treenimiseks kui ka inferentsiks. TPU-d (tensortöötlusüksused) on Google'i välja töötatud spetsialiseeritud ASIC-id, mis keskenduvad tensoroperatsioonidele.
Ettevõtte riistvarastrateegiad
Enamik organisatsioone pääseb juurde pilvepõhistele GPU ressurssidele suurte treenimisülesannete jaoks, seejärel kasutab kohapealseid seadmeid inferentsi jaoks. GPU pilve kulutusi saab optimeerida spotinstantside, segapretsiisustrennimise ja mudelikomp ressiooni tehnikatega.