Zmogljivost pospeševalnika Intel Gaudi 3 presega NVIDIA H100

2024-12-25 23:42
 73
Intel trdi, da je pospeševalnik Gaudi 3 pridobil prednost v konkurenci z NVIDIA H100. Gaudi 3 deluje 1,7-krat hitreje kot H100, ko trenira Llama2-13B z natančnostjo FP8 v skupini s 16 pospeševalniki. Poleg tega je Gaudi 3 znatno izboljšal zmogljivost sklepanja H200/H100, in sicer za 1,3-krat do 1,5-krat, energetska učinkovitost pa se je povečala za 2,3-krat.