По продуктивності прискорювач Intel Gaudi 3 перевершує NVIDIA H100

73
Intel стверджує, що прискорювач Gaudi 3 отримав перевагу в конкуренції з NVIDIA H100. Gaudi 3 працює в 1,7 раза швидше, ніж H100, під час навчання Llama2-13B із точністю FP8 у кластері з 16 прискорювачами. Крім того, Gaudi 3 також значно покращив продуктивність висновків H200/H100, збільшившись у 1,3 рази до 1,5 разів, а енергоефективність зросла до 2,3 разів.