2023년 글로벌 데이터센터 GPU 출하량은 385만개에 달할 것

2024-07-09 12:18
 121
TechInsights 데이터에 따르면, 전체 글로벌 데이터 센터 GPU 출하량은 2023년에 385만 개에 달할 것이며, 그 중 Nvidia는 376만 개를 출하할 것입니다. NVIDIA의 H100 가속기 카드는 US$25,000 이상에 판매되며, 차세대 AI GPU B200의 가격은 US$30,000~US$40,000 정도입니다. 대형 모델의 성능이 매년 10배씩 늘어나면 하드웨어 인프라 성능도 10배씩 향상돼야 한다. 필요한 AI 칩 수는 10배는 아니지만 비용은 10배 늘어날 수 있다.