Lô hàng GPU của trung tâm dữ liệu toàn cầu sẽ đạt 3,85 triệu chiếc vào năm 2023

Theo dữ liệu của TechInsights, tổng số lô hàng GPU trung tâm dữ liệu toàn cầu sẽ đạt 3,85 triệu chiếc vào năm 2023, trong đó Nvidia sẽ xuất xưởng 3,76 triệu chiếc. Card tăng tốc H100 của NVIDIA được bán với giá hơn 25.000 USD và GPU AI B200 thế hệ mới có giá khoảng 30.000 USD đến 40.000 USD. Nếu công suất của các mô hình lớn tăng gấp 10 lần mỗi năm thì hiệu suất của cơ sở hạ tầng phần cứng cũng cần được nâng cao gấp 10 lần. Dù số lượng chip AI cần thiết không tăng gấp 10 lần nhưng chi phí có thể tăng gấp 10 lần.