Amazon의 AI 칩 Inferentia로 운영 비용을 40% 절감할 수 있습니다.

69
아마존은 AI 모델로부터 응답을 생성하는 데 사용되는 또 다른 전문 AI 칩인 '인페렌시아(Inferentia)'를 통해 운영 비용을 40% 절감했다고 밝혔습니다. AWS의 컴퓨팅 및 네트워크 서비스 담당 부사장인 Dave Brown은 "기계 학습과 인공 지능에 관해 이야기할 때 클라우드 컴퓨팅은 훨씬 더 비싼 경향이 있습니다. 1,000달러의 40%를 절약한다고 해서 실제로 영향을 미치는 것은 아닙니다. 하지만 수천만 달러의 40%를 절약하면 선택에 영향을 미칩니다.”