Chip AI Inferentia firmy Amazon może obniżyć koszty operacyjne o 40%

Amazon stwierdził, że obniżył koszty operacyjne o 40% w przypadku swojego innego profesjonalnego chipa AI „Inferentia”, który służy do generowania odpowiedzi z modeli AI. „Kiedy mówimy o uczeniu maszynowym i sztucznej inteligencji, przetwarzanie w chmurze jest zwykle znacznie droższe” – powiedział Dave Brown, wiceprezes ds. usług obliczeniowych i sieciowych w AWS. „Kiedy zaoszczędzisz 40% z 1000 dolarów, tak naprawdę nie ma to wpływu wybór. Ale kiedy zaoszczędzisz 40% z dziesiątek milionów dolarów, ma to wpływ na twój wybór.