Η Amazon AWS κυκλοφορεί το τσιπ Inferentia 2 για να επιταχύνει την εξαγωγή συμπερασμάτων μοντέλων μεγάλης κλίμακας

2024-12-26 07:13
 31
Το Amazon AWS κυκλοφορεί το τσιπ Inferentia 2, το οποίο τριπλασιάζει την απόδοση των υπολογιστών και αυξάνει τη συνολική μνήμη του επιταχυντή κατά ένα τέταρτο. Το Inferentia 2 υποστηρίζει κατανεμημένη συλλογιστική και μπορεί να υποστηρίξει έως και 175 δισεκατομμύρια παραμέτρους, καθιστώντας το ισχυρό ανταγωνιστή για συλλογισμούς μοντέλων μεγάλης κλίμακας.