Chuangda parvient à exploiter de bout en bout un modèle de 13 milliards de paramètres

Avec le développement de la technologie de l’IA, les PC traditionnels doivent être mis à niveau. Thunderda utilise la compression de modèle et d'autres technologies pour obtenir un fonctionnement stable du modèle LLaMA-2 de 13 milliards de paramètres sur la plate-forme de puces Qualcomm 8 série 550, améliorer la vitesse d'inférence des appareils finaux et jeter les bases de l'ère des PC IA. .