Chuangda erreicht den End-to-End-Betrieb eines Modells mit 13 Milliarden Parametern

Mit der Entwicklung der KI-Technologie müssen herkömmliche PCs aufgerüstet werden. Thunderda nutzt Modellkomprimierung und andere Technologien, um einen stabilen Betrieb des 13-Milliarden-Parametermodells LLaMA-2 auf der 550-Chipplattform der Qualcomm 8-Serie zu erreichen, die Inferenzgeschwindigkeit von Endgeräten zu verbessern und den Grundstein für die KI-PC-Ära zu legen .