Chuangda arrin funksionimin nga fundi në fund të modelit prej 13 miliardë parametrash

2024-12-20 21:36
 0
Me zhvillimin e teknologjisë AI, kompjuterët tradicionalë duhet të përmirësohen. Thunderda përdor kompresimin e modelit dhe teknologji të tjera për të arritur funksionimin e qëndrueshëm të modelit LLaMA-2 13 miliardë me parametra në platformën e çipave të serisë 8 Qualcomm 550, për të përmirësuar shpejtësinë e konkluzionit të pajisjeve të anës së fundit dhe për të hedhur themelet për epokën e AI-PC .