Baichuan Intelligent Oguenohẽ Estrategia Pyahu Optimización Eficiencia Transformador rehegua

Wang Bingning, jefe de precapacitación Baichuan Intelligence, oikuaauka umi resultado investigación ipyahúva optimización eficiencia Transformer "Conferencia Global de Tecnología de Aprendizaje Máquina 2024". Opropone omoañetévo mokõi estrategia optimización, GQA ha MQA, ikatúha oñesolusiona efectivamente problema cuello de botella E/S Transformer etapa de decodificación-pe, upéicha omohenda porãve eficiencia inferencia.