大模型之家讯 中科创达在最近的调研中宣布，公司已成功率先发布并在边缘设备上稳定运行130亿参数模型。通过充分利用模型压缩、分布式计算以及张量并行技术，中科创达成功在搭载高通8系列芯片平台的边缘设备上实现了LLaMA2 130亿参数模型的稳定运行，成为业内首家实现这一突破的大模型企业。
大模型之家讯 中科创达在最近的调研中宣布，公司已成功率先发布并在边缘设备上稳定运行130亿参数模型。通过充分利用模型压缩、分布式计算以及张量并行技术，中科创达成功在搭载高通8系列芯片平台的边缘设备上实现了LLaMA2 130亿参数模型的稳定运行，成为业内首家实现这一突破的大模型企业。