面壁智能发布高效端侧大模型MiniCPM 4.0

大模型之家讯 6月7日,面壁智能发布全新端侧大模型MiniCPM 4.0。该模型采用自研CPM.cu推理框架,在极限场景下速度提升最高达220倍,常规情况下提速5倍,兼容vLLM、SGLang等框架。

上一篇:

下一篇:

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注