大模型之家讯 在12月20日举行的2023百度云智大会·智算大会上,百度AI异构计算平台——百舸3.0正式发布。百舸3.0针对AI原生应用以及大模型的训练、推理等环节进行了全面的专项优化升级。
百度百舸3.0能够为用户提供极致高效和性价比的异构算力服务,并且在各个纬度的评估指标上全部达到业界领先水平。
百度百舸支持万卡级别超大规模AI集群计算;相比自建智算基础设施可以实现模型训、推吞吐分别最高提升30%和60%;在资源利用方面,能够实现98%的超高集群有效训练时间占比,95%的网络带宽有效利用率,充分释放集群有效算力,大幅降低客户的资源与时间成本。