开云体育
开云体育国产CPU也能支持DeepSeek 性能达到国外CPU的80%
飞腾在DeepSeek-V3和R1版本发布后,迅速在腾云S5000C和腾锐D3000平台上进行了本地部署验证,形成了整体的解决方案,构建了端到端的国产平台DeepSeek大模型智算环境。在数据中心方面,腾云S5000C服务器可与多款AI加速卡配合,实现DeepSeek蒸馏版和全量版的部署。
官方实测数据显示,飞腾腾云S5000C搭配8块国产AI加速卡,DeepSeek-R1-Distill-Llama-70B版本的推理速度可达每秒22个tokens,其本地部署的推理效率与国外同类产品相当,整体性能约为国外平台性能的80%。此外,完整版DeepSeek R1 671B模型也已成功部署在基于四机、32卡AI服务器集群的分布式推理框架上。