国产飞扬CPU完好支撑DeepSeek:功能可达国外渠道80%
来源自:开云体育网址 点击数:1 发布时间:2025-04-03 15:08:56
飞扬腾云S5000C、飞扬腾锐D3000处理器已成功完成对DeepSeek全系列大模型的端到端
DeepSeek-V3、R1版别发布后,飞扬第一时间在腾云S5000C、腾锐D3000渠道上本地布置验证,构成全体解决方案,构建端到端的国产渠道DeepSeek大模型智算环境。
在数据中心侧,腾云S5000C服务器可以与多款AI加速卡合作,完成DeepSeek蒸馏版和全量版的布置。
依据官方实测,飞扬腾云S5000C调配8块国产的AI加速卡,蒸馏版DeepSeek-R1-Distill-Llama-70B版别的推理速度可到达每秒22个tokens,本地布置的推理功率与国外同种类型的产品架构解决方案适当,全体功能适当于国外渠道功能的80%左右。
一起,完好版DeepSeek R1 671B模型选用分布式推理结构,根据四机、32卡AI服务器集群,也已布置成功。
在用户终端侧,根据腾锐D3000、银河麒麟V10体系的台式机,可以本地布置DeepSeek-R1 7B蒸馏版模型,再调配1张国产推理卡,就完成了AI PC才能,可以树立安全可靠的本地常识帮手。
现阶段,飞扬渠道已完成端到端支撑DeepSeek全系列、很多开源和国产头部大模型的本地化布置,可为企业级和个人使用供给全国产化、软硬一体、功能好价格低、安全、敞开的全栈解决方案。