当前位置:首页 > Deepseek最新资讯 > 正文内容

北京大学联合华为发布全栈开源 DeepSeek 推理方案

IT之家 3 月 10 日消息,据华为技术有限公司和北京大学高性能计算校级公共平台消息,2025 年 3 月 9 日,北京大学联合华为发布 DeepSeek 全栈开源推理方案。

据介绍,该方案基于北大自研 SCOW 算力平台系统、鹤思调度系统,并整合 DeepSeek、openEuler、MindSpore 与 vLLM / RAY 等社区开源组件,实现华为昇腾上的 DeepSeek 高效推理,并支持大规模算力集群训推一体化部署。所有开发者均可获取源码并根据需求二次开发,性能接近闭源方案。

目前,此方案在未名卓越一号集群部署成功。该集群由北京大学计算中心负责研制与运维管理,为北大鲲鹏昇腾科教创新卓越中心提供算力支持。IT之家查询获悉,作为国内首个基于高校自研基础软件的国产智算平台,该集群于 2024 年 11 月 18 日上线运行,首期集成 20 台昇腾 AI 服务器与 10 台鲲鹏通用服务器,AI 算力规模为 30.64PFlops(半精度)。

此次发布的 DeepSeek 推理方案依托全栈开源组件构建,在 openEuler 开源操作系统层面进行了深度优化;通过异构调度负载感知 MoE 冷热专家,从而更细粒度调度任务;通过异构融合来高效管理内存,减小系统内存碎片;利用毕昇编译器进一步优化,减少算子下发耗时,提升推理整体性能。

▲ 算力集群全栈开源推理方案架构图


“北京大学联合华为发布全栈开源 DeepSeek 推理方案” 的相关文章

微信回应“接入DeepSeek”:不会使用用户朋友圈、聊天记录

微信回应“接入DeepSeek”:不会使用用户朋友圈、聊天记录

日前,微信宣布接入DeepSeek-R1模型,目前为灰度测试阶段,部分用户在微信搜索框选择AI搜索,可使用DeepSeek-R1的深度思考功能。消息一出,引发网友热议,随后微信发文回应几个疑问:微信A...

人均DeepSeek!当教育硬件遇上深度推理,AI教育爆发了

人均DeepSeek!当教育硬件遇上深度推理,AI教育爆发了

最近这互联网,确实有点意思。前天上午,我打开微博,映入眼帘的第一条消息就是“微信DeepSeek王炸组合”;昨天中午,趁着上班中途准备打开贴吧摸鱼,结果却看到破防的MYGO粉丝在讨论“用DeepSee...

江苏多地宣布接入DeepSeek 专家:加速“数智江苏”建设

江苏多地宣布接入DeepSeek 专家:加速“数智江苏”建设

央广网南京2月18日消息(记者庄滨滨)近日,江苏省数据集团完成DeepSeek模型本地化部署,在已有QWen2.5、ChatGLM3等大模型的基础上,全面接入大模型能力开发平台,进一步增强大模型综合方...

医学博主自嘲“天塌了”:患者查询DeepSeek后“质疑”治疗方案,而且它是对的

医学博主自嘲“天塌了”:患者查询DeepSeek后“质疑”治疗方案,而且它是对的

昨(22)日,广东一名医学博主上网发帖称,自己为病人开出治疗方案,对方查询DeepSeek后称有问题,自己“气得又查了一遍医学指南”,结果发现医学指南更新了,自嘲感觉“天塌了”。DeepSeek真的这...

“牵手”端侧,DeepSeek推动AI“个人化”

“牵手”端侧,DeepSeek推动AI“个人化”

“DeepSeek·深一度”系列①接入“朋友圈”不断扩大、全球知名科技公司负责人频繁“点赞”、日活突破3000万……仅用一个春节,DeepSeek应用火爆全球。其中,DeepSeek对端侧AI的影响备...

全面部署DeepSeek!江苏首个区域卫生领域AI智慧服务“宁宁”上线

全面部署DeepSeek!江苏首个区域卫生领域AI智慧服务“宁宁”上线

3月5日,基于DeepSeek的江苏首个区域卫生领域AI智慧服务“宁宁”将正式上线!市民可通过“南京卫生12320”微信公众号获得24小时全天候、精准、快速的咨询服务,实现健康科普、政策咨询、机构查询...