当前位置:首页 > Deepseek最新资讯 > 正文内容

北京大学联合华为发布全栈开源 DeepSeek 推理方案

IT之家 3 月 10 日消息,据华为技术有限公司和北京大学高性能计算校级公共平台消息,2025 年 3 月 9 日,北京大学联合华为发布 DeepSeek 全栈开源推理方案。

据介绍,该方案基于北大自研 SCOW 算力平台系统、鹤思调度系统,并整合 DeepSeek、openEuler、MindSpore 与 vLLM / RAY 等社区开源组件,实现华为昇腾上的 DeepSeek 高效推理,并支持大规模算力集群训推一体化部署。所有开发者均可获取源码并根据需求二次开发,性能接近闭源方案。

目前,此方案在未名卓越一号集群部署成功。该集群由北京大学计算中心负责研制与运维管理,为北大鲲鹏昇腾科教创新卓越中心提供算力支持。IT之家查询获悉,作为国内首个基于高校自研基础软件的国产智算平台,该集群于 2024 年 11 月 18 日上线运行,首期集成 20 台昇腾 AI 服务器与 10 台鲲鹏通用服务器,AI 算力规模为 30.64PFlops(半精度)。

此次发布的 DeepSeek 推理方案依托全栈开源组件构建,在 openEuler 开源操作系统层面进行了深度优化;通过异构调度负载感知 MoE 冷热专家,从而更细粒度调度任务;通过异构融合来高效管理内存,减小系统内存碎片;利用毕昇编译器进一步优化,减少算子下发耗时,提升推理整体性能。

▲ 算力集群全栈开源推理方案架构图


“北京大学联合华为发布全栈开源 DeepSeek 推理方案” 的相关文章

DeepSeek激活“芯”机遇

DeepSeek激活“芯”机遇

本土AI生态小伙伴正在朝着DeepSeek“集结”时,海外AI芯片商也快速行动起来。位于美国加州的AI芯片厂商 Cerebras已经接入了DeepSeek-R1 大语言模型,其CEO 在接受采访时表示...

DeepSeek要掀数据存储的“桌子”?

DeepSeek要掀数据存储的“桌子”?

最近这几天,业界关注度最高的无疑是DeepSeek的几个开源项目,几乎每一个都会在该领域里带来一些惊喜。数据猿作为大数据领域的专业媒体,一直从数据层面来关注行业的进展。不得不说,在算法和算力层面很热闹...

继基础电信运营商后,广东多地政府部门接入DeepSeek

继基础电信运营商后,广东多地政府部门接入DeepSeek

当下,DeepSeek朋友圈正持续“扩容”:一方面,其访问使用量急速上升,已成为最快突破3000万日活跃用户量的应用;而移动、电信、联通三家基础电信企业已全面接入DeepSeek。此外,广东多地政府部...

雄帝科技接入DeepSeek大模型 场景AI能力再升级

雄帝科技接入DeepSeek大模型 场景AI能力再升级

人民财讯3月2日电,记者从雄帝科技获悉,近日,雄帝科技全面接入DeepSeek大模型,通过深化DeepSeek大模型的本地化部署与场景适配,构建覆盖智慧政务、智慧交通等多个垂直场景的深度智能化解决方案...

DeepSeek,激荡AI行业的“一股清流”

DeepSeek,激荡AI行业的“一股清流”

近期,外媒纷纷将聚光灯投向中国初创企业深度求索公司,其自主研发的人工智能(AI)大语言模型“深度求索”(DeepSeek)凭借“好用、开源、免费”三大特点,在全球范围内引发热烈反响。这一创新成果不仅在...

多地政务系统接入DeepSeek,意味着什么?

多地政务系统接入DeepSeek,意味着什么?

昨日,丰台区政务和数据局联手中国经济信息社和北京丰台城市数字科技集团有限公司,成功在政务云本地部署了DeepSeek大模型环境,并在全市率先将其应用于政务服务领域,上线了“丰小政”数智助手。DeepS...