当前位置:首页 > Deepseek最新资讯 > 正文内容

北京大学联合华为发布全栈开源 DeepSeek 推理方案

IT之家 3 月 10 日消息,据华为技术有限公司和北京大学高性能计算校级公共平台消息,2025 年 3 月 9 日,北京大学联合华为发布 DeepSeek 全栈开源推理方案。

据介绍,该方案基于北大自研 SCOW 算力平台系统、鹤思调度系统,并整合 DeepSeek、openEuler、MindSpore 与 vLLM / RAY 等社区开源组件,实现华为昇腾上的 DeepSeek 高效推理,并支持大规模算力集群训推一体化部署。所有开发者均可获取源码并根据需求二次开发,性能接近闭源方案。

目前,此方案在未名卓越一号集群部署成功。该集群由北京大学计算中心负责研制与运维管理,为北大鲲鹏昇腾科教创新卓越中心提供算力支持。IT之家查询获悉,作为国内首个基于高校自研基础软件的国产智算平台,该集群于 2024 年 11 月 18 日上线运行,首期集成 20 台昇腾 AI 服务器与 10 台鲲鹏通用服务器,AI 算力规模为 30.64PFlops(半精度)。

此次发布的 DeepSeek 推理方案依托全栈开源组件构建,在 openEuler 开源操作系统层面进行了深度优化;通过异构调度负载感知 MoE 冷热专家,从而更细粒度调度任务;通过异构融合来高效管理内存,减小系统内存碎片;利用毕昇编译器进一步优化,减少算子下发耗时,提升推理整体性能。

▲ 算力集群全栈开源推理方案架构图


“北京大学联合华为发布全栈开源 DeepSeek 推理方案” 的相关文章

基调听云全面接入 DeepSeek,开启可观测性智能新时代

基调听云全面接入 DeepSeek,开启可观测性智能新时代

在数字化转型的浪潮中,企业对信息技术的依赖程度不断加深,从日常办公到核心业务,信息技术贯穿企业运营的各个环节。随着企业 IT 架构日益复杂,微服务架构与多元云服务被广泛应用,IT 环境变得错综复杂,可...

“AI公务员”来了!广东深圳首批70名正式上岗 错误率控制5%以内

“AI公务员”来了!广东深圳首批70名正式上岗 错误率控制5%以内

2月17日消息,据“幸福福田”官微显示,首批70名“AI公务员”正式上岗,其错误率控制5%以内。官方公告显示,广东深圳福田区推出基于DeepSeek开发的AI数智员工,上线福田区政务大模型2.0版,除...

DeepSeek大火,有人惊喜有人忧——突飞猛进的AI会取代人类创作吗?

DeepSeek大火,有人惊喜有人忧——突飞猛进的AI会取代人类创作吗?

春节期间,对大众来说最惊喜的有二:一个是《哪吒2》,另一个是DeepSeek。DeepSeek一问世就以其卓越的逻辑推理能力和多模态理解能力崭露头角,再次刷新了人们对AI的认知。尤其是DeepSeek...

西宁市12345热线搭载DeepSeek大模型应用

西宁市12345热线搭载DeepSeek大模型应用

3月1日,记者从中国移动通信集团青海有限公司西宁分公司(以下简称西宁移动)获悉,西宁市12345热线平台正式搭载DeepSeek大模型应用后,通过一周测试数据分析,预计接通率和准确率将分别提升7%、1...

deepseek目前帮到你的行业了吗?

deepseek目前帮到你的行业了吗?

帮到了,帮孩子分析数学题,教孩子怎么写作文,让孩子感觉写作文就是在做选择题写评论豪言片语北京 10小时前我之前是做开发的。公司强制要求所有开发人员必须装AI辅助编程的插件,确实可以提高一部分效率,我觉...

上海数据交易所接入DeepSeek大模型

上海数据交易所接入DeepSeek大模型

观点网讯:2月27日,上海数据交易所正式接入DeepSeek大模型,标志着国内首个大型语言模型在数据交易领域的应用落地。此次合作旨在构建多维数据交易知识体系的领域模型,提升数据交易服务智能化水平。据了...