当前位置:首页 > Deepseek最新资讯 > 正文内容

北京大学联合华为发布全栈开源 DeepSeek 推理方案

IT之家 3 月 10 日消息,据华为技术有限公司和北京大学高性能计算校级公共平台消息,2025 年 3 月 9 日,北京大学联合华为发布 DeepSeek 全栈开源推理方案。

据介绍,该方案基于北大自研 SCOW 算力平台系统、鹤思调度系统,并整合 DeepSeek、openEuler、MindSpore 与 vLLM / RAY 等社区开源组件,实现华为昇腾上的 DeepSeek 高效推理,并支持大规模算力集群训推一体化部署。所有开发者均可获取源码并根据需求二次开发,性能接近闭源方案。

目前,此方案在未名卓越一号集群部署成功。该集群由北京大学计算中心负责研制与运维管理,为北大鲲鹏昇腾科教创新卓越中心提供算力支持。IT之家查询获悉,作为国内首个基于高校自研基础软件的国产智算平台,该集群于 2024 年 11 月 18 日上线运行,首期集成 20 台昇腾 AI 服务器与 10 台鲲鹏通用服务器,AI 算力规模为 30.64PFlops(半精度)。

此次发布的 DeepSeek 推理方案依托全栈开源组件构建,在 openEuler 开源操作系统层面进行了深度优化;通过异构调度负载感知 MoE 冷热专家,从而更细粒度调度任务;通过异构融合来高效管理内存,减小系统内存碎片;利用毕昇编译器进一步优化,减少算子下发耗时,提升推理整体性能。

▲ 算力集群全栈开源推理方案架构图


“北京大学联合华为发布全栈开源 DeepSeek 推理方案” 的相关文章

deepseek无法响应怎么办

deepseek无法响应怎么办

deepseek无法响应怎么办如果您遇到DeepSeek无法响应的情况,可以尝试以下几种方法来解决问题:错峰使用:尽量避免在工作日的工作时间、晚上以及周末等高峰时段使用DeepSeek。可以选择在清晨...

DeepSeek+腾讯双重龙头!“强得可怕”,连创历史新高!

DeepSeek+腾讯双重龙头!“强得可怕”,连创历史新高!

云计算利好频出。2月18日,A股主要指数集体调整。截至收盘,沪指跌0.93%,深证成指跌1.61%,两大科创指数跌幅均在2%左右水平。沪深两市成交额接近1.8万亿元,较昨日缩量逾千亿。行业板块呈现普跌...

学位一分钟“秒光”,广州老年大学首个DeepSeek班爆满

学位一分钟“秒光”,广州老年大学首个DeepSeek班爆满

DeepSeek到底有多火?连老人家都超爱!老年大学首个DeepSeek班学位一分钟被抢光!不久前广州市老年干部大学(广州老年大学)开设了全国首个老年大学DeepSeek班“同学”们超级热情学位一分钟...

DeepSeek接入上海医院发生了什么?建立知识库还将升级人文服务

DeepSeek接入上海医院发生了什么?建立知识库还将升级人文服务

大热的DeepSeek人工智能大模型,接入医院将会迸发出怎样的创新火花?记者了解到,迄今全国有近10家医疗机构已接入大模型,在上海,复旦大学附属中山医院、上海第四人民医院、和睦家医疗等已于近日接入De...

企业微信接入DeepSeek!AI成企业数智化最后的拼图?

企业微信接入DeepSeek!AI成企业数智化最后的拼图?

2月21日,企业微信正式上线智能机器人、智能表格等AI应用,并宣布接入满血版DeepSeek-R1,让企业微信正式融入AI生态圈。说起来,普通微信接入AI其实也就是不久之前的事情,雷科技也在第一时间做...

接入deepSeek的新基建潮中,这家公司火起来

接入deepSeek的新基建潮中,这家公司火起来

长江日报大武汉客户端2月21日讯(记者汪洋)开春以来,DeepSeek的接入带来了一个全新的产业生态,光谷信创(武汉)科技有限公司早早行动起来,积极开展接入服务,搭建新基建,让更多的企业和单位能够高效...