当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek开源周第三日 发布高性能通用矩阵乘法库

2周前 (02-26)Deepseek最新资讯60

新京报贝壳财经讯(记者罗亦丹)北京时间2月26日,DeepSeek进行了其开源周第三日的发布——DeepGEMM,一个支持密集和MoE(专家混合模型)GEMM(通用矩阵乘法)的FP8 (8位浮点数)GEMM库,为V3/R1训练和推理提供支持。

据了解,通用矩阵乘法是许多高性能计算任务的核心,所以其性能优化也是大模型降本增效的重点。

DeepSeek表示,DeepGEMM在Hopper GPU(一种英伟达GPU架构)上最高可达到1350+FP8TFLOPS(每秒万亿次浮点运算),并且像教程一样简洁,可完全即时编译,其核心逻辑只有约300行代码,且在大多数矩阵尺寸上均优于专家调优的内核,并支持密集布局和两种MoE布局。


“DeepSeek开源周第三日 发布高性能通用矩阵乘法库” 的相关文章

陕西多所高校正式接入DeepSeek 为师生提供智能化个性化服务

陕西多所高校正式接入DeepSeek 为师生提供智能化个性化服务

近期,陕西多所高校纷纷将人工智能平台与DeepSeek对接,为师生提供从科研助手到智能辅助教学,从跨学科资源整合到校园生活助手等一系列智能化、个性化服务。西安交大“交小智”可让师生创建专属AI应用20...

DeepSeek“开源周”第二天开源EP通信库

DeepSeek“开源周”第二天开源EP通信库

新京报贝壳财经讯(记者罗亦丹)北京时间2月25日,DeepSeek发布了其“开源周”第二天的成果:DeepEP,第一个用于MoE模型(混合专家模型)训练和推理的开源EP通信库。据了解,EP为Exper...

清华团队推出“安全增强版DeepSeek”

清华团队推出“安全增强版DeepSeek”

人民网北京2月24日电 (记者赵竹青)2月23日,清华大学计算机系相关研究团队宣布推出大语言模型RealSafe-R1。该模型基于DeepSeek R1进行深度优化与后训练,在确保性能稳定的基础上,显...

DeepSeek“大动作”要提前?最新回应

DeepSeek“大动作”要提前?最新回应

据台湾“中央社”2月26日引述路透社消息报道,大陆人工智能初创公司深度求索(DeepSeek)原本计划今年5月初发布新一代人工智能模型R2,但现在希望能尽早发布。对此,深度求索所属的幻方量化表示,“以...

海尔消费金融部署DeepSeek,客服质检效率显著提升

海尔消费金融部署DeepSeek,客服质检效率显著提升

随着人工智能技术的飞速发展,金融行业的数字化转型步伐也在不断加快。海尔消费金融作为行业内的佼佼者,率先引入了前沿的AI模型DeepSeek,以提升客服质检效率,进一步优化客户体验。DeepSeek作为...

最近刷屏的Manus是什么?它跟DeepSeek有啥区别?能做些啥?

最近刷屏的Manus是什么?它跟DeepSeek有啥区别?能做些啥?

最近,Manus火出圈了。它是全球首款具备通用能力的AI智能体。很多朋友看到AI、AI智能体词都绕晕了,相比于过年时期很火的DeepSeek,它到底有啥区别呢?一、什么是Manus?Manus ,是由...