当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek宣布开源DeepGEMM

2个月前 (02-26)Deepseek最新资讯133

【DeepSeek宣布开源DeepGEMM】

财联社2月26日电,Deepseek于开源周第三天宣布开源DeepGEMM。DeepGEMM 是一个专为简洁高效的 FP8 通用矩阵乘法(GEMM)设计的库,具有细粒度缩放功能,如 DeepSeek-V3 中所提出。它支持普通和混合专家(MoE)分组的 GEMM。该库采用 CUDA 编写,在安装过程中无需编译,通过使用轻量级的即时编译(JIT)模块在运行时编译所有内核。FP8GEMM库,为V3/R1训练和推理提供支持。


“DeepSeek宣布开源DeepGEMM” 的相关文章

【Windows】全网最简单DeepSeek R1本地部署教程 小白也可操作完成 AI人工智能【免费分享】只需3分钟就可完成部署

【Windows】全网最简单DeepSeek R1本地部署教程 小白也可操作完成 AI人工智能【免费分享】只需3分钟就可完成部署

本文主要介绍是7b模型部署教程,7b模型适合电脑独显的显存4G及以上电脑【模型选择】 电脑没有独立显卡:选择1.5b模型 有独显,显存4G或8G:选择7b或8b模型 更高...

热搜第一!DeepSeek推理1亿次评出的中国最宜居城市

热搜第一!DeepSeek推理1亿次评出的中国最宜居城市

近日,微博词条#DeepSeek评中国最宜居城市#冲上热搜第一!有网友分享:让DeepSeek自行推理1亿次后,给出中国最宜居城市,并给出这个城市的区,只能选一个城市。DeepSeek评中国最宜居城市...

北京大学联合华为发布全栈开源DeepSeek推理方案

北京大学联合华为发布全栈开源DeepSeek推理方案

据北京大学网站消息,近日,北京大学联合华为发布DeepSeek全栈开源推理方案。该方案基于北京大学自主研发的SCOW算力平台系统与鹤思调度系统,整合了DeepSeek、openEuler、MindSp...

中国电信新疆公司深挖DeepSeek融合应用 AI加“数”构筑智算服务新高地

中国电信新疆公司深挖DeepSeek融合应用 AI加“数”构筑智算服务新高地

“自从上线AI客服,依托DeepSeek大模型的强大语义理解能力,不仅能快速响应,精准解答,还能俄语、哈萨克语、维吾尔语等多语种对话,办事效率高多了。”霍尔果斯政务平台工作人员说。霍尔果斯市是“一带一...

豆神教育:公司目前已与DeepSeek达成MIT开源协议,获得DeepSeek的官方本地部署授权

豆神教育:公司目前已与DeepSeek达成MIT开源协议,获得DeepSeek的官方本地部署授权

每经AI快讯,有投资者在投资者互动平台提问:贵公司是否和Deepseep合作?豆神教育(300010.SZ)3月17日在投资者互动平台表示,公司2024年10月正式推出的豆神AI APP接入了包括De...

AI冲击波来了!多家险企宣布接入DeepSeek

AI冲击波来了!多家险企宣布接入DeepSeek

国产开源大模型DeepSeek一经发布,就以其训练成本、推理能力等方面的优异表现,在国内外引起强烈反响。近日,各家保险公司密集在官微宣布,已接入DeepSeek。那么,目前DeepSeek在保险领域的...