当前位置:首页 > Deepseek最新资讯 > 正文内容

清华团队推出“安全增强版DeepSeek”大语言模型RealSafe-R1

3周前 (02-24)Deepseek最新资讯65

人民网北京2月24日电 (记者赵竹青)2月23日,清华大学计算机系相关研究团队宣布推出大语言模型RealSafe-R1。该模型基于DeepSeek R1进行深度优化与后训练,在确保性能稳定的基础上,显著提升了安全性,为开源大模型的安全发展与风险治理提供了创新性解决方案。

近日来,国产开源大模型DeepSeek在自然语言处理和多任务推理方面展现了强大的技术实力,但在面对越狱攻击等安全性挑战时仍存在一定局限性。为此,清华团队提出了基于模型自我提升的安全对齐方式,将安全对齐与内省推理相结合,使大语言模型能够通过具有安全意识的思维链分析来检查潜在风险,实现基础模型自身能力的自主进化。

基于该方法,团队对DeepSeek-R1系列模型进行后训练,正式推出RealSafe-R1系列大模型。实验数据表明,RealSafe-R1安全性提升显著,在多个基准测试中有效增强了对各种越狱攻击的抵抗力,并减轻了安全与性能之间的“跷跷板”现象。

据悉,RealSafe-R1各尺寸模型及数据集将于近期向全球开发者开源。


“清华团队推出“安全增强版DeepSeek”大语言模型RealSafe-R1” 的相关文章

什么是“具身智能”?DeepSeek和专家分别如何解读

什么是“具身智能”?DeepSeek和专家分别如何解读

过去一年,我国新质生产力发展步伐明显加快。我国在全球创新指数中的排名上升到第11位,是十年来全球创新力提升最快的经济体。而今年的《政府工作报告》,对培育壮大新兴产业、未来产业,推动传统产业改造提升,激...

DeepSeek究竟创新了什么?

DeepSeek究竟创新了什么?

来源:《财经》杂志  DeepSeek春节前夕爆火,迄今热度不减。DeepSeek彻底走开源路线,它的大模型既性能优异,训练成本和使用成本又都超低,让人工智能从业者燃起了“我也能行”的希望,让各行各业...

车企扎堆接入DeepSeek,概念狂欢还是认知革命?|钛度车库

车企扎堆接入DeepSeek,概念狂欢还是认知革命?|钛度车库

原创 韩敬娴 钛媒体▎DeepSeek“上车”关键是看应用的领域,数据是否有效和丰富,场景对输出错误的容忍度。作者|韩敬娴编辑|李玉鹏本文首发于钛媒体APP技术革命的浪潮正加速席卷汽车行业。春节过后,...

创力集团:正在积极探索设备接入DeepSeek相关技术或平台

创力集团:正在积极探索设备接入DeepSeek相关技术或平台

e公司讯,创力集团(603012)2月18日在互动平台表示,公司正在积极探索设备接入DeepSeek相关技术或平台。公司研发团队在AI算法优化、数据处理及自动化控制等领域有丰富经验,利用DeepSee...

怎么恢复误删的 DeepSeek 模型?

怎么恢复误删的 DeepSeek 模型?

怎么恢复误删的 DeepSeek 模型?要恢复误删的 DeepSeek 模型,可以尝试以下步骤:检查版本历史:打开 DeepSeek 界面,查找右上角的时间钟图标,点击进入。在这里,你可以看到之前所有...

教育行业拥抱DeepSeek的浪潮还在继续 学而思×DeepSeek,首发超级学习应用“随时问”

教育行业拥抱DeepSeek的浪潮还在继续 学而思×DeepSeek,首发超级学习应用“随时问”

全教育行业拥抱DeepSeek的浪潮还在继续,在产品层面的落地和结合也开始带来惊喜。学而思今天正式发布接入DeepSeek的全新“随时问”APP。该产品深度融合DeepSeek R1智能推理,依托学而...