当前位置:首页 > Deepseek最新资讯 > 正文内容

清华团队推出“安全增强版DeepSeek”

3周前 (02-24)Deepseek最新资讯47

人民网北京2月24日电 (记者赵竹青)2月23日,清华大学计算机系相关研究团队宣布推出大语言模型RealSafe-R1。该模型基于DeepSeek R1进行深度优化与后训练,在确保性能稳定的基础上,显著提升了安全性,为开源大模型的安全发展与风险治理提供了创新性解决方案。

近日来,国产开源大模型DeepSeek在自然语言处理和多任务推理方面展现了强大的技术实力,但在面对越狱攻击等安全性挑战时仍存在一定局限性。为此,清华团队提出了基于模型自我提升的安全对齐方式,将安全对齐与内省推理相结合,使大语言模型能够通过具有安全意识的思维链分析来检查潜在风险,实现基础模型自身能力的自主进化。

基于该方法,团队对DeepSeek-R1系列模型进行后训练,正式推出RealSafe-R1系列大模型。实验数据表明,RealSafe-R1安全性提升显著,在多个基准测试中有效增强了对各种越狱攻击的抵抗力,并减轻了安全与性能之间的“跷跷板”现象。

据悉,RealSafe-R1各尺寸模型及数据集将于近期向全球开发者开源。


“清华团队推出“安全增强版DeepSeek”” 的相关文章

辽宁省疾控中心接入DeepSeek 提高疾控精准性时效性

辽宁省疾控中心接入DeepSeek 提高疾控精准性时效性

近日,省疾病预防控制中心正式宣布接入DeepSeek,成为东北地区首家引入AI技术全面赋能公共卫生管理的省级疾控机构,为我省疾病预防控制战线和智慧疾控建设赋予全新内驱力。目前,省疾病预防控制中心已初步...

脉脉宣布接入DeepSeek-R1,用户数达1.2亿

脉脉宣布接入DeepSeek-R1,用户数达1.2亿

 职场社区平台脉脉宣布已接入DeepSeek-R1模型,旨在进一步优化人岗匹配,提升招聘效率。据悉,今年2月初,脉脉便已经接入DeepSeek-R1模型,并安排了测试部署工作。据悉,目前脉脉已拥有1....

腾讯:微信接入DeepSeek不使用用户信息和隐私,仅整合公众号等公开信息

腾讯:微信接入DeepSeek不使用用户信息和隐私,仅整合公众号等公开信息

微信回应灰度测试接入DeepSeek。2月16日,澎湃新闻记者获悉,微信搜一搜在调用混元大模型丰富AI搜索的同时,近日正式灰度测试接入DeepSeek。被灰度到的用户,可在对话框顶部搜索入口,看到“A...

Manus和DeepSeek的差别是什么 AI挑战张一一高考作文

Manus和DeepSeek的差别是什么 AI挑战张一一高考作文

Manus和DeepSeek的差别是什么 AI挑战张一一高考作文Manus创始人是中国90后肖弘 比梁文峰还年轻8岁Manus、DeepSeek将与“当代蒲松龄”“高考愚公”张一一高考作文“人机大战”...

三星Galaxy S25系列接入DeepSeek:支持深度思考

三星Galaxy S25系列接入DeepSeek:支持深度思考

2025年以来,伴随着DeepSeek开源,一众科技公司纷纷接入该大模型,以补足AI能力短板。近日,三星也官宣,三星Galaxy S25系列正式接入DeepSeek-R1大模型。据了解,三星Galax...

硅谷视角深聊:Deepseek的颠覆、冲击、争议和误解

硅谷视角深聊:Deepseek的颠覆、冲击、争议和误解

2024年12月底,中国幻方量化旗下的人工智能团队,发布了6700亿参数大语言基础模型DeepSeek V3,紧接着在2025年1月20日开源了基于V3的两款推理模型:DeepSeek-R1-Zero...