北京
来源：新华网
新华网北京2月24日电（记者张漫子）“安全增强版DeepSeek”来了。清华大学与瑞莱智慧联合团队23日推出大语言模型RealSafe-R1，基于DeepSeek R1进行深度优化与后训练，在性能稳定的基础上，实现了安全性的显著提升，为开源大模型安全发展与风险治理提供了创新解决方案。
连日来，国产开源大模型DeepSeek的优异表现令人惊艳，其在自然语言处理和多任务推理方面的能力展现了强大的技术实力，尤其是在复杂问题解决和创造性任务中表现出色。然而DeepSeek-R1和DeepSeek-V3在面对供给等安全挑战时仍存一定局限。例如，模型可能会被恶意设计的输入误导，生成不符合预期或不安全的响应。
“这一安全短板并非DeepSeek所独有的难题，而是当前开源大模型的通病，其根本缺陷源于安全对齐机制的不足。”瑞莱智慧首席执行官田天告诉记者。
为此，清华大学与瑞莱智慧联合团队提出了基于模型自我提升的安全对齐方式，将安全对齐与内省推理相结合，使大语言模型能够通过具有安全意识的思维链分析来检查潜在风险，实现基础模型自身能力的自主进化，可以应用于多种开源、闭源模型。
基于该方法，团队对DeepSeek-R1系列模型进行后训练，正式推出RealSafe-R1系列大模型。实验数据表明，RealSafe-R1安全性提升显著，在多个基准测试中有效增强了对各种越狱攻击的抵抗力，并减轻了安全与性能之间“跷跷板”现象，不仅为DeepSeek生态添砖加瓦，也为大语言模型树立了安全标杆。
记者了解到，RealSafe-R1各尺寸模型及数据集将于近期开源。“只有通过持续投入和攻坚补齐短板弱项，人工智能产业才能真正实现高质量发展。”田天说，这一成果将为开源大模型的安全性加固提供有力支持，也为政务、金融、医疗等场景应用提供更可靠、更坚实的基座。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
