北京
分享至
北京商报讯（记者 魏蔚）2月24日，北京商报记者获悉，清华大学与瑞莱智慧联合团队推出大语言模型RealSafe-R1，该模型基于DeepSeek R1进行深度优化与后训练。连日来，国产开源大模型DeepSeek的优异表现令人惊艳，尤其是在复杂问题解决和创造性任务中表现出色。但业内人士认为DeepSeek R1和V3在面对越狱攻击等安全性挑战时仍存在一定的局限性。例如，模型可能会被恶意设计的输入误导，生成不符合预期或不安全的响应。这一安全短板是当前开源大模型的通病，其根本缺陷源于安全对齐机制的深度不足。为此，清华瑞莱联合团队提出了基于模型自我提升的安全对齐方式，将安全对齐与内省推理相结合，使大语言模型能够通过具有安全意识的思维链分析来检查潜在风险，实现基础模型自身能力的自主进化，可以应用于多种开源、闭源模型。RealSafe-R1各尺寸模型及数据集，将于近期向全球开发者开源。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
