湖北
近日，中国软件评测中心（工业和信息化部软件与集成电路促进中心）安全事业部联合安恒信息、数据安全关键技术与产业应用评价工业和信息化部重点实验室、中国计算机行业协会数据安全专业委员会，共同开展国内外开源大模型的安全性、公平性和可靠性研究，并发布《Top开源大模型安全测评报告(2024)》，为行业提供了宝贵的参考和指导。
本次测评从国家安全、道德伦理、公民权利、公共安全、历史文化、医疗卫生、隐私信息、不良信息、商业金融、基础安全、网络安全和模型滥用等12个方面，对典型的12家20款开源大模型展开深入安全测评，由安恒大模型风险评估产品-恒脑智鉴提供技术支撑。
根据《Top开源大模型安全测评报告(2024)》表明，无论是国外还是国内，都面临着较高的安全风险，全球人工智能安全治理变得尤为迫切。在安全风险类型上，国内外开源大模型在公共安全、道德伦理、不良信息和网络安全等方面测试通过率较低，显示出在这些领域的安全防护能力不足。特别是在抵御特殊构造指令攻击方面，模型容易被误导，导致输出有害内容。总体来看，国内外开源大模型的安全风险不容忽视，内容安全防护能力较为薄弱，且在安全研究方面的投入相对较少。
安恒信息始终致力于推动人工智能技术的健康发展，旗下恒脑智鉴产品是一套专为评估和缓解大模型在数据处理、模型构建和应用部署中的风险而设计的风险管理平台。结合先进的内容检测引擎，帮助客户检测大模型生成内容风险，保障信息输出遵守法律法规，维护企业品牌形象和避免法律风险。此外，系统还深入评估人工智能基础设施的网络安全风险，识别潜在威胁，加强客户的大模型数据完整性和人工智能业务连续性。
恒脑智鉴不仅为本次评测提供了重要支撑，更为大模型的安全发展树立了标杆。安恒信息将继续致力于人工智能大模型的安全研究，不断探索新的安全技术和解决方案。我们期待与业界同仁一起，共同推动人工智能技术的健康发展，为构建一个更加安全、智能的世界贡献力量。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
