2024生成式人工智能安全大赛收官，腾易科技斩获亚军

12月11日，“2024生成式人工智能安全大赛颁奖仪式暨大模型安全技术研讨会”在北京隆重举办。大赛于2024年4月26日在中关村论坛上发布，并汇聚了国内科研院所/企业团队在内的200多支队伍报名参加三个赛道初赛，有22支队伍参加复赛。经过组委会严格审定，最终决出每个赛道的优胜团队和前三名。其中，腾易科技（原易车公司升级）斩获大赛“安全检测”赛道亚军的优异成绩，同时在非公企业和同行业双双取得第一。

近年来，人工智能的发展日新月异，生成式大模型正在成为驱动新质生产力发展的新动能、人类探索未知的新工具。在赋能新时代发展的同时，生成式人工智能也给全球带来了前所未有的安全风险。为有效发现、分析、应对生成式人工智能安全风险，在2024年中关村论坛数据安全治理与发展论坛上，以“共筑安全星河，护航AI发展”为主题的首届生成式人工智能安全大赛正式举办。

大赛由北京市互联网信息办公室和中国科学院网络安全和信息化领导小组办公室共同指导，中国科学院信息工程研究所和信息内容安全国家工程研究中心共同主办。并设置安全攻击、安全检测、对齐防护三大赛道，旨在从攻、检、防三个方面，聚集国内优势力量，有效发现、分析、应对大模型安全风险，不断提升人工智能基础底座的安全可控水平，更好地促进北京市及全国的大模型产业安全发展。

其中安全检测赛道面向生成式内容安全风险检测需求，设置生成式内容安全风险检测技术赛题。参赛单位根据提供的生成式内容数据集，通过检测引擎，识别其有害性。

在本赛道中，腾易科技的AI安全大模型能力得到有效考验和优异展示。其能力主要聚焦及体现在5个方面：

1.有害性检测：AI安全大模型能够检测生成内容的安全性和合规性，识别出模型回答中的有害与无害内容，确保内容的真实性、无害性。

2.多类别识别：模型能够覆盖多种有害类型，包括仇恨辱骂、伦理道德、偏见歧视、身心健康、违法犯罪、谣言错误、隐私财产等9类有害内容。

3.数据构造能力：模型通过公开数据收集、数据生成、标注策略设计来保证标注数据的质量，并采用多折训练大模型作为“标注人员”的方式来进行海量标注数据的扩展。

4.模型评测与优化：模型在基座模型选择、微调、资源消耗分析等方面表现出色，通过两阶段训练实现模型效果的优化。

5.高准确率：在评测和实验对比中，经过微调的Gemma-2b-it模型表现出较好的效果，尤其是在小数据集上训练时，能够更关注深层语义特征。

腾易科技相关负责人表示，腾易科技专注于汽车产业的人工智能科技创新，并重视安全风险和合规问题，始终将内容安全、用户安全放在首位。本次大赛检验了公司的AI安全大模型能力，也充分体现了我司的技术实力。非常高兴组委会对于我司的认可，优异成绩的取得对于公司也具有重大的意义，期待腾易科技在后续的政企合作中继续发挥积极作用。

据悉，腾易科技自主研发的三款人工智能产品“蓝图”“易笔生花”与“易灵析”已成功通过生成式人工智能服务备案。其大模型将AI技术与汽车流通领域紧密结合，不仅提升了行业的生产效率，还使得信息能够更有效地触达消费者，从而助力商业化探索。