网易首页 > 网易号 > 正文 申请入驻

谷歌推出双盲AI评估技术,基于加密环境保障基准测试公正性

0
分享至

IT之家8月27日消息,谷歌宣布推出全球首个针对前沿专有 AI 模型的双盲评估,将外部评估限制在加密“黑箱”环境中,避免模型提前获取测试信息来优化性能。

就像学生考前不能提前看到试题才能真实反映水平一样,当前 AI 模型评估也面临同样问题:如果模型提前接触测试题目(IT之家注:也就是所谓的“基准污染”),评估结果的可信度就会大打折扣。


谷歌推出双盲AI评估技术

谷歌联合新加坡人工智能安全研究所、OpenMined、AVERI 以及 MLCommons,在隐私保护环境中对 Gemini Flash Lite 模型进行机密基准测试,提升评估结果的完整性。

传统高风险外部评估一直存在两难困境:要么评估方交出测试提示词,存在模型方提前看到题目的风险;要么模型方交出模型权重,面临知识产权泄露风险。

双盲评估则解决了这一矛盾,通过谷歌云保密计算产品组合中的 Confidential Space,能够通过加密验证,保证外部评估数据和专有模型分别对各自所有者保持隐私:评估方无法看到 Gemini 模型权重,谷歌也无法看到评估方的测试提示词。

这种加密手段可以有效防止基准污染,同时保护敏感数据,对于网络安全或政府机构开展的高敏感度评估尤其重要。双盲评估让独立机构能够在不损害数据主权和安全的前提下,对先进 AI 模型进行严格测试。

谷歌表示,希望这一试点能够为模型监督开辟新方向,帮助整个行业构建更安全、更可靠、更受公众信任的 AI 系统。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
申请交易!甩卖全队资产!鱼腩烂了!热火还是勇士?

申请交易!甩卖全队资产!鱼腩烂了!热火还是勇士?

篮球盛世
2026-11-22 13:45:44
《多喜一家人》收视破3,本是冲蒋欣是来的,却被58岁女配吸引

《多喜一家人》收视破3,本是冲蒋欣是来的,却被58岁女配吸引

天玑影视说
2026-11-22 10:02:51
赵小刀被缅甸男友绿了!

赵小刀被缅甸男友绿了!

八卦疯叔
2026-11-22 13:09:31
穆里尼奥:周二维尼修斯首发,免得你们周一又问

穆里尼奥:周二维尼修斯首发,免得你们周一又问

懂球帝
2026-11-22 10:00:50
豪门悲喜夜:曼城1-1,切尔西1-4,阿森纳2-2,巴黎3-2,皇马2-1

豪门悲喜夜:曼城1-1,切尔西1-4,阿森纳2-2,巴黎3-2,皇马2-1

侧身凌空斩
2026-11-22 06:05:50
陆毅说:“如果我女儿的男朋友很上进,但家境一般,我会棒打鸳鸯。因为我觉得门当户对很重要,而且婚姻要得到双方父母的祝福,才会幸福”

陆毅说:“如果我女儿的男朋友很上进,但家境一般,我会棒打鸳鸯。因为我觉得门当户对很重要,而且婚姻要得到双方父母的祝福,才会幸福”

黎兜兜
2026-11-20 08:12:24
口口声声反侵略的人面对乌克兰却是双重标准,究竟为啥?

口口声声反侵略的人面对乌克兰却是双重标准,究竟为啥?

天水人李成义
2026-11-21 10:30:21
李在明结束访华后发文,对中国印象一目了然,两句话的信息量不小

李在明结束访华后发文,对中国印象一目了然,两句话的信息量不小

街上的行人很刺眼
2026-11-21 20:58:14
医护收入或有新调整!国家明确:提升医护劳动回报!绩效分配比例倾斜

医护收入或有新调整!国家明确:提升医护劳动回报!绩效分配比例倾斜

华医网
2026-11-21 05:43:16
孙宇晨嘲讽刘强东翻车:500人凭什么踩90万人,人效低不是原罪

孙宇晨嘲讽刘强东翻车:500人凭什么踩90万人,人效低不是原罪

华文商讯
2026-11-21 08:54:08
强迫女友发生关系,18岁男子获刑3年,出狱后两人复合同居,女友因吵架提及强奸旧事被杀害;该案即将一审开庭

强迫女友发生关系,18岁男子获刑3年,出狱后两人复合同居,女友因吵架提及强奸旧事被杀害;该案即将一审开庭

大风新闻
2026-11-21 19:30:06
孙中山遗体,为什么从开始的永久保存供人瞻仰,转变成混凝土封固

孙中山遗体,为什么从开始的永久保存供人瞻仰,转变成混凝土封固

故史闲谈局
2026-11-22 00:56:45
希罗轰50+11+7仍无缘今日最佳!对不起!你碰到NBA奇迹了

希罗轰50+11+7仍无缘今日最佳!对不起!你碰到NBA奇迹了

篮球大视野
2026-11-22 13:40:57
恭喜国乒,27岁美女国手回归,助孙颖莎备战张本美和,已抵达成都

恭喜国乒,27岁美女国手回归,助孙颖莎备战张本美和,已抵达成都

懂球社
2026-11-21 11:20:36
纪实:福建富婆过亿家产,遭清华才子装进铁桶沉江,5天后才捞出

纪实:福建富婆过亿家产,遭清华才子装进铁桶沉江,5天后才捞出

一根香烟的少妇
2026-11-22 12:34:11
广州地铁3号线支线2030拆除:番禺乘客该如何应对?

广州地铁3号线支线2030拆除:番禺乘客该如何应对?

糖逗在娱乐
2026-11-22 13:19:44
姆巴佩风波后,时间给出了答案——皇马赢了,皇马5家中国赞助商也赌赢了

姆巴佩风波后,时间给出了答案——皇马赢了,皇马5家中国赞助商也赌赢了

开成运动会
2026-11-21 11:24:38
黄仁勋妻子当年是系花,他17岁追她时不拼颜值不砸钱,只甩一句:你考试我全包,门门保优

黄仁勋妻子当年是系花,他17岁追她时不拼颜值不砸钱,只甩一句:你考试我全包,门门保优

In风尚
2026-11-20 06:04:49
77岁被骗光积蓄,83岁公开告诉媒体自己仍有性生活、91岁近乎全裸地登上杂志封面,双腿修长迷人!传奇"超模"卡门用一生证明:年龄只是数字

77岁被骗光积蓄,83岁公开告诉媒体自己仍有性生活、91岁近乎全裸地登上杂志封面,双腿修长迷人!传奇"超模"卡门用一生证明:年龄只是数字

回京历史梦
2026-11-17 14:24:26
辛鲍姆总统为什么坐民航客机来华,原因很简单,不是因为她接地气,而是因为墨西哥没有总统专机,总统专机已经卖给塔吉克斯坦。

辛鲍姆总统为什么坐民航客机来华,原因很简单,不是因为她接地气,而是因为墨西哥没有总统专机,总统专机已经卖给塔吉克斯坦。

回京历史梦
2026-11-21 09:30:43
2026-11-22 14:51:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380756文章数 607745关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

艺术
健康
手机
教育
时尚

艺术要闻

世界十大著名宫殿盘点:中国独占两席

医生眼里"很伤腰"的椅子,很多人天天坐

手机要闻

DOOGEE Wide Core亮相,6500mAh电池、紫光展锐T7250处理器

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

无障碍浏览 进入关怀版