网易首页 > 网易号 > 正文 申请入驻

20个AI模型全拿F,897次危险调用被拦下

0
分享至

给20个AI模型配上8个模拟工具,再发出100条攻击指令,结果20个模型全部拿到F——最低一档的评分。这是VIDRAFT做的一次模型安全检查,韩国主要全国性日报《中央日报》在2026年11月19日报道了这项结果。


更具体的数字是:中位数模型在100次检查中有40次尝试执行危险动作。也就是说,一半模型的"出手率"高于这个水平。测试用的是VIDRAFT的公开工具ViKernel Scanner。

VIDRAFT的做法不是从外部拦截,而是把安全内核ViKernel放进模型权重内部。按报道中的说法,它从三个层面起作用:

  • 即使模型被外部指令骗过,危险的工具调用本身也会在执行前被拦下;
  • 每一次判断都留下难以伪造或篡改的记录;
  • 紧急情况下有kill switch,可中止全部活动。

效果数字是897次危险调用,897次全部在执行前被阻断。这个数字对应的是同一轮测试中的全部危险调用,没有漏网。

VIDRAFT首席执行官Kim Minsik对《中央日报》表示,攻击目标正在从代码转向AI模型本身。他的判断是:在AI不只停留在"说话"、而是会实际执行动作的时代,无论哪句话骗过了模型,都必须拦住危险动作本身——这既是商业问题,也是国家安全问题。

这套工具本身是开放的。ViKernel Scanner在Hugging Face上免费提供,源码以Apache-2.0协议开放,兼容任何OpenAI兼容端点,大约一分钟返回A到F的评级。20个模型的详细结果已公开,另有一场奖金4500美元的AI模型攻防黑客松,任何人都可以去攻击这个安全内核。

对跑在边缘设备上的模型来说,这件事的分量在于:它们手里握着工具,也握着本地文件。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
1945年,丘吉尔把抽剩的半截雪茄,塞进斯大林口袋,斯大林居然笑着收下了

1945年,丘吉尔把抽剩的半截雪茄,塞进斯大林口袋,斯大林居然笑着收下了

言过于诚
2026-11-21 21:05:27
魏莹“陪睡”案新进展:案件细节太颠覆,三方口述揭露更多内幕!

魏莹“陪睡”案新进展:案件细节太颠覆,三方口述揭露更多内幕!

莫地方
2026-10-22 10:22:36
3换1大成功!湖人,这也太值了!

3换1大成功!湖人,这也太值了!

左右为篮
2026-11-21 11:11:30
截胡大战!利物浦抢曼联 8400 万目标,波切蒂诺首签悬了

截胡大战!利物浦抢曼联 8400 万目标,波切蒂诺首签悬了

一隅非生
2026-11-22 11:59:27
上港队接连在引援捡到宝!这两位后防强援后都被主帅穆斯卡特激活

上港队接连在引援捡到宝!这两位后防强援后都被主帅穆斯卡特激活

张丽说足球
2026-11-22 10:41:56
真没想到,APEC峰会结束仅1天,泰国总理就因几个举动口碑暴增

真没想到,APEC峰会结束仅1天,泰国总理就因几个举动口碑暴增

情感的我
2026-11-21 13:43:32
前员工创办的Anthropic市值1.27万亿美元,最失落的应该是百度了

前员工创办的Anthropic市值1.27万亿美元,最失落的应该是百度了

真正能保护你的
2026-11-22 05:22:27
小学生“倒数第一”试卷火了,老师无奈:这娃智商太高,实在教不了

小学生“倒数第一”试卷火了,老师无奈:这娃智商太高,实在教不了

浩源的妈妈
2026-11-18 15:40:13
一个害国害民的历史罪人,老百姓还把他当成英雄崇拜

一个害国害民的历史罪人,老百姓还把他当成英雄崇拜

小豫讲故事
2026-09-17 06:00:15
孙俪家狗“芒果”拿下“最丑第一名”,本尊发文:我是该笑,还是哭?

孙俪家狗“芒果”拿下“最丑第一名”,本尊发文:我是该笑,还是哭?

韩小娱
2026-11-19 19:33:26
曾因得罪中国人的韩国“乐天”,离开了中国市场后,发展得如何?

曾因得罪中国人的韩国“乐天”,离开了中国市场后,发展得如何?

离离言几许
2026-11-15 00:37:00
中国第二轮“严打”来了,这次查的更严,一旦查到谁都跑不了!

中国第二轮“严打”来了,这次查的更严,一旦查到谁都跑不了!

职场资深秘书
2026-11-21 12:48:52
复婚已真相大白!李亚鹏:本以为债务解决已够幸运,今幸福又升级

复婚已真相大白!李亚鹏:本以为债务解决已够幸运,今幸福又升级

历史的烟火
2026-11-22 01:52:16
字节杀到社交腹地才发现,腾讯的护城河其实没那么深。

字节杀到社交腹地才发现,腾讯的护城河其实没那么深。

放开他让wo来
2026-11-19 22:47:23
回到东京之前,高市再被问台海问题,她的回答又让日本媒体发愁

回到东京之前,高市再被问台海问题,她的回答又让日本媒体发愁

影孖看世界
2026-11-22 03:36:23
上海爷叔铁了心娶小35岁女子,三次将子女告上法庭!家人:她从事过特殊行业,动机不纯;爷叔:她对我一片真心,我同情她

上海爷叔铁了心娶小35岁女子,三次将子女告上法庭!家人:她从事过特殊行业,动机不纯;爷叔:她对我一片真心,我同情她

大风新闻
2026-11-21 09:12:09
菲尔兹奖得主深夜痛哭,吵醒女儿!数学家的体面,被AI一夜撕碎

菲尔兹奖得主深夜痛哭,吵醒女儿!数学家的体面,被AI一夜撕碎

新智元
2026-11-21 08:47:25
耻辱!卫冕冠军爆冷不敌低级别球队出局,拉塞尔磨洋工,卢伟被坑惨

耻辱!卫冕冠军爆冷不敌低级别球队出局,拉塞尔磨洋工,卢伟被坑惨

萌兰聊个球
2026-11-21 22:49:13
重磅预警!高盛“恐慌指数”逼近最大值:美股下周恐还有一波大规模抛售

重磅预警!高盛“恐慌指数”逼近最大值:美股下周恐还有一波大规模抛售

财联社
2026-11-21 13:56:13
65岁叶倩文冲上热搜:在南京档案馆见到14岁的母亲,当场愣住看哭无数人

65岁叶倩文冲上热搜:在南京档案馆见到14岁的母亲,当场愣住看哭无数人

磊子讲史
2026-11-16 16:23:07
2026-11-22 12:12:49
算力游侠
算力游侠
游走在API与报错之间,用魔法(AI)打败魔法的非硬核玩家。
215文章数 105关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

艺术
游戏
亲子
手机
公开课

艺术要闻

世界十大著名宫殿盘点:中国独占两席

PC Gamer试玩GTA6百小时:双主角出色但任务重复

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版