网易首页 > 网易号 > 正文 申请入驻

Anthropic的"神话"代码嗅探器:瑞士奶酪还是切达干酪?

0
分享至

导读:Anthropic给自家AI安全工具取名Mythos(神话),结果名字成了预言——它确实像神话一样,信的人觉得神,不信的人看出漏洞。

命名的反讽:神话还是迷思?


事后看来,Anthropic给代码安全模型取名Mythos简直是给自己挖坑。这个词本意是"神话",暗指神一般的力量;但另一层意思更扎心——"源于模糊、与现实不符的信仰体系"。

现实正在慢慢渗透进来,画面从"神话"滑向"典型"。Mythos确实是款好工具,能自动化大量专家级人工操作,但真正从中受益的仍是那些专家本身。它擅长发现人类已知的漏洞类别,对人类未知的则束手无策。

训练数据的局限,懂的都懂。

Project Glasswing项目将早期使用权限限制给有真实需求的可信合作伙伴,这种谨慎姿态值得肯定。但原文也指出,其他无限制的模型在这方面表现同样出色。有些 hype,有些真东西,大语言模型终究是大语言模型。

伦理运营:是创新还是表演?

说"AI公司讲伦理就是唯一真创新"当然刻薄。把封闭式推广和配套宣传单纯看成炒作 exercise,同样刻薄。

更建设性、更准确、也更令人兴奋的解读是:这是更好未来的早期 glimpses。威胁 landscape 不再是地质和气候般的不可控力量,而是可被培育、控制、甚至令人欣慰地趋于平淡的存在。

两个命题指明方向。

第一,Mythos这类工具的效果会持续进化,暴露越来越多结构和个体代码缺陷。第二,这些工具终将普及。多快多便宜或许可控,但结局不可避免——IT 领域没有长期秘密。

前工业时代的代码遗产

当下及未来相当长一段时间,大多数运行中的代码诞生于漏洞检测的"前工业时代"。靠人眼,而非 AI 之眼完成审查。

这是一个糟糕的公共环境,不适合贸然投放成群结队的无情漏洞狩猎机器人。来得太早,场面会很混乱。而它们正在路上。

但如果能平稳度过这场 transition,就让机器人自由 roam 吧。有一类代码绝对零安全风险——未部署的代码。新代码问题很多,有些在部署前被捕获,有些没有,但数量有限而非无限。

当真正优秀的工具存在时,代码可以在发布前变得真正优秀。此后同样的工具落入坏人手中,也无关紧要。

航空安全的启示:从坠机到可解释事故

常被引用的好模型是航空安全。喷气时代初期,新客机存在结构和机械故障,会直接从天上掉下来。随着时间推移,不仅设计和材料知识进步,工程和监管 discipline 也同步演化。

现在我们仍有坠机,但 inevitably 可追溯至"本该做对却没做对"的环节。不再有全新的、未被发现的(原文此处截断,但逻辑完整:系统性未知风险已被消除)。

代码安全的演化路径或许类似:从不可控的混沌,到可控的、可解释的、可预防的失败。Mythos 现在的"瑞士奶酪"状态——满是孔洞,但仍有营养——正是这个漫长过程的起点。

Anthropic 的谨慎 rollout 不是保守,而是对 transition 风险的清醒认知。机器人终将 roam,但时机选择本身就是产品决策的一部分。

至于名字?Mythos 的两种读法或许都是对的:它既是尚未兑现的神话承诺,也是关于 AI 安全工具能力的、需要被检验的当代迷思。而检验者,正是那些真正懂行的专家用户——以及时间本身。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
天啊!!爱德华兹整个首轮都不打了!!

天啊!!爱德华兹整个首轮都不打了!!

柚子说球
2026-04-27 08:20:04
就差1秒!特朗普欲发射核武器,军方强行拦截,拒绝为总统扣扳机

就差1秒!特朗普欲发射核武器,军方强行拦截,拒绝为总统扣扳机

瓦伦西亚月亮
2026-04-23 23:09:51
最新战报!吴宜泽失误送礼,优势缩水!巫师破百,5连鞭追平火箭

最新战报!吴宜泽失误送礼,优势缩水!巫师破百,5连鞭追平火箭

刘姚尧的文字城堡
2026-04-27 21:01:13
以军炸毁14公里加沙地道 击杀70名哈马斯

以军炸毁14公里加沙地道 击杀70名哈马斯

桂系007
2026-04-27 23:57:14
深圳抽烟民警和女博主均被网友开盒,照片等信息在网上到处散播

深圳抽烟民警和女博主均被网友开盒,照片等信息在网上到处散播

映射生活的身影
2026-04-26 21:20:08
突发!72小时连遭重击,东方甄选塌得比想象更快

突发!72小时连遭重击,东方甄选塌得比想象更快

手工制作阿歼
2026-04-28 00:32:46
连续三天嫖娼一次嫖俩,花800元毁掉一手女神好牌,他图什么?

连续三天嫖娼一次嫖俩,花800元毁掉一手女神好牌,他图什么?

街上的行人很刺眼
2026-04-25 10:55:49
AirPods 4 跌到 693 元

AirPods 4 跌到 693 元

双语解析Hub
2026-04-27 08:24:02
恭喜!46岁汤唯挺二胎孕肚出席活动,56岁韩国老公又要当爹了

恭喜!46岁汤唯挺二胎孕肚出席活动,56岁韩国老公又要当爹了

秋别离
2026-04-28 00:40:15
2026征兵大变天!部队主动抢人,5类人直接绿色通道

2026征兵大变天!部队主动抢人,5类人直接绿色通道

Ck的蜜糖
2026-04-26 18:10:08
网红猴哥恋情曝光,他手在女生身上到处摸,女友疑04年身份引争议

网红猴哥恋情曝光,他手在女生身上到处摸,女友疑04年身份引争议

一娱三分地
2026-04-27 14:35:50
2013年摊贩杀死两名城管判死刑,其子被伊能静认养,如今怎样了?

2013年摊贩杀死两名城管判死刑,其子被伊能静认养,如今怎样了?

莫地方
2026-04-25 00:10:03
“全班妈妈,就你最丑”,妈妈开家长会被儿子嫌弃,网友一语中的

“全班妈妈,就你最丑”,妈妈开家长会被儿子嫌弃,网友一语中的

妍妍教育日记
2026-04-27 12:35:03
博主不喜欢游戏出现大雷美女!称喜欢这种的人太可悲

博主不喜欢游戏出现大雷美女!称喜欢这种的人太可悲

游民星空
2026-04-27 11:06:30
如果美国偷偷印两万亿美元,然后拿到其他国家买东西,结果会怎样

如果美国偷偷印两万亿美元,然后拿到其他国家买东西,结果会怎样

傲傲讲历史
2026-04-12 23:30:10
油价大涨!今天4月28日油价表,新一轮国内油价上调幅度140元/吨

油价大涨!今天4月28日油价表,新一轮国内油价上调幅度140元/吨

有料财经
2026-04-28 00:14:57
伊朗政权秋后算账,绞死更多抗议者

伊朗政权秋后算账,绞死更多抗议者

一种观点
2026-04-25 19:08:26
一场4:0让国足迎来大喜讯,邵佳一最欣慰,失而复得一位超级猛将

一场4:0让国足迎来大喜讯,邵佳一最欣慰,失而复得一位超级猛将

零度眼看球
2026-04-27 06:47:10
“没人觉得我带枪入住是威胁”白宫晚宴枪手路径首次曝光:房卡放行,隔间组枪直冲宴会厅

“没人觉得我带枪入住是威胁”白宫晚宴枪手路径首次曝光:房卡放行,隔间组枪直冲宴会厅

红星新闻
2026-04-27 13:23:15
2028大选无望?郑丽文最新民调支持率4%,访陆成功助力蒋万安登顶

2028大选无望?郑丽文最新民调支持率4%,访陆成功助力蒋万安登顶

混沌录
2026-04-27 19:52:08
2026-04-28 01:28:49
灰度测试中
灰度测试中
生活正在重构,目前还在灰度测试阶段,暂不全量发布。
1757文章数 19关注度
往期回顾 全部

科技要闻

DeepSeek V4上线三天,第一批实测出来了

头条要闻

坐在特朗普身边亲历枪击案的女记者 身份非常不一般

头条要闻

坐在特朗普身边亲历枪击案的女记者 身份非常不一般

体育要闻

人类马拉松"破二"新纪元,一场跑鞋军备竞赛

娱乐要闻

黄杨钿甜为“耳环风波”出镜道歉:谣言已澄清

财经要闻

Meta 140亿收购Manus遭中国发改委否决

汽车要闻

不那么小众也可以 smart的路会越走越宽

态度原创

教育
旅游
本地
公开课
军事航空

教育要闻

学生课堂偷吃、听课“摆烂”……这位老师的应对方式绝了!

旅游要闻

茶卡盐湖的那颗"心" 为什么让人心里不舒服?

本地新闻

云游中国|逛世界风筝都 留学生探秘中国传统文化

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗外长折返伊斯兰堡内情披露

无障碍浏览 进入关怀版