北京
分享至
Ethan Mollick 最近分享了一篇写于 AI 时代之前的短文——Richard I. Cook 的《How Complex Systems Fail》。全文只有三页，他却说值得一读。这篇旧文的核心观点是：复杂系统一直在带病运行，却依然存活。
为什么能活下来？因为系统里的缺陷很少同时对齐。它们分散在各处，彼此错开，反而给了人类介入和修补的机会。这个判断在系统设计领域不算新鲜，但放到今天，语境完全变了。
AI 改变了"缺陷对齐"的概率
Mollick 的提醒在于：AI 既能发现这些缺陷，也能制造它们对齐的条件。换句话说，过去靠"缺陷不同时出现"来维持的稳定，在 AI 介入后可能不再可靠。他因此提出，需要一套借助 AI 来构建的系统防御新哲学——不是抛弃旧框架，而是用新工具重新设计防线。
这篇三页纸的价值，不在于给出答案，而在于提醒：当工具变了，系统的脆弱点也随之移动。旧文重读，恰好是重新审视防御逻辑的起点。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
