北京
“我们想要一个训练有素的AI，能帮丈夫（或妻子）策划一场完美的杀死配偶的方案吗？”上周末，Comma AI创始人乔治·霍兹抛出了这个直击伦理底线的问题。作为一个长期与限制性规则周旋的“越狱者”，霍兹的答案让很多人始料未及：不但应该，而且他愿意为这个原则付出生命。
这番言论并非凭空而来。近期AI对齐领域出现了一系列宏大构想，比如“AI Futures Project”推出的《AI 2040：A计划》政策文件，设想全球研究者集体行动，为人类福祉将AI研发进度延缓14年。霍兹旗帜鲜明地属于反对阵营。他认为，很多人担心的“快速起飞”——AI在极短时间内获得超人类能力的情景——其实不太站得住脚。对于AI对齐与安全，他认定的最佳路径，是把重心放在本地控制的、与使用者利益深度绑定的模型上。
这个思路有它的酷劲。想想当前主流AI产品，像Claude、ChatGPT，本质上都是中央化管理的服务。背后的原因大多是基础设施层面的：托管最先进的大型模型成本高昂，大多数人一天中的使用时长又不足以支撑真正的个人专属AI。但技术总是在演进，这些制约正在松动。之前OpenClaw让人兴奋的地方，恰恰在于那种实验性的、动手DIY的路子。如果能有更多AI产品重新找回那种状态，会是一件很有意思的事。
问题是，霍兹天生就爱挑动神经。他把与用户对齐的AI比喻成一把枪——一把不会因为你拿它杀了继母而发出任何抗议的工具。在他看来，真正对齐的AI，应当能在你提出要求时，通过亚马逊Prime订购制毒设备，并手把手教你如何使用。他甚至宣称，愿意为捍卫这个原则赴死，尽管很难想象会有什么样的情境逼他走到那一步。
“我们要么生活在自由的世界里，要么就告别自由。”霍兹写道。如果选项真的这么二元，自由当然更动听。可事情并非全关自由，不是吗？任何容纳大量个体的结构，无论是社会、市场还是公司，都必须在各种利益之间做出平衡，把单个需求编织进一张由相互依存的偏好和问责系统组成的大网里。每一个向大众投放科技产品的人，都有必要从整体网络的视角来审视自己的作品，这就意味着要认真对待那些尚未被谋杀的配偶和继父母的权益。
霍兹所体验的自由，本质上是一种潜在的空间，它的边界由尚未被侵犯的他人画下。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
