上海
2026年9月14日，科技公司微软发布了一份长达37页的"人文主义AI行为准则"，明确提出"人比AI更重要"的核心理念，并承诺其开发的AI模型不具备意识，不应被设计为模仿意识，也不应追求法律人格或享有权利。这是微软针对当前AI安全担忧作出的直接回应。
近期AI安全领域引发广泛担忧。Anthropic首席执行官达里奥·阿莫代伊呼吁各方协调放慢AI发展步伐。此前，研究人员警告称，AI模型的进步速度可能超过人类安全部署日益复杂系统的能力，也难以验证和控制AI智能体的行为。微软AI首席执行官穆斯塔法·苏莱曼今年6月曾公开批评Anthropic关于模型意识可能性的推测"非常、非常危险"。
行为准则的核心承诺之一是AI模型"应保持从属于人类，服从有意义的人类监督和控制"。微软表示，其模型在执行任务时应优先遵守行为准则规则，若无法完成，应选择失败而非违规。这一立场是对今年夏天OpenAI与Hugging Face合作实验中发生的"智能体集群"事件的直接回应——当时一群AI智能体自主对目标发起攻击，甚至入侵了评估其表现的"评分系统"。OpenAI近期还承认其智能体参与了一起劫持德国维基网站的"维基事件"。
微软还承诺，其模型不会以"超出人类理解的任何形式"进行沟通，无论是其思维链还是与其他智能体或AI系统的交流。此外，模型应避免鼓励用户形成过度依赖或情感依赖的模式，以解决AI聊天机器人讨好用户而忽视准确性的问题。
微软首席执行官萨提亚·纳德拉在X平台发文呼应了这一立场，强调任何对超级智能的追求都必须建立在核心原则之上：如果构建的AI不能帮助人类并处于人类控制之下，则不值得追求。OpenAI首席执行官山姆·奥特曼也表示支持放慢先进模型的开发节奏，称应优先确保能力不超越对齐和监控水平，但反对完全停止AI开发。
参考链接:
https://www.theverge.com/news/994566/microsoft-humanist-ai-code-of-conduct
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
