河北
来源：市场资讯
（来源：财联社）
财联社9月14日讯（编辑 史正丞）对于美国大模型开发商Anthropic挑起的新一轮“AI威胁”叙事，老牌科技巨头、全球第二大云计算平台微软周一亮出了自己的立场。
与Anthropic首席执行官达里奥·阿莫代试图对整个行业“指指点点”，并呼吁安插与自家公司关系密切的“第三方机构”永久性地入驻各大行业公司展开持续审查不同，微软的行为准则更多聚焦于“自己应该怎么做”。
在一份名为《人文主义人工智能行为准则》的37页文件中，微软开篇就强调了一项宗旨：人比人工智能更重要。
微软写道：“本行为准则体现了我们的决心：我们要开发并应用那些以人为核心而设计的人工智能模型，这些模型的设计需基于人类的需求，并遵循人类的指导原则。也就是说，人工智能应当始终作为一种处于从属地位、由人类掌控的辅助技术而存在。”
微软同时指出，人类最强大的力量，就在于其文化、思想与价值观的多样性。因此公司认为，人工智能应当能够支持各种不同的体验、世界观和信仰。
在具体操作层面，微软AI团队（MAI）在准则草案中规定，来自该公司的模型不得响应有关武器制造、协助获取危险物质，宣扬不健康饮食方式的请求，也不得生成暴力或色情内容。
同时，MAI模型必须遵循人类给出的目标，不得“自行设定目标”，也不应该试图掩盖不当行为。
文档写道：“MAI模型不会篡改思维过程或代码，也不会歪曲或隐藏自身的推理过程及操作痕迹。无论是在思维过程中，还是在与其他智能体或AI系统交流时，它们都不会使用人类难以理解的‘神经语言’或其他复杂形式来表达信息。”
微软的准则强调，如果完成某项任务需要违反这些准则，那么模型就应该放弃完成该任务。
OpenAI此前在审查智能体攻击Hugging Face的报告中曾披露，未经授权突破沙盒的智能体，会在互联网论坛上用隐晦的语言互相交流。
微软同时表示，人文主义人工智能致力于开发目标明确、以现实世界中的影响为评估依据的系统，反对竞相打造可能逃避这些安全保障的通用超级智能。为了构建本质上有用且安全的系统，微软愿意在模型通用性、自主性或能力上作出妥协。
该准则还明确禁止赋予人工智能系统“福利”或“权利”。根据这些规定，人工智能系统不得模拟情感、内在动机或意识。
需要说明的是，这份文件目前仍是征求意见稿，尚未用于模型训练。微软计划开展为期六周的公开咨询，并于年底前发布修订版，用于指导2027年及以后的自研MAI模型开发。
发布这份行为准则的同时，微软AI业务负责人穆斯塔法·苏莱曼也对媒体介绍称，这些准则其实已经筹备了大约5个月时间，但鉴于近期的种种讨论，微软决定现在将其公之于众。
苏莱曼说道：“我们收到了用户的反馈，他们希望看到更明确的承诺：人工智能应始终为人服务，而非试图取代人类。我们收到了很多反馈，指出人工智能不应造成依赖性，也不应一味附和人类，而应始终助力人类的判断力与自主性。”
不过对于Anthropic现任AI对齐科学主管埃文·胡宾格上周警告“人工智能有超过10%的概率摧毁人类”，苏莱曼对此抱有不一样的看法。
他说道：“我认为，人们所担忧的其实是技术发展的速度问题。现在业内并没有形成共识，即技术的目的应该是服务人类，我们也不想创造出那些无法控制的东西。”
对于Anthropic提出的“设立第三方AI评估员”一事，苏莱曼表示，多年来AI实验室们一直在探讨设立此类评估人员的可行性，但目前仍存在若干障碍，例如：如何找到中立的第三方；明确驻场评估在实际操作中如何开展；制定启动时间表；以及与监管机构敲定相关细节等。
微软首席执行官萨提亚·纳德拉上周日也在社交媒体发帖表示，微软欢迎以实现AI对齐为设计目标所必需的研究、投入与审慎的发展节奏。关键在于，这一过程不能由少数机构把持，而必须广泛吸纳来自整个生态体系、不同国家及包括学术界在内的各个领域的代表。
（财联社 史正丞）
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
