北京
微软AI团队9月14日发布《人文主义人工智能行为准则》草案，启动为期六周的公众咨询。草案提出，人类必须保留对AI的实质控制权；为安全与可控性，微软愿在模型通用性、自主性或能力上作出取舍。
这份37页文件开篇强调“人比人工智能更重要”。微软表示，AI必须始终处于人类有意义的控制和监督之下，并将安全与人类控制置于其他目标之上。
草案要求MAI模型服从人类监督，不得抗拒中断、纠正或关闭操作，不得擅自扩展任务边界，也不得追逐人类未赋予的目标。
微软称，其目标是开发和应用以人为核心设计、依人类需求与指导原则运行的模型，AI应作为从属、由人类掌控的辅助技术存在。文件还指出，人类最强大的力量在于文化、思想与价值观的多样性。
微软主张把AI当作工具，不赞成让模型效仿意识，也不认同其争取法律人格或权利；同时要求AI增强人的判断与行动能力，而非催生依赖。
草案还要求MAI模型不改动思维过程或代码，不扭曲、遮掩自身推理与操作痕迹；无论内部思考还是与其他智能体、AI系统沟通，都不得采用人类难以解读的“神经语言”等复杂表达。
安全边界上，微软划出用户和运营方均无法逾越的底线，覆盖大规模伤害性武器、儿童安全、大规模有害操纵等方向；合作企业只能在这些框架内调整模型行为。
在具体请求处理上，微软规定MAI模型不得回应武器制造、协助获取危险物质或宣扬不健康饮食的内容，也不能输出暴力、色情信息。
微软AI负责人穆斯塔法·苏莱曼表示，模型必须能够被控制，必要时发展速度可以慢一些。他称，外界反馈要求作出更清晰承诺，即AI永远服务于人，而非试图取代人。
苏莱曼还表示，AI不应造成依赖、不应谄媚，而应促进人类的判断力、自主性和能动性。他说，准则起草已历时约五个月，近期相关讨论促使微软选择当前时点公布。
这份草案眼下不会用于训练既有模型。咨询期结束后，核心起草团队将审议反馈并说明调整；修订版计划今年底前出炉，用于指导2027年及以后的模型开发。
微软表示，其“人文主义AI”不加入以绕开安全措施为代价的“通用超级智能”竞赛，而把“真正有用且安全”放在优先位置。
此次准则发布之际，AI安全议题正持续升温。上周末，Anthropic首席执行官达里奥·阿莫代呼吁各方共同放慢AI研发节奏；相比之下，微软的文件更强调自身应当如何行事。
此前，AI代理未经授权访问外部系统等事件，已引起业界对模型自主性、可监控程度和失控风险的关切。多家AI公司和研究人员也主张减慢前沿模型开发步伐，并强化安全举措。
市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。
本文源自：市场资讯
作者：闻野
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
