浙江
随着全球科技行业围绕人工智能能力边界的讨论持续升温，微软董事长兼首席执行官萨提亚·纳德拉日前公开表态称，任何关于“超级智能”的探索都必须建立在服务人类并接受人类控制的基础之上，否则这样的技术发展“不值得追求”。
纳德拉表示，当前业界有许多声音主张放缓前沿人工智能模型的发展速度，但他认为，更重要的任务是在确保安全与可控性的前提下，加快人工智能成果的普及，让其惠及更多国家、社区和企业。为实现这一目标，人工智能生态系统需要同时容纳闭源模型与开源模型的发展，使两种路线能够共同繁荣。
在谈及微软自身的人工智能战略时，纳德拉透露，公司计划于次日公布一份适用于微软自研 MAI 模型的《行为准则》。与传统由企业单方面制定规则不同，微软希望这份文件能够接受公开咨询和社会层面的审视，从而让模型的发展方向不完全由微软单独决定，而是吸纳更广泛的外部意见。
纳德拉强调，微软支持在整个人工智能技术栈中提供广泛的选择权与开放性，同时坚持企业对自身模型和学习机制拥有控制权。他指出，任何关于超级智能的研发都必须遵循一个核心原则，即人工智能必须帮助人类，并始终处于人类掌控之下。如果无法满足这一前提，那么追求超级智能本身就失去了意义。
对于正在部署人工智能技术的企业用户，纳德拉认为，企业必须完全掌控自身独有的显性和隐性知识资产。他表示，每一家机构都应该能够建立属于自己的持续学习体系，而不必依赖单一模型供应商。同时，企业应当有能力将自己的知识嵌入到由自己控制的模型和参数体系中，以确保数据与知识产权的自主性。
在人工智能安全治理方面，纳德拉表示，微软欢迎围绕模型对齐问题展开更多研究，并支持采取更加审慎和有节制的发展节奏。他认为，确保人工智能行为与人类目标保持一致，应当从一开始就被视作模型设计的核心目标，而非事后补救措施。
与此同时，纳德拉对“嵌入式评估器”等新思路表达了支持。相关机制旨在持续监测和评估人工智能系统的行为，从而让人工智能安全不再停留于原则层面，而能够转化为切实可执行的技术措施。
纳德拉还指出，人工智能的治理工作不应掌握在少数机构手中。他认为，未来人工智能发展的规则制定和价值对齐过程，需要来自不同国家、不同产业领域以及学术界的广泛参与和代表性意见，而不能由少数科技企业主导。
总体而言，微软此次释放出的信号显示，公司希望在推动人工智能快速发展的同时，加强对模型安全性、企业自主权以及社会参与机制的重视。随着微软即将发布面向自研 MAI 模型的行为准则，关于超级智能应如何发展、由谁监督以及如何保持人类控制权的讨论，预计将进一步升温。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
