加速AI落地企业！微软解读Copilot技术栈，云端混合大小模型是关键

智东西（公众号：zhidxcom）
作者香草
编辑李水青

智东西6月14日报道，今天，微软在Microsoft AI Day上集中展示了其在生成式AI上的最新技术突破与进展，包括一系列Azure AI新服务与新功能、Microsoft Copilot技术栈，帮助企业开发者打造专属Copilot的Microsoft Copilot Studio等一系列开发工具与平台服务。

在今年的Build全球开发者大会上，微软围绕Azure AI和Copilot发布了60多项产品、服务、解决方案，本次通过Microsoft AI Day，微软将最新的技术创新和发展趋势，同步更新给更多的开发者、客户、合作伙伴，以开放合作的态度推进创新技术的普及应用。

微软全球资深副总裁、微软亚太研发集团主席王永东谈道，微软在AI技术方面的发展是非常迅速地，他称之为“微软速度”。从2019年与OpenAI合作开始，微软抓住AI转型机遇，频繁推出新产品、新升级。其中，GitHub Copilot、Teams高级版嵌入GPT、Microsoft 365 Copilot的发布和扩展插件支持等是具有代表性的关键节点。

▲微软的AI发展路径

微软亚洲区Microsoft Azure策略运营总经理康容、微软大中华区首席运营官陶然与智东西等少数媒体进行了深入交谈。

当智东西问道，对于中小企业、创新企业，生成式AI有哪些潜力和价值？

康容称，虽然在案例分享中以大型企业为主，但从亚太地区来看，AI在中小企业、创新企业中的使用率并不低。它们的痛点和大企业恰恰相反，由于没有过重的数据负担，因此从技术层面上，Copilot等AI产品的融合会更容易，新技术的迁移也更为灵活便捷。

陶然谈道，创业公司前期最大的痛点，其实都是缺少资金和人才，微软Copilot能够帮助小团队在人数、资金有限的情况下，发挥出更大的能量。对中小企业来说，信息处理等能力需求高，微软的产品可以帮助他们加速新产品试用推广、团队扩张。

一、Copilot平台推出Agent能力，小模型满足端侧需求

在Scaling Laws下，AI技术的能力大约每六个月就会翻倍增长。陶然谈道，如何让技术成果对齐行业、企业的实际业务需求，加速技术能力的落地转化，成为当前微软最关注的业务领域。

▲Scaling Laws

基于企业级Copilot，微软构建了从云到边缘，从AI基础设施、基础大模型、数据智能平台到AI开发平台与工具链，再到可定制的Copilot及扩展功能的Copilot技术栈。

▲微软企业级Copilot技术栈

Microsoft Copilot Studio是由Copilot扩展的专属平台，其推出Agent代理功能，让开发者能够根据特定任务和功能，构建出做出针对性主动响应的Copilot。

定制化的Copilot可通过记忆和知识了解上下文背景、推理需要进行的操作和行动，基于用户反馈进行学习，并主动寻求帮助，独立管理复杂、长期运行的业务流程。

▲Copilot扩展的专属平台Microsoft Copilot Studio

从IT设备采购、销售到客户服务，用户可以从不同场景和自身业务需求出发，量身定制Copilot。通过插件和连接器等Copilot扩展，用户可以连接到不同的数据源和应用程序，进一步拓展Copilot的适用性和功能。

在模型层面，陶然称，微软认为AI时代并不是只有大模型，高效的端侧小模型同样重要。

微软的小语言模型Phi-3系列，发布全新多模态模型Phi-3-vision，其具备42亿参数，可提供语言和图像处理能力，能够实现基于照片的推理，并优化对图表内容的理解能力。Phi-3小语言模型能够同时满足云端运行，以及面向网页、移动端和边缘设备的本地部署的需求。

▲微软Phi-3系列小模型

二、GPT-4o提供云上API服务，GitHub Copilot累计180万付费用户

康容介绍，目前全球有超过5万家企业和组织采用微软Azure AI服务。

▲微软Azure

在Build 2024全球开发者大会上，微软宣布与AMD、英伟达等合作伙伴深化合作，为用户提供多样化的高性能云基础设施服务。

在与英伟达的合作方面，微软将英伟达Omniverse Cloud、DGX Cloud与微软云服务、Fabric数据服务深度集成，让开发者第一次得以在Azure云端调用Omniverse的API开发AI解决方案。

▲微软与英伟达全栈合作

作为首个将AMD MI300X AI加速器芯片用于客户AI训练和AI推理的云服务商，微软正式发布针对Azure OpenAI Service的高性能计算（HPC）工作负载进行优化的Azure ND MI300X v5虚拟机系列。

▲微软新一代Azure虚拟机

康容谈道，在大模型领域，OpenAI是微软最重要的战略合作伙伴。OpenAI的旗舰模型GPT-4o在Azure平台上开发训练，现已加入Azure AI Studio，同时也可作为API服务调用。

▲Azure OpenAI国际版

Azure AI服务也在不断拓展MaaS的覆盖范围，提供了对Coherence、Databricks、Deci、Meta、Mistral AI、Snowflake等大模型服务的支持。

微软还宣布进一步加强与开源社区Hugging Face合作，将更多来自开源库的优秀语言模型引入Azure AI服务和Azure AI Studio开发工具。

▲Azure AI Studio

GitHub Copilot是微软旗下AI驱动的开发者智能副驾驶，过去两年已累计超过180万付费用户，得到90%“财富100强”企业的信任。

▲GitHub Copilot

三、微软助力AI落地应用，加速制造、金融、教育业智能转型

微软中国区总裁原欣谈道，AI正在成为现代生产力必不可少的组成部分。2024年度《工作趋势指数报告（WTI）》显示，在全球范围内，75%的受访劳动者称其已经将AI用于日常工作，其中近半数的人在最近6个月内开始使用AI。

与此同时，AI技能正成为用人单位招聘时的考量之一，71%的受访管理者称，在有经验而缺乏AI技能，与经验略有欠缺但AI技能扎实的候选人之间，他们更倾向于选择后者。在中国市场， 91%的受访劳动者已经将AI用于日常工作，82%的管理者更看中求职者的AI技能。

▲微软AI在客户中的应用

原欣称，微软植根中国市场三十余年，积累了推动不同行业客户数字化转型、智能化创新的丰富的成功经验，能够更好地根据不同行业的业务场景、企业需求，为其量身定制“接地气”的技术落地和解决方案。

北京世纪好未来教育科技有限公司CTO田密来到现场，据他介绍，2023年初，好未来教育集团率先为上千位研发人员配备了GitHub Copilot。

据统计，其开发人员与Copilot月均交互接近2万次，AI辅助编写代码的平均采纳率达到33%，每月总采纳代码总数大约有25万行。

▲好未来采用GitHub Copilot提升效率

好未来在研发教育千亿级“九章大模型”的过程中，借助Azure AI服务，将数据标注的效率提升了35%，实现了客观题评估、主观题评估等多个任务的自动化评估。此外，好未来基于九章大模型研发的AI Tutor产品中，广泛采用了微软Azure提供的高精准ASR和超拟人TTS技术。

▲好未来采用微软Azure AI服务

OPPO AI中心产品总监张峻介绍，微软为其即将面世的海外手机新品上的AI功能提供智能语音服务支持，包括运用Azure AI服务中的ASR与TTS开发的AI录音摘要和AI文章朗读功能。

相关功能通过直接调用Azure API即可面向全球用户提供服务，其中语音相关特性开发和调试用时仅一个月，帮助OPPO大大降低了人力与物力的支出，而且可以更好满足海外市场对于安全隐私与合规的严格要求。

▲OPPO与微软合作

麦当劳中国也选择微软作为首个智能化深度创新伙伴。据介绍，微软为麦当劳中国量身定制了整套智能化创新解决方案，包括由Azure云平台提供自然语言交互、生成式智能、机器学习等企业级的智能化服务；以融入Copilot的Microsoft 365为基础，构建高效的员工协作平台；通过GitHub Copilot加速IT开发和系统运维，提升IT系统及业务应用开发迭代效率等。

此外，麦当劳中国南京创新中心成立“AI-Lab”，将智能技术引入麦当劳中国“汉堡大学”，为20万名员工提供职业发展与技术技能培训。

在帮助企业加速AI落地层面，康容谈道，就微软与客户的接触来看，目前各行各业都在积极部署AI，其中金融、教育、制造业、电商等用量较大。在亚太地区尤其是中国市场，客户对新的产品、技术接受度更高，相较之下欧盟的客户可能更加保守。

结语：国内企业走上第三阶梯，AI应以安全为先

相比ChatGPT刚出现时，企业对AI的认知有哪些变化？康容谈道，过去一年多，企业逐渐从认识AI，过渡到开始重视如何将AI融入现有业务，走上第二、第三阶梯的客户越来越多，而且国内的客户走得更快。

陶然认为，AI的发展一定是以安全为先，在此基础上，未来AI要帮到每个人，必须是端侧、云端相结合。微软在大模型上的心态是开放和兼容的，小模型不会取代大模型，而是作为不同侧重点的模型相互结合，发挥最大的优势。