如何解决AI长尾场景问题？商汤提出了自己的“暴力美学”

场景向左，技术向右。

当AI有限场景已经经过一轮轰炸，初步落地，但大规模深入行业赋能令人踟蹰时，AI该走向哪？

商汤科技给出的答案是：AI 大装置！

在刚刚举行的世界人工智能大会（WAIC）上，商汤科技召开了 “大爱无疆・共生” 主题论坛，正式推出了其原创打造的新型人工智能基础设施 ——SenseCore 商汤 AI 大装置，集商汤内部算力、平台、算法能力为一体，化解 AI 应用落地中的 “长尾应用” 问题。

图丨世界人工智能大会现场（来源：商汤科技）

商汤为什么要推出 “AI 大装置”？

现阶段，AI 需要从海量数据中提取有效信息形成智能，再加上各行各业的场景，就更需要 “爆炸性” 的算力，对数据进行计算，在不断的碰撞中，就能得到最接近实际场景、细碎需求的结果。这也是商汤取名 “大装置” 而来的大规模的破坏性和创造力。

AI 大装置一方面是支撑商汤内部研究的基础，是过去几年，商汤在算力、算法、平台上的长期部署和打磨。一方面将基于项目化的 AI 开发，推进为基于装置的规模化落地，AI 大装置也为业内带来了范式转变。

“将 AI 技术赋能百业”

2018 年商汤就提出将 “AI 赋能百业”，商汤也是 AI 公司中第一个提出要做大场景、通用平台的厂商，这一点也被后来的 AI 厂商们一一跟随。商汤还承建了智能视觉国家新一代人工智能开放创新平台。

此前，商汤就推出过城市开放平台、边缘 AI 能力中心产品、身份认证一体机等，提供从平台、软件到硬件的全栈技术服务。

商汤一直在审视算力、软件以及产业赋能间的关系，不断提高算力、平台、算法基础，提供可灵活配置、全套可规模化落地的方案。

AI 逐步落地场景，单一的算法无法实现全场景需求的覆盖，而从算法深入到框架，再拓展到底层人工智能平台，就为人工智能软硬件产业链和业内生态实现了延伸，为规模化场景落地提供了可能。

大开大合，商汤提供的从来就是基于全场景的基础设施零部件。

“AI 大装置”，算力、平台、算法层如何有效联动？

到了 “AI 大装置”，商汤的这一切有了更清晰的说明，AI 集成能力进一步体现。

商汤的 AI 大装置由算力层、平台层、算法层三个部分组成，包含新型人工智能计算中心（Artificial Intelligence Data Center，AIDC）、深度学习训练框架（SenseParrots）、深度学习推理部署引擎（SensePPL），以及算法层等，形成了一个不断延长的工具链条。

算力层：新型人工智能计算中心 AIDC

平台层：数据平台
· 深度学习训练框架 SenseParrots

· 深度学习推理部署引擎 SensePPL

· 模型生产平台

算法层：创新算法模型以及算法开源计划 OpenMMLab

场景是无限的，但人的精力是有限的，那么如何在有限的情况下，实现对无限场景的扩充？答案是用 “无限” 的算力、模型及算法能力，进行匹敌。
作为 AI 通用基础设施的赋能者，商汤拿出此前的算力基础、数据平台、深度学习训练框架及开源算法，又着力打造了 AIDC 算力中心、开源框架，将整体打包成一个 “AI 全家桶”，也就是 “AI 大装置”。
这一套装置，实现了从算力到算法的能力集合，使行业场景提出后，能迅速实现从 “项目” 到 “落地” 的流程，快速产出更适应场景的解决方案。

在平台上，商汤建立了人工智能计算中心 AIDC，这一算力中心以商汤既有的强大算力为基础，整合 AI 芯片及 AI 传感器，支撑对海量数据和算法模型的分析、训练和推理。AIDC 已包含近两万块 GPU，能提供 3740 PFlops 算力。
这一上海临港在建的计算中心，也是目前亚洲最大的人工智能算力中心，能满足海量数据的高速调用，同时保证成本低廉，为通用场景的大模型算法提供支持。预计 2021 年底交付。

图丨商汤科技新型人工智能计算中心 AIDC 效果图（来源：商汤科技）

那么商汤为何要自建算力中心？现有人工智能时代对于基础设施的要求，与十年前相比有很大区别。现有厂商提供的云服务，并不能满足未来 AI 大规模研发和规模化落地对算力和工具的需求。

商汤的算力打磨，能将大量高性能的服务器、利用高速的网络联结在一起，适应于大模型训练，打造 “新基建”，且已在内部稳定运行超过六年时间。

所以商汤打造这样一个存储和计算系统，能实现低成本的、高速的访问。基于大量真实场景的数据，实现几百上千数据集的随机访问。同时商汤现有的研究也都转移到了 AIDC 算力中心，为行业和自研提供双重支撑。

而在平台层上，除原有的训练框架 SenseParrots，商汤还新推出了推理框架。

训练和推理，是深度学习的一体两面，有了 “训练” 对大量数据进行碰撞、挖掘，再利用 “推理” 框架得到想要的结果，就能实现智能的精准达成。商汤则选择打造了自己的推理框架 SensePPL，并将其开源。
这一通用性、云端框架，能满足云端推理的需求，使大量繁杂的数据，在云端进行复杂计算并快速产出结果，支持多平台部署，满足实地的场景智能需求与业务部署。推理和训练相承接，完成了端到端的闭环。

SensePPL 还实现了 OpenPPL 开源计划，开源使推理框架的开放性更好，也更显示了商汤强势的基础实力。对于商汤来说，只有框架真正开源才能为更多开发者所使用，使框架从数据和业务中来、再回到中去，形成完整闭环。
这也是目前国内少数的开源推理框架，这一点上，商汤比肩的是英特尔和英伟达。同时，在面向视觉的多种模型中，SensePPL 的端到端推理性能实现了对它们的超越。

在图像处理上，SensePPL 能快速支撑摄像和智能处理的需求，在毫秒级时间内响应，以自主研发的、极致优化的算子，提供端到端优异性能，充分发挥出芯片的能力。在数据管理、存储、调用上保持优秀，保证数据安全。

在更大的愿景上，商汤打造 AI 大装置还可以描述为：一是为支撑不同行业、突破现有技术生态；二是从提供企业级装置，到提供行业平台；三是在实际业务中打磨和迭代，为各形态芯片提供通道、实现算力成本下降。

商汤的 AI 大装置能力已经打磨成 “三层结构”：算力层处于最底层，通过近两万块 GPU 提供强大可调用的算力；平台层包括数据平台、算法训练框架和推理引擎，可以打造通用模型，方便部署于各种各样的终端设备；算法层则能基于各种丰富的创新算法工具为企业和行业赋能；不仅如此，商汤还通过 OpenMMLab 计划将领先的算法开源，在开源社区 GitHub 上有超过 37000 颗星。

这样就形成了一套可快速部署的 AI 大装置。强大的算力基础提供完善的硬件条件，为 AI 时代爆炸的大数据、大参数模型提供坚强支持，深度学习框架则将算力的实力发挥到最强，最适于通用场景的设计，能发挥出最大算力以及多种功能，开源模式更保证框架应用到多种设备中，完成从终端中来、到终端中去的闭环。算法工具箱和开源的框架，则将具体的 AI 能力快速赋能，快速适用于通用场景及长尾应用的适应化改造。

暴力计算解决大多数通用场景的问题，加上少数定制化场景的适配，就能有效完成大规模 AI 的部署、降低 AI 的边际成本。

“AI 大装置” 正将精耕自作式的打造，变成工厂流水线式的规模化落地。

商汤完成了自循环体系，形成了一个人工智能全流程技术栈，并且通过算力、平台、算法联动起来，为业内提供了完善的 AI 基础设施，也显示出在 “赋能百业” 愿景下的强大实力和气魄。

暴力计算下的 AI 场景

而具体上，这套大装置是如何赋能的呢？

来看一个足够 “长尾” 的例子，比如我们人人都十分常见的电梯场景，和迅达联手，商汤能实现从事前预防、事中干预到事后追溯的全流程智能管理，让安全事故的主动预防成为可能。

基于商汤领先的物体检测、行为识别、密度分析等 AI 技术，可提供覆盖自动扶梯入口、扶梯区域和扶梯出口的全场景安全管理辅助：在入口处，系统可对乘客推婴儿车、大件行李和轮椅上梯等安全隐患行为进行语音劝阻；在自动扶梯区域，有乘客摔倒时系统可及时告警，对逆行等不安全行为进行实时提示。

图丨基于商汤AI技术的迅达自动扶梯安全智能响应系统（来源：商汤科技）

一面是全场景防控，一面是各种细节保障，商汤充分发挥了 AI 大装置在 “长尾场景” 的优势。

还不止这一个，在社区场景、医院场景、银行场景……AI 大装置，都发挥了 “通用模型 + 碎片化场景适应能力”，将边边角角的复杂问题也一网打尽。

如在上海长宁区试点的 “AI + 一网统管” 中，基于商汤 SenseFoundry 方舟城市开放平台，对中心城区最集中的垃圾暴露、城市火灾等事件实现秒级发现，推送给网格员的政务微信立案。处置后，在规定时间内，对发生地点再次检测，完成整个事件处置流程的智能化。

结语

AI 大装置的整合效果，使扶梯逆行、垃圾暴露、城市火灾等细节场景的问题更得到集中解决，大大提高了 AI 在 “不标准场景” 下的可用性，AI 只能在规定场景、执行规定动作的问题，得到有效缓解。

从 AIDC、SenseParrots、SensePPL、到算法模型，商汤努力使所有的 AI 问题，能在 “装置” 之中进行解决，通过全套化的生态布局，使国内 AI 向着基础设施方向前进，为行业应用提供坚实底座。

基础设施像 “水” 一样，既自然又充沛等流向各行各业的时候，我们才能说行业的 AI 时代真正到来了。商汤正是在着力修炼这 “水” 的能力，将算力、算法、模型打包，提供充沛、充足的 AI 能力，从而渗入到实体场景的每一个角落里。

如果说 AI 能走多长，就要看这些 “AI 新基建” 大装置能赋能多少了。