翼方健数张霖涛：当算力算法数据高效流通，AI落地价值方可释放

作者：苏打

出品：明亮公司

蚂蚁集团、微众银行、翼方健数、华控清交，被誉为当前国内隐私计算领域“四小龙”。

在人工智能发展谱系中，算力、算法和数据被视为人工智能三要素。ChatGPT引发新一轮AI热潮后，人工智能作为生产力工具的普及度迅速提升，三要素开始面临高效流通的新挑战——如何有效匹配算力？如何提供更安全的算法？如何让数据跑起来？

“翼方健数的最大优势是专注要素流通，中立地服务客户。区别于产品型公司，作为一家‘枢纽站’，我们不建设算力中心，不开发基础大模型，也不拥有任何客户数据，通过联接目前国内主要算力源并服务主要的基础模型公司，打通跨云的异构障碍，优化算法，提供三要素的高效流通的解决方案，并提供基于技术能力的安全保障。”

作为大模型应用层持续追踪报道的组成部分，近日「明亮公司」约访天猫Digital实验室合作伙伴之一翼方健数，并与其首席科学家张霖涛博士就人工智能落地的另一个视角——如何通过促进算力、算法和数据的流通推动大模型落地，进行深度探讨。

在8月底举行的“2023智能要素流通论坛暨第三届DataX大会”中，翼方首次公布了其人工智能服务平台“揽睿星舟（Lanrui-ai）”的新功能——揽睿大模型解决方案和“星舟·密方”机密可信计算智算集群，以深耕算力、算法、数据的安全流通、高效匹配和价值释放。

作为公司首席科学家，张霖涛此前在被誉为“人工智能黄埔军校”的微软研究院工作17年，并被一路擢升为微软研究院首席研究员及全球合伙人。2020年，受到同样是普林斯顿校友、翼方健数创始人之一罗震的邀约，加入翼方健数。

天眼查App显示，翼健（上海）信息有限公司成立于2016年1月，初期以隐私安全计算为核心，为医疗、营销、金融、政务等行业提供软硬件一体的大数据和人工智能全栈式解决方案，现已发展为专注于人工智能三要素——算力、算法、数据——“安全流通、高效匹配、价值释放”的人工智能企业。公司以人工智能和大模型生态、数据与模型保护、算力调度、计算编排、数据编排、隐私及机密计算等核心技术能力，构建和运营“数据和计算互联网”，在保护数据与模型资产安全和个人隐私的前提下，实现人工智能要素的流通，为千行百业赋能。

公司主要创始人陈恂博士曾于2002年在美国硅谷联合创办睿初科技（Brion Technologies) 公司，2007年被欧洲最大工程技术公司之一ASML收购。之后陈恂也曾担任银湖投资（Silver Lake Partners）董事总经理和软银愿景基金（Softbank Vision Fund）中国区董事总经理。

据已披露的融资信息，2023年4月，翼方健数完成数亿元B++轮融资，由行云资本担任独家财务顾问，暂未透露投资方及估值。所获资金将主要用于公司持续深化数据和计算互联网（IoDC）建设。「明亮公司」在与张霖涛对话中了解到，目前公司总成员约250人，其中超60%为研发人员，“身处新兴赛道，对融资持积极开放的态度”。

以下为「明亮公司」与张霖涛的对话（有删节）

Q：明亮公司

A：张霖涛 翼方健数首席科学家

张霖涛 （来源：翼方健数）

基于揽睿舟平台中立性，构建一个流通生态系统

Q：作为公司明星产品之一，揽睿星舟在目前业内大模型依旧是话题中心的形势下，具备有哪些独特的优势？

A：实际上，揽睿并非最近才研发的，我们在去年10月份（ChatGPT尚未火爆之前）便已正式发布揽睿星舟，一个隐私安全计算技术护航的AI平台与生态，而布局和研发实际上更早很多。当初发布这样一个人工智能平台的背景，是我们在XDP（数据流通要素产品）的运行中发现，数据的流通往下走，一定会碰到算力和算法流通的问题。尤其是在业界普遍采用AI分析和使用数据的情况下，不仅要解决算力和算法，还需要更多工具、适配更多模型。

所以揽睿星舟是一个涵盖人工智能全生命周期的产品，由于接入多种算力源，并通过技术对算力进行标准化抽象，令大家可以迅速找到合适的算力。同时由于具备模型和AI工具生态，用户可以利用其中的各种工具，一键部署自己的模型，并找到一些上下游的技术和模型。

去年大模型爆发后，客户突然就开始涌进来，一些视频类、云游戏、创意制作、广告代理或者语音类的公司开始对算力有需求。

伴随AI的热潮推动，很多个人用户也开始对此感兴趣，于是我们今年5月份又开放了针对C端的自助式的注册入口，让用户能够无门槛使用揽睿平台。

Q：用户端的反映如何？小B和C端目前的用户数量分别有多少？

A：小B端真正接入使用的，截至目前已有数十个，且正在迅速增加中。我们做过不少用户调研，反响都非常好。能为大家提高效率，对于我们而言也是件非常值得高兴的事。

自5月份开放个人注册以来，C端用户已迅速达到万级，数量也在不断增加中。

Q：开放C端意味着会占用一些已有的资源，在商业化方面我们是如何考虑和平衡的？

A：这也是我们与其他云厂商的不同之处。伴随未来‘全民AI时代’的到来，几乎所有行业都在接触AI，一些需求量比较小的个体，比如小公司的创始人或者个人创业者，对于计算能力的需求肯定会越来越多，我们平台上已经涌现的就包括了营销、金融、教育、医疗、APP开发者等千行百业的用户。

但此前，他们很难获得全栈式的AI工具链和平台支持。所以我们希望提供全方位的AI从训练到部署到更好的支持模型服务者的解决方案，同时通过自身成本的优势，将这件事组织起来，真正降低他们的使用门槛和成本。当然我们也非常希望他们能够逐渐成长为大公司，变成我们的大客户，彼此建立长期合作关系，这无疑是件双赢的事情。

Q：所以我们的C端用户其实可以看作是一个小小B。

A：尽管AIGC出圈以后，很多用户开始把AI当作画图、拍照等工具，大大提升了其普及度，但我们的C端用户，需求并非完全是兴趣或玩乐。他们更多是将AI/AIGC当作一种生产力工具，或者是学习新技术的手段，所以付费意愿也更强烈些。

Q：这段时间是否有一些令你印象深刻的客户案例，通过使用我们的产品在生产过程中得到一些提升？

A：去年我们产品上线后，曾做过一些用户调研。我们发现一个有趣的现象，一些微型B端企业或者说个人创业者通常没有全栈AI的能力，自己搭建整个AI训练推理流程和生产环境很费时间和精力，大平台的使用门槛又很高。

但进入翼方的平台后，他们发现很多工具已经非常成熟，可以顺畅地找到AI工具，使用算法资源，获得合适算力等，这样非常节省时间，还不需要自己维护。另外，对于小公司而言，成本也是一个非常大的考量，而我们由于持续的积累，可以从多处获得算力资源，因而成本非常低，价格特别有竞争优势。目前已经有不少业界耳熟能详的公司在使用揽睿星舟平台。

Q：前面提到我们也有接入一些服务商，就这个问题延展开来，未来揽睿星舟是否会成长为一个生态树？

A：这个思考非常好，答案也是肯定的。

一个特别重要的基础是，揽睿星舟是一个中立的平台。我们从成立之初专注数据流通时便设置过一个理念，做一个0数据的公司，即本身不拥有数据，只支持数据的流通。

基于这种设置，我们的业务便非常适合与生态的上下游打通。对上游模型厂商而言，我们不是对手而是服务商，而他们非常需要一个全面的解决方案，令更多人使用其模型。如今的现状是，模型的私有化部署往往是一次性生意，后续的再训练和按量使用一直是个挑战，所以如何将业务SaaS化是一个掣肘。

而这就是我们正在建立的生态意义所在。通过链接模型提供方和业务需求方，用揽睿星舟作为枢纽，基于底层的XDP数据交互平台，将上下游真正联通起来。且XDP升级到4.0版本后，可支持用户的第三方开发。

我们认为，人工智能时代各种要素都是分布的，它们应该被连通在一个网络上，让各方像使用自来水一样去使用算力、算法和数据。所以翼方健数在建设IoDC，internet of data and computing，即计算与数据的互联网。

但这件事一个公司之力是无法完成的。作为一个互联网，它需要一个开放的协议，大家很容易接入网络，促成流通。今年，这个协议在XDP4.0上已经开放出来。希望全行业能够共建这样一个生态，共同推动人工智能的应用。

挑战分布式和异构的算力难题

Q：能否向我们具体介绍一下目前公司的主要业务，以及相互之间的关联和协同情况？

A：简言之，翼方健数是一个基于隐私安全计算能力，支持算力、算法和数据流通的人工智能公司。

尽管此前的行进方向一直是以此为目标，但这一定位在8月30日“2023智能要素流通论坛暨第三届DataX大会”中首次得到明确，并在会上公布了揽睿星舟人工智能服务平台上实现的“揽睿大模型流通解决方案”和“星舟·密方”机密可信计算智算集群。

众所周知，算力、算法和数据是人工智能的关键三要素。需要澄清的一点是，区别于类似人脸识别等具体应用产品类型的公司，我们的业务主要聚焦于流通，即算力流通、算法流通和数据流通，最终指向支持人工智能在业界的应用更流畅、更安全，且成本更低。

Q：三者中，数据的流通在应用中较为显性。但算力和算法流通方面可能对于市场端相对陌生。首先想请教一下算力，目前在使用过程中存在哪些问题？

A：成立以来，我们一直在提升数据流通方面的能力，也已落地许多成熟产品，例如旗舰产品XDP翼数坊，今年已经进化到4.0，有一百多个部署在各行各业。

就算力而言，过去业内也有一些关注，但主要集中在超算算力，问题并不明显。而大模型出现后，算力的问题突然跃升为AI的主要矛盾之一，因而令其流通出现很多挑战。

目前来看，算力有这样几个问题。一是呈现分布式，不集中；二是异构，即提供这些算力的服务商采用了不同的硬件，比如GPU、AI加速器等。这就导致用户在使用起来会有一个gap，所以我们所提供的算力流通理念，主要解决算力的调度和配合问题，将合适的算力匹配给不同需求的用户。

我们最新的揽睿星舟直面算力短缺和分散的现实挑战，提供了完善的算力流通解决方案。揽睿汇聚了来自不同供应商、不同地域、不同类别的算力供应，并以人工智能开发和使用的完整技术栈和工具链的产品形式呈现给客户，开箱即用，高效易用。

我们目前可以接入各种各样的算力，包括各类GPU算力、超算中心,智算中心和诸多普通的云平台算力。

Q：关于算力资源这件事，我们想继续了解一下，目前全国的算力分布情况呈现出哪些特征？

A：传统的算力中心大多建在发达地区，如北京、上海等地，更靠近人口密集的地方。但近几年国家一直在倡导东数西算，因而算力开始在其他电力成本更低的地区出现，比如宁夏、内蒙等地。

所以这就造成算力变得分散，并且出现除运营商、5大云厂商之外的小型主体，包括各地政府主导的，作为本地数字经济基础设施的算力中心。如此一来，跨云调度就变得非常重要。

同时，在架构上也从此前的超算中心衍生出越来越多的智算中心，可以支持AI的GPU。如何把自己的模型适配到国产的硬件上，目前业内的技术储备仍旧很缺乏，这也是我们未来的产品方向。

Q：算法方面，我们能提供什么解决方案？

A：简单来讲，很多企业自身不具备AI的能力，因而就需要一定的算法支持，而大模型提供方的商业化方式是将算法能力输送给需求方。过去，解决这个问题有两种部署方法。

一种是云上部署，目前采用得很多，但其中最大的问题是安全性相关。由于很多特定场景要对模型进行训练或微调，用户需要上传许多历史数据，这是第一层安全隐患；而在使用过程中，每个用户可能都会输入自己的信息，就会大大增加个人隐私泄露的概率。

另一是常用的方案是私有化部署，但大模型时代这种方法是很有挑战的，因为大模型推理，以及模型训练或微调对算力要求很高，导致所需要的GPU服务器规模很大，一些中小型公司很难支持这个成本，另外管理一个计算集群也需要专业技能。且对于模型厂商而言，不仅模型的安全是一个问题，这种一次性部署之后也很难再持续从中获得收益，所以也很需要向SaaS模式转变。

因而就需要算法流通。我们在8月30日的发布中，对外公布了“揽睿大模型流通解决方案”，旨在通过机密可信计算环境“星舟·密方”、隐私安全计算、以及弹性、可信的算力调度开启人工智能大模型生态协作的新模式。

密方这一技术的关键之处在于，在隐私计算的基础上加入了可信计算，即在不被泄漏的基础上，如何保证整个计算环境不被人篡改。通过融合这两项技术，我们就造了一个机密可信的计算集群，可以实现云原生情况下支持各种生态，以及各种应用的无缝迁移，并且是零信任的。这是个比较大的突破。零信任是指用户不需要信任云的平台管理员、运营商等，只要进入这个平台就能够进行算法的安全交易和流通。在此前这是困扰所有上云方的一个大问题。

机遇来临：「恰好赶上大人工智能复兴热潮」

Q：所以我们是可以在三要素的流通中提供整体的赋能。

A：是的，基于成熟的数据流通产品，叠加最近新公布的方案，我们现在已经可以提供全方位支持算力、算法和数据流通的能力。

实际使用过程中，算力流通过程中也必然会有关于算法、数据等方面的问题，如何保证可信和安全是各种要素流通最大的挑战。所以，三要素的流通不是完全独立的，但凡要做一个，其他两个就都要顾及，这就需要我们去提供整体的能力。简单地只解决一类问题的技术，比如传统意义上的隐私计算联邦学习之类的技术，相对应用的范围就非常窄。

Q：翼方之前一直深耕隐私计算，AI涌现后，这一能力对业务的发展有哪些助力？

A：2016年公司成立时，业内尚未有隐私计算这一概念，我们最初的定位就是提供为人工智能服务的安全数据流通，并为此建立起一整套技术栈。到2020年，隐私计算开始热起来，我们的已有能力也得到发挥，并被业内誉为隐私计算‘四小龙’之一。

但相对于狭义的隐私计算定义，我们更强调广义定义，即隐私安全计算。其中不仅包括计算过程中的安全，还要涵盖存储、调度等所有流通环节的安全，所以XDP平台那时起便被定位为一个能处理城市级别数据的数据隐私安全计算平台。

大模型时代来临后，我们幸运地发现，这些技术储备与AI的进展非常匹配。揽睿星舟其实早已开始研发，2022年发布时恰好赶上AIGC和ChatGPT爆发前期，这令我们感到非常兴奋。

Q：与其他同类型公司相比，我们的优势在哪里？

A：由于此前多年的积累，我们已经具备全方位服务能力，不只是算力调度。打个比方，你可以把购买了一定算力的公司看作是买了一台机器，类似于裸机，上面几乎没有什么增值服务。

所以我们做的事情，一方面向上延伸，为提供算力、算法的模型商增加后续功能和服务，提升其长期盈利的能力；另一方面向下巩固，为用户端提供更多适配的内容，比如在跨云调度的情况下机器关闭以后如何继续保持存储数据并能在下次开机使用等等。

Q：与天猫Digital实验室的合作，是否可以视作一个切入口？

A：是的。我们跟天猫实验室的合作，是有非常多的机会的。

实际上，AIGC兴起之前，电商领域便已经是数字化的应用最广泛的场景之一，AIGC和大模型兴起之后，人工智能在这个领域有非常多的落地空间，例如精准营销，如何提供更好的营销方案，让产品触达更多人群。同时，人工智能也可以产生更多、更好的投放物料，提升AI客服的服务性，让用户有更好的体验等等。

首先，精准营销的起始点，一定是基于对于目标消费者人群的梳理与细分，了解品牌用户是什么样的群体，他们对品牌的认知和购买偏好是怎样的，在选定的多维度特征工程 （时序、静态）基础上，通过机器学习算法，AI建模可以更精准的有效预测个体意向度，并结合对目标消费者的货品偏好，兼顾覆盖高意向&潜在意向人群。我们在一起客户的合作中，已经达成了有效的对触达消费者效率的提升，成本的下降。

其次，在内容生产方面，AIGC可协助品牌商家等需求方进行更快速的素材整合、创意化与流程化的内容制作，或帮助人工进行创意延伸，以提升营销与销售的内容生产效率。

通过大量学习电商场景内商业化设计场景、揽睿星舟及其平台上AI模型服务提供者的行业模型，已可以帮助实现分行业的AI精准构图和稳定输出。并在沉淀营销场景下的行业模型，目标在未来进一步针对不同场景形成标化封装文生图应用，帮助服务提供方或品牌商家更快产出所需的产品设计图、搭配图、宝贝详情页等。品牌商家仅需提供产品实拍图、再确定场景风格、模特特点、镜头表现方式等维度prompt内容，即可快速生产所需内容。

再者，AI智能客服也是一种采用人工智能技术提供服务的新型客服助手。它能够理解用户的需求，并给出建议性的答案和推荐。与过去需要人工不断连接模块或应用不同，现在的AI智能客服能够帮助用户更高效、更完善地完成任务。例如，通过学习品牌商品手册、说明、用户画像以及常见用户疑问等内容，智能客服可以为用户提供更好的服务（包括处理咨询、个性化商品推荐等），同时有效降低了商家的人力成本投入。

目前我们已先后在汽车后市场、快消、鞋服等行业沉淀了相当的算法能力及服务经验。

我们与天猫Digital在营销垂直场景上已经在探索更多方面的合作，伴随人工智能的兴起，我们觉得未来潜力非常大。

Q：作为技术前沿的践行者，对于AIGC或者大模型的兴起，结合自身多年研究经历，你倾向于如何去看待它的未来？

A：这是一场科技的文艺复兴运动，会带来整个一个新的时代。有这么一个观察，包括互联网、PC、智能手机、人工智能等技术在内，绝大多数科技创新在最初兴起时，都会遭遇毁誉参半的评价。但大模型（ChatGPT）不一样，它一落地便获得了几乎全世界的认可。虽然它目前仍旧处于初级发展阶段，也有关于它是否危险的讨论，但几乎无人怀疑它未来的能量，你可以想象它有多重要。

加入翼方健数前，我曾在微软研究院工作了17年，主攻方向就是人工智能，但当ChatGPT为代表的大模型出来后，我还是被它们的能力完全被震惊了。所以要说它会带来哪些新机会，我觉得到处都是新机会。只是不必太着急，需要一个探索的过程。

Q：公开资料显示，我们曾于今年4月份获得一笔融资，是否有进一步的融资计划？

A：今年4月份我们完成了B++轮融资。人工智能是一个正在蓬勃发展的赛道和行业，我们认为其中有非常多的机会。对于融资，公司也持积极和开放的态度，希望与价值观一致的投资者共同创建一个崭新的前景。