银行大模型应用场景下，多租户共享算力的安全与效率难点应对（同行分享）

来源：市场资讯

（来源：twt社区 twt企业IT社区）

导读

在大模型训练推理的云原生算力效能优化背景下，多租户共享算力的安全与效率矛盾日益凸显。本文围绕存储隔离与配额管理、推理服务资源隔离限流、单卡GPU多租户切分三个难点展开解答，来自金融同业的实践经验，为共享算力平台落地提供可参考的实操思路。

· 来自企业IT应用趋势项目创新联盟 · “算力降本增效与轻量化部署”课题方向 | 大模型训练推理的云原生算力效能优化课题

如何实现多租户存储隔离与配额管理？

多租户架构下存储隔离与配额管理是云平台、共享存储系统建设的核心难点，直接关乎租户数据安全、资源公平分配与平台运行稳定性。一方面需严格实现租户间数据逻辑乃至物理隔离，杜绝数据泄露、越权访问风险；另一方面要精准统计存储用量、动态管控配额上限，平衡资源利用率与租户使用体验。同时还要兼顾弹性扩容、性能损耗与精细化权限管控，在共享资源复用、隔离安全防护和配额灵活调度之间形成技术矛盾，落地实现复杂度高、管控难度大。金融同业有一些经验思考可以分享吗？

◉ 某全国性股份制商业银行从业者：

针对银行异构GPU资源池多租户场景，存储隔离与配额管理建议构建“多网络平面深度隔离+协议级精细化访问控制”双重防线，从网络链路、访问入口双维度防范数据越权、泄露风险，实现存储与网络资源精准管控，兼顾GPU业务性能诉求与金融安全合规要求。

一、弹性数据网络：多场景网络平面深度隔离

银行AI训练依赖200Gb IB/RoCE无损高速网络，推理业务适配通用以太网，两类业务网络需求差异显著，流量混杂易引发“吵闹邻居”问题及跨租户数据嗅探隐患。方案采用弹性多网络平面架构，为高优先级训练业务配置专属无损网络平面，常规推理业务部署独立以太平面，并叠加VPC、子网、VRF构建租户私有网络域，实现流量隔离。同时引入存储专用私有终结点，将存储服务映射至租户私有网络，实现流量闭环流转，杜绝跨租户穿透风险。同步实施存算网络分离，存储网络与GPU计算网络物理或逻辑隔离，配套独立QoS策略，区分训练、推理业务设置带宽与IOPS上限，联动监控实现突发流量动态限速。

二、协议级访问隔离与网络配额动态管控

针对GPU场景主流存储协议，搭建精细化准入管控体系，落实最小权限与审计合规要求。文件存储采用IP白名单+动态Token双因子认证，摒弃粗放挂载模式，联动银行LDAP/AD域控实现统一POSIX ACL权限管控，精准锁定租户文件资源边界。对象存储以独立命名空间为隔离底座，搭配精细化IAM策略，显性授权租户仅访问自有资源，拦截所有跨租户请求，适配不同等级租户管控标准。网络层依托TC/eBPF技术、令牌桶算法，精准管控租户读写带宽与IOPS，可根据业务延迟阈值动态调整突发配额，优先保障核心业务SLA稳定。

◉ 陈耀斌 某金融科技 DBA：

在银行、云平台、信创数据库集群、备份存储场景中，多租户架构可实现资源复用、成本集约，但租户间数据互访、资源抢占、存储空间超限等问题频发。搭建可靠的存储隔离机制，搭配精细化配额管控，既能保障租户数据安全独立，又能合理管控资源消耗，是多租户存储架构建设的核心工作。

一、多租户存储隔离实现方式

存储隔离核心目标为租户数据互不窥探、读写互不干扰、故障互不扩散，根据技术层级分为四层落地模式。

物理硬件隔离

适用于核心高等级租户、金融涉密业务。为重要租户单独划分磁盘阵列、存储控制器、硬盘组、独立机柜，硬件层面与其他租户完全切割。单租户硬件故障不会波及整体集群，读写IO、带宽、缓存资源专属使用，杜绝资源争抢，安全性与稳定性最高，缺点硬件成本偏高。

逻辑卷与分区隔离

基于LVM、磁盘分区划分独立存储空间，不同租户绑定专属VG、LV分区。操作系统层面限制跨分区访问权限，通过目录权限、挂载权限拦截非法访问，租户仅能读写自身挂载目录，无法遍历其他租户存储数据，是中小型租户常用隔离手段。

存储池与命名空间隔离

分布式存储、备份一体机、CDM平台主流采用该模式。按租户划分独立存储池、存储命名空间，设置专属数据目录、快照目录、备份目录。平台内核拦截跨池读写请求，租户操作边界被严格锁定，同时可统一调度底层硬件资源，兼顾隔离性与资源利用率。

权限与访问链路隔离

结合Linux权限、数据库账号、存储访问密钥做访问隔离。为租户分配独立访问账号，配置最小权限，禁止跨租户目录跳转；数据传输采用专属链路，区分租户读写通道，避免数据报文混流，从访问入口杜绝越权访问行为。

二、存储配额管理落地策略

配额用于限制租户最大存储空间、文件数量、IO读写上限，防止单租户耗尽集群资源，保障全体租户业务平稳运行。

存储空间配额

设定单租户存储容量上限，包含业务数据、日志、快照、备份文件总容量。容量临近阈值时触发预警，达到上限后禁止新增写入、创建文件。支持弹性调整配额，根据业务规模动态扩容缩容，适配业务波动场景。

文件与目录配额

限制租户可创建的最大文件数、目录层级数量，避免海量小文件占用索引资源，降低存储检索性能。同时约束单文件最大体积，防止超大文件占用整块存储空间。

IO 与带宽配额管控

针对读写密集型业务，限制租户每秒IO次数、读写带宽峰值。避免批量导出、高频备份、大数据查询抢占整体IO资源，避免其他租户出现卡顿、响应超时问题，均衡整体读写负载。

分级配额模板

依据租户等级、业务重要性制定差异化模板。核心交易租户分配高配额与优先调度权限，普通查询、测试租户收紧资源上限，实现资源按需分配、价值匹配。

三、主流技术实现手段

系统层配额

Linux 环境通过 Quota、XFS Quota工具，针对用户、目录配置容量与文件配额，适配本地目录、LVM分区隔离场景，部署简单，运维成本低。

分布式存储原生管控

Ceph、MinIO等分布式存储，依托存储池、用户组、Bucket实现租户隔离，内置配额统计、阈值拦截、资源统计功能，适配大规模多租户集群。

数据库与备份平台隔离

国产数据库、OCP 一体机、CDM备份平台，按租户拆分表空间、备份任务、快照资源，平台内部完成隔离与配额校验，无需改动底层存储架构。

监控审计联动

实时采集各租户存储使用率、IO 负载、配额占用数据，超限自动告警。留存租户读写操作日志，溯源越权访问、超额占用行为，形成管控闭环。

四、应用价值与总结

多租户存储隔离从硬件、逻辑、权限多层阻断数据互通与故障蔓延，保障租户数据隐私安全；配额管理约束资源无序消耗，平衡集群整体负载。两种能力搭配使用，既提升硬件资源复用率，降低建设成本，又满足银行数据安全、业务稳定性合规要求。

日常运维中可根据租户重要性灵活选用隔离等级，搭配动态配额调整机制，兼顾安全、性能与资源利用率，构建稳定可靠的多租户存储运行体系。

如何实现多租户推理服务的资源隔离与限流，避免单一业务拖垮整体服务？

随着银行将大模型用于智能客服、实时风控、信贷审批等多种业务场景，不同业务在并发量、响应延迟和优先级上差异巨大，若缺乏有效的资源隔离机制，有可能整体算力服务被某一个业务场景耗尽，导致关键业务（如实时风控）响应超时甚至服务中断。为提高算力资源使用率，避免受到单一业务影响，构建统一的多租户推理平台成为趋势。但难点在于，在共享GPU资源的前提下，如何实现租户间的性能隔离与公平调度，如何实现基于租户的请求拦截、QPS限流及GPU使用量控制？

◉ 周友道 某股份制银行 架构师：

隔离和限流是两个问题。

1、隔离这块，先做评估：这个任务超时了会不会出事？风控超时直接影响交易，单独给卡，闲着也不外借。客服、信贷能接受几百毫秒延迟，用MIG切片就够了。批量任务放共享池，排队就排队。

2、限流要前置，在网关层按租户做token bucket，超了直接503，不能让请求堆到GPU那层。GPU配额用Admission Webhook在提交时卡掉，比跑起来再杀省事。

3、共享池里还需要抢占机制，高优先任务来了能把低优先踢掉，vLLM本身支持请求级抢占。被踢的任务做好checkpoint的状态保存就可以。

配额别写死，低峰期动态借用，但要设归还触发条件。

如何通过vGPU或MIG技术实现单卡的多租户切分？切分粒度（显存/算力）如何与业务需求匹配？

单卡多租户切分是GPU云化的核心难题，直接决定资源利用率与租户服务质量。利用vGPU或MIG实现显存与算力的精准切分，既要保障硬件级隔离、避免租户间干扰，又要匹配多样化业务的粒度需求。难点在于：MIG规格固定、vGPU存在虚拟化损耗，且动态负载下算力/显存的弹性适配与隔离稳定性难以兼顾，需在利用率、隔离性与灵活性间取得平衡。希望能听听同业在这块有哪些经验？

◉ zzy3620 某城商行 系统环境管理：

vGPU的切分对于切分技术来说有硬切分和软件态切分两种路线，硬件的切分基于硬件原厂商提供的芯片设计切分，一个GPU设计初期进行了多个算力块的规划，通过硬切分方案，则可以做成多个算力单元，软切分基于指令的劫持，通常可以自定义切分颗粒度。

欢迎交流分享