国际 AI 算力专线与多云 GPU 调度

挑战

上海研发团队需要使用新加坡与东京的 GPU 集群训练模型，公网传输 40 TB 日级数据集耗时超过 20 小时且不稳定；境内合规要求训练数据出境走可审计的专线；多地 GPU 利用率仅 35%，排队与闲置并存。

GSS 责任范围

GSS owned design and delivery of the cross-border compute circuits (domestic segments and GSS PoPs in-house, overseas last mile via partner carriers), transfer acceleration and the data-transfer audit gateway, infrastructure for the multi-cloud GPU scheduler and 24/7 operations. Training jobs, datasets and transfer approvals were owned by the customer R&D and compliance teams.

方案

GSS 交付上海 ↔ 新加坡 2×1G IEPL 与上海 ↔ 东京 1G IEPL（北京上海团队统一交付，海外段由上游伙伴协同），建设国际传输加速与数据出境审计网关，并部署多云 GPU 调度平台统一管理三地算力队列，由 GSS NOC 托管运维。

背景

该企业总部位于新加坡，在上海设有 300 人的算法与数据团队，GPU 集群分布在新加坡（自建 IDC）、东京（公有云）与上海（公有云）三地，合计超过 1,200 张加速卡。上海团队每天需要把约 40 TB 的标注数据集与中间产物同步到海外集群，走公网 VPN 耗时超过 20 小时且经常中断重传，直接拖慢模型迭代节奏。

合规方面，企业需要满足中国数据出境相关要求：训练数据出境必须走可审计、可追溯的通道，并保留传输清单。

资源方面，三地 GPU 由三个团队分别排队使用，总体利用率只有 35%，一地排队、另一地闲置的情况每天都在发生。

方案

国际专线与出境审计（传统网络业务）

• IEPL 专线：上海 ↔ 新加坡 2×1G（双路由保护）、上海 ↔ 东京 1G，由 GSS 在中国境内签约并开具增值税发票，海外段由上游伙伴交付；上海侧接入经 GSS 上海 POP，新加坡与东京侧分别落地企业 IDC 与云机房。
• 传输加速：在专线两端部署传输加速网关（多流并行 + 前向纠错），把大文件同步的有效吞吐从公网 VPN 的约 500 Mbps 提升至接近线速。
• 数据出境审计网关：所有出境传输经由网关，记录数据集名称、哈希、大小、发起人与审批单号，生成月度出境清单供法务与监管备查；敏感字段在境内完成脱敏后再出境。
• 三地互联：新加坡 ↔ 东京之间通过上游伙伴骨干互联，形成三角拓扑，任一链路故障自动绕行。

多云 GPU 调度（AI 业务）

• 统一算力队列：基于 Kubernetes 的多集群调度平台纳管三地 GPU，研发人员提交任务时只声明算力规格与数据位置，调度器按队列长度、数据所在地与专线负载自动选择集群。
• 数据就近与预取：调度器结合传输网关的进度，把数据集预取到目标集群，训练任务启动时数据已就位。
• 模型 API 统一入口：研发团队调用海外与国内商用大模型 API 统一经 GSS 统一 AI API 网关，海外模型走新加坡 / 东京节点，按团队四层额度控制，调用全链路留痕，避免 Key 散落与重复账单。
• 成本与配额：按团队设置配额与优先级，闲时自动降级为可抢占任务；月度输出三地 GPU 成本与利用率报告。
• 运维：专线、网关与调度平台由 GSS NOC 7×24 监控，中英双语支持新加坡与上海两地团队。

成果

指标	项目前	项目后
40 TB 数据集同步	> 20 小时（公网 VPN）	约 2.5 小时
上海 ↔ 新加坡时延	110–180 ms（抖动大）	68 ms（稳定）
传输中断重传	日均 3–5 次	近 0
GPU 总体利用率	约 35%	约 78%
模型迭代周期	平均 9 天	平均 4 天
出境传输审计	无记录	100% 留痕，月度清单

项目于 2025 年 3 月交付，GSS 继续提供专线、网关与调度平台的托管运维，并按业务增长分阶段扩容至 10G。