Google Cloud AI 基础设施官方资讯·· 3 小时前AI 评分58
GKE 网络如何支撑高密度并发 AI Agent
How GKE networking scales to support high densities of concurrent AI agents
先看结论
原文说明 GKE Dataplane V2 通过标签与注解分离及标签排除过滤,缓解大规模 Agent 沙箱的身份扩展与启动延迟瓶颈,属官方方案说明而非独立评测。
报道讲了什么
- Google Cloud 发文说明 GKE 网络如何应对高密度并发 AI Agent 工作负载。
- 原文指出高基数动态标签会导致逐 Pod 身份分配变慢,并可能触及 65,536 个网络身份上限。
- 原文称有客户使用 Agent Substrate on GKE 在单集群处理超过 30,000 个沙箱的峰值。
可以做什么
- 将不参与服务选择器匹配的字段从 Pod 标签迁移到注解,避免逐 Pod 生成网络身份。
- 通过 Cilium 标签排除过滤忽略动态标签,使同类 Agent 共享同一 Cilium Pod 身份。
- 原文称该方案实现每秒 300 个沙箱、亚秒级延迟的完全隔离 Agent。
怎么使用
- 把不参与服务选择器匹配或核心资源分组的字段从 Pod 标签移到注解。
- 在 kube-system 的 cilium-config-emergency-override ConfigMap 中配置标签排除规则。
- 配置如 !agents.x-k8s.io/sandbox-name-hash 或 !timestamp 的排除规则,让数据面在计算安全身份时忽略这些动态标签。
结果与限制
- 原文说明串行身份分配会短暂暂停 Pod 创建,导致初始化慢于预期。
- Agent Substrate 的 500 次每秒激活与低于 500 ms 延迟来自 20 万 Agent 的基准验证,原文未说明测试硬件与完整条件。
- 原文称 Agent Substrate 绕过 Kubernetes 调度限制,但未给出该机制的具体实现细节。
使用入口与依据
来源:Google Cloud AI 基础设施官方资讯 · cloud.google.com
事件后续
查看事件全部正在读取事件进展…