物理 AI 基础设施该选哪条路线?

用“选择一块 TOPS 最高的芯片”来理解机器人算力问题,通常会误判选型目标。模型研发、固定模型推理、机器人端侧实时计算和数据中心系统编排对应不同负载,不存在一套方案能够覆盖所有负载。英伟达、Google 与英特尔接连出手,也说明物理 AI 的竞争已经从单颗加速器延伸到开发工具、云端系统和端侧交付。

算法团队首先应评估英伟达 GPU 与 CUDA 生态;固定模型的高吞吐推理可以比较 Google TPU 或其他专用 ASIC;云端异构系统需要考察英特尔与 Google 合作的 CPU/IPU 路线;机器人 OEM 则应基于当前可采购平台,重点验证时延、内存带宽、能耗和长期供货。

先看工作负载,而不是芯片榜单

以人形机器人为例,视觉、深度、力觉和语音等多路输入需要持续在本地完成推理。云端往返带来的延迟和断网风险,使端侧计算成为硬约束;实际瓶颈还可能出现在权重搬运和内存带宽,而不是峰值算力。

因此,TOPS 只能作为局部指标。选型时至少要分别评估端到端时延与抖动、持续运行时的内存带宽、功耗和散热表现,以及断网后系统能否继续工作。还要评估编译器与调试工具是否成熟、产品生命周期有多长、厂商能否长期供货,这些因素同样会影响平台能否落地。

对机器人团队而言,“实验室峰值性能”和“整机可交付性能”不是一回事。模型能装进设备、推理结果能赶上控制周期,只是第一道门槛;工具链、维护成本和供应稳定性才决定平台能否进入量产阶段。

英伟达与 Google 如何取舍通用 GPU 与专用 TPU

在模型研发和多模型训练中,英伟达的优势来自通用 GPU 与 CUDA 生态。算法结构、模型版本和任务类型频繁变化时,通用性与调试效率往往比固定负载下的极限吞吐更重要。

Google 的 TPU 采用专用 ASIC 路线,更适合模型稳定、服务规模明确的推理任务。 作者认为,在固定模型场景中,TPU 的能效和规模扩展能力优于通用 GPU;但 TPU 依赖 JAX/XLA,调试门槛更高,团队需要承担相应的工具链适配成本。 这意味着 GPU 与 TPU 并非简单的性能高低关系,而是“迭代灵活性”与“固定负载效率”的取舍。

这一区别也适用于云端资源池:专用 ASIC 可以承接稳定模型的高吞吐服务,通用 GPU 则继续承接研发、长尾请求和多模型版本。按照 所述的路线,甚至可以把模型权重固化于芯片,但这会牺牲新算法和新模型架构的适应性。这种做法更适合专用资源池,而不是全面替代 GPU。

围绕 Blackwell 与 Ironwood 的市场讨论,同样体现了通用 GPU 与专用 TPU 两条路线;不过,现有视频材料只能说明市场热点,不能作为统一环境下的性能结论。

英特尔如何用 CPU 与 IPU 组装系统

英特尔已确认与 Google 开展多年合作,双方共同开发基于定制 ASIC 的基础设施处理单元(IPU)。在现有披露中,至强 Xeon 负责编排调度、数据处理和系统级优化,IPU 则卸载网络、存储与安全等基础设施任务,目标是提高异构 AI 系统的利用率、能效和总体拥有成本。

这表明英特尔押注的并不是用一颗芯片包办所有计算,而是让 CPU 与专用加速器协同工作。Xeon 与 IPU 的合作目前主要面向云和数据中心系统,不应直接等同于机器人本体计算平台。

端侧路线仍处于更早阶段。据 A5 转述的会议信息,Intel 计划在 2027 年初推出 Nova Lake,并在 2028 年推出据称具备 700 TOPS 的 Razor Lake AX;但这些信息来自路线图表述,并非正式产品发布或供货承诺。

选型时,算法和多模型团队应先评估英伟达 GPU/CUDA;固定模型高吞吐服务在工具链与部署条件匹配时,再评估 Google TPU 或 ASIC;云平台应按任务组合 GPU、TPU、ASIC 与 CPU/IPU,测试实际利用率和总拥有成本;机器人 OEM 则应先基于现有可采购平台完成整机实测,而不是按远期 TOPS 规划产品。Intel 未来路线图可以列入观察清单,但现阶段不能作为供货依据。

© 版权声明
THE END
喜欢就支持一下吧
点赞0 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容