AMD挑战英伟达全栈壁垒,一文读懂AMD AAI2026

36氪的朋友们·2026年07月24日 08:16
从芯片竞争到系统竞争

7月24日,AMD在Advancing AI 2026大会上发布Helios机架级AI平台和第六代EPYC“Venice”服务器CPU。其中,Helios搭载新一代Instinct MI455X GPU、Venice CPU及Pensando网络系统。AMD还发布了面向科学计算的MI430X、PCIe形态的MI350P、ROCm.AI,以及面向本地Agent和机器人的“Gorgon Halo”与Kria AI Robotics开发者平台。

苏姿丰为这场发布设定了清晰的主线:AI计算正在从训练加速转向推理,Agent又把一次模型调用扩展为持续推理、工具调用和任务执行。AMD预计,2026年全球约60%的AI算力将用于推理。她说,Agent既需要“大量GPU完成推理”,也需要“大量CPU编排每一个步骤”。

对应这一变化,AMD将战略归纳为计算领先、开放平台和“让AI无处不在”。其中,Helios是核心:AMD希望把GPU、CPU、网络和软件组织成一套完整的AI工厂平台,将竞争从单颗芯片推向机架吞吐、Token成本和系统交付。

01 MI455X与Helios,竞争走向系统级

MI455X和Helios是这场发布的重点。

MI455X配备432GB HBM4,显存带宽达到23.3TB/s,峰值MXFP8算力为20PFLOPS,峰值MXFP4算力为40PFLOPS。与上一代MI355X相比,其显存容量最高提升1.5倍,显存带宽最高提升2.9倍,低精度峰值算力最高提升4倍。

显存是这一代产品升级的重点。随着模型参数扩大、上下文长度增长,推理需要长期保存更多权重和KV Cache。MI455X对计算、缓存、显存和互连的同步升级,最终指向的是更高的真实负载效率。

AMD还给出了MI455X在DeepSeek V4 Flash FP4推理中的代际比较。在预生产或参考硬件、特定模型和配置下,MI455X的Token吞吐最高达到MI355X的34倍,Token成本最高降低18倍。这一提升包含硬件、低精度计算和软件优化等多重因素,仍需等待量产产品验证。

单颗GPU之外,Helios承担着更重的战略任务。

在苏姿丰看来,前沿AI已经无法依靠单颗芯片或单台服务器满足需求,“整个机架必须作为一个系统来设计”。CPU负责调度和执行,GPU承担模型计算,高速网络连接机架内外,软件则决定这套硬件能否快速部署并持续优化。Helios正是AMD对这一变化的回应。

传统72卡集群通常由9台八卡服务器组成,再通过Scale-out网络连接。每台服务器拥有独立内存,GPU之间的通信需要经过多次网络跳转,容易引入延迟、拥塞和数据局部性约束。

Helios把72颗MI455X组织成一个统一的机架级系统,提供约31TB HBM4和260TB/s聚合Scale-up带宽。AMD将这种变化概括为“机架成为新的系统”。

整套Helios由18个计算托盘和6个交换机托盘组成,通过UALoE Scale-up Fabric将72颗GPU连接在同一个计算域内,实现机架内单跳互连。每颗GPU到其他GPU拥有一致的带宽条件,软件可以减少对网络拓扑和数据局部性的适配。系统采用多平面Fabric和冗余路径,链路或交换节点发生故障后,流量可以切换至其他可用路径,故障则被隔离在局部范围内。

这种架构也意味着AMD需要在GPU密度和Host CPU能力之间做出平衡。Helios每个计算托盘采用“1颗CPU+4颗GPU”的配置。

现场有媒体追问,这一比例是否主要为了压缩成本,CPU会不会成为系统瓶颈。AMD回应称,其目标是在机架内布置尽可能多的GPU,而Venice单颗CPU提供的核心数、内存容量和I/O能力足以支撑4颗GPU,因此1∶4是当前设计下的平衡点。真正进入Agent和复杂推理负载后,这一比例能否长期保持充足余量,仍需要客户部署进一步验证。

Helios的系统工程也延伸到供电、液冷、布线和维护。官方资料显示,整机架功耗约为225至245kW,具体取决于工作负载;计算托盘、交换机托盘和冷却歧管均采用模块化设计,可以在机架内完成部分维护,减少整体拆卸和停机。

不过,模块化目前更多解决的是服务和维修问题。现场有媒体进一步追问,Helios未来能否持续升级,CPU、GPU和网络组件是否可以随着产品迭代直接替换。AMD没有给出明确的跨代兼容承诺,只表示当前系统已经为模块化和可维护性进行了设计,未来还会继续改善升级和服务能力。这也意味着,Helios能否从一套模块化机架,进一步演变为能够保护客户长期硬件投资的平台,还要看MI500及后续系统的接口和架构安排。

苏姿丰在Keynote中反复强调,客户最终关心的是每一笔投入能够服务多少用户、生成多少Token。随着推理预算持续增长,峰值算力需要转化为固定功耗下的吞吐和更低的单Token成本。

在基于Kimi K2 Thinking、预计系统价格和不同交互性区间的建模中,Helios每美元Token产出最高可比NVIDIA Vera Rubin NVL72高30%;在特定交互性条件下,单GPU Token吞吐高出约10%至15%。这些结果仍建立在预生产系统和价格假设之上,量产后的性能、定价和运行成本,才会决定Helios能否真正兑现其系统级优势。

图: AMD Advancing AI 2026现场展示的Helios Demo

AMD为Helios设计了三层网络体系:Salina DPU负责前端网络、存储与安全卸载,UALoE承担机架内72颗GPU的Scale-up互连,Vulcano AI NIC则支持多个Helios机架之间的Scale-out扩展。三者分别覆盖服务器入口、机架内部和跨机架集群的数据路径。

其中,UALoE将72颗GPU和约31TB HBM4连接在同一Fabric中,提供260TB/s聚合带宽;Vulcano支持800G和PCIe 6.0,每颗GPU最高可获得2.4Tbps Scale-out带宽;Salina则通过硬件卸载减少CPU在网络、存储和安全任务上的消耗,并面向长上下文提供KV Cache扩展能力。

随着这三层网络进入Helios,Pensando也从独立的云基础设施业务,成为AMD AI平台的核心组成部分。

02 Venice:EPYC从传统服务器进入Agent工作流

Helios发布之后,AMD把相当篇幅留给了服务器CPU。在苏姿丰的判断中,Agent带来的计算增量并不只落在GPU上。一个Agent任务还要执行代码、查询数据库、调用工具,并协调大量并行步骤,这正在形成一类新的服务器负载。她预计,Agent数量将从百万级走向十亿级,服务器CPU市场也将随之显著扩张。

AMD同步发布第六代EPYC 9006系列服务器CPU,代号Venice,面向云计算、企业数据中心和AI。官方将其定义为一组针对现代数据中心不同需求设计的CPU产品,而非单一旗舰型号。

Venice产品家族包括四条主要路线:

EPYC 9006 SP7“Venice”面向高核心数和高性能;EPYC 9006 SP8“Venice”侧重企业场景下的系统性价比;EPYC 9006X SP7“Venice-X”面向HPC和AI数据预处理;EPYC 9006 LP“Verano”采用LPDDR内存,面向高性能AI Host Node。

Venice最高提供256个核心和512个线程,采用Zen 6架构,并支持PCIe 6.0以及不同DDR5、MRDIMM和LPDDR配置。这套组合覆盖通用计算、企业应用、HPC、GPU Host和AI预处理。

进入Agentic AI时代,一个完整Agent流程包含网关、上下文组装、规划、检索、工具执行、验证和输出,其中大量环节运行在CPU上。随着多个Agent并行执行,CPU核心密度、内存带宽、虚拟化和I/O能力会影响任务调度与沙箱并发。

服务器CPU也是AMD已经取得明显进展的业务。官方材料显示,EPYC服务器CPU收入份额达到46%,并称每周都有一家Forbes Global 2000企业转向AMD,同时已有475个以上EPYC平台和1600个以上EPYC云实例。

Venice接下来的竞争一方面来自Intel Xeon。AMD希望继续依靠核心密度、性能功耗和服务器整合能力扩大份额。另一方面,NVIDIA Vera与Arm服务器CPU正在进入AI机架,CPU竞争开始与GPU平台和系统架构绑定。

03 ROCm.AI:AMD用AI降低GPU软件开发门槛

软件是这次发布中新增的重要看点。

AMD正式推出ROCm.AI,并将其定义为一个面向开发者的AI驱动平台。ROCm是AMD现有的基础软件栈,ROCm.AI在其上加入AI辅助能力,用于GPU代码生成、迁移、调试和性能优化,并支持与Cursor、Claude、Codex、Gemini等工具或模型配合。

ROCm.AI的核心目标,是降低底层GPU编程与CUDA迁移的复杂度。开发者可以借助AI分析代码、转换CUDA与HIP实现、定位性能瓶颈,并生成优化建议。

AMD还重点介绍了FlyDSL。它采用Pythonic DSL,让Python开发者更专注算法表达,减少线程、内存和底层调度等GPU编排工作。AMD称,在相关示例中,FlyDSL可以用更少复杂度达到相同或更好的性能。

ROCm.AI计划于2026年8月提供。AMD披露,Hugging Face上超过300万个模型可以在AMD平台开箱运行,排名前十的开源AI项目已原生支持AMD,相关开源贡献数量增长超过10倍。

这些数据体现出ROCm生态的扩展速度,但软件平台的真正竞争力还取决于模型适配时效、算子性能、迁移成本和生产环境稳定性。对AMD而言,ROCm.AI的重要性在于把软件补齐从底层支持推向开发体验。

04 本地Agent:从云端推理延伸到个人设备

在客户端侧,AMD此次并未发布一款新的锐龙处理器,而是围绕现有的锐龙 AI 400、锐龙 AI MAX及基于后者打造的Ryzen AI Halo开发者平台,展示本地AI推理能力、软件生态和企业级Agent方案。

AMD将本地AI加速归因于三项需求:数据无需交由第三方处理、可降低高频推理产生的持续Token成本,以及在断网环境下保持可用。与此同时,小模型的能力和效率持续提升。

从硬件能力看,锐龙 AI 400面向约24B以内的模型,锐龙 AI MAX则可支持更大规模的本地模型。Ryzen AI Halo开发者平台配备最高128GB统一内存,AMD给出的目标能力是原生运行最高约200B参数模型。

AMD还预告了代号“Gorgon Halo”的后续平台,统一内存将提升至192GB,本地模型规模上限扩大至约300B。

企业级Agent则是AMD推动本地AI落地的另一重点。AMD与思科联合展示了一套端侧全栈方案,将锐龙 AI Halo硬件、Lemonade本地推理、模型路由和Agent沙箱,与思科的网络、安全、策略控制及可观测能力结合。企业可以据此限制Agent访问范围、统一执行安全策略,并持续跟踪推理成本、Token效率和实际使用情况。

由此看,AMD希望将个人设备从调用云端AI的交互终端,进一步升级为能够在本地承载模型、运行Agent并接受企业统一治理的计算节点。云端仍承担更大规模和更复杂的任务,本地设备则承接对隐私、成本、响应速度和离线能力要求更高的工作负载。

05 Physical AI:芯片、模块、软件与生态同时落地

Physical AI部分包含五项明确发布,覆盖机器人计算从芯片到生态的多个层级。

第一项是Ryzen AI Embedded X100系列。它将CPU、GPU和NPU集成到同一平台,面向机器人感知、推理、规划和控制,目前已经进入送样阶段。

第二项是基于X100系列的Kria AI System-on-Module。该模块采用120×120毫米COM-HPC开放标准形态,集成CPU、GPU、NPU和统一内存,面向量产机器人。AMD列出的测试示例包括低于100毫秒的VLA推理、125微秒的实时控制循环和低于0.4毫秒的视觉分类,其中部分结果来自合作伙伴测试,不能直接外推至其他工作负载。

第三项是Kria AI Robotics Developer Platform。AMD将其称为“业界首个开放、交钥匙、一体化机器人开发平台”,用于整合计算硬件、传感器、软件和参考系统,计划于2026年第四季度可用。

第四项是AMD Robotics Software Suite,包括Robotics Core SDK、Physical AI SDK、加速ROS节点、MoveIt 2,以及音频、操控等优化模块。它基于ROCm与HIP,强调从云端到机器人使用统一的AI软件栈,目前处于Early Access。

第五项是AMD Robotics Partner Network,首批包括30多家伙伴,覆盖机器人OEM和ODM、AI模型、传感器、中间件、仿真、数字孪生与系统集成。

至此,AMD在Physical AI领域形成了芯片、量产模块、开发平台、软件和合作伙伴网络的基本结构。它与数据中心侧的策略保持一致:用异构计算覆盖不同任务,再用开放软件和伙伴体系完成系统集成。

06 从芯片竞争到系统竞争

过去几年,AI基础设施的叙事高度集中在GPU。推理和Agent正在重写AI的范式和算力的账单,属于GPU的阶段正在过去。

图:AMD数据显示,全球AI训练算力需求自2020年以来每年增长约5倍,但算力支出结构正加速转向推理。按照AMD内部预测,推理在AI工作负载中的占比将从2024年的40%升至2026年的60%,成为最大的AI计算负载。

推理是持续经营成本,Agent进一步拉长任务链,一个请求可能触发多轮模型调用、检索、工具执行和校验。算力客户真正承担的成本来自GPU、CPU、网络、存储、电力和软件调度的总和。

市场评价基础设施的方式也随之变化:从单颗芯片性能,转向每机架吞吐、单位Token成本、集群利用率和故障容忍能力。竞争单位从一颗GPU变成一整个机架,甚至一座数据中心。

英伟达早已看到这一点。它把GPU、CPU、互连、网卡、DPU、交换机和CUDA组织成高度一体化平台。Vera Rubin NVL72代表的不只是性能,更是系统控制力:从芯片设计到网络拓扑到整机交付,几乎掌握每一个环节。客户买的也是性能确定性、软件兼容性和部署速度。

AMD选择的路径是开放架构,对头部客户而言,这意味着更大的硬件选择权、更强的定制空间,以及重新获得议价能力。

但开放的优势伴随更高的执行难度,AMD需要联合芯片、服务器、网络、云平台和软件伙伴共同交付。开放标准扩大生态,却不自动带来效率,比如兼容验证、性能调优等都会因参与方增加而更复杂。

与此同时,推理占比上升让“价格”重新变得敏感。训练时代客户为最强性能支付溢价,因为更短训练周期直接决定发布时间,Agent时代的采购逻辑更接近长期运营,模型每天持续运行,Token规模越大,成本越敏感。AMD把核心指标放在Tokens/$上,正是抓住这一窗口。

硬参数已经足够亮眼,但是AMD眼下真正的挑战,是这套“系统级架构”的实际运行能力,ROCm需要继续缩小与CUDA之间的迁移使用成本,Helios也需要逐渐把头部客户参与共创的经验沉淀下来,变成更多客户可以直接采用的标准化方案。

这也是Advancing AI 2026之后更值得观察的部分。

本文来自“腾讯科技”,作者:晓静,编辑:徐青阳,36氪经授权发布。

+1
8

好文章,需要你的鼓励

参与评论
评论千万条,友善第一条
后参与讨论
提交评论0/1000
特邀作者

TA没有写简介,但内敛也是一种表达

36氪AI测评

选靠谱AI,看真实评测
查看
36氪AI测评官方交流社区
加入

36氪寻求报道

咨询报道审核和入驻
联系
36氪寻求报道订阅号
关注

下一篇

LG联合松下起诉亿纬锂能电池专利侵权。

47分钟前

36氪APP让一部分人先看到未来
36氪
鲸准
氪空间

推送和解读前沿、有料的科技创投资讯

一级市场金融信息和系统服务提供商

聚焦全球优秀创业者,项目融资率接近97%,领跑行业