APoV 003CPU，和Agent时代的CPU

让一个 coding agent 去修 bug 时，它先想几秒，决定读三个文件；再想一下，改两行代码，跑一遍测试；测试挂了，它读报错，再想，再改，再跑。十几轮下来，前后几分钟。

这样的场景在一个程序员的日常里一天要重复几十遍。把这几分钟拆开看，昂贵的 GPU 其实只在“想”的那几秒钟里出力；读文件、装依赖、编译、跑测试、开浏览器查文档，所有“动手做”的活全都落在 CPU 头上。剩下的时间里，两边都在干等：等网络返回，等磁盘读写，等上一轮工具跑出结果。

图 1 画的只是单次任务的切片。放到真实的机房里，GPU 在空档期早就被别人的请求填满了，不会真的闲着；反倒是跑工具的沙箱，在模型思考的那几秒里多半无事可做，却得一直占着内存等下一轮指令。

放到两年前的 Chatbot 时代，这算不上问题。一次对话就是一问一答，CPU 只是给 GPU 递材料的配角。但过去半年，agent 处理长程任务的能力突然跨过了门槛，“想”和“做”动辄要来回交替几十上百轮，CPU 第一次被推到了关键路径上。它跑得快不快，直接决定整件事什么时候能收工。半年来的产业新闻几乎都在围着这件事转。9 月 21 日 AMD 市值盘中首次突破一万亿美元；Intel CEO 陈立武在 Splunk 年度大会上直言，公司眼下只能满足客户大约一半的 CPU 需求；NVIDIA 开始把自研 CPU 单独拿出来卖；连靠卖授权吃了 35 年饭的 Arm，也第一次下场卖起了自己的芯片。

CPU 这个老配角，到底是真迎来了第二春，还是又一轮概念炒作？

管家、力工和陪练

先看 CPU 在今天的 AI 系统里到底干什么。粗略拆开，它身上有三份差事：给 GPU 当管家，替 agent 做力工，在幕后陪模型训练。

给 GPU 当管家是最老的一份差事。任务调度、数据搬运归它管，推理引擎本身的分批调度、内存分配、前缀匹配也全跑在 CPU 上。SGLang 团队测算过，一套没做过针对性优化的推理引擎，最多能有一半时间耗在这些 CPU 开销里。到了长对话和 agent 场景，管家手里又多了一件重活：替显存暂存 KV cache。模型读过的上下文会留下一串中间状态，留着它，下一轮就不必重算；一旦显存塞不下，或者 agent 停下来等外部工具返回，这团状态就得先卸到 CPU 内存里寄存。这份差事重了多少，市面上最爱引用的指标是服务器里 CPU 和 GPU 的“颗数比”。Intel 在一季度财报会上透露，训练机器大约是一颗 CPU 配 7 到 8 颗 GPU，推理已经收紧到 3 到 4 颗，到了 agent 还会继续往 1:1 推；AMD 的苏姿丰也给过类似的说法。

大方向没错，但“颗”是一把太粗的尺子。一颗 64 核和一颗 288 核在账面上都算“1”，而且跑 agent 工具的沙箱多半在另一群独立的 CPU 服务器上，NVIDIA 自己都在单卖整柜的 Vera，GPU 机箱里的颗数比根本数不到它们。真要把账算明白，得看每颗 GPU 背后实际分到了多少 CPU 核、多少内存（图 2）。在 x86 主机的 8 卡机箱里，从 DGX H100、B200 到 B300，颗数比一直是 1:4，每颗 GPU 分到的物理核始终停在 14 到 16 个，三年没怎么动。真正大改的是 NVIDIA 自研 CPU 的整柜。从 GB200 NVL72 到 Vera Rubin NVL72，颗数比维持 1:2 不变，每颗 GPU 分到的核也只从 36 个微涨到 44 个；唯独配给每颗 GPU 的 CPU 内存从 240GB 猛增到约 750GB，翻了三倍。核没多几颗，内存却翻了三倍，多出来的容量，一大半就是冲着暂存 KV cache 去的。

第二份活是替 agent 出力工，也就是开篇修 bug 场景里的“做”，涵盖跑代码、编译、跑测试、拉起无头浏览器、解析 PDF 和网页，全部关在一个个隔离的沙箱里完成。佐治亚理工和 Intel 的研究者剖析过五类典型 agent，发现在最重的一类负载里，工具处理能吃掉端到端时延的九成左右。但同一篇论文也给出了另一面：像 Toolformer 这类偏重推理而工具较轻的负载，在较弱的 GPU 上模型推理占了约 88% 的时间，换到 H200 上仍然占 77%。所以不能一概而论地说 agent 都卡在 CPU 上。到底卡在哪一头，取决于调的是什么工具、配的是多快的 GPU。

第三份活在幕后：给模型当陪练。强化学习（RL）里，模型每试一步，都要有个真实环境去编译、跑单测、判分；预训练阶段的数据清洗、去重和合成数据生成同样是吃 CPU 的大户，只是不在这条线上。据 SemiAnalysis 报道，几家前沿实验室为了凑够跑 RL 的算力，已经在越过云厂商直接下场抢购 x86 服务器。这份需求平时不在用户眼前，却很可能是今年最先把通用 CPU 库存吃紧的源头。

更有意思的是，训练和推理正在长成同一副样子。OpenAI 在 2025 年初发布 o3 时，卖点还是模型在回答中途会自己跑段 Python、搜个网页来核对答案；一年半过去，这种“边想边做”已经被拉长成按小时计的无人值守任务。9 月 22 日 Anthropic 发布 Claude Opus 5.5 时放出的客户反馈里，有人把跨六个代码库的工程任务交给它通宵跑，连续 18 个多小时没跑偏；几天后 Google 宣布向安全伙伴定向开放的 Gemini 4 Argon，自己找出、验证并修补高危漏洞，在长程软件工程测试 DeepSWE 上拿到了 77.9%。模型外面的调度框架（harness）也在跟着变形。OpenAI 把支撑 Codex 和 ChatGPT 的底座拆出来做成自带托管沙箱的 Agents API，上下文快满时自动压缩；Claude Code Projects 干脆把一次对话拆成多条并行的云端会话，合上笔记本接着跑。过去只在强化学习里跑的“执行、打分、再想”，如今成了线上推理的日常，步数一拉长，管家、力工、陪练这三份活就拧成了一股绳。

不过，这里最容易算错的一笔账，是把 agent 花掉的墙钟时间全部算到 CPU 头上。我看到不少文章拿“agent 要调工具、要联网”来论证 CPU 需求暴增，这其实把“干活”和“干等”混在了一起。一个进程在等外部 API 返回或下载网页时是挂起的，几乎不烧 CPU。佐治亚理工那篇论文里正好有正反两个例子：化学 agent ChemCrow 在论文初版里测的是文献检索，4 到 10 秒里相当一段是在等 arXiv 下载；到了修订版，研究者把剖析的工具换成 RDKit 分子构象计算，算大分子时工具占掉 85% 到 88% 的时间，这才变成了实打实的 CPU 负载；而全篇工具占比最高的那一项（约九成），来自 RAG 在 115GB 本地语料上做精确向量检索。真正烧 CPU 的是编译、测试、网页渲染、向量检索和 RL 判分，如果不把“等网络”的空档摘出来，算出来的 CPU 市场会虚胖好几倍。

但等待不烧 CPU，不代表它不花钱。一个挂起等待的沙箱照样占着内存和网络连接；GPU 那一头也一样，这段对话的 KV cache 要么继续霸着昂贵的显存，要么就得搬到 CPU 内存和硬盘上，等工具返回再搬回来。NVIDIA 的推理框架 Dynamo 就是这么处理工具调用的，它的文档特意提醒过：一次 2 到 30 秒的工具停顿，就足以让整段前缀缓存被挤出显存，下一轮只能从头重算。所以等待这笔账，最后大半记在了内存头上。

从笔记本搬进机房

除了步数变多，过去一年还有个更隐蔽的变化：那些“动手做”的活换了地方。Claude Code 和 Codex 是这一年最出圈的两个 coding agent，最初大家都是装在本地电脑上用。模型在云端思考，编译、跑测试、开浏览器烧的则是本地桌面上那台笔记本的 CPU。但执行上云的苗头去年就露出来了：OpenAI 在 2025 年 5 月推出云端 Codex，让每个任务跑在独立的云端沙箱里；Anthropic 同年 10 月也给 Claude Code 补上了云端版本。到了今年下半年，头部公司新发的 agent 产品几乎全把执行搬进了机房，而且从写代码一路吹到了团队协作和个人日常。Meta 9 月推出的个人 agent Muse 给每个用户配一台专属的云端虚拟机；Anthropic 同月改版的 Claude Code Projects 把单次对话拆成多条并行的云端会话；OpenAI 9 月底发布的 Dots 干脆给每个分身配一台云端电脑，关掉网页也接着干活。

搬家的原因其实很朴素。agent 的任务越拖越长，动辄跑上几个小时，人的笔记本却要合盖、断网、塞进包里带走；更何况它要开浏览器、装依赖、改文件，留在本地就得和人抢同一块屏幕、同一份内存。挪到云端之后，换台手机也能接着看进度，团队成员能围着同一个环境协作，就算把系统搞崩了也只坏在一台虚拟机里。更根本的还是并发量：当一个人手里同时支使着五六个 agent 各自干活，没有哪台轻薄本扛得住。Claude Code Projects 允许单个账户每天新开 200 条线程，每一条背后都是一次完整的云端会话。

对服务器 CPU 来说，这次搬家比任何跑分都实在。过去本地 agent 干活烧的是用户自己掏钱买的电脑，一分钱也不进云厂商的机房账本；搬上云之后，每一次编译、每一个浏览器标签页，都变成了数据中心里实打实的 vCPU 和内存采购。拿 Claude Code 的云端会话来说，每个会话背后是一台独立的 x86_64 Ubuntu 虚拟机，分到约 4 个 vCPU、16GB 内存和 30GB 磁盘。沙箱服务商 E2B 公布过一组累计启动量，能看出这条曲线拉得有多陡：2024 年 3 月每月启动约 4 万次，2025 年单月跨过 1,500 万次，到 2026 年 6 月初累计启动突破了 10 亿次。所以今年这波服务器 CPU 紧缺，里头既有 agent 新增出来的活，也有一截是原本散落在千千万万台个人电脑上、如今集中搬进机房的存量。至于这批沙箱合起来到底要吃掉多少颗 CPU，放到下一节算总账时再拆。

住进机房之后，这些沙箱大致分化出了两种住法。一种是按任务领房卡，来一个任务起一台干净的虚拟机，干完就拆，Claude Code 的云端会话走的就是这条路。另一种是长期包房，Muse 给每个用户留一台专属虚拟机，Grok Bot 的几个分身共用一台云端电脑，每个 Dot 也守着自己的云端环境，手机和桌面客户端只是跟它说话的对讲机。替个人打理日常事务的 agent 显然更需要后一种，因为它跟进的事前后咬合：浏览器里的登录态、改了一半的表格、上周聊起过的文件，每次从零重建实在太蠢。这类常驻型 agent 接下来只会越来越多。

但落到机房底层，“按次开房”和“长期包房”的界线并没有表面上那么清楚。Claude Code 的会话哪怕不关，闲置几分钟也会自动暂停，只把文件留着，等下一条消息进来再唤醒同一台虚拟机；Projects 的各个线程在两轮交互之间同样会挂起沙箱。说到底，常驻保住的是状态，不是让 CPU 在那儿 7×24 小时空转。看清这一点，才能看懂云端 agent 真正把哪件硬件先逼到了墙角。

最先见底的是内存

沙箱住进机房以后，决定一台物理服务器能塞下多少个 agent 的，往往不是 CPU 核数。虚拟化隔离本身的税已经压得很低。像 Firecracker 这样的极简微虚拟机（microVM），每台的虚拟化层开销不到 5MB，125 毫秒就能拉起来；网络、存储和虚拟化调度这些杂活，在 AWS 这类云上也早就卸载给了专用的 Nitro 加速卡，整台宿主机的算力和内存几乎全能留给租户。真正吃地方的是沙箱肚子里装的家当。代码仓库、语言运行时、依赖包，再加一个无头浏览器，随随便便就是几百 MB 到几个 GB。CPU 核很好超卖，同一个物理核可以轮流切给十几个沙箱分时复用；内存却极难这么糊弄，装进去的依赖和页面只要没释放，就得一字节不少地占着地方。

哪怕宣传上叫“每个人一台 7×24 在线的云电脑”，底层也绝不会让它 7×24 小时占着算力。以 E2B 为例，沙箱暂停时会把文件系统连同内存状态一起打成快照存盘，唤醒时再原样接上；睡着的那段时间收的是硬盘的钱，不是算力的钱，市面上多数沙箱服务商都是这么计费的。只不过同样叫“暂停”，各家的手艺不一样：E2B 这种是真快照，停下来就能把内存腾给别人；Claude Code 的云端会话闲置几分钟后虽然也会暂停并保留文件，但官方文档并没有说明内存是否随之释放。这两种做法差出去的，就是一台宿主机到底能叠多少个沙箱。

真把快照做透了，还能省下另一笔内存。Firecracker 从快照恢复微虚拟机时，并不会傻乎乎地把整块内存一次性读进物理 RAM，而是用到哪一页才从磁盘拉哪一页，只有当某个沙箱真去改写那一页时才复制一份副本；这意味着从同一个基础快照拉起来的一百台微虚拟机，底下只读的运行时和依赖包其实共用着同一份物理内存页。唯一要额外操心的是安全：同一个快照被克隆上百次，里头的随机数池和机器标识也会一模一样，唤醒后得立刻重播一遍熵源。

偏偏内存就是 2026 年最紧的那个瓶颈。上半年服务器 CPU 先缺货，整机装不出来，美国几家云厂商手里一度积压了一批 DRAM 库存，采购上干脆把部分机器的单条内存从 96GB、128GB 降到 32GB、64GB，一边控成本，一边迁就拿得到的 CPU 数量。但这种喘息只维持了半个季度。三季度服务器 DRAM 合约价预计环比再涨 13% 到 18%；到了四季度，CPU 交付稍微松快一点，云厂商立刻回头追买通用服务器的内存，给出来的理由正是支撑 agentic AI。按 TrendForce 给出的 2027 年初步排产，服务器内存条（RDIMM）的位元供给只能增长 15% 到 20%，仍然追不上服务器 CPU 的出货增速。CPU 和内存本来就是成套下锅的，哪头短缺，都会把另一头一起卡住。

实在插不下的时候，一个救急的办法是给 CPU 外挂内存。CXL 标准干的就是这件事：在主板直连的 DDR5 插槽之外，再通过高速互连通道挂出一层内存池。2025 年 11 月，微软 Azure 开始私测业内第一款用 CXL 扩展内存的云虚拟机，控制芯片厂商 Astera Labs 称这能把单机内存容量往上扩 1.5 倍以上。CXL 的延迟确实比直连 DDR5 慢一截，但拿来装那些九成时间在睡觉的沙箱，这点慢刚好无伤大雅。

GPU 跑得太快了

到这儿为止说的都是“量”。步数拉长、沙箱变多、训练环境扩容，它们决定了市场一共要买多少颗 CPU。但水底下还有另一股力量，藏在“速度”里，决定着什么样的 CPU 更值钱。这就是计算机体系结构里那条老掉牙的阿姆达尔定律：一件事里只要有一截没法加速，其余部分跑得再快，总时间最后还是会被这一截拖死。

不妨做个简化推演。假设 agent 的一步原本由“模型想 8 秒”和“工具跑 2 秒”组成。GPU 每隔一代算力翻倍，可工具那 2 秒跑的是编译和单测，满地都是串行依赖和条件分支，就算按 CPU 单核每代提速四分之一来算，三代下来，工具在整步里占掉的时间也会从五分之一膨胀到一半（图 3）。当然，这只是控制变量后的推演。现实里推理模型每一步吐出的思考 token 也在变多，会抵消掉一部分 GPU 的提速，所以单核速度更像一股慢变量，撑起今年这波采购潮的主力仍然是并发的量。佐治亚理工那篇论文里能看到一个横截面印证：同一批 agent 挪到 GPU 更强的机器上，端到端瓶颈立刻往 CPU 那一侧偏了一截。

为什么两边提速的步子差这么多？先看 GPU。大模型推理的底子是矩阵乘法，成千上万次乘加彼此独立，芯片上每多塞一组计算单元，就能直接换来一份吞吐。从 H100 到 B200 就是最典型的大力出奇迹：两代芯片用的是同一代台积电 4N 与 4NP 工艺，B200 却靠把两颗裸片封装在一起、拉高功耗，硬把晶体管数量从 800 亿推到了 2,080 亿。面对这种堆法，一次编译、一个单测根本借不上力。更何况 GPU 手里还有几根 CPU 借不来的杠杆：神经网络能容忍低精度，数值格式从 FP16 一路砍到 FP8、FP4，位数每减半，同样的电路吞吐就大约翻一倍，而编译器和测试框架不可能拿 4 位小数去跑；专做矩阵乘法的 Tensor Core 和紧贴芯片的 HBM 高带宽内存每代都在大改，NVLink 还能把 72 颗 GPU 绑成一台大机器。同样按不掺稀疏水分的稠密 FP8 口径算，隔了两年发布的 B200 单卡算力大约是 H100 的 2.3 倍，切到 FP4 还能再翻一倍。后一倍靠的是换数值格式，算不上同尺度的硬拼，但落到 agent 头上，它实实在在把“想”的时间又砍了一半。

CPU 单核面对的却是另一套物理定律。编译和跑单测是一长串前后咬死的指令，到处是条件跳转。微架构师只能靠分支预测和乱序执行，硬从一条串行指令流里抠出一点并行度，但这口井早就快见底了。图灵奖得主 Hennessy 和 Patterson 在其体系结构经典教材中算过一笔账，要想把猜错分支白费的功压到 10% 以内，每一步分支预测的准确率得做到 99.3%，没几个通用程序能达到。主频这条路也早就封死了：登纳德缩放在 2007 年后明显放缓，到 2012 年前后基本失效，再往上推频率就会撞上功耗墙。结果就是单线程性能的年增速从早年的约 50%，一度跌到 2010 年代后期的每年几个百分点。近几年 AMD 靠 Zen 3、Zen 4、Zen 5 两年代际的迭代，把每时钟周期指令数（IPC）分别往上拔了 19%、13% 和 16%，折合每年一成左右，已经算难得的回暖，但放在 GPU 两年两倍多的步子旁边，还是差着一个数量级。多出来的晶体管只能拿去堆核数，能让一台机器同时多跑几十个沙箱，却没法让眼前这一次增量编译快上几倍。

结果就是，每买回一张更快的 GPU，就得在其旁边配更强的 CPU 和更大的内存，否则新 GPU 省下来的时间全得在等工具里吐回去。NVIDIA 一边给每颗 GPU 配上更大的核和三倍的内存，一边单独出售塞满 256 颗 Vera 的纯 CPU 机柜；Intel 在 Computex 上端出的参考机架，干脆往一个 100 千瓦的机柜里塞进了 36,864 个核。两边补的其实是同一块短板。

何况真实的 agent 往往一步并发好几个工具调用，却得等所有结果到齐了才能进入下一轮思考。整步卡多久，取决于最慢的那一个工具：一次依赖解析卡壳、一个测试容器冷启动，整条链就得陪着干等。对跑沙箱的机器来说，光看平均吞吐还不够，长尾那几次不能掉链子。

这门生意有多大？

回到开篇那些热闹的新闻，服务器 CPU 真是被 agent 沙箱买爆的吗？不妨先在信封背面算一笔粗账。根据 NVIDIA 的官方折算，一个装满 256 颗 Vera 的纯 CPU 机柜，能同时跑 2.25 万个以上互不干扰的环境，折合每颗 CPU 大约 88 个，差不多一核一个。按这个密度推算，就算全球同时有 100 万个 agent 沙箱在跑，也只需要大约 45 个机柜、1.1 万颗 CPU；哪怕把这个数字放大到 1,000 万个并发沙箱，总共也只要 11 万颗左右。按每颗旗舰服务器 CPU 一万到两万美元估算（Intel 旗舰 Xeon 6980P 的官方建议价约 1.4 万美元），1,000 万并发沙箱对应的芯片采购额大约是 11 亿到 23 亿美元。放到 2025 年全球服务器 CPU 约 260 亿到 290 亿美元的盘子里，只占个位数百分比；何况这还是一次性买齐的装机存量，如果摊到 4 到 5 年的服务器折旧周期里，落到每年的采购额还会再小一截。

这当然是一笔极粗的账。全球到底有多少沙箱同时在线，没人交过底；真实环境也未必都像 NVIDIA 排得那么密，Claude Code 给单个会话划的上限就是 4 个 vCPU。但哪怕把密度打个折，量级也不会变。单靠线上 agent 沙箱，还远撑不起 2026 年这轮两三百亿美元的 CPU 行情。至于前沿实验室抢去跑 RL 的那批机器，RL 环境拆穿了也是沙箱，按同一把尺子量，体量同样有限。

那多出来的钱到底花在了哪？顺着大厂的财报往下拆，真正挑大梁的是另外三股力量：跟着 GPU 整机一起出货的 host CPU；2019 到 2021 年上一轮云基建高潮装下的老服务器正好满五年、撞上了常规换代窗口；以及最直接的一项，即缺货带来的全线涨价。线上沙箱确实是增速最陡的新增量，但今年账本上的大头，首先来自芯片卖得更贵了。

Intel 的季报把这件事写得最直白。二季度营收 161 亿美元、同比增长 25%，创下 15 年来的最高增速，其中数据中心与 AI（DCAI）部门拿到 63 亿，暴涨 59%。但翻开它交到美国证监会的 10-Q 细表，服务器芯片出货量其实只多了 9%（其中还混着多少老机器换代，财报根本拆不出来），平均单价却飙了 48%；再往前看一季度更夸张，出货量同比跌了 5%，全靠单价硬拉。单价怎么涨上来的？一半靠客户往高核数型号迁移，另一半就是直接调价。据报道，旗舰 Xeon 6980P 的建议价从 12,460 美元直接改到了 13,955 美元。再加上财报里明写了封装基板和内存都在卡脖子，陈立武那句“只能满足一半需求”，听上去像需求爆表，翻过来读其实也是供给掉链子。

真正在存量牌桌上抢到肉吃的是 AMD。二季度数据中心部门收入 67 亿美元，同比翻了一倍多（其中包含 Instinct GPU，财报未单独拆分 CPU）；更惊人的是其接下来的业绩指引，预计服务器 CPU 收入今年下半年同比增长 80% 以上，2027 年再涨 70% 以上。按 Mercury Research 的统计口径，AMD 在 x86 服务器市场只卖出了大约三分之一的芯片，却拿走了接近一半的收入。出货份额和收入份额中间那十几点的剪刀差，就是高核数、高单价的 EPYC 在最肥的那一层市场赢下来的溢价。

x86 两强之外，云厂商自己的 Arm 芯片也在悄悄切走一大块蛋糕。AWS 过去三年新增的 CPU 容量里，超过一半已经是自家的 Graviton，今年 6 月全面上市的 Graviton5 单颗就堆到了 192 核；微软和 Google 也各自在推 Cobalt 和 Axion。Arm 官方宣称，自己在头部云厂商的 CPU 算力里已经占到大约一半。不过它一直没交代这个“一半”到底是按核数、颗数还是某种算力口径算的，市面上也找不到第三方数据能交叉核实，听个方向就好。

连原本守在另一条赛道上的玩家也挤了进来。NVIDIA 的 Grace CPU 过去十二个月收入已经跨过 50 亿美元；下一代 Vera 开始脱离 GPU 机柜单独出售，黄仁勋在 5 月的财报会上说，今年独立 CPU 业务有接近 200 亿美元的“可见度”。原话指的是按眼下客户询单能看到的需求规模，不少中英文媒体直接写成了“已经卖出 200 亿”，那是把询单当成了入账。另一边，Arm 在今年 3 月端出了自己设计、自己销售的 AGI CPU，136 个 Neoverse V3 核心、台积电 3nm、300 瓦功耗，首发客户是 Meta，名单上还列着 OpenAI 和 Cloudflare。一家靠卖图纸吃了 35 年授权费的公司，终于还是没忍住，下场跟自己的客户抢生意了。

至于这张牌桌到 2030 年能做多大，最耐人寻味的是 AMD 自己连改三次的口径：去年 11 月它还说 2030 年服务器 CPU 市场大约 600 亿美元，今年 5 月翻倍到 1,200 亿以上，到了 7 月的 Advancing AI 大会上又一口气拔高到 2,200 亿。我顺着它每次给出的年复合增速往回倒推，发现三次预测对应的 2025 年基数其实都是二百多亿美元（图 6）。脚下的起点根本没变，变的是往后画线的斜率。

何况各家嘴里的“市场规模”压根不在一个维度上：NVIDIA 说 Vera 打开的是一个 2,000 亿美元的“全新”市场；Arm 把 2030 年的 agentic 数据中心 CPU 算作约 1,000 亿；AMD 高管在投资者会上甚至提过一个 2,800 亿的“CPU 服务器”整机口径。同一个词，装的东西各不相同，既不能相加也没法硬比，当成各家圈地的表态来听更合适。顺便放个参照系：哪怕按 AMD 最激进的 2,200 亿来算，它同一场大会给 2030 年 AI 加速器画的饼是 1.4 万亿美元。CPU 确实从配角熬成了大生意，但放到整个 AI 算力盘子里，它依然是一条变粗的支流。

所以眼下的格局很清楚。x86 手里还攥着存量收入的大头，但最肥的那截新增量，正在被云厂商自研、NVIDIA 捆绑销售和亲自下场的 Arm 分食。

这颗 CPU 给谁用？

钱的流向，反过来也在重塑芯片本身。顺着前面的拆分往下看，今天的服务器 CPU 其实正在裂成两个截然不同的物种。一个是被吞进 GPU 机架里的 host 插槽，专门给 GPU 当贴身管家；另一个是留在外面、越来越像云上通用算力的 agent 执行池，跑着成千上万的沙箱和 RL 环境。过去十年行业争的是 x86 还是 Arm，这个问题还在，但眼下更要紧的问题变成了，这颗 CPU 到底是造给谁用的？

变化最剧烈的是 host 插槽。在 Vera Rubin 机架里，Vera 和 Rubin 之间用每秒 1.8 TB 的 NVLink-C2C 连成一片一致性内存，这时候的 CPU 与其说是一台独立的计算机，不如说是贴在 GPU 身上的大容量外挂缓存和调度器。哪怕是 x86 阵营也得顺着这个模子改：NVIDIA 掏 50 亿美元入股 Intel，条件之一就是让 Intel 替它定制带 NVLink 接口的 Xeon；AMD 计划在 2027 年下半年出货的 Verano（EPYC 9006 LP）更是指明了只给 GPU 当 host，干脆把普通服务器内存换成了 24 通道的手机内存 LPDDR5X，再用自家的 xGMI 总线直连 GPU。这套配方几乎就是照着 Vera 描下来的，用 LPDDR5X 换带宽和能效，用私有高速互连换取和 GPU 的亲密度。

一旦走上这条路，host CPU 就不再是一件能单独比价采购的商品了。客户拍板买哪套 GPU 整柜，里面的 host 芯片就跟着定了下来：买 Vera Rubin NVL72 整柜配的就是 Vera，买 AMD 的 Helios 机架配的就是 Venice。x86 还能守住的，主要是 8 卡机箱这一层，比如 DGX Rubin NVL8 用的就还是 Intel Xeon 6。但这也正是 Intel 最难受的地方：它手里没有一套能大卖的自家 GPU 机柜来捎带自家的 CPU，在最高端的整柜市场只能看别人脸色搭车。

host 插槽会不会彻底变成 GPU 厂商的自留地，取决于连接 CPU 和 GPU 的那根线归谁管。NVIDIA 在 2025 年推出了 NVLink Fusion，允许第三方 CPU 和加速器接入 NVLink，高通和富士通已经宣布把它做进自家的服务器芯片，但前提是整套系统里必须搭着 NVIDIA 的芯片一起买。另一头，AMD、Intel、Google、Meta、微软和 AWS 等巨头抱团组建了 UALink 联盟，在 2025 年 4 月拿出了 1.0 规范，支持把最多 1,024 颗加速器连成一个集群。如果私有互连笑到最后，host 插槽就会一直绑在 GPU 整柜上；只有开放互连真正在机房里站稳了，云厂商才留得住自由混搭 CPU 和加速器的余地。

好在 host 插槽只是半边天。隔着数据中心网络的另一头，跑沙箱和 RL 环境的 agent 执行池，依然是云厂商按需单买、独立扩容的通用服务器。在那个池子里，Intel 靠着 Xeon 6+ 的核密度和自家晶圆厂供货，完全不必搭任何人的车。

而在执行池里，各家路线分叉成了另一场争论，到底该堆大核，还是铺小核？同样顶着“2026 年旗舰服务器 CPU”的名头，几家端出来的芯片简直像两类产品。Intel 的 Xeon 6+ 一口气塞进 288 个能效核，干脆关掉了超线程；AMD 将在今年下半年出货的 Venice 分成两版，密集版堆到 256 核，高频版则缩到 96 核、把主频拉上 5GHz；同在下半年出货的 NVIDIA Vera 只做了 88 个物理核，但每一个都是 10 宽解码的重型大核，背后配着每秒 1.2 TB 的 LPDDR5X 内存带宽。把核心数和每核分到的理论内存带宽画在同一张图上，两种设计哲学一目了然（图 7）。

这两套哲学其实分别对应着前面说的两类负载。图 7 里的每核高带宽，喂饱的是搬运数据、接盘 KV cache 这类管家活；落到执行池里，卡在关键路径上的那一次增量编译、那一个单测，要的是单核主频高、缓存大、内存延迟低；而池子里成千上万个九成时间在等结果的沙箱，算的则是每瓦功耗、每美元成本能塞进去多少个实例。Intel 在 Computex 上同时端出两套参考机架，一套主打低时延、一套主打高密度，画出的就是这条分界线。这两条路接下来大概率会长期并存，机房里的机架会按干的活拆成两种配置。

热闹背后还有个荒诞的现状。直到今天，行业里连一个公认的“agent 基准测试”都没有。AMD 拿自己挑的负载跑下来，宣称 EPYC 整柜吞吐是 Vera 的 2.37 倍；CoreWeave 改测沙箱冷启动速度，又算出 Vera 比 x86 快 3 倍以上。各家都在拿自己能赢的尺子量市场。要是让我来拟一套真正算得上数的基准，里头至少得把三件事写死：单个沙箱的固定规格（比如向 Claude Code 看齐的 4 vCPU、16GB 内存），冷启动和从快照唤醒各自要几秒，以及最慢的那 1% 工具调用到底拖了多久。毕竟前面刚算过，一步走多慢，全看最慢的那个工具。谁能把这套尺子做成行业默认标准，谁就拿到了定义下一代服务器采购的权力。

至于争了十年的 x86 还是 Arm，放到 agent 时代得拆成两类机群来看。x86 攒了几十年的二进制兼容护城河确实变浅了，但远没有填平。在云厂商和模型公司自己掌控的内部机群里，跑的是推理调度和自有服务，软件栈从头自己写，重新编译一遍就能切到 Arm，比的无非是每瓦性能和谁能按时交货。但到了要复现外部真实环境的沙箱，不管是用户的 coding 沙箱还是实验室的 RL 训练场，无数现成的 pip 轮子、npm 原生模块和历史 Docker 镜像默认还是 x86 架构；Claude Code 的云端会话至今清一色跑在 x86_64 虚拟机上，官方文档甚至专门提醒用户优先选 x86_64 的预编译依赖，前沿实验室抢去跑 RL 的同样是 x86 服务器。所以 Arm 在这一轮确实比传统 SaaS 时代拿到了更多船票，但船票主要发在厂商自控的后厨，还没发进千奇百怪的用户沙箱里。

面对 Arm 的步步紧逼，x86 阵营做了一件罕见的事。Intel 和 AMD 在 2024 年 10 月放下成见成立了 x86 生态咨询小组，一年里紧锣密鼓地统一了 AVX10 向量指令、ACE 矩阵扩展和 FRED 中断模型，还补上了 Arm 早就具备的内存安全标签 ChkTag，先把自家指令集的碎片化收拾干净。至于更远一点的 RISC-V，今年也有两桩进展。NVIDIA 在 Hot Chips 2026 上拉着 SiFive 讲了 CUDA 支持 RISC-V 主机 CPU 的硬件标准，阿里也端出了面向服务器的玄铁 C950；不过未来两三年里，它的主战场大概率还是中国本土替代市场和加速器内部的控制核，暂时还挤不进主流云的通用执行池。

把眼光收回到眼下这一两年，真正决定市场份额的甚至不是微架构谁设计得更巧，而是谁能从晶圆厂拿到现货。AMD 的 Venice 用台积电 2nm，AWS 的 Graviton5 和 Arm 的 AGI CPU 用 3nm，全都得和利润率更高的 GPU、旗舰手机芯片抢同一批先进产线。按 SemiAnalysis 的测算，光 AI 芯片到 2027 年就会吞掉台积电 N3 产能的 86%。Intel 手里最大的牌是自己有厂，Xeon 6+ 就跑在自家的 18A 产线上；可尴尬的是它现在连自家客户都只能喂饱一半，而且最缺的恰恰是成熟主力节点。走量的 Granite Rapids 用的 Intel 3 产能最紧，封装基板更紧，只能硬把其他产线的配额往数据中心挪。至于下一代 14A 节点，官方口径是内部产品要到 2027 年下半年才风险试产、2028 年量产爬坡，哪怕按坊间传闻把风险试产提前到 2027 年一季度，也远水解不了这一轮的近渴。在这个时间窗口里，买方的逻辑很简单：先买到货，再去改软件。

接下来呢？

写到这里，最初那个问题差不多有了答案。CPU 的这一春不是炒出来的，但它也不是大多数报道渲染的那种“主角换人”。GPU 依然握着算力投资的大头，只是当 agent 把“做”的步骤拉长、并发铺开、执行搬进云端，而 GPU 自己又跑得太快，原本退居幕后的 CPU 和内存就一起被拽上了关键路径。

只是这本账里，还有不少数字悬在半空。我最想看到的，是哪天云厂商或研究机构开始按“完成一个真实 agent 任务到底烧了多少 CPU 秒、占了多少 GB·小时的内存”来报数。在那之前，像“CPU 与 GPU 配比走向 1:1”或者“需要 4 倍核心” 这类口号，听听就好，没法直接拿来算市场规模。同样悬着的还有 Arm 自称的“头部云厂商占一半”，以及黄仁勋口中那 200 亿美元的独立 CPU 收入可见度。它们到底是实打实的格局逆转，还是缺货周期里的乐观外推，接下来几个季度的出货数据和财报自会给出答案。

技术路线上最大的悬念在沙箱那一头。快照和挂起会不会变成所有云端 agent 的默认底座？如果会，“人手一台 7×24 云电脑”拉动的主要是冷存储和按需唤醒的峰值调度，常驻的 CPU 和内存能省下一大截；如果不会，内存墙会比 CPU 更早把单机密度卡死。

最后还得留心价格周期。今年各家服务器 CPU 收入暴涨，第一功臣其实是涨价，而在全行业缺货的时候，下游买家往往会恐慌性地多下几道重复订单。眼下 Intel 的 18A 正在爬坡、产能在往数据中心倾斜，AMD 的 Venice 也从今年四季度起分批交货，供给最快在 2027 年就会陆续追上来。等到交期缩短、单价松动的那一天，账面收入增速回落的速度，很可能会比真实算力需求的增速掉得更猛。

过去三年，算 AI 的账只需要数清机房里有多少张 GPU。接下来这几年，这本账得换一种算法了。除了数 GPU，还得数每张卡背后配了多少内存，数执行池里有多少颗核，顺便数一数，那些正挂在硬盘和内存里睡觉的沙箱，到底占了多大的地方。