想象一下一个分析公司财务档案的企业应用程序。

今天,该应用程序收集收益发布和相关市场数据。它通过 API 将该信息发送到 Claude 等封闭模型,等待响应,并向用户呈现结果分析。

该模型可能在数千个昂贵的加速器上运行。但这些都不会改变企业应用程序的硬件堆栈。从开发人员的角度来看,应用程序只是等待模型响应。

现在改变任务。

模型必须编写并运行代码来完成工作,而不是简单地进行分析。如果代码失败,它必须检查错误,修改其方法,然后重试。

应用程序无法再将模型的响应视为文本。它需要安全的地方来运行模型创建的内容。否则,生成的代码可能会损坏应用程序或危害其周围的系统。

这种转变将人工智能从应用程序集成问题转变为基础设施问题。企业必须创建隔离的计算环境,控制每个人可以访问的内容,在尝试之间保留工作,并在任务完成时关闭它们。

这是一种新的执行工作负载,可能会迫使企业应用程序采用不同的 CPU 架构。

Nvidia (NVDA +0.21%)、Advanced Micro Devices (AMD -8.01%)、Intel (INTC -5.97%)、Arm Holdings (ARM -8.56%) 和最大的云提供商已经在对该架构的外观做出不同的押注。投资问题是企业代理是否创造了足够的可执行工作来将这些赌注转化为有意义的新硬件市场。

人工智能代理可能需要隔离的环境,在该环境中生成的代码可以运行而不会使周围的应用程序面临风险。图片来源:The Motley Fool。

沙箱将安全变成了一个经济问题

人工智能生成的代码无法在主应用程序内安全运行。

它可能包含错误、消耗过多资源、尝试禁止的网络调用或访问不应看到的数据。因此,企业需要一个沙箱:一个隔离的环境,可以控制对计算资源、文件、网络和凭据的访问。

一个沙箱是可以管理的。数千个代理(每个代理可能需要多个沙箱)创建了一个新的基础设施层。

虚拟化只是挑战的一部分。该平台必须隔离每个沙箱,限制其资源,控制其对文件和网络的访问,在需要时保留其状态,并在工作完成时将其关闭。

容器和 microVM 提供不同级别的隔离,但更大的目标是相同的:防止生成的代码损害应用程序,而不会使每个任务变得太慢或太昂贵。

这将安全变成了一种经济权衡。

启动环境的每一秒都会延长任务完成时间。每未使用的千兆字节都会减少服务器可以支持的沙箱数量。工作结束后仍然活跃的每个环境都会占用容量。

获胜的系统不仅仅是快速运行代码。它将有效地创建、管理、暂停、恢复和销毁隔离环境。

Amazon ( AMZN -0.10% ) 通过 AWS Lambda MicroVM 明确提出了这一要求,这些虚拟机旨在在隔离的有状态环境中运行用户生成或 AI 生成的代码。

亚马逊并不孤单。 Microsoft ( MSFT +2.13% ) 和 Alphabet ( GOOGL +2.58% ) ( GOOG +2.32% ) 也在其云平台中添加隔离的代理执行环境。产品有所不同,但方向是一致的:主要的超大规模提供商正在为需要安全运行生成的工作的应用程序做准备。

这正在成为一个行业基础设施类别,而不仅仅是 AWS 的实验。

真正的 CPU 问题是任务经济学

代理工作负载可能会给服务器带来异常的压力。

传统的企业应用程序可能运行一组稳定的长期服务。代理平台可以创建大量资源需求不可预测的临时环境。

一项任务可能需要多个沙箱。一个沙箱可能正在编译代码,而另一个沙箱则运行脚本或启动数据库。有些环境可能会很快消失。在代理检查结果并决定下一步做什么时,其他人可能仍然可用。

峰值基准性能无法很好地捕捉该工作负载。

更有用的问题是可操作的:

这些测量结果可能有利于不同的处理器设计。

高核心数 CPU 可以同时支持更多环境。每个核心性能更强的 CPU 可能会更快地完成每个阻塞步骤。如果云提供商的定制处理器降低了运营服务的总成本,则云提供商可能会接受较低的峰值性能。

状态又增加了一层。

代理可以通过多次尝试安装依赖项、创建文件并生成中间结果。每次模型响应后重建环境都会重复工作并增加延迟。

系统必须保留足够的状态以使代理能够继续运行,而无需使每个沙箱永远处于活动状态。

因此,代理执行不仅仅是处理器基准。这是一个涉及 CPU、内存、存储、网络、虚拟化、身份和调度的系统问题。

CPU 很重要,因为它决定了工作运行的速度以及环境的密集程度。周围的系统决定了这种性能是否会成为经济优势。

生成的代码奖励兼容性

代理平台可能不知道它将被要求运行什么软件。

生成的代码可能依赖于较旧的库、本机扩展或内部企业工具。这种不确定性增加了兼容性的价值。

基于 Arm 的处理器现在支持大部分现代云软件堆栈。容器和托管运行时还可以隐藏许多架构差异。但当工作负载本身是动态生成时,兼容性就变得更难以忽视。

这就造成了 CPU 市场的核心权衡:专业化可以提高速度和效率,但兼容性会降低生成的工作负载无法运行的机会。

一些沙箱还将使用 GPU 进行高度并行工作。但环境仍然需要 CPU 来运行操作系统、管理文件和网络、安装软件、执行应用程序逻辑以及启动任何加速工作。

未来可能是多种多样的。 CPU 仍然是沙箱的默认基础。

Nvidia 押注于更多更快的员工

Nvidia 提出了最明确的论点,即代理执行应该拥有自己的 CPU 架构。

将 CPU 内核视为工作人员。更多的核心允许处理器一次处理更多的任务。更快的核心可以帮助每个工作人员更快地完成其任务。

维拉的目标是两者兼得。

该处理器有 88 个定制的奥林巴斯核心,使其有更多的工作人员并行运行任务。每个核心还使用 10 宽解码引擎,帮助每个工作线程在每个周期处理更多指令并更快地完成任务。

Nvidia 表示,奥林巴斯每周期交付的指令量比 Grace 高出 50%。 Vera 还支持每秒高达 1.2 TB 的内存带宽,有助于在更多沙箱同时运行时为这些核心提供数据。

更快的工作人员优势很重要,因为代理通常在当前步骤完成之前无法继续前进。更多的工作人员不一定会缩短严重依赖于一个核心的脚本、编译或测试。更快的工人可以。

纳斯达克股票代码:NVDA

Nvidia 认为最好的代理 CPU 需要足够的内核来运行许多沙箱,并且需要足够强大的内核来快速完成每个阻塞步骤。

Nvidia 还将 Vera 定位于其自己的 GPU 系统之外。它计划销售独立的 Vera CPU 机架,并通过企业和云服务器合作伙伴提供该处理器。

这为 Nvidia 提供了一条无需客户购买完整加速器平台的部署途径。

权衡是兼容性。

使用封闭模型 API 的企业其现有堆栈中可能没有 Nvidia 硬件。 Nvidia 必须证明 Vera 结合了更多的工作人员和更快的工作人员,创造了足够的经济价值,以证明将工作负载从现有的 x86 系统中转移出来是合理的。

它的架构解释了维拉为何能够获胜。独立基准测试仍然需要证明在实际企业代码、虚拟化、软件迁移和定价方面的优势。

AMD 押注每个机架可容纳更多员工

AMD 看到相同的工作负载并做出了不同的选择。

如果 CPU 核心是工作线程,AMD 的 Venice 架构的目标是在每个服务器和机架中容纳更多的工作线程。

EPYC 9006 系列支持每个插槽最多 256 个内核和 512 个线程。它还包括 16 个 DDR5 内存通道和 PCIe 6 连接,为这些工作人员提供了更大的能力来移动数据并与系统的其他部分进行通信。

AMD 表示,Venice 可以在液冷机架中扩展至 36,000 个以上的核心。这是其论点的核心:代理平台将从运行更多沙箱和完成更多机架上的总任务中获益最多。

但 AMD 并没有忽视个体工作人员的速度。 EPYC(霄龙)产品组合包括高频处理器,适用于更加依赖一个核心的任务,AMD 表示 Venice 将扩展这些选项。

纳斯达克:AMD

这为 AMD 提供了更广泛的宣传:使用许多工作人员进行并行沙箱,使用更快的工作人员进行阻塞任务,以及企业已经使用的相同 x86 工具。

兼容性优势很重要,因为企业可能不知道需要哪些库、二进制文件或内部系统生成的代码。公司可以在 EPYC 上放置代理沙箱,而无需更改已经运行其大部分软件的架构。

AMD 押注代理执行会创建新的工作负载,而不需要新的生态系统。

权衡是专业化。

广泛的 x86 产品组合可能会运行更多类型的工作,但如果 Vera 更宽的核心能够提供 Nvidia 声称的每核心优势,那么 Vera 仍然可以更快地完成某些连续任务。

AMD 不需要 EPYC(霄龙)来赢得每项代理任务。它需要每个机架完成更多的工作、更好的可移植性和更低的迁移风险,这比 Vera 的专业性能更重要。

英特尔押注于现有劳动力

英特尔将代理执行视为企业可以放置在其已使用的 x86 基础设施上的另一个主要工作负载。

在工人的比喻中,英特尔的优势是熟悉度。企业已经拥有围绕至强构建的工作人员、工具、软件和操作流程。

当生成的代码可能依赖于较旧的库、本机扩展或内部系统时,这一点很重要。在代理完成任何有用的工作之前,将这些工作负载转移到新的架构可能会引入兼容性问题。

英特尔还通过专为高密度、横向扩展工作负载而构建的 Xeon 6+ 处理器来增加更多的工作人员。该公司将其高效核心设计定位为在每个机架中安装更多核心,同时降低每项任务所需的功耗和空间。

因此,英特尔的论点分为两部分:保留熟悉的员工队伍,然后将更多的员工安置到同一个数据中心。

纳斯达克股票代码:INTC

这使得英特尔的方法更接近 AMD 的方法,而不是 Nvidia 的方法。两家 x86 供应商都强调兼容性和密度。 AMD 目前在威尼斯拥有更清晰的前景,而英特尔则拥有更广泛的安装基础。

英特尔还将 Xeon 描述为代理系统的“行动 CPU”,负责围绕工具、企业软件和执行的通用工作。但英特尔的一些代理消息传递涉及协调加速器密集型人工智能系统,而不是这里检查的孤立的企业沙箱。不应允许该证据来支持论点。

相关的投资问题范围更窄:英特尔能否将其现有劳动力转变为有竞争力的代理执行平台,或者企业是否会利用新的工作负载作为转向 AMD、Nvidia 或定制 Arm 处理器的理由?

英特尔不需要发明一种全新的架构来参与。至强只需提供足够的密度、性能和成本效率,兼容性就比迁移更有价值。

风险在于,熟悉度会成为一种防御优势,而不是增长引擎。

Nvidia 正在提供更快的工作人员。 AMD 正在为每个机架提供更多的 x86 劳动力。超大规模企业可以一起设计劳动力和工作场所。英特尔必须证明现有的员工仍然能够以具有竞争力的成本完成工作。

超大规模企业正在将赌注押在整个工作场所

亚马逊微软Alphabet 不需要向外部服务器客户出售其处理器。

他们使用定制 CPU 来提高自己云的经济性。

在工人的比喻中,超大规模企业控制的不仅仅是劳动力。他们还控制周围的建筑、工具、安全、调度和操作系统。

这种垂直整合与 CPU 本身一样重要。

AWS 可以将 Graviton 与 Nitro、Firecracker、存储、网络和计费相结合。 Microsoft 可以将 Cobalt 连接到 Azure、GitHub、身份和企业软件。 Google 可以将 Axion 与基于 Kubernetes 的代理基础设施以及 Google Cloud 的其余部分配对。

云提供商可以围绕一个目标优化整个环境:以更低的总成本完成更多的代理任务。

这创造了一种与商业芯片不同的商业模式。

Nvidia和AMD可以将代理需求转化为处理器收入。相反,成功的超大规模 CPU 可能会降低基础设施成本、提高云利润、支持更多客户工作负载或允许提供商降低价格。

超大规模企业不需要证明其工作人员是最快的。它需要证明整个工作场所能够更高效地完成工作。

这一优势对于沙箱队列尤其重要,其中 CPU 性能只是成本的一​​部分。隔离、启动时间、状态管理、网络、存储和利用率都会影响最终的经济性。

这也对商用CPU供应商造成了威胁。

如果开发人员购买托管沙箱服务而不是选择底层处理器,AWS、Microsoft 或 Google 可以决定哪个 CPU 运行工作负载。

因此,定制芯片可以使云提供商的代理执行成本更低,而 Nvidia、AMD 或英特尔更难直接捕获。

Arm 提供蓝图

Arm 在这场竞争中占据了大部分地位。

在工人的比喻中,Arm 提供了用于设计劳动力的蓝图。 AWS Graviton、Microsoft Cobalt、Google Axion、Nvidia Vera 和其他处理器都可以使用 Arm 的指令集,同时围绕它构建不同的内核、内存系统和服务器设计。

这使得 Arm 比单个芯片供应商拥有更广泛的曝光度。

AMD 和英特尔需要自己的处理器来赢得部署。当多个基于 Arm 的竞争处理器同时获得份额时,Arm 可以受益。

该公司还进一步进军成品数据中心芯片领域。这可以创造更多的直接收入,但也使 Arm 与授权其技术的客户的关系变得复杂。

对于投资者来说,更清晰的论点仍然是架构转变。

如果代理执行将更多的企业工作负载转移到 Arm,那么无论 Nvidia 销售专用 CPU 还是超大规模企业在自己的云中使用定制处理器,该公司都可以受益。

Arm 不需要拥有工人或工作场所。它可以通过提供用于构建两者的蓝图来获胜。

市场可能会支持几位赢家

可能没有通用代理CPU。不同的工作负载可能会奖励不同的方法。

如果更快的工作人员可以缩短阻塞任务,那么英伟达可能会获胜。如果每个机架上有更多的工作人员可以增加总吞吐量,AMD 可能会获胜。如果企业重视熟悉的工具和现有基础设施,英特尔可能会保持竞争力。如果控制整个工作场所可以降低每项已完成任务的成本,超大规模企业可能会获胜。

Arm 可以通过提供蓝图从其中一些成果中受益。

市场正在决定哪种优势最重要:

每项任务的速度

每台服务器的沙箱

每完成任务的成本

兼容性

可移植性

电源效率

与周围云集成

不同的客户可能会得到不同的答案。这使得分割比一种架构取代其他架构更有可能。

市场仍需证据

处理器供应商正在为新的执行市场做准备。这并不能证明企业会创造一个。

最有力的证据将来自实际消费:

执行生成代码的代理的百分比

每个已完成任务创建的沙箱

每个任务消耗的CPU时间

这些测量结果比显示企业正在尝试代理的调查更重要。

公司可以部署数百个对话助理,而不会产生有意义的 CPU 需求。仅当代理执行足够的可执行工作以消耗可测量的计算能力时,硬件市场才会发生变化。

同样的证据可以支持对市场的自下而上的估计:

活动执行代理 × 每个代理的任务 × 每个任务的沙箱 × 执行时间 × 计算成本

该计算必须将仅等待 LLM API 响应的代理与需要隔离执行的代理分开。

这种区别可能决定这是否会成为现有云计算的适度扩展或有意义的新硬件市场。

这一估计可能会小于对代理人工智能的广泛预测。即使作为在这个领域工作的编码员,到 2026 年 7 月仍然很难看到孤立的代理执行成为主流。但它衡量的是 AGI 赌注的一个关键部分:为能力日益增强的模型提供一个安全的环境,让其行动、测试其工作并再次尝试。

获胜的架构最终必须证明以下三件事之一:每个工人可以完成更多的工作,同一机架上有更多的工人,或者整个工作场所的成本更低。

投资者正在承保不同的结果

这个市场上的公司提供不同形式的曝光。

Nvidia、AMD 和英特尔通过工人赚钱。

Nvidia 相信更宽、更快的核心可以更快地完成阻塞代理任务。 AMD 相信 Venice 可以在每个机架上完成更多工作,同时保持 x86 兼容性。英特尔押注企业将继续使用现有的劳动力和工具。

Arm 将蓝图货币化。当多家竞争公司制造基于 ARM 的处理器时,即使没有单一芯片主导市场,它也会受益。

亚马逊、微软和 Alphabet 通过工作场所货币化。他们的定制处理器可以降低云成本、提高利润、支持更多客户工作负载或提高服务竞争力。

这种区别很重要。

商用处理器提供跨云和数据中心的可移植性。定制云处理器提供更深入的集成并可能降低服务成本。

一种模型将代理需求转化为直接处理商收入。

另一个将硅转化为内部运营优势。

持怀疑态度的案件仍然可能获胜

看涨论点可能会在三个主要方面失败。

首先,大多数企业代理可能永远不会执行任意代码。他们可以检索文档、更新记录、发送消息或调用受控制的 API。这些操作会产生编排需求,但可能不需要大规模的隔离沙箱。

其次,现有的基础设施可能会吸收大部分工作。供应商所描述的新的代理CPU市场可能部分是带有新标签的熟悉的云计算。

第三,工作场所可能比工人更重要。

开发人员可以根据安全性、生命周期管理、可观察性和易用性来选择沙箱服务,同时对其底层的处理器保持漠不关心。在这种情况下,云提供商可以获得比商用 CPU 供应商更多的价值。

如果通用 CPU 已经足够好,专用处理器也可能会陷入困境。当大部分任务都花在等待存储、数据库、另一个 API 或下一个模型响应时,更快的执行价值有限。

可能的结果可能是分割而不是位移。

代理执行仍然可能会产生新的 CPU 需求。但定制云芯片可能会在到达外部芯片供应商之前吸收大部分优势。

下一个人工智能基础设施市场是关于做的

到目前为止,添加企业人工智能比重建更容易。应用程序调用模型,等待响应,然后继续在熟悉的基础设施上运行。特工可以打破这种模式。

一旦模型创建了可执行的工作,企业就需要安全的地方来进行该工作。它必须隔离代码、控制访问、保留状态、管理多个沙箱,并以可接受的成本完成任务。

没有一家公司获胜,因为市场本身尚未得到证实。

值得关注的信号不是有多少企业表示正在尝试代理。这是这些代理创建隔离环境的频率、每个任务需要多少个环境、这些环境运行的时间以及它们消耗的计算能力。这些数据将揭示市场是否需要更快的工人、更多的工人或运营更好的工作场所。

企业已经学会了如何租用智力。

当它必须在安全的地方提供智能时,下一个硬件机会就开始了。