开云体育 Agent AI重构数据中心架构

寂寞式GPU正在被异构SoC和芯片组所取代，这些芯片组将CPU、GPU和NPU组合在一齐，以摒除内存瓶颈、缩小延长并提高恶果。

智能体的快速普及正迫使芯片和系统架构师从根底上从头念念考数据中心的想象。他们不再只是优化GPU的原始轮廓量，刻下还必须考据复杂的羼杂系统，在这些系统中，CPU正经相助永劫分运行的推理轮回，并照应险阻文、内存和数据出动。GPU和加快器将处理最艰辛的数值策动职责，但这只是盛大环节之一。

这种回荡也极地面增多了考据的难度。功能考据和性能考据必须同步进行，需要大规效法真和原型想象、模拟确切的代理职责负载，并深切研究3D-IC和堆叠式存储器想象中的内存架构、险阻文切换、功耗行径和热完整性。通盘这些齐必须安全可靠，需要通过监控和看望截止往返绝自主代理看望特定数据或实际不受信任的代码。

Arm云AI业务部门民众云和AI基础设施芯片正经东谈主Satadal Bhattacharjee示意：“智能AI的兴起正在重塑对CPU的需求。 跟着AI系统变得越来越复杂，CPU正在成为执续运行的智能轮回的编排和实际引擎，正经照应险阻文、器具调用、内存出动、安全领域和加快器诈欺率。”

Arm 的预计标明，智能体东谈主工智能将条目数据中心在换取的功耗范围内提供高达四倍的 CPU 中枢密度，但这并不料味着加快器的病笃性会缩小。“这突显了一个环节事实：加快器的性能越来越依赖于通盘系统的恶果、反应速率和均衡性，”Bhattacharjee 示意。

与此同期，代理职责负载引入了更多不可预计的截止流、不限定的内存看望模式、同步需求以及I/O密集度。“幸免系统级停顿需要更雅致的CPU-加快器耦合、更高效的数据传输、更高带宽的内存看望以及或者支执一致性、禁绝性和可彭胀性的系统架构，”他说谈。“因此，异构架构正变得愈加模块化和集成化。PCIe、CXL、芯片间一致性链路和高等架构IP等技能为系统想象东谈主员提供了均衡机动性、带宽、延长和恶果的新顺次。”

智能体对数据中心架构的影响是根人性的。“咱们已往谈到东谈主工智能时，GPU主要用于矩阵运算和数值策动，”西门子EDA家具正经东谈主Sathishkumar Balasubramanian示意，“刻下情况完全不同了，因为智能体进程正在兴起。CPU已往主要用于输入数据并将其加载到不同的GPU中。刻下，CPU的用途正在从数据加载器回荡为数据编排器。通盘编排层齐由CPU处理，因此英特尔看到需求飞腾，因为东谈主们意志到他们需要CPU来完成许多智能体职责流任务，惟一在必要时才使用GPU。再次强调，数据编排的兴起将至关病笃，咱们正在从卸载数据转向编排数据，这即是新的策动集群。”

刻下，由寂寞作事器驱动的基础设施还是已毕了智能推理轮回。“惟一在需要的时候才会进行GPU密集型操作，”Balasubramanian说谈。“另一个变化是，已往GPU在一个机架上，CPU在另一个机架上。这么作念的问题在于，通盘操作齐需要看望本色数据所在的内存，延长太高。是以刻下（处理器开发商）正试图效仿作事器公司已往的作念法，将GPU和CPU齐放在团结个机架上。”

由于智能体东谈主工智能需要复杂的编排、器具调用和推理轮回，而不成像已往几年那样只是依赖GPU，这象征着技能正从头转向雅致集成的异构SoC和芯片组。这少许在近期发布的英特尔酷睿Ultra系列3出动处理器（代号Panther Lake）、英伟达RTX Spark PC芯片（剿袭Arm CPU）、苹果Fusion架构、AMD APU以及英伟达Vera Rubin平台等家具中均有所体现。

这个主见并非全新。英特尔早在2010年1月就推出了集成CPU和GPU的SoC。但它们之间交互的基本物理机制还是发生了透顶的改变。早期的SoC将集成GPU视为援助组件，仅用于向闪现器输出图像或渲染基本的3D图形，况兼依赖于速率较慢的寂寞内存池。而如今面向东谈主工智能的智能SoC则专为连气儿、异步、多格式的实际轮回而想象。这催生了以往SoC想象中不存在的架构创新。

“他们把这些组件集成到团结个芯片里，在内存契约等方面分享换取的带宽，是以它们不错看望和谐的内存，”Balasubramanian说谈。“延长完全缩小了，CPU 和 GPU 端的运算智商齐大幅莳植。架构正在跟着时期的变化而透顶改变。就连 PC 也将如斯，配备更强劲的 GPU 和 CPU，因为你需要运行自身的 NemoClaw 和通盘 24/7 全天候代理，这需要土产货策动和数据中心齐进行大齐的运算。”

这些芯片的架构会因最终应用的不同而有很大各异。

Quadric首席营销官Steve Roddy示意：“天然智能体东谈主工智能确乎正在赶快影响数据中心的策动资源分拨比例（CPU与GPU），但智能体东谈主工智能崛起带来的确切影响将最径直地体刻下云策动与角落策动的整身体局中，尤其会径直影响到东谈主工智能作事公司本身。按照刻下Token需求增长的速率，即使超大限制数据中心每年干与1万亿好意思元的成本支拨，数据中心的可用策动智商也无法开心需求。因此，近几个月来，咱们看到东谈主们对将更多GenAI策动‘马力’推向新式AI角落开采产生了浓厚的兴趣。就在本月，咱们看到英伟达推出了一款PC芯片组，宣称领罕有百TOPS的推明智商，试图开心这一市集需求。但这是一款售价2500好意思元或更高的高端条记本电脑，它具备通盘其他东谈主类策动机所需的PC功能，而非智能体策动科罚决策。”

Roddy示意，市集需要一款专用的agentic token作事器，价钱远低于1000好意思元，耗电量与传统家用电器或台式电脑荒芜。“不久的翌日，咱们将看到被迫式风冷开采已毕PetaOp级别的推明智商，这些开采适用于家庭和办公室。1亿台这么的agentic token作事器散布在家庭和办公室中，无需大限制设立数据中心或新建发电厂，就能提供荒芜ZettaOp级别的推理策动智商。”

数据中心仍将像全心照应的庄稼相同从农田中拔地而起。“但它们将与咱们家中庸办公室中雄伟的散布式策动智商协同职责，”Roddy说谈。已毕这种新式策动模式的环节在于：将东谈主工智能模子适配到去中心化策动模子。花消者聊天机器东谈主和尺度员的智能体职责进程齐需要剿袭先进的模子，将策动任务分拨到连接式的大限制参数模子和土产货的1000亿以上参数模子上。高效节能、完全可编程、专为角落策动想象的推理处明智商——并非从头诈欺的GPU。

延长压力是这一切的基础，它条目或者快速出动数据并在需要的方位进行处理。Synopsys PCIe 和 CXL 家具照应总监 Antonio Costa指出，就在几年前，东谈主们的关切点简直完全连接在使用 GPU 在云表傍观大型话语模子和进行推理上。

“在那种环境下，咱们看到客户的想象平日是这么的：一个主CPU搭配多个GPU，CPU与GPU的比例为1:4或1:2。在咱们的决策中，CPU和GPU之间将使用PCIe接口授输傍观数据和参数。平日，傍观的想象即是笃定这些参数的权重，从而傍观出一个模子。这是东谈主工智能改动的第一波波涛——傍观模子，并在模子傍观完成后进行推理，最终使每个东谈主齐能使用LLM聊天机器东谈主。”

在这种情况下，CPU 将数据赠送到 GPU，PCIe 用作通谈，而带宽是最病笃的要素。“咱们需要 CPU 和 GPU 之间有饱和的带宽来传输通盘这些参数，但延长并不是一个大问题，开云体育因为这只是傍观过程的一部分，”Costa 讲明谈。“然后，你将这些参数读回系统并保存。跟着智能体 AI 的引入，情况发生了变化，你不再只是将数据赠送到 GPU。你使用 CPU 四肢通盘系统的相助器。在智能体 AI 中，CPU 与文献、会聚网站和磁盘交互以读写数据，而 GPU 则像大脑相同，凭据 CPU 提供的领导告诉你下一步该作念什么。但确切实际操作的是 CPU。”

AI代理将凭据LLM模子的领导剿袭行径。这需要CPU和GPU之间进行更多交互。CPU必须读取数据，况兼平日需要将数据写入GPU，同期还要与周围环境交互，举例用于会聚看望的网卡和用于内存彭胀的固态硬盘，因为处理更多数据并凭据用户需求剿袭行径需要更多内存。

“假定你想创建一个 PowerPoint，”Costa 说，“你必须翻开 PowerPoint 应用尺度。然后你必须肯求 LLM 模子提供 PowerPoint 中的数据。这是一个愈加以 CPU 为中心的应用，这使得 CPU 再次成为关切的焦点。由于智能体 AI 的兴起，咱们最近看到了 Arm 和 Intel 的家具发布，这意味着需要更多的 PCIe 链路来相连通盘摆布开采以及 GPU。但刻下延长至关病笃。淌若反当令分过长，则意味着你的智能体运行沉着。因此，延长是一个环节要素。PCIe 相配相宜科罚延长问题，况兼由于已毕智能体 AI 所需的通谈和相连数目呈爆炸式增长，它正在成为玩忽这些挑战的基础契约。咱们看到一些客户在想象这些芯片时，需要上百条通谈。比拟之下，用于 AI 傍观的 PCIe 通谈惟一 16 条。因此，通谈数目和带宽的需求至少是以前的五倍。”

智能 AI SoC 的考据挑战其中最大的挑战之一，是考据从数据出动到不同类型处理元件之间的交互，以及处理器和存储器之间的交互等通盘方面。

“一切齐变得愈加复杂了，”Balasubramanian说谈。“刻下的考据职责量巨大。单个智能体AI芯片中存在两种不同的策动范式，你需要考据它们是否或者很好地协同职责，是否存在冲破等等。在内存方面，你能否科罚内存瓶颈问题？你是若何构建内存结构的？你是若何构建数据输入和领导列队的？考据方式远不啻这些。我指的是功能考据。此外，淌若复杂度更高，性能考据也需要愈加透顶，这将对仿真产生巨大的需求。”

每当硬件架构发生紧要变化时，开发东谈主员齐需要启动共同开发软件和硬件，以确保一切功能齐能正常运行。

他接着说谈：“这就离不开硬件仿真与 FPGA 原型考据技能，二者会成为功能考据环节的中枢复旧，保险芯片功能想象不出罪恶。这只是功能考据层面。后续还必须开展性能考据：要证据内存、处理器、GPU 等各单位能否开心超高算力需求，千般资源余量是否充足，这些齐是研发团队必须考量的问题。第三点是，如今芯片深广剿袭 3D 集成电路堆叠晶粒决策，这种技能阶梯条目想象方充分评估千般物理效应。就算想象出高速交换总线，也要预判其带来的热散布影响；淌若温度的确很高，而且上头还有一个大容量的HBM，会发生什么？它会融化吗？会导致晶圆变形吗？为了获取高性能的羼杂架构芯片，通盘环节齐必须好意思满运行。这意味着功能考据和仿真顺次需要改变。你需要透露联系契约。你需要透露……”不同的内存成就。你需要想象软件架构来确保开心硬件条目，反之也是。汉典毕起来则是一个巨大的挑战，触及到3D集成电路、散热效应以过头他诸多方面。

此外，跟着业界对安全风险的融会束缚加深，客户越来越关切硬件安全以及安全监控的集成。“关于代理来说，这确乎是个挑战，”Balasubramanian说谈，“若何确保系统硬件层面的看望截止安全可靠？天然内置了安全监控和可靠性监控，但这又是另一个需要计划的方面，因为你需要确保代理不会实际任何不受信任的代码或其他坏心行径。还有许多其他要素需要计划，这是一个相配雄伟的领域。在这些复杂的架构中，安全和硬件监控的挑战性也大大增多。”

论断

天然智能体东谈主工智能的最好架构会因职责负载而异，但总体主张已初见头绪。“东谈主工智能基础设施正从以加快器为中心的作事器演变为异构机架级系统，其中更多针对智能体职责进程的每个阶段和组件进行优化的专用系统不错得到最好实际，”Arm公司的Bhattacharjee示意。

对Roddy来说，还有更多问题。“绽放硬件生态系统是否会像上世纪80年代中期个东谈主电脑那样发展演变？在初期，策动智商是模块化且可彭胀的，之后才渐渐普及到日常使用。个东谈主电脑领先是业余爱重者自带的，硬件渐渐升级，最终发展成如今的条记本电脑市集。或者，各个竞争厂商会像2000年代和2010年代的有线电视机顶盒市集那样，建立特有的阻塞式开采，致使可能与作事提供商绑定？此外，东谈主工智能软件部署模子会发展到允许用户在不同模子之间移动，照旧角落智能令牌作事器会被锁定在作事提供商的合同中，由作事合同补贴？这种软件模子又将若何发展？它是否会从今天启动，为OpenClaw的高等用户提供绽放模子，然后渐渐过渡到支执订阅作事用户的令牌生成？”

智能体东谈主工智能正在将数据中心回荡为雅致集成、执续相助的系统，其中CPU驱动的职责流、羼杂CPU-GPU架构以及硬件级安整个必须四肢一个全体进行想象和考据。关于芯片架构师而言，确切的竞争上风在于他们能否在不葬送可靠性和截止力的前提下，出色地协同想象策动、内存、封装和考据进程，以跟上这些快速演进的智能体职责负载。

*声明：本文系原作家创作。著作内容系其个东谈主不雅点，自身转载仅为分享与计划，不代表自身推奖或认可，如有异议，请估计后台。

想要获取半导体产业的前沿洞见、技能速递、趋势剖释开云体育，关切咱们！