近日,美國互聯(lián)網(wǎng)大廠Meta已與亞馬遜云計算服務(Amazon Web Services,AWS)簽署合作協(xié)議,將大規(guī)模部署AWS Graviton 處理器,以支持新一代AI系統(tǒng)建設(shè),雙方未公開交易金額等細節(jié)。

雙方這次合作反映AI基礎(chǔ)建設(shè)構(gòu)架正在轉(zhuǎn)變,雖然GPU仍用于大型模型訓練,隨著Agentic AI(代理式AI)應用增加,對于即時推理、代碼生成、搜尋及多步驟任務協(xié)調(diào)等CPU密集型工作負載的需求大幅增加。
而以Arm構(gòu)架為基礎(chǔ)的AWS Graviton處理器則是針對這類工作負載而設(shè)計的,可為Meta提供高效的CPU處理能力。
AWS指出,目前最新Graviton5處理器配備192個Arm CPU核心,緩存容量為上一代的5倍,核心之間的通信延遲最高減少33%,意味著更快速的數(shù)據(jù)處理和更大的頻寬。對于需要持續(xù)推理并執(zhí)行多步驟任務的Agentic AI系統(tǒng)而言,這些是關(guān)鍵需求。
Graviton5芯片采用臺積電3nm(N3)制程,而AWS從零開始設(shè)計芯片,全面掌控從芯片設(shè)計到服務器構(gòu)架的完整流程,因此能夠做到現(xiàn)成處理器無法比擬的最佳化性能與能源效率,Graviton5芯片性能較上一代提升高達25%。
目前,每天約有36億人使用Meta的服務,Meta即使全球營運了32座數(shù)據(jù)中心應對龐大數(shù)據(jù)處理需求仍顯得不夠,因此需要像谷歌、微軟等科技巨頭一樣,大手筆投入資金取得算力,以滿足龐大運算需求。
值得注意的是,今年3月,Arm公司首次突破了其原有的產(chǎn)品矩陣和商業(yè)務模式,將產(chǎn)品矩陣延伸至量產(chǎn)芯片產(chǎn)品領(lǐng)域,正式發(fā)布了一款由 Arm 自主設(shè)計、面向AI數(shù)據(jù)中心的CPU——AGI CPU,旨在滿足日益增長的代理式 AI (agentic AI) 工作負載需求。
AGI CPU基于臺積電3nm制程,由兩個小硅片組合而成,集成了 136 個 Arm最新的Neoverse V3 核心,每個核心配備 2 MB 二級緩存,主頻3.2 GHz,最高頻率3.7 GHz,每線程獨立核心,可在持續(xù)負載下提供確定性性能,避免降頻與線程閑置。在內(nèi)存和接口支持方面,AGI CPU支持 12 通道 DDR5 內(nèi)存,最高可達 8800 MT/s,可提供超過 800 GB/s 的總內(nèi)存帶寬,或每核心 6GB/s的帶寬,延遲低于100ns。I/O包含96條PCIe Gen6通道,并原生支持CXL 3.0以實現(xiàn)內(nèi)存擴展和池化。整個芯片的TDP在300瓦左右。
Arm表示,基于AGI CPU每個服務器機架的性能超過x86平臺的兩倍,并且每1吉瓦基于Arm AGI CPU的AI 數(shù)據(jù)中心算力的資本支出 (CAPEX) 相比x86 CPU平臺可節(jié)省高達 100 億美元。
Meta已經(jīng)確認將是Arm AGI CPU的首批客戶。此番,Meta又宣布大量采購亞馬遜的Graviton 5 處理器,足見對于Arm架構(gòu)服務器CPU的旺盛需求。

