9月20日，在華為全聯接大會2024上，華為云重磅發(fā)布AI原生云基礎設施架構CloudMatrix，以滿足AI時代企業(yè)對于算力的大規(guī)模、高效穩(wěn)定、彈性靈活的需求。

華為云AI 原生云基礎設施架構 CloudMatrix 正式發(fā)布

如今，AI算力需求高速增長，正在超越對通用算力的需求。構建彈性、高效的多元算力基礎設施是AI發(fā)展的關鍵。

為了進一步提升AI原生基礎設施的效能，華為云推出AI原生云基礎設施CloudMatrix，將CPU、NPU、DPU、存儲和內存等資源全部互聯和池化，構建“一切可池化、一切皆對等、一切可組合”的分布式對等全互聯架構，實現了單體算力向矩陣算力的演進，為客戶提供澎湃的AI算力。

一切可池化：華為通過CPU、NPU為客戶提供強大的通用計算和智能計算。同時，華為云分布式 QingTian技術幫助突破單服務器的能力邊界，將服務器內的CPU、NPU、DPU、存儲和內存等多樣資源的統一池化并靈活配置，以此形成大規(guī)模、緊耦合的多元算力池化架構，算力得到大幅提升。

一切皆對等：CloudMatrix通過超高帶寬ScaleUp網絡從“傳統以太網”向“共享總線以太網”演進，實現池化算力的高速互聯，同時通過自適應拓撲感知打破集群線性度瓶頸。華為云在傳統算力集群ScaleOut網絡基礎上，結合ScaleUp超高帶寬網絡，將資源互聯帶寬提升了一個數量級。新的網絡協議實現跨物理服務器的統一標識、統一的訪問和消息通信機制。從而實現CPU、NPU、存儲 內存等多樣資源的跨服務器統一池化。通過資源全部對等連接，既可以水平擴展，更可以垂直擴展，打破計算集群線性度的瓶頸，能夠降大模型訓練集群的線性度提升至95%，網絡故障分鐘級恢復。

一切可組合：CloudMatrix可以按需組合多樣化算力資源，并且根據應用需求靈活調整。在統一多元算力邏輯池化、高速全對等互聯的基礎上，通過瑤光智能云腦對云上資源進行多元算力統一建模、靈活調度組合，按需提供給應用。覆蓋大模型和小模型的訓練和推理，同時，還能夠用在數據分析、媒體內容生成等更多應用場景。

華為云宣布，基于CloudMatrix的新一代昇騰AI云服務將于年底上線。