2026 年 CXL(Compute Express Link)記憶體池化技術:重構伺服器架構
PCIe 5.0(32 GT/s)
CXL.io、CXL.cache、CXL.mem 三協定;單主機、點對點連接
驗證了「CPU 直接存取外部記憶體」的可行性,但無法共享
CXL 2.0
PCIe 5.0
引入 CXL Switch、Memory Pooling、熱插拔、MLD 多邏輯裝置
記憶體池化的正式起點:多主機可共用一台記憶體擴充器
CXL 3.0
PCIe 6.0(64 GT/s)
Fabric 能力、多層交換、記憶體共享、Peer-to-Peer、Back-Invalidate
從「池化」邁向「共享」與「記憶體網路」,可組合成記憶體叢集
CXL 3.1 / 3.2
PCIe 6.x
可信安全協定(TSP)、QoS 遙測、可靠度與熱插拔強化
讓多租戶環境下的記憶體池化具備可管理性與隔離能力
CXL 4.0(預期)
PCIe 7.0(128 GT/s)
頻寬再翻倍、針對 AI 與超大規模記憶體網路的優化
將為 2027 年之後的「機櫃級記憶體池」奠定基礎
值得注意的是,CXL 的演進並非線性疊加,而是每一代都在解決前一世代暴露出的實務痛點。CXL 2.0 解決了「能不能共享」,CXL 3.x 解決了「共享得夠不夠快、夠不夠安全、夠不夠可控」。到了 2026 年,市場上大量部署的正是 CXL 2.0 與 3.0/3.1 世代的矽晶片與交換器產品,這也是為什麼 2026 年被視為記憶體池化從「概念驗證」走向「規模化生產」的分水嶺。
1-2 三大推力:AI 算力爆炸、記憶體擱淺、TCO 壓力
技術成熟只是必要條件,真正讓 CXL 記憶體池化在 2026 年全面起飛的,是三個同時到來的現實壓力。
第一,AI 工作負載對記憶體容量的飢渴。 大型語言模型推論時的 KV Cache 佔用、訓練時的活化值與優化器狀態,都讓記憶體需求呈現非線性成長。以推論為例,當上下文長度從 8K 拉高到 128K,KV Cache 的大小可能膨脹十倍以上。這些資料具備「生命週期短、存取頻繁但可容忍略高延遲」的特性,正好是 CXL 記憶體的理想應用場景。
第二,記憶體擱淺造成巨大浪費。 在多租戶與混合工作負載環境中,記憶體利用率經常落在五成上下,其餘的容量因為配置策略僵化而無法被其他工作負載使用。池化技術讓記憶體變成一池可分配的資源,等於在不新增採購的前提下,把既有 DRAM 的實際可用容量向上拉升。
第三,TCO 壓力的結構性轉移。 當 DRAM 佔伺服器物料清單成本的比例持續攀升,任何能夠降低「每 GB 有效記憶體成本」的技術都會被優先採用。記憶體池化不只是省記憶體,它同時省下了昂貴的 CPU 插槽、機櫃空間與電力——因為你不再需要為了記憶體而多買一整台伺服器。
二、拆解 CXL 記憶體池化:從協定到硬體的完整架構
要真正理解記憶體池化,不能只停留在「記憶體可以共享」這種行銷語言上,而必須往下鑽到協定層與硬體層。CXL 之所以能做到低延遲且具備快取一致性,關鍵在於它並非單純把記憶體放到網路上,而是在 PCIe 的實體層上重新定義了一套與 CPU 快取階層協同運作的協定堆疊。
2-1 三個子協定:CXL.io、CXL.cache、CXL.mem
CXL 由三個子協定組成,各自負責不同的語意,這三者共同決定了記憶體池化的效能上限。
CXL.io 是整組協定的基礎,語意上幾乎等同於 PCIe 的 I/O 行為,負責裝置探索、列舉、配置、中斷與 DMA 等傳統 I/O 任務。它確保 CXL 裝置能被作業系統視為 PCIe 裝置來管理,這也是為什麼 CXL 能在不更動太多系統軟體架構的前提下被導入。
CXL.cache 負責處理裝置對主機記憶體的快取一致性存取,主要用於 Type-1 與 Type-2 裝置(例如加速器、GPU、SmartNIC)。它讓裝置端的快取可以與 CPU 快取保持一致性,避免軟體層再進行手動的資料同步。
CXL.mem 則是記憶體池化技術的核心。它允許主機 CPU 透過 load/store 指令直接存取 CXL 記憶體裝置上的位址空間,並由硬體維持一致性。從 CPU 的角度來看,這段記憶體就像是一個延遲略高、但完全可定址的 NUMA 節點。這正是 CXL 記憶體能在作業系統中被辨識為一般記憶體、並納入 NUMA 管理的原因。
根據裝置型態,CXL 定義了三種類別:Type-1 是沒有本地記憶體的加速器(如 SmartNIC),Type-2 是帶有本地記憶體的加速器(如 GPU),Type-3 則是純記憶體擴充裝置——記憶體池化的主角正是 Type-3。實務上,一台 CXL 記憶體擴充器(Memory Expander)可以內含數個 Type-3 邏輯裝置,並透過多邏輯裝置(MLD)機制,將實體容量切分成多個邏輯區塊,分別對應不同的主機或租戶。
2-2 三種部署型態:Pooling、Sharing 與 Switching
業界談到記憶體池化時,經常把幾個概念混在一起,但其實它們對應的是不同層次的架構與不同的軟硬體需求。
記憶體池化(Memory Pooling) 指的是把多台記憶體擴充器的容量集中成一個資源池,再由管理軟體分配給不同的主機使用。重點在於「分配」:一台主機在某個時間點取得某段容量,使用完畢後釋放回池中,再由另一台主機取用。這種模式最接近現有的資源調度邏輯,導入門檻相對低,但記憶體在同一時間仍然只被一台主機使用。
記憶體共享(Memory Sharing) 則更進一步,允許多台主機同時、且具備一致性語意地存取同一段記憶體。這需要 CXL 3.0 的 Fabric 能力與 Back-Invalidate 機制支援。共享模式在 AI 推論場景極具價值:多台推論伺服器可以共用同一份模型權重,不必各自複製一份,大幅降低記憶體總需求量。但它也帶來更複雜的一致性與錯誤處理問題。
記憶體交換(Switching) 是底層的連接方式,指的是透過 CXL Switch 建立多主機與多裝置之間的任意連線。交換器是所有池化與共享架構的骨幹,它決定了拓撲能擴展到多大、延遲會增加多少、以及是否具備備援路徑。CXL 2.0 支援單層交換,CXL 3.0 則允許多層交換與更大的 Fabric 拓撲。
2-3 硬體堆疊:Host、Switch、Memory Expander 與控制器
一個完整的 CXL 記憶體池化系統,通常由以下幾個層次構成。
三、2026 年的落地場景:誰真正在用記憶體池化?
技術再漂亮,沒有應用場景就只是實驗室玩具。2026 年 CXL 記憶體池化之所以能站穩腳步,是因為它同時在幾個高價值場景中證明了回報率。以下三個場景是當前最明確的落地主力。
3-1 AI 推論與訓練:KV Cache 卸載與模型權重共享
在大型語言模型推論中,KV Cache 是記憶體消耗的元兇之一。它具備幾個非常適合 CXL 的特性:容量需求大、生命週期短、可容忍比本地 DRAM 略高的延遲,而且往往是「一批請求對應一段 Cache」的區塊化結構。將 KV Cache 卸載到 CXL 記憶體,等於讓 GPU 或 CPU 的本地記憶體專注於真正需要極低延遲的運算資料,整體可支援的並行請求數因而大幅提升。
在模型權重共享方面,CXL 3.0 的記憶體共享能力讓多台推論節點可以讀取同一份權重。對於動輒數百 GB 的大型模型,這代表的不只是記憶體容量的節省,更是模型載入時間與部署密度的改善。當一個機櫃內的多台伺服器共用同一池模型權重時,單位機櫃能服務的推論吞吐量會明顯上升。
訓練場景則相對保守。由於訓練對記憶體頻寬與延遲極為敏感,目前 CXL 記憶體主要用於存放檢查點(Checkpoint)、資料快取與較不敏感的優化器狀態,而非直接參與梯度同步等關鍵路徑。這是務實的做法,也反映了 CXL 現階段的能力邊界。
3-2 雲端多租戶與記憶體即服務(MaaS)
在雲端與私有雲環境中,記憶體池化最直接的價值是提升資源利用率。傳統上,每個租戶的 VM 或容器被綁定在固定的實體記憶體上,一旦配置就難以回收。有了記憶體池化,調度器可以根據即時負載動態分配記憶體,把閒置容量還給池子,再分配給需要的工作負載。
更進一步的想像則是「記憶體即服務」(Memory as a Service)。在這個模式下,記憶體成為一種獨立於運算的可計量資源,租戶可以按用量付費,營運方則能透過超賣與動態調度拉高整體毛利。這對記憶體密集型服務特別有吸引力,例如快取服務、搜尋引擎索引、或大規模的 In-Memory 分析。
當然,多租戶場景也帶來了安全與隔離的挑戰。不同租戶的資料可能位於同一台記憶體擴充器的不同邏輯區塊,若隔離機制不完善,就可能出現側通道或越權存取的風險。這正是 CXL 3.1 引入可信安全協定(TSP)與記憶體加密機制的原因——池化的前提是可信任的隔離。
3-3 資料庫與 In-Memory Computing
記憶體資料庫與即時分析平台是另一個自然受益者。這類系統的效能瓶頸經常不在運算,而在於資料集是否能完整放進記憶體。當資料集成長到超過單機容量時,傳統做法是分片(Sharding),但分片會帶來跨節點查詢、分散式交易與運維複雜度。
CXL 記憶體池化提供了另一條路:讓單一資料庫實例的位址空間延伸到外部記憶體池,維持單機語意的同時擴充容量。對於需要 ACID 保證、又希望避免過度分片的系統來說,這是一個相當有吸引力的折衷。實務上常見的做法是把「熱資料」放在本地 DDR,「溫資料」放在 CXL 記憶體,「冷資料」留在 NVMe SSD,形成三層記憶體階層,並由作業系統或資料庫自身的分層機制管理。
四、效能真相:延遲、頻寬與軟體堆疊的現實
任何關於記憶體池化的討論,最終都要回到兩個數字:延遲與頻寬。這兩個數字決定了哪些工作負載適合搬到 CXL 記憶體,哪些則萬萬不可。
4-1 延遲與頻寬的真實數字
本地 DDR5 記憶體的存取延遲大約在 80 到 100 奈秒之間。相對地,透過 CXL 連接的外部記憶體,實際延遲通常落在 250 到 400 奈秒之間,視交換層數、控制器品質與負載狀況而定。這代表 CXL 記憶體的延遲大約是本地記憶體的兩到四倍。
這個差距聽起來很大,但放回真實系統來看,它的意義取決於工作負載的性質。對於快取命中型的工作負載,或者存取模式具備高度空間局部性的應用,多出來的一兩百奈秒往往被其他瓶頸掩蓋。但對於指標追逐型(Pointer Chasing)的資料結構、高頻交易、或需要極低抖動的即時系統,這個差距就足以致命。
頻寬方面,PCIe 5.0 x16 提供的雙向頻寬約 64 GB/s,這與單通道 DDR5 的頻寬接近,但明顯低於多通道交錯後的本機記憶體頻寬。CXL 3.0 採用 PCIe 6.0 後理論頻寬翻倍,但實際可用的有效頻寬還要扣掉協定開銷與交換器損耗。這意味著 CXL 記憶體比較適合「容量優先、頻寬次之」的場景。
指標
本地 DDR5
CXL 2.0(PCIe 5.0)
CXL 3.0(PCIe 6.0)
典型延遲
約 80–100 ns
約 250–350 ns
約 220–320 ns(含交換器)
單鏈路頻寬
依通道數而定
約 64 GB/s(x16 雙向)
約 128 GB/s(x16 雙向)
主要限制
插槽數與通道數
交換延遲、單層拓撲
交換器成本、軟體支援成熟度
4-2 軟體堆疊:Linux 核心、NUMA 與分層記憶體管理
硬體只是入場券,真正決定記憶體池化好不好用的,是軟體堆疊。在 Linux 生態中,這牽涉到幾個層次。
首先是核心的 CXL 子系統,負責裝置探索、記憶體區域註冊與錯誤處理。核心會將 CXL 記憶體註冊為獨立的 NUMA 節點,讓排程器與記憶體管理員能感知其存在。這帶來了所謂的「CPU-less NUMA Node」——一個只有記憶體、沒有本地 CPU 的節點,作業系統必須決定哪些頁面該放在這裡。
其次是記憶體分層(Memory Tiering)。核心與相關工具會根據頁面的存取頻率,把熱頁面搬到較快的本地記憶體、冷頁面搬到 CXL 記憶體。這個過程可以是自動的(例如基於存取位元或 DAMON 框架的監控),也可以是應用程式透過 NUMA 綁定或記憶體提示主動控制的。實務經驗顯示,分層策略的好壞對整體效能影響極大,錯把熱資料放到 CXL 記憶體,效能可能直接腰斬。
第三是應用層的認知。並非所有應用都能無痛地使用遠端記憶體。資料庫需要支援將特定表空間或快取區放到指定 NUMA 節點;JVM 需要調整堆積配置;AI 框架需要在張量配置層面區分「必須本地」與「可遠端」的記憶體。這些都需要開發者與平台團隊的協同調整,也是 2026 年仍在快速演進的領域。
五、生態系版圖:主要廠商與標準組織的布局
CXL 記憶體池化不是單一公司的技術,而是一個由標準組織、晶片廠、記憶體廠、系統廠與雲端業者共同構成的生態系。
在標準與規範層面,CXL Consortium 負責協定制定,並與 PCI-SIG、JEDEC 等組織密切協作。Open Compute Project(OCP)則在推動開放式的機櫃級與機架級記憶體池化規格,讓不同廠商的裝置能互通。
在晶片與矽智財層面,CPU 廠商持續在處理器中強化 CXL 控制器與一致性邏輯;記憶體控制器與 PHY 廠商則提供低延遲的實體層方案;交換器與重驅動器(Retimer)廠商負責解決訊號完整性與拓撲擴展問題。這部分的競爭在 2025 至 2026 年間明顯升溫,產品迭代速度加快。
在記憶體與模組層面,主要 DRAM 廠商推出支援 CXL 的記憶體擴充模組與擴充器,容量從數百 GB 到數 TB 不等。部分產品強調高頻寬與低延遲,部分則主打高密度與低功耗,形成差異化的產品線。
在軟體與管理層面,除了作業系統核心的支援外,還有一批專注於記憶體虛擬化、池化調度與分層管理的軟體廠商。它們提供 Fabric Manager、資源調度 API 與監控工具,是把硬體能力轉換成可營運服務的關鍵環節。
值得一提的是,超大規模雲端業者在這場競賽中扮演了「需求定義者」的角色。它們的部署規模與工作負載特性,直接影響了硬體廠商的設計優先順序——延遲、功耗、可管理性與成本,哪一項該優先,很大程度上由這些業者的採購決策決定。
六、導入策略、成本模型與風險評估
對於正在評估是否導入 CXL 記憶體池化的團隊來說,最重要的不是「這技術好不好」,而是「我的工作負載適不適合、我的時機對不對」。以下提供幾個實務判斷框架。
先從容量瓶頸、而非頻寬瓶頸的場景切入。 如果你的系統是因為記憶體容量不足而無法擴展(例如資料集放不進記憶體、模型無法完整載入),CXL 記憶體的投資報酬率通常最高。反之,如果瓶頸在於記憶體頻寬或極低延遲,短期內 CXL 很難勝任。
採用分階段導入。 第一階段可以從單機的記憶體擴充(不經交換器、直接點對點連接)開始,驗證作業系統、應用程式與運維流程的相容性。第二階段再導入交換器與池化調度,處理多主機共享與動態分配。第三階段才進入跨機櫃的 Fabric 共享。這樣可以避免一次性投入過大、卻因為軟體不成熟而無法落地。
把 Fabric Manager 與維運能力算進成本。 CXL 記憶體池化的隱形成本,往往不在硬體本身,而在於管理複雜度。你需要有人負責拓撲管理、資源分配策略、錯誤處理流程、效能監控與多租戶隔離。這些能力不會因為買了硬體就自動出現。
留意風險。 首先是錯誤處理與可靠度:CXL 記憶體位於處理器之外,一旦鏈路或交換器出問題,可能造成整批工作負載中斷,因此需要完整的 RAS 機制與備援路徑設計。其次是安全與隔離,特別是在多租戶環境中。第三是效能可預測性,交換器負載、其他主機的存取行為都可能影響延遲抖動。第四是供應鏈與相容性風險,不同廠商的裝置在互通性上仍可能存在落差,務必在採購前做好驗證。
建立成本模型。 評估時不應只看記憶體每 GB 的價格,而要計算「每 GB 有效可用記憶體成本」,同時納入節省的 CPU 插槽、機櫃空間、電力與冷卻。在記憶體利用率原本就偏低的環境中,池化帶來的效益會遠高於帳面數字的比較。
七、結語:2026 年之後的伺服器長什麼樣子
CXL 記憶體池化對伺服器架構的影響,本質上是一場「解耦」運動。過去幾十年,運算、記憶體與儲存被綁在同一台機器裡,形成了一個難以拆分的最小單位。CXL 讓記憶體第一次可以從這個單位中抽離出來,成為獨立可調度的資源。這不只是硬體拓撲的改變,更是資料中心資源管理邏輯的重新定義。
2026 年正處於這個轉折的中段。硬體已可商用,軟體仍在成熟,生態系正在成形,而導入者的經驗則在快速累積。可以預見的是,未來幾年內,「一台伺服器有多少記憶體」這個問題會逐漸被「這個機櫃能調度多少記憶體」所取代。對於平台工程師與基礎設施決策者而言,現在正是理解並開始規劃的時機——不是因為明天就得全面汰換,而是因為記憶體池化的思維,將決定未來三到五年資料中心的競爭力。
記憶體牆依然存在,但牆的另一側,已經出現了一條可以通行的路。
本文由雅寶社區 · 頂客論壇技術編輯群整理撰寫,內容聚焦 2026 年 CXL 記憶體池化技術在伺服器架構重構中的角色與實務觀察。歡迎於論壇相關討論區交流您在 CXL 導入過程中的實測數據與踩坑經驗。
```