转:#海外CSP或将TPU通过ocs扩展CXL内存池,以增加单颗TPU的DRAM容量,利好内存接口CXL芯片✔OCS+CXL在 KV cache、RAG embaedding cache、Agent长期记忆、模型分片offload、多TPU共享缓存池等场景有明显优势。CXL容量大,访问局部性强,对200ns级延迟可容忍✔成本能效端:当容量达到1-2TB时,LPDDR或出现:板级复杂度暴涨、封装成本高、布线难度大的问题;CXL扩容成本线性,可池化并提高利用率。