智通財經APP獲悉,國泰海通發布研報稱,英偉達下一代Rubin CPX在硬件層麵上分拆了AI推理的計算負載,內存升級提供更高速傳輸。隨著運算速度的提升,DRAM及NAND Flash在各類AI延伸應用,如智能手機、服務器、筆電的單機平均搭載容量均有成長,又以服務器領域成長幅度最高,2024年Server DRAM單機平均容量年增17.3%。伴隨AI服務器需求持續增加,AI高端芯片如英偉達下一代Rubin及雲端服務業者(CSP)自研ASIC陸續推出或開始量產,有助於高速運算的DRAM產品量價齊升。建議關注存儲模組。
國泰海通主要觀點如下:
英偉達下一代Rubin CPX在硬件層麵上分拆了AI推理的計算負載,內存升級提供更高速傳輸。
下一代英偉達旗艦AI服務器NVIDIA Vera Rubin NVL144 CPX集成了36個Vera CPU、144塊Rubin GPU和144塊Rubin CPX GPU。同時,單個機架提供100 TB的高速內存和1.7 PB/s的內存帶寬。搭載Rubin CPX的Rubin機架在處理大上下文窗口時的性能,比當前旗艦機架GB300 NVL72高最多6.5倍。
英偉達新品在硬件層麵上分拆了AI推理的計算負載:上下文階段屬於計算受限,需要高吞吐量的處理能力來攝取並分析大量輸入數據,從而生成首個輸出token;相反,生成階段則屬於內存帶寬受限,依賴高速的內存傳輸和高帶寬互聯,以維持逐個token的輸出性能。Rubin CPX專門針對“數百萬tokens”級別長上下文性能進行優化,具備30peta FLOPs的NVFP4算力、128 GB GDDR7內存。
開普雲收購深圳金泰克存儲條線業務,發力企業級DDR。
開普雲發布公告,擬通過發行股份的方式,購買深圳金泰克持有的南寧泰克30%股權,同時深圳金泰克將其存儲產品業務的經營性資產轉移至南寧泰克。同時根據《股權收購框架協議》約定,公司擬收購南寧泰克70%股權,交易對方深圳金泰克將其存儲產品業務的經營性資產轉移至南寧泰克。
供應商陸續推出AI高端芯片,內存升級助力DRAM量價齊升。
隨著運算速度的提升,DRAM及NAND Flash在各類AI延伸應用,如智能手機、服務器、筆電的單機平均搭載容量均有成長,又以服務器領域成長幅度最高,2024年Server DRAM單機平均容量年增17.3%。伴隨AI服務器需求持續增加,AI高端芯片如英偉達下一代Rubin及雲端服務業者(CSP)自研ASIC陸續推出或開始量產,有助於高速運算的DRAM產品量價齊升。
風險提示:國產替代進程不及預期;技術迭代不及預期。
關於国产AV蜜桃网站|版權聲明| 違法和不良信息舉報電話:010-84151598 | 網絡敲詐和有償刪帖舉報電話:010-84151598
Copyright © 2008-2024 by {當前域名}. all rights reserved