存储器厂聚焦CXL存储器扩充器产品,以突破AI/ML 服务器 DRAM硬件限制|TrendForce集邦咨询

2023-04-14 14:08:38
雲联科技

TrendForce集邦咨询:存储器厂聚焦CXL存储器扩充器产品,以突破AI/ML 服务器 DRAM硬件限制据TrendForce集邦咨询最新服务器相关报告指出,CXL(Compute Express Link)原是希望能够整合各种xPU之间的性能,进而优化AI与HPC所需要的硬件成本,并突破原先的硬件限制。CXL的支援仍是以CPU为源头去考虑,但由于可支援CXL功能的服务器CPU Intel Sapphire Rapids与AMD Genoa现阶段仅支援至CXL 1.1规格,而该规格可先实现的产品则是CXL存储器扩充(CXL Memory Expander)。因此,TrendForce认为,在各种CXL相关产品内,CXL存储器扩充将成为前驱产品,其产品也与DRAM最为相关。CXL存储器池化功能助攻,AI与HPC可望突破硬件限制,并带动服务器整机DRAM用量不过,目前CXL 1.1对DRAM来讲,仅为存储器扩充的实践,要到CXL 2.0才会实现存储器池化(memory pooling)。以现阶段而言,以双插槽CPU服务器整机的平均RDIMM使用量约为10-12条(最多为16条),意即RDIMM插槽与通道数尚未全数使用,故以短期而言,一般的computing 服务器仍可凭借升级原有的RDIMM,而仅有需要AI与HPC的应用才会有CXL需求。TrendForce集邦咨询研判,CXL存储器扩充器的用量对于DRAM整体市场的影响度有限,短期内是用以优化HPC的性能而产生的产品。但在现有的应用下,服务器整机上的DRAM在运行中仍会有闲置而未被使用的容量,这也使得数据中心业者要支付多余的DRAM成本。以长期而言,随着更多元化及更复杂性的应用,服务器整机的DRAM平均搭载容量会呈现逐年增长的趋势,但未来若实践CXL存储器池化的情境下,可使得xPU内的存储器资源可有效被运用。TrendForce集邦咨询认为,CXL存储器池化功能将会收敛买方采购的RDIMM模块的需求用量,使得后续年对年间的服务器 DRAM单机搭载容量增速趋缓。CXL联盟最终希望通过该界面使得各装置的资源有效运用,进而突破AI与HPC的硬件瓶颈。在CXL的协助下,AI与HPC发展随着模型复杂度的增加,将会助力相关机种的出货量。因此,由这个观点来看,CXL会带动服务器整机的DRAM(亦即合并RDIMM与CXL存储器扩充器计算)平均搭载容量;但以服务器上DRAM用量的年成长速度而言,则会因为CXL可有效率地使用整机DRAM,而使成长率趋缓。而会大量需要CXL功能的买方以高阶运算机种为主,因此云端服务供应商会是主要的用户。TrendForce集邦咨询亦观察到部分OEM对其HPC运算客户出货的机种,也有需要大容量DRAM扩充之需求,同样将为该产品的潜在采用者。Montage、Marvell、Microchip营收有望受CXL崛起再攀升目前原厂开发的CXL存储器扩充器使用的是DDR5,不过现阶段仍受PCIe 5.0接口速度局限,释出速度仅略等同于DDR4。未来一旦CPU支援到PCIe 6.0亦或是更高的规格,则足以使DDR5发挥完整的速度。以CXL存储器扩充器结构来看,除了DRAM外,需搭配一颗CXL控制器((CXL controller)),其厂商有Montage、Marvell与Microchip等,故CXL的崛起不但能直接带动控制器供应商的营收外,也不排除未来可能出现类似模组厂亦或是云端服务供应商自研的模式,配套控制器与DRAM后而生产CXL存储器扩充器。综上所述,现阶段服务器性能停滞可望因CXL的发展获改善,将有效提高DRAM在服务器上的使用,免于闲置成本的增加。而未来CXL2.0规范将可改变现有的硬件瓶颈,并在存储器池化的协助下,CXL将可以发挥更大优势。而随着更多元化及更复杂性的应用,HPC与AI等高强度运算对于xPU仰赖更胜于以往。在存储器池化的共享下,模型的设计能摆脱硬件瓶颈,持续往更复杂的架构建设。此外,CXL导入将随着未来功能强度而普及化,尤其在云端业务大规模导入在产业中,此规范更能优化服务器之间的沟通,因CXL建立彼此间沟通的高速互连性,两者交互有助于扩展服务器平行间运算力应用与优化总体拥有成本(Total Cost of Ownership,TCO)。

雲联科技

 

站内搜索
相关推荐
大型云端业者积极建置AI 服务器,加速推升AI芯片与HBM需求,预估2024年先进封装产能将提升3~4成|TrendForce集邦咨询
大型云端业者积极建置AI 服务器,加速推升AI芯片与HBM需求,预估2024年先进封装产能将提升3~4成|TrendForce集邦咨询

TrendForce集邦咨询:大型云端业者积极建置AI 服务器,加速推升AI芯片与HBM需求,预估2024年先进封装产能将提升3~4成根据TrendForce集邦咨询研究指出,2023年ChatBOT等生成式AI应用带动AI服务器成长热潮,又以大型云端业者最积极投入,包含Microsoft、Google、AWS或其他中......

浙江公布重点项目;300亿产业基金落地;半导体大厂新动态
浙江公布重点项目;300亿产业基金落地;半导体大厂新动态

由于四大CSP陆续下调采购量,Dell及HPE等OEM也在2~4月期间下调全年出货量预估,同比分别减少15%及12%,加上国际形势及经济因素影响,服务器需求展望不佳。TrendForce集邦咨询预估,今年全球服务器整机出货量将因此再下修至1,383.5万台,同比减少2.85%。TrendForce集邦咨询表示,上半年服......

AI需求持续看涨,预估2023年全球AI服务器出货量年增近4成|TrendForce集邦咨询
AI需求持续看涨,预估2023年全球AI服务器出货量年增近4成|TrendForce集邦咨询

AI服务器及AI芯片需求同步看涨,TrendForce集邦咨询预估2023年AI服务器(包含搭载GPU、FPGA、ASIC等)出货量近120万台,年增38.4%,占整体服务器出货量近9%,至2026年将占15%,同步上修2022~2026年AI服务器出货量年复合成长率至22%。而AI芯片2023年出货量将成长46%。T......

谷歌最新资讯动态
谷歌最新资讯动态

2020-12-11 近期,谷歌代号为Whitechapel的自研SoC芯片已流片成功,将用于自家的Pixel手机。谷歌此举可谓是目标明确,剑指智能手机市场,同时,也有越来越多的龙头手机企业开始走上自研芯片的道路。这颗小小的芯片能否有足够的能力助谷歌在手机行业一步登顶?目标:以自研芯片撬动手机市场此前,谷歌曾立下 ld......

全年服务器出货量持续下修,预估同比减少2.85%|TrendForce集邦咨询
全年服务器出货量持续下修,预估同比减少2.85%|TrendForce集邦咨询

由于四大CSP陆续下调采购量,Dell及HPE等OEM也在2~4月期间下调全年出货量预估,同比分别减少15%及12%,加上国际形势及经济因素影响,服务器需求展望不佳。TrendForce集邦咨询预估,今年全球服务器整机出货量将因此再下修至1,383.5万台,同比减少2.85%。TrendForce集邦咨询表示,上半年服......

数十亿美元,亚马逊、微软、谷歌等合力开发服务器与AI芯片
数十亿美元,亚马逊、微软、谷歌等合力开发服务器与AI芯片

近期,外媒报道亚马逊、微软、谷歌等科技大厂已经推出或计划发布多款服务器芯片(CPU)和云端AI芯片,用于内部产品开发、云服务器租赁业务等领域。科技大厂自研服务器与AI芯片,有助于不断降低数据中心运营成本。目前,上述厂商研究的相关芯片均采用5纳米工艺节点。报道称,这些大厂共同斥资数十亿美元开发和生产微芯片,芯片项目正成为......

中国芯片进出口数据公布;华为发布SiC电驱平台!
中国芯片进出口数据公布;华为发布SiC电驱平台!

近日,海关总署公布了2023年3月全国进口重点商品量值表(美元值)。数据显示,今年3月,中国集成电路产品进出口数量分别为406.1亿个和236.5亿个,进出口总值分别为306.72亿美元和131.05亿美元。累计2023年前3个月(2023年1-3月),中国集成电路进口产品无论从数量还是总值而言都有所下滑。从数量而言,......

SK海力士最新资讯动态
SK海力士最新资讯动态

2023-04-20 2023年4月20日, SK海力士宣布,再次超越了现有最高性能DRAM(内存)——HBM3*的技术界限,全球首次实现垂直堆叠12个单品DRAM芯片,成功开发出最高容量24GB......

AI服务器需求带动, HBM供应龙头SK海力士今年市占率将逾五成|TrendForce集邦咨询
AI服务器需求带动, HBM供应龙头SK海力士今年市占率将逾五成|TrendForce集邦咨询

AI服务器出货动能强劲带动HBM(high bandwidth memory)需求提升,据TrendForce集邦咨询研究显示,2022年三大原厂HBM市占率分别为SK海力士(SK hynix)50%、三星(Samsung)约40%、美光(Micron)约10%。此外,高阶深度学习AI GPU的规格也刺激HBM产品更迭......

“价格还要看芯片”,多家服务器上市公司称价未涨量在升
“价格还要看芯片”,多家服务器上市公司称价未涨量在升

人工智能热潮下,AI服务器也变火了。近日,有关服务器涨价的传闻,引发业界高度关注。闻泰科技方面告诉财联社记者,其服务器价格呈上涨趋势。不过,浪潮信息人士独家回应财联社记者称, 浪潮服务器的价格目前比较稳定,暂未有较大的价格波动 。 财联社记者还从一家服务器上市公司相关人士处了解到, 服务器价格怎么来维系,主要是看芯片价......