为AI服务器与数据中心带来容量/带宽/速度三合一升级
全新架构以PCIe Gen5带宽突破计算僵局,E3.S 2T规格为系统扩充增添弹性
深圳2024年9月5日 /美通社/ -- AI服务器应用持续升温,相关设备的硬件规格需求也随之提升,使得业界过往普遍采用的容量与带宽标准,已无法完整满足现今庞大AI计算所需的效能。呼应产业现状,全球AI解决方案与工业级内存领导品牌宜鼎国际 (Innodisk)领先推出「CXL内存模块」,透过全新CXL协议,提供单条64GB大容量及高达32GB/s的带宽。宜鼎CXL内存采用E3.S 2T规格,为系统提供更弹性且成本合理的扩充方式,让服务器可直上AI计算所需的硬件规格。除了提升服务器容量与带宽外,更透过CXL独创的「共享内存资源」特性及PCIe接口,打破传统内存信道的带宽限制,让服务器效能可随着AI发展与时俱进。
宜鼎采用CXL全新架构:解锁对内存资源的制约,突破服务器三大计算瓶颈
TrendForce研调预估,在大型云端业者及品牌厂对AI服务器的持续投资下,今年AI服务器出货量将上修至167万台、产值占整体服务器市场比重高达65%。同时,对服务器效能至关重要的CPU亦迅速演进,然而尽管CPU的计算能力提升,却受限于传统内存信道对带宽的限制,让CPU无法完整获得内存的计算资源,因而难以发挥最大硬件效能。此情形遍布在全球数以万计的服务器上,尤其对拥有大量服务器的数据中心而言,影响更为显著。
宜鼎积极投入创新,领先推出采用全新CXL协议的内存模块,以改善上述情形、并解决服务器系统现存的三大瓶颈。包括:透过采用简化的协议及高兼容性的PCIe 5.0接口,改善「系统组件之间因协议不同导致的传输延迟」;透过CXL的内存池 (Memory pooling )技术,让同一层架多台服务器的CPU、加速器等操作数件共享内存资源,减少资源冗余,解决「内存利用率低」的状况。
此外,有别于目前主流DDR架构,CXL底层技术采用PCIe接口,使其可透过独立通道,与服务器内既有的DDR5内存并存,让CPU在现有的DIMM以外,可再轻松从PCIe接口获得CXL内存模块带来的额外带宽与容量,有效解决目前「CPU可用内存带宽受限」的痛点,发挥加乘效益。
宜鼎CXL内存模块,以32GB/s带宽、单条64GB大容量为AI与机器学习助力
宜鼎CXL内存模块采用 EDSFF标准下的E3.S 2T尺寸规格,可灵活抽换、调配容量,让服务器享有高扩充弹性。此外,宜鼎CXL内存具备单条64GB的存取容量;若装载4个CXL内存模块,即可为原本配备8条128GB内存的服务器增加30%内存容量及40%带宽,轻松将其扩充至AI计算所需的1.2TB以上容量。宜鼎CXL内存外观设计采用铝合金外壳,正反两面分别为雾面的银、黑配色,不仅沿袭宜鼎专注工控的沉稳质感、更揉合CXL代表的创新与革命性特质。
宜鼎CXL内存支持CXL 2.0规范、采用Type 3传输协议,并透过PCIe Gen5 x8接口,提供高达32GB/s的传输带宽。因此非常适用于加速AI与机器学习、大规模分析、图形数据库等应用。
宜鼎国际工控DRAM事业处总经理张伟民表示:「宜鼎持续致力为AI赋能,也因而愿意挹注大量研发资源提升系统计算效能,领先全球模块厂商,成为率先投入开发并量产CXL内存的品牌之一。CXL内存除了能大幅提升服务器带宽与存取容量,更具备广泛的支持性,可帮助宜鼎的服务器与数据中心客户,在不须大幅改动硬件的前提下,扩充既有系统、达到近乎无痛的效能升级。目前CXL协议已在各国际大厂协力推动下持续蓬勃,我们也相当看好由CXL引领的计算趋势,将可让服务器端的AI应用推升至下个高峰。」
CXL目前在业界仍属新兴技术,透过宜鼎细致而全方位的导入与技术支持服务,可让客户在面对全新架构时,安心拥抱升级。同时,宜鼎具备多年工控与AI领域客制经验、以及从各代DDR到CXL的丰富产品规格,可提供高弹性、为各种终端环境量身打造的内存配置与解决方案。
宜鼎CXL内存模块预计于2025年初正式出货,为云端计算、大型数据中心、网络通讯、边缘计算等领域赋能。更多产品相关信息,请浏览:。
关于宜鼎及旗下解决方案,更多信息请参考:
宜鼎集团AIoT布局,请参考: