Micron 美光科技

文章数:640 被阅读:1001592

账号入驻

利用美光速度超群的数据中心SSD加速AI工作负载

最新更新时间:2024-09-06
    阅读数:


关注美光 获取动态



随着人工智能(AI)不断改变行业并推动创新,数据中心需要能够跟上存储解决方案的发展步伐。 为满足这一需求,今天我很高兴地宣布推出新款存储解决方案——美光9550 NVMe TM SSD。这一新款尖端垂直集成SSD采用了PCIe ® Gen5解决方案,基于美光业界前沿的232层NAND打造。通过结合这些尖端技术,美光为性能和能效设立了新的标杆。美光9550 SSD不仅速度快,还是市场上运行速度名列前茅的PCIe Gen5x4数据中心SSD,可提供出类拔萃的性能和能效。



美光9550速度和效率出类拔萃

美光9550 SSD采用PCIe Gen5技术,性能实力惊人,速度在业界出类拔萃。美光9550的部分性能数据:


顺序读取性能高达14GB/s ,数据传输速度大幅提升,位于业界前沿。

顺序写入性能高达10GB/s ,相比目前市场上的其他PCIe Gen5存储,性能要高出67%,优势明显。

随机读取性能高达330万IOPS ,与市场上的竞争产品相比提升高达35%。

随机写入性能高达40万IOPS ,比竞品解决方案高出33%。


对于寻求加速工作负载的数据中心的客户而言,出色的性能使美光9550 SSD脱颖而出。


AI:杀手级PCIe Gen5应用程序


AI已成为PCIe Gen5的杀手级应用程序,提升了业界对高性能存储解决方案的需求。 随着AI模型规模不断扩大,对高效数据处理的需求也在不断增长。传统的文件访问方法无法满足这些工作负载的需求,从而带来了严重的延迟和大量资源开销。为了应对这一挑战,业界正在开发大加速器内存(BaM)等创新存储软件解决方案,利用SSD实现GPU线程对大量数据集和大型训练模型的直接、细粒度访问。


BaM的定制存储驱动程序针对并行GPU处理进行了优化,无需CPU干预即可直接访问存储设备。这可以显著减少训练时间,并大幅提高图神经网络(GNN)等工作负载的IOPS,这些工作负载依赖于大型数据集上的小型随机读取操作。


BaM通过显著缩短GNN训练时间和大幅提高每秒读写操作次数(IOPS)展示了其出色的能力。 在对美光9550进行的BaM测试中,我们展示了在AI数据处理效率和速度的新标准。


可持续发展与性能相结合


在可持续性领域,美光9550 SSD的突出之处不仅在于出色的性能,还在于业界前沿的能源效率,这是AI工作负载的关键因素。我们的测试数据显示,在使用BaM进行GNN训练时,美光9550的性能表现比竞争对手高出60%,同时每个SSD的能耗降低了多达43%,这意味着完成相同任务所需的系统能耗降低了29%。

同样,在大型语言模型推理测试中,我们的测试表明,使用美光9550 SSD可将性能提高15%,同时每个硬盘至多可节能37% ,这意味着系统能耗节省高达19%。





数据中心的未来已来


美光9550不仅仅是一个器件,更是数据处理技术的一次飞跃。优异的速度和效率使AI应用程序能够达到更好的运行状态,推动各个行业的创新和进步。


“美光9550 Gen5 SSD遵循OCP数据中心SSD v2.5等超大规模驱动的行业标准,包括先进的遥测功能,从而加速存储创新。”Meta系统工程师Ross Stenfort说。“这些功能加上E1.S外形尺寸和高达16TB的容量,可助力维护规模机群。”




本文作者: Alvaro Toledo




数据中心和存储产品事业部副总裁兼总经理


微信服务号

微信订阅号

微信视频号


点击 阅读原文 ,了解美光9550 SSD更多精彩内容


END



· 加入美光科技VIP俱乐部 ·

与美光科技共同遨游创新内存与存储世界

技术资源下载、签到积分兑好礼等多重会员福利等你解锁


/ 往期推荐 /

点分享
点收藏
点点赞
点在看

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: TI培训

北京市海淀区中关村大街18号B座15层1530室 电话:(010)82350740 邮编:100190

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved