NVIDIA 发布全新交换机,全面优化万亿参数级 GPU 计算和 AI 基础设施

发布者:EE小广播最新更新时间:2024-03-19 来源: EEWORLD关键字:NVIDIA  交换机  GPU  AI  基础设施 手机看文章 扫描二维码
随时随地手机看文章

NVIDIA 发布全新交换机,全面优化万亿参数级 GPU 计算和 AI 基础设施


● NVIDIA Quantum-X800 InfiniBand 网络,打造性能最强大的 AI 专用基础设施

● NVIDIA Spectrum-X800 以太网络,数据中心必备的优化 AI 网络

● NVIDIA 软件实现了跨  Blackwell GPU、新交换机和 BlueField-3 SuperNIC 的分布式计算,大幅提升了 AI、数据处理、高性能计算和云工作负载的性能


 image.png


美国加利福尼亚州圣何塞 —— GTC —— 太平洋时间 2024 年 3 月 18 日 —— NVIDIA 发布专为大规模 AI 量身订制的全新网络交换机 - X800 系列。


NVIDIA Quantum-X800 InfiniBand 网络和 NVIDIA Spectrum™-X800 以太网络是全球首批高达 800Gb/s 端到端吞吐量的网络平台,将计算和 AI 工作负载的网络性能提升到了一个新的水平,与其配套软件强强联手可进一步加速各种数据中心中的 AI、云、数据处理和高性能计算(HPC)应用,包括基于最新的 NVIDIA Blackwell 架构产品的数据中心。


NVIDIA 网络高级副总裁 Gilad Shainer 表示:“NVIDIA 网络平台是 AI 超级计算基础设施实现大规模可扩展的核心。基于 NVIDIA X800 交换机的端到端网络平台,使新型 AI 基础设施轻松运行万亿参数级生成式 AI 业务。”


Quantum InfiniBand 和 Spectrum-X 以太网的早期用户包括微软 Azure 、Oracle Cloud Infrastructure 和 Coreweave 等。


微软 Azure AI 基础设施副总裁 Nidhi Chappell 表示:“AI 是一个将数据转化为知识的强大工具,支撑这种转化的基础就是数据中心演进成为了高性能的 AI 引擎,这个演进又对网络基础设施提出了更大的需求。通过与 NVIDIA 网络解决方案的全新整合,微软 Azure云将持续构建我们的基础设施,推动 AI 云走向新的台阶。”


树立极致性能的新标杆


Quantum-X800 平台树立了 AI 专用基础设施极致性能的新标杆,该平台包含了 NVIDIA Quantum Q3400 交换机和 NVIDIA ConnectXⓇ-8 SuperNIC,二者互连达到了业界领先的端到端 800Gb/s 吞吐量,交换带宽容量较上一代产品提高了 5 倍,网络计算能力更是凭借 NVIDIA 的 SHARP™ 技术(SHARPv4)提高了 9 倍,达到了 14.4Tflops。


Spectrum-X800 平台为 AI 云和企业级基础设施带来优化的网络性能。借助 800Gb/s 的 Spectrum SN5600 交换机和 NVIDIA BlueField-3 SuperNIC,Spectrum-X800 平台为多租户生成式 AI 云和大型企业级用户提供各种至关重要的先进功能。


Spectrum-X800 通过优化网络性能,加快 AI 工作负载的处理、分析和执行速度,进而缩短 AI 解决方案的开发、部署和上市时间。Spectrum-X800 专为多租户环境打造,实现了每个租户的 AI 工作负载的性能隔离,使业务性能能够持续保持在最佳状态,提升客户满意度和服务质量。


NVIDIA 软件助一臂之力


NVIDIA 提供面向万亿参数级 AI 模型性能优化的网络加速通信库、软件开发套件和管理软件等全套软件方案。


其中的 NVIDIA 集合通信库(NCCL)可将 GPU 的并行计算任务扩展到 Quantum-X800 网络,利用其基于 SHARPv4 的强大网络计算能力和对 FP8 的支持,为大模型训练和生成式 AI 提供超强的性能。


NVIDIA 的全栈软件方案带来了先进的可编程性,使数据中心网络变得更加灵活、可靠和灵敏,既提高了整体运营效率,又满足了现代应用和服务的需求。


生态里程碑


全球多家头部基础设施供应商和系统厂商将在明年开始提供基于 Quantum-X800 和Spectrum-X800 的网络平台,包括 Aivres、DDN、戴尔科技、Eviden、Hitachi Vantara、慧与、联想、超微和 VAST Data 等。


关键字:NVIDIA  交换机  GPU  AI  基础设施 引用地址:NVIDIA 发布全新交换机,全面优化万亿参数级 GPU 计算和 AI 基础设施

上一篇:NVIDIA Blackwell 平台发布,赋能计算新时代
下一篇:NVIDIA 发布全新交换机,全面优化万亿参数级 GPU 计算和 AI 基础设施

推荐阅读最新更新时间:2024-11-02 12:46

人工智能专利战 美大厂囊括逾7成
   从人工智能美国核准专利看各国竞争力,会发现主要集中在美国、日本及德国,美国握有专利权占比达73.5%、日本占比9.7%、德国占比4%,而台湾占比仅1.1%;人工智能重要技术项目专利权多已被美国大厂囊括,像是IBM、Microsoft、Google、Apple、Intel、Amazon等。 2016年3月全球科技界关注焦点之一:围棋九段棋手李世石对弈人工智慧AlphaGo,五局对战结果,AlphaGo以四胜一败战绩打败人类棋王。这是继1997年人工智慧Deep Blue打败西洋棋世界冠军卡斯巴罗夫之后,人工智慧又一次战胜人脑,说明AlphaGo采用的人工智慧运算系统已有突破性进展。 美国大厂囊括重要技术专利
[手机便携]
东莞“抢跑”人工智能时代 加速布局走东莞路径
    日前,国务院印发《新一代人工智能发展规划》(以下简称《规划》),提出了面向2030年我国新一代人工智能发展的指导思想、战略目标、重点任务和保障措施,部署构筑我国人工智能发展的先发优势,加快建设创新型国家和世界科技强国。   人工智能,被认为是互联网产业的下一个风口。近年来,科技界的焦点完成了从个人电脑向移动端的切换,而国内外科技巨头在人工智能领域也早已掀起并购大战,谷歌在今年上半年就在人工智能领域完成了两笔收购,百度也在这一领域频频发力。   制造基础雄厚的东莞,在人工智能发展浪潮中也将迎来重大机遇。东莞市近日印发的《东莞市战略性新兴产业发展“十三五”规划》提出,要抢占人工智能、软件、集成电路设计等高端环节,将东莞
[半导体设计/制造]
强认知AI赋能体教融合,暗物智能亮相“西部电博会”
以“新格局、新极核、新机遇”为主题的西部最大电子信息产业盛会2021中国(西部)电子信息博览会将于7月15-17日在成都世纪城新国际博览中心举办,本届博览会由成都市人民政府、四川省经济和信息化厅、重庆市经济和信息化委员会指导,成都市经济和信息化局、成都市博览局、中国电子器材有限公司主办,中电会展与信息传播有限公司、成都电子信息产业生态圈联盟承办,集中展示包括智能驾驶、5G和智能终端、大数据存储和人工智能、新型显示、集成电路、电子元器件、测试测量与微波射频、网络安全等代表电子信息产业未来发展的核心内容。作为人工智能领域的领军企业暗物智能科技(展位号:3A214),将携多款AI人工智能终端产品亮相这场行业盛会。 公司简介: 暗
[物联网]
全新奔驰A级搭人工智能技术 2月2日全球首发
A级是奔驰旗下一款紧凑级两厢轿车,作为品牌入门产品,目前以进口方式引入国内。近日,梅赛德斯-奔驰官方发布了一组新车预告图。网通社从官方获悉,全新一代奔驰A级将采用全新L造型LED光源头灯,前脸搭配盾牌LOGO显得更加激进。另外,全新一代奔驰A级将搭载一套MBUX系统,并定于2月2日全球首发,随后还会亮相日内瓦车展。 新车内饰经过重新设计,采用环抱式布局,中控台配备由两块可触控电容屏组成的一体式屏幕,可直接显示车辆时速、转速等车辆信息,而导航、多媒体等功能也均在屏幕上得以呈现。此外,新车还将配备新一代智能人机交互系统MBUX,通过人工智能进行自我学习,为客户带来更为便捷的操控和体验,用户可通过Hey Mercedes来
[汽车电子]
华为加入欧盟5G基础设施协会 中企挤入西方高技术俱乐部
   7月3日,华为在布鲁塞尔宣布,该公司在6月末入选欧盟5G基础设施协会董事会。(资料图) 中国日报布鲁塞尔7月3日电(首席记者 付敬) 全球领先的信息与通信解决方案供应商华为7月3日在布鲁塞尔宣布,该公司在6月末入选欧盟5G基础设施协会董事会,华为欧洲研究所的戴维·索尔达尼(David Soldani)博士将出任董事会代表。 这标志着欧盟政府和业界对华为的技术研发实力的肯定、公司在欧洲运营的本地化程度以及其对欧洲通讯技术进步和竞争力增强的贡献。此前,华为的消息说该公司在中国也引领5G的研究和开发,并说服中国政府将瑞典的爱立信也纳入到政府支持的863高科技研发计划中。 去年的数据表明华为已经超过爱立信,成为全球销售收入第一
[手机便携]
莫大康:人工智能很火的思考
  中国政府2017年将 人工智能 写进《政府工作报告》中,美国白宫2016年就发布了一份名为《时刻准备着:为了 人工智能 的未来》(Preparing for the Future of Artificial Intelligence)的研究报告,两国都清晰地认为,AI是下一个时代的科技制高点。下面就随网络通信小编一起来了解一下相关内容吧。    人工智能 很火   中国政府2017年将 人工智能 写进《政府工作报告》中,美国白宫2016年就发布了一份名为《时刻准备着:为了 人工智能 的未来》(Preparing for the Future of Artificial Intelligence)的研究报告,两国都清晰
[网络通信]
FPGA的明天在哪里?Intel、AMD和Nvidia都将怎么做?
本文编译自SemiWiki 2015年6月1日,英特尔和Altera宣布,他们已达成最终协议,英特尔将以167亿美元收购Altera。这是FPGA界的一个重要里程碑,因为Xilinx和Altera是FPGA的主要供应商。 而在不久前AMD正式宣布收购Xilinx之后,FPGA界对FPGA的未来产生了极大的担忧。 据AMD称,收购Xilinx的主要目标是创建业界领先的高性能计算公司,“显著扩大AMD产品组合和客户群的广度,包括Xilinx已确立的领先市场”。但是,Xilinx领先的主要市场是什么? Alveo,VERSAL和Vitis AI Xilinx在3年前发布了一个功能强大的FPGA平台Alveo。Alve
[嵌入式]
湖南出台十条政策 进一步加快电动汽车充电基础设施建设
  近日,湖南省发展和改革委员会印发《关于进一步加快电动汽车充电基础设施建设的意见》。   《意见》指出,加强充电基础设施配套电网建设。供电企业要加大充电设施配套电网建设力度,每年根据充电设施建设需求安排专项资金,不断增强充电设施接电保障能力。   以下为原文 湖南省发展和改革委员会关于印发《关于进一步加快电动汽车充电基础设施建设的意见》的通知 湘发改能源规〔2022〕1052号 各市州、县市区发展改革委(局),各供电企业、充电设施建设运营企业:   现将《关于进一步加快电动汽车充电基础设施建设的意见》印发给你们,请遵照执行。 湖南省发展和改革委员会 2023年1月
[新能源]
小广播
最新网络通信文章

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved