应对人工智能数据中心的电力挑战

发布者:EE小广播最新更新时间:2024-06-24 来源: EEWORLD关键字:人工智能  数据中心  电力  安森美 手机看文章 扫描二维码
随时随地手机看文章

Meeting the AI Data Center Power Challenge

应对人工智能数据中心的电力挑战


image.png

国际能源署 (IEA) 的数据表明,2022 年数据中心的耗电量约占全球总用电量的 2%,达到 460 TWh 左右。如今,加密货币和人工智能/机器学习 (AI/ML) 等高耗能应用方兴未艾,而这些技术中通常需要部署大量的高性能图形处理单元 (GPU)。因此,数据中心耗电量仍将不断攀升。


人工智能应用的扩展速度令人震惊。ChatGPT 上线仅 5 天,用户数量就达到了 100 万,并在 2 个月内突破了 1 亿,这一增长速度远超于 TikTok 和 Instagram。GPT-4 训练包含超过 1.7 万亿参数和 13 万亿 token,总共使用了 2.5 万个 NVIDIA A100 GPU,每台服务器的功耗约为 6.5 kW。据 OpenAI 称,GPT-4 的训练耗时 100 天,消耗能源约 50 GWh,耗资 1 亿美元。


在当前环境中,我们很难准确估计未来耗电情况,其中为支持人工智能而部署的 GPU 消耗了大部分电力。国际能源署保守预测,到 2026 年,数据中心的耗电量将至少达到 650 TWh,甚至可能超过 1,000 TWh。


人工智能数据中心的架构演变


早期数据中心将电网电压集中转换为 12V,然后通过总线将电力传输至服务器,再通过逻辑电平转换器将电压转换为 3.3/5V。然而功率需求不断提升,这种供电方法的电能损耗变得不可接受。因此,母线电压被提高到 48V,电流减小到原来的 1/4,损耗降低到了原来的 1/16。


而目前处理器电压进一步降低,从 3.3V 降到了低于 1V 的亚伏特级别,此时就需要使用多条功率相对较高的电压轨。这进而催生了两级电压转换方案。该方案使用 DC-DC 转换器作为中间总线转换器 (IBC),先将 48V 电压转换为 12V 的局部总线电压,然后再将此转换为所需的低电压。


image.png

图 1:典型服务器电源架构 – 中间总线


人工智能数据中心需要高能效电源转换


功率损耗带来了双重挑战,不仅会造成能源浪费、增加运营成本,而且会产生大量热量,进而需占用更大空间、消耗更多成本。运营超大规模人工智能数据中心时,机架功率需求为 120 kW。将电网电力转换为 GPU 所用电压的能效约为 88%,这意味着会产生大约 15 kW 废热,并需要通过液冷技术进行有效散热。


在服务器电源设计中,能效和功率密度是两个重要概念,二者相辅相成。我们必须尽可能高效地将来自电网的能量转换为有用功率,减少损耗。为此,电源拓扑不断演变,业界开发了同步整流等技术,并在整流器中采用 MOSFET 取代了损耗较大的二极管。


改进拓扑结构只成功了一半。为了优化能效,还必须尽可能提高所有元器件的能效,尤其是对转换过程至关重要的 MOSFET。


MOSFET 并非无损耗器件,在导通和开关过程中也会产生损耗。随着服务器电源不断提高运行频率以缩小尺寸,开关损耗成为了优化的重点。


高效 PowerTrench® MOSFET


安森美 (onsemi) 的中低压 T10 PowerTrench® MOSFET 采用了新型屏蔽栅极沟槽技术,降低了开关损耗和导通损耗,并进而显著降低了其 Qg,RDS(ON) 也降至 1mOhm 以下。其中的先进软恢复体二极管缓解了振铃、过冲和噪声问题,同时降低了 Qrr 损耗,为快速开关应用找到了性能与恢复时间的平衡点。


与早期器件相比,这些新型 MOSFET 可使开关损耗降低高达 50%,并使导通损耗降低 30% 以上。


image.png

图 2:PowerTrench® T10 MOSFET 的优势


安森美新型 40V和 80V T10 PowerTrench 器件的 RDS(on) 表现出色。NTMFWS1D5N08X(80 V、1.43 mΩ、5 mm x 6 mm SO8-FL 封装)和 NTTFSSCH1D3N04XL(40 V、1.3 mΩ、3.3 mm x 3.3 mm 源极向下双散热封装)具有优异的品质因数 (FOM),是人工智能数据中心电源供应器(PSU) 和中间总线转换器应用的理想选择。T10 PowerTrench MOSFET 符合严格的 Open Rack V3 能效标准,即能效达到 97.5% 以上。


关键字:人工智能  数据中心  电力  安森美 引用地址:应对人工智能数据中心的电力挑战

上一篇:安森美推出最新的第 7 代 IGBT 模块, 助力可再生能源应用简化设计并降低成本
下一篇:菎能宣布 100kWh 试点项目和全球扩张计划

推荐阅读最新更新时间:2024-11-16 22:26

看见你的大脑 专家称人工智能或能读懂人脑
日本科学家研发出一种可以读懂人脑的人工智能技术,通过分析大脑活动,描绘出人们看见或正想象的图像。   京都大学科学家神谷之康的实验室召集3名志愿者,在他们看图的同时给他们的大脑做核磁共振,然后把核磁共振图像交给人工智能系统分析。通过分析志愿者大脑活动,这套人工智能系统不但一个像素一个像素还原了他们看到的猫头鹰、飞机、玻璃窗、红色邮筒等图像,还还原了志愿者想象的方形、十字架、金鱼、天鹅、豹子、保龄球等基本图像。   尽管人工智能系统还原的图像仍有些模糊且成像质量因人而异,研究人员相信,他们的实验可能打开了探视人们“内心的独特窗口”,用大脑扫描图像翻译人们的想象。相关研究结果发表于美国生命科学领域预印本网站BioRxiv。科学家希
[安防电子]
安森美成功入选中国汽车新供应链百强榜单
安森美成功入选中国汽车新供应链百强榜单 EliteSiC M3S功率集成模块(PIM)在汽车充换电领域的创新再获认可 中国上海 - 2024 年 10 月 30 日 - 智能电源和智能感知技术的领先企业安森美(onsemi)凭借其最新研发的EliteSiC M3S功率集成模块(PIM)在充换电领域取得的重大突破 ,成功入选业界知名媒体盖世汽车金辑奖“新供应链百强”榜单。金辑奖旨在表彰那些在技术创新、市场表现及用户体验等方面表现卓越的企业和技术项目,以促进中国汽车行业的高质量发展。这一奖项的获得不仅是对安森美技术创新的认可,也彰显了M3S PIM对于推动电动汽车充电技术发展的重要贡献。 本届“金辑奖”中国汽车新供应链百
[汽车电子]
<font color='red'>安森美</font>成功入选中国汽车新供应链百强榜单
移动AI开发生态争夺战|手机AI旅行地图<三>
让我们回想一下那遥远的过去,是什么原因决定了我们抛弃小板砖一样的功能机,选择智能手机的? 是因为颜值?交互新鲜感?我相信绝大部分用户,是因为APP模式带来了太多实用价值,身边的人都用上了,自己甚至没法不跟进。所以乔帮主的伟大之处,不仅在于颠覆了手机的形态,更重要的是给未来手机的生态打开了入口。直到今天其能量与想象力也远没有耗竭。 等到手机AI时代拉开序幕,这个逻辑似乎依旧通用。毕竟AI算法的特征就是千奇百怪,做什么的都有。 有人用AI做医疗,有人用AI当客服,甚至还有人用AI预测死亡时间,如何把这些令人咋舌的点子,全都移植到手机上,显然才是这个时代真正的大生意。 但对于全新的人工智能世界来说,把开发者和开发生
[手机便携]
AI模型“说人话”背后:AI可知论与不可知论的纠葛缠斗
现如今人类对于AI的应用,就好像带妈妈去外面的餐厅吃饭,妈妈们不光要吃,还总想弄明白这些菜是怎样做成的。就如同神经网络越是高效,我们就越好奇黑箱里究竟发生了什么。 一直以来我们对于AI可解释性的追求可以被分为两层,一是从技术角度探寻神经网络黑箱的运行机制;二是从社会角度将AI技术原理更多地解释给各个行业。 虽然计算机科学家们一直没有停止对神经网络黑箱突破的探索,但也有人曾经明确地表示过,追求AI的可解释性并不是什么好主意。 去年年底,谷歌大脑负责人Geoff Hinton就曾在接受媒体采访时说过若干“AI不可解释”的理由。其中很重要的一点是,他认为大多数人也没法很好地解释自己做出一种决策的理由,如果强迫人类对自己的行为做出解释,结
[机器人]
NVIDIA GTC:黄仁勋将发布全新AI和元宇宙技术
NVIDIA GTC:黄仁勋将发布全新AI和元宇宙技术,大会将提供200多场由顶级技术专家和业务高管带来的会议、培训、展示等 深度学习领域大咖Yoshua Bengio、Geoff Hinton和Yann LeCun等多位行业专家将现身这场在9月19日至22日期间举办的世界顶级AI大会 上图从左至右,从上至下依次为:NVIDIA创始人兼首席执行官黄仁勋;NVIDIA AI研究副总裁Sanja Fidler;Google副总裁兼工程研究员、Vector Institute首席科学顾问,多伦多大学名誉教授Geoffrey Hinton;Waabi创始人兼首席执行官Raquel Urtasun;蒙特利尔大学教授Yoshua
[网络通信]
NVIDIA GTC:黄仁勋将发布全新<font color='red'>AI</font>和元宇宙技术
NVIDIA发布AI云容器注册加速深度学习Volta GPU登录Amazon Web服务
NVIDIA (纳斯达克代码: NVDA )今日宣布 NVIDIA® GPU Cloud (NGC) AI 容器注册已正式上线,可为全球 AI 开发人员提供服务。 只需短短几步,NGC 即可帮助开发人员免费访问完备易用、经全面优化的深度学习软件堆栈,从而开始深度学习开发。 Amazon Elastic Compute Cloud( Amazon EC2 )P3 实例刚刚宣布全面部署 NVIDIA® V100 GPU ,该实例的用户现在可即刻获取此基于云计算的服务。NVIDIA 计划不久将向其他云平台提供该支持服务。 完成 NGC 帐户的 注册 之后,开发人员便可下载并优化各类 深度学习框架 的集成化软件堆栈、 NVI
[物联网]
前置2500万AI美颜,Realme 3 Pro 将于6月5日在欧洲上市
据外媒报道Realme 3 Pro将于6月5日在英国、西班牙、意大利和法国的Realme网点上市,最低199欧元(约合人民币1534元)。 据悉,Realme 3 Pro采用了屏占比90.8%的6.3英寸FHD + IPS LCD显示屏(康宁大猩猩第五代玻璃),搭载了高通骁龙710移动平台,提供4GB/64GB、6GB/128GB两套配置。该机后置1600万+500万AI双摄,其中1600万主镜头为索尼IMX519,支持960帧慢动作摄影,前置2500万像素,支持AI美颜和AI面部解锁。 Realme 3 Pro支持双卡双待,支持microSD卡扩展,支持蓝牙5.0,并保留了3.5毫米插孔,充电/数据接口采用
[手机便携]
高信噪比MEMS麦克风驱动人工智能交互
作者:Gunar Lorenz博士 英飞凌科技技术市场高级总监 校对:丁越 英飞凌科技消费、计算与通讯业务大中华区 首席工程师 导言 在英飞凌,我们一直坚信卓越的音频解决方案对于提升消费类设备的用户体验至关重要。我们坚定不移地致力于创新,在主动降噪、语音透传、录音室录音、音频变焦和其他相关技术方面取得了显著进步,对此我们深感自豪。作为MEMS麦克风的领先供应商,英飞凌集中资源改善MEMS麦克风的音频质量,为TWS和耳罩式耳机、笔记本电脑、平板电脑、会议系统、智能手机、智能音箱、助听器甚至汽车等各种消费设备带来卓越体验。 今天,我们生活在一个激动人心的时代,人工智能正在彻底改变日常生活,而ChatGPT等工具正在通过直观
[模拟电子]
高信噪比MEMS麦克风驱动<font color='red'>人工智能</font>交互
小广播
最新工业控制文章

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved