历史上的今天

今天是:2024年10月21日(星期一)

正在发生

2020年10月21日 | NVIDIA基于人工智能技术芯片功耗控制系统

发布者:SHow111time 来源: 爱集微关键字:NVIDIA 手机看文章 扫描二维码
随时随地手机看文章

3D图形显卡在1999年NVIDIA公司推出GeForce 256时开始了其首次变革,这种硬件光影转换技术,极大的提高了计算机的图像显示性能,对游戏领域产生了重要的革命意义,同时也带给了用户极高的画面真实感。

当前,图形处理器已经无处不在,GPU不再仅仅用于图形应用,而是被广泛用于密集计算操作的应用程序,包括人工智能、实时识别和自动驾驶等领域中。

就在2020年9月2日凌晨,NVIDIA发布了RTX30系列显卡,分别为RTX3070、RTX3080和RTX3090,据悉,3070的性能比2080更强,价格确更加便宜,3080的性能是2080的两倍,价格却和2080一样,而3090则支持8K 60帧光线追踪。

而随着人工智能芯片的兴起,不仅仅是各种人工智能训练需要借助于NVIDIA的图形显卡,NVIDIA也在尝试将人工智能技术应用在GPU图形处理单元中。在18年,NVIDIA发布了一款全新的AI芯片,它将价值10000美元的性能,塞进了一个售价仅为1299美元的小盒子,30W功耗就可以与1万美元的工作站媲美。

无疑,这样的技术对于AI芯片的功耗的要求非常高,因此需要电源控制器来最小化AI芯片的功率。为达此目的,NVIDIA在2020年2月13日发明了一项名为“指令和机器学习的能量特征有效地操作处理系统的技术”的发明专利(公开号:US 2020/0050920 A1),申请人为NVIDIA公司。

根据该专利目前公开的资料,让我们一起来看看这项AI芯片的动态功率控制技术吧。

如上图,为该专利中发明的AI芯片中主动电源管理控制系统的示意图,系统100中包含有多个GPU(102),这些GPU通过数字通信总线与其他部件互相通信。在供电方面,这些GPU由配电网110供电,电源管理单元140监视着配电网供给的电流,同时电源管理单元接受由并行处理器116发送的功率控制指令。

基于GPU当前的工作功率以及处理器所发送的信号,电源管理单元可以预测处理器在未来时段所需要的电量,并控制提供给GPU的电压,以便于为GPU提供适当的功率。这样不仅可以保证GPU发挥稳定的性能,同时也可以控制GPU的功耗,更重要的是,通过预先在需要高功率的时段来限制其功率,可以避免出现电流过载的情况,否则可能导致电路损坏或者电源过热。

由此看来,电源管理模块的预测工作是十分重要的,在NVIDIA的方案中,使用基于硬件的深度学习加速器对于深度神经网络进行加速,从而对处理器的功耗进行预测。

如上图,为预测GPU功率的功率控制技术流程图,首先,输入功率监视器采用ADC(数模转换芯片)来对于提供给GPU的电源进行采样,采样包括输入的电流以及电压,并将采样结果转换为数字信号输出。

其次,并行处理器接收预测功率信号的指令,这样可以确定预测的GPU功率与当前功率之间的差值,在确定误差之前,需要对预测功率进行缩放,以使其与当前功率处于正常的比例之中。

这种操作基于深度学习的方法,来更新自适应PID控制器,因为并行处理器的工作负载可以在短时间尺度上变化,因此,处理器可以主动控制输入到GPU的电源,并根据并行处理器中的工作负载变化来优化处理器的性能和功耗。

如上图,为这种具有学习机制的实现主动电源管理技术的电路示意图,其中电路400包括ADC(118)、滤波和缩放器电路420、状态向量寄存器430、PID控制器440、电压控制器450以及学习系统460。

该专利中特别提及,虽然处理器可以通过对于指令进行解析,来估计是否需要更高或者更小的功率,但是处理器可能并不知道通过执行这种指定的指令具体需要消耗多少功率。

这就像一个长跑运动员,他可能大概知道在半程马拉松比赛中可能会消耗多少卡路里的能量,但是通常无法预测小段路途中的具体卡路里能量消耗,因为具体的能量消耗与太多的因素关联,例如环境条件、温度、实际速度以及自身体重等的变化。

所以,具体的电源使用情况还是取决于处理器的软件指令的特定顺序,尽管处理器可以预估消耗的功耗,并对GPU的功率进行大致的调整,但是由于制造工艺以及不同的计算任务,因此并不能精准的进行功耗控制。

以上就是NVIDIA发明的基于人工智能的芯片功耗控制系统,这种具有主动电源管理系统的GPU智能芯片,在保证芯片性能的前提下具有更高的可靠性,因此可用于需要高度可靠性的计算环境,例如:数据种心、服务器环境等。此外,在目前较为火热的智能驾驶领域中,这种方案不仅可以避免电流因为瞬间的下降而影响自动驾驶的通信信号,而且还可以通过实现更快的功率管理响应来改善车辆的功耗消耗。


关键字:NVIDIA 引用地址:NVIDIA基于人工智能技术芯片功耗控制系统

上一篇:中国电信教你手机丢失后该怎办
下一篇:德州仪器:季度营收高于预期,9月停止向华为发货

推荐阅读

到目前为止,我们已经能够编写较复杂的ARM汇编程序了,遗憾的是这些程序是运行在ads自带的虚拟开发板ARMUL下的,(在axd界面下,单击options->configure target,可见到如下的目标板配置界面)而我们最终的目的是要让程序运行在实际的硬件产品上,并能控制硬件。本文将初步介绍如何建立真实硬件的开发和调试环境,编写控制硬件的程序的方法。第一部分内容...
据外媒报道,尽管最新款iPhone手机刚刚发布,但有关其明年新款的传闻已经开始蔓延。根据市场研究公司Wedbush的一位分析师丹·艾维斯(Dan Ives)获悉的泄露信息,iPhone或将在2020年发布五款新机型,其中至少两款将搭载5G技术。艾维斯表示,2020年,除了4款iPhone 12之外,我们还将有望在2020年3月份看到iPhone SE 2的上市。若报道属实,我们或许还会...
诺基亚 8.3 5G 于今年 3 月 20 日发布,9 月 22 日全球开售,但之前插双卡状态下仅支持 4G / 3G / 2G。据外媒 NokiaPowerUser 近日报道,该手机最近推送了系统更新,已支持双卡下的 5G 网络。  在插入两个 SIM 卡时为 SIM1 提供 5G / 4G / 3G / 2G 支持,为 SIM2 提供 4G / 3G / 2G 支持。▲ 图源 Nok...
今天,我们的生活高度依赖传感器。传感器作为人类“五感”的延伸,去感知这个世界,甚至可以观察到人体感知不到的细节,这种能力也是未来智能化社会所必须的。不过,单个传感器的性能再卓越,在很多场景中还是无法满足人们要求。比如汽车中昂贵的激光雷达可以根据生成的点云,判断出前方有障碍物,但想准确得知这个障碍物是什么,还需要车载摄像头帮忙“看...

史海拾趣

问答坊 | AI 解惑

根据陈工提供的电路和固件 自制的K149编程器

最近根据陈工的(热!!图!看看这款PIC全系列编程器,USB串口双通信,有自制资料)帖子,试制了K149的编程器,原图用的是双面PCB板,为了便于大家自己DIY,本人做了个单面的PCB图提供给大家下载。在电路上稍微做了点改动,13v的VPP电压是用MC34063 ...…

查看全部问答∨

ADS配置文件.HFC是怎么生成的?

:D 请问各位高手,ADS配置文件.HFC是怎么生成的?用IAR好像是.ICF文件,这东西有什么作用?…

查看全部问答∨

一种新的测量放大器的共模抑制比计算模型

本帖最后由 paulhyde 于 2014-9-15 09:34 编辑 对选择仪器类的同志们可能会有所帮助的  …

查看全部问答∨

工资的事

大家可以说说自己的工资啊 顺便说说工作地点和职位啊,方便大家参考,奔着高处走…

查看全部问答∨

有没有使用查表法计算三角函数atan经验?

   有没有使用查表法计算三角函数atan经验?硬件设计中常用打表法计算sin,cos。不知道atan如何用打表法计算?最好是弧度表示。    atan的范围是正无穷到负无穷,所以不知道有什么好的实现方法。 …

查看全部问答∨

键盘中断

#include <reg52.h>#define uint unsigned int#define uchar unsigned charvoid delay(uint z);void left(int x);void main(){ IE=0x81; TCON=0x01; P1=0x00; while(1) {  delay(250);  P1=~P1;& ...…

查看全部问答∨

【诚聘】Physical Design Engineer

美资公司LSI上海研发中心高薪诚聘通讯存储领域人才,薪水待遇优厚,今年开始配股了,部分人员有出国培训机会。(部门内部推荐,成功机会更高) 有意者请将中英文简历发送至:asic_tapeout@hotmail.com Physical Design Engineer DESCRIPTION OF ...…

查看全部问答∨

有关红外发射接收的问题,请指教

  想请教红外发射管与接收管的电路符号分别是什么,还有,红外收发管必须设置在同一电路中么,如果连接在两个电路中,是指完全没有关联的两块芯片中可以完成红外收发么。新人,不懂,有相关资料不妨指教我看一看。…

查看全部问答∨

关于ucos+lwip在107的例程

请教各位STM32达人!!小生最近要使用STM32107+UCOS+LWIP来完成一些任务。从网址http://code.google.com/p/lwip-ucos-stm32/  下载了一个模板,但是经过调试。怎么都调不通,我在IAR 6.10.5 、 5.3 、 5.5都试过了。连基本的PING都不同。 ...…

查看全部问答∨

玩转LaunchPad第一季:自编上位机图形界面软件改编下位机demo程序(更新)

玩转LaunchPad第一季:自编上位机图形界面软件改编下位机demo程序(更新)视频解说有点罗嗦繁琐,我自己都没有看一遍,大家凑合看看了记得一定要按LaunchPad的按键进入应用模式而不要在待机模式吆附件MSP-EXP430G2-LaunchPad.rar是官方的源程序,GU ...…

查看全部问答∨
小广播
最新手机便携文章

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved