历史上的今天

今天是:2024年11月18日(星期一)

2020年11月18日 | 引入了标准运算管芯,谷歌AI芯片更加多样化

发布者:DelightfulGaze 来源: 爱集微关键字:AI 手机看文章 扫描二维码
随时随地手机看文章

自从谷歌公司的AlphaGo机器人战胜人类围棋之后,人工智能便一直活跃在人们的视野之中,与各种人工智能方法对应的是AI芯片。而在18年的Next云计算大会上,谷歌披露了自家抢攻IoT终端运算的战略武器,其中最引人关注的就是Edge TPU芯片的发布。

据悉,谷歌不仅为在自己的数据中心开发人工智能芯片,还打算在将其设计的Edge TPU用在其他公司生产的产品中。这种人工智能芯片在物联网应用以及智能终端设备中具有巨大的使用空间。

在AI芯片设计方面,随着神经网络的使用在人工智能计算领域中迅速增长,专用集成电路(ASIC)的专用计算机的使用已经被用于处理神经网络,虽然这些方法可以用于设计AI芯片,但是随着神经网络的普及和针对其使用神经网络的任务范围的增长,较长的设计时间和不可忽略的非重复性工程成本将会加剧。

为此,谷歌在18年9月21日申请了一项名为“用于使用具有多个相同的管芯的单片封装处理神经网络任务的设备和机制”的发明专利(申请号:201880033593.8),申请人为谷歌有限责任公司。

根据该专利目前公开的资料,让我们一起来看看谷歌的这项专利技术吧。

如上图,为该专利中发明的用于处理神经网络任务的系统,该系统主要包括主处理单元101和人工智能处理单元102,这种系统可以应用在服务器和物联网(IoT)设备中。AIPU 102是主处理单元101的协处理器,主处理单元通过通信路径104a和104b耦合到AIPU。

AIPU包括多个人工智能处理管芯(103a-103f),这些管芯的结构都是相同的,可以用来处理神经网络相关的计算任务,这个示意图中展示了6个这种处理管芯,而其数目可以基于由主要计算设备处理的神经网络模型的层数而变化,也正是这种标准处理管芯的引入,使得定制ASIC的挑战得以减轻。

也就是说,需要多少处理管芯是由要处理的任务所决定的,例如当这种神经网络处理器应用在智能恒温器上时,由于智能恒温器的神经网络模型的层数可能小于数据中心的计算设备,因为处理的任务会更加简单,因此其需要的管芯数也会更少。这样有利于节省硬件开销,避免不必要的算力浪费,下面我们来这个处于核心地位的管芯的内部逻辑吧。

如上图,为人工智能处理单元的人工智能处理管芯的功能逻辑示意图,其中主要包括主机接口单元、缓冲器控制器、缓冲器、计算单元以及输入输出(I/O)模块。可以看到在模块的四个角均有输入输出模块,因为输入输出模块的引脚被配置为双向的,使得I/O模块可以从源单元接收数据并向目的单元发送数据。

主机接口单元经过I/O引脚从控制器中接收数据,并经过I/O引脚将数据发送到主处理单元控制器。缓冲器中存储着数据,控制器负责从缓冲器中存取数据,这些数据包括各种指令数据以及神经网络的待处理数据,具体应用这种管芯的方法如下图所示。

在人工智能处理管芯的方法流程图中可以看到,系统首先会接收输入数据以配置AIPU,这些配置数据也会传递到AIPU中的每个AIPD上,不同的神经网络处理任务会发送不同的数据,只有在管芯依据所要进行的任务正确配置的前提下,才可以正确的完成任务。

例如,如果由AIPU处理的神经网络的第一层需要第一组权重值而同时第二层需要另外一组第二组权重值时,则关联于神经网络的第一层相关联的配置参数将会于第二层进行区分。这样的设计方案也是由于神经网络每层的结构都可以不相同,为了灵活的应对层出不穷的神经网络结构。

在当AIPU接收到数据信号后,基于配置数据来配置每一个AIPD,最后将确认信号发送到主处理器,以等待任务的开始。

最后,我们来看看这种基于神经网络模型来处理神经网络任务的流程图,首先将于神经网络相关的初始数据发送到AIPU,AIPU配置好后会执行相关层的计算任务,同时将计算结果发送到第二AIPD,最后将计算的结果从AIPU发送到主处理器中,并将神经网络的处理结果发送到用户。

以上就是谷歌发明的用于神经网络任务的设备及方法,通过引入标准人工智能运算管芯,使得AI芯片可以从容的应对不同复杂程度的神经网络以及数量变化不定的卷积核等参数,这样就可以跨多个产品使用标准管芯,从而使得芯片设计时长和非重复性工作都可以得以更有效的分摊。


关键字:AI 引用地址:引入了标准运算管芯,谷歌AI芯片更加多样化

上一篇:王腾剧透Redmi Note 9:拍照特清晰
下一篇:IC Insights:10nm以下工艺的芯片或将进入快速增长期

推荐阅读

  “警察叔叔,这个机器人好可爱啊,它叫什么名字?”“它叫安安警官,正在协助我们执勤。”广州海珠警方在广州塔景区启用的-2000警用机器人上岗执勤,不少市民群众前来围观。   这位名为“安安警官”的警用机器人高1.6米,重80公斤,白胖圆润,可爱呆萌,身上贴有“警察”“POLICE”等警方标识。   “安安警官”的投入使用,是广州海珠警方坚...
步进电机是一种将电脉冲信号转换成角位移或线位移的机电元件。它在在工业自动化控制、数控机床、机器人等领域有着广泛的应用。在远程实验系统中,经常有需要利用步进电机对一些旋钮、位置等进行自动调节。本文设计了基于虚拟仪器技术的步进电机控制方案。该方案采用虚拟仪器控制步进电机,编程简单,界面友好,易于更改程序功能,控制灵活性得到了提高。1...
Digi-Key Electronics 拥有全球品类最丰富的电子元件库存,并且能够立即发货,其宣布已扩大产品组合,在全球分销 Mag Layers USA 的 MMD 系列模制功率电感器。此次合作是 Digi-Key Marketplace 全球拓展计划的一部分,将扩大现可为客户提供的产品范围,让 Digi-Key 的一站式商店变得前所未有的丰富。 ...
高通正寻求认真加强其 PC 处理器,昨晚宣布了下一代基于 Arm 的处理器计划,“旨在为 Windows PC 设定性能基准”,将能够与苹果的 M 系列处理器并驾齐驱。  高通首席技术官 James Thompson 博士在公司 2021 年投资者大会上宣布了新处理器的计划,目标是在 2023 年推出,推出前九个月内向硬件客户提供样品。  据 The Verge...

史海拾趣

问答坊 | AI 解惑

IC设计企业热盼资金支持

  IC设计企业热盼资金支持   中国半导体行业协会IC设计分会的近期数据表明,目前,我国IC设计业已经拥有421家企业,从业人员约为1.65万人。2003年,IC设计业销售额为57.6亿元;2004年销售额约为110亿元,占IC业总产值的2 ...…

查看全部问答∨

转发:IC layout布局经验总结

布局前的准备: 1 查看捕捉点设置是否正确.08工艺为0.1,06工艺为0.05,05工艺为0.025. 2 Cell名称不能以数字开头.否则无法做DRACULA检查. 3 布局前考虑好出PIN的方向和位置 4 布局前分析电路,完成同一功能的MOS管画在一起 5 对两层金属走向预先 ...…

查看全部问答∨

I2c存储相关

I2C总线原理及应用实例,ZLG7290 I2C 接口键盘及LED 驱动器…

查看全部问答∨

LED灯饰产品基本组成

replyreload += \',\' + 382839;Timson,如果您要查看本帖隐藏内容请回复…

查看全部问答∨

wince batt驱动adc采样不准

各位大虾帮帮忙,小弟在做s3c6410的蓄电池驱动,读取adcdat发现采样不准,采样到的数值波动范围很大,从2800~3600, 硬件测试发现输入电压很稳定,纹波之类的都没问题。 经过测试发现点击触摸屏会改变采样到的值,去掉touch驱动,ad采样的值波动 ...…

查看全部问答∨

将剩余nor flash 划分分区问题

我的平台是PXA270+Wince6.0,32M Intel P30 NOR Flash 使用MSFALH来将flash剩余容量利用起来,遇到了一些问题,也有一些疑问,请大家帮忙一下。 如果使用RAM运行, 分区划分成功,可正常显示盘符,也可以正常读写。 但如果选择 IMGFLASH 写入fla ...…

查看全部问答∨

wince 下CF不可见

我的硬件是cpu+852gm+ich4,定制的ce image不能看到cf卡(硬盘)。 我在其他架构主板上amd+cs6656上是可以看到cf卡(硬盘)。 微软网站有个相关问题何宗健老师做了回答,说可能与芯片有关。 我现在想请教大家如何cpu+852gm+ich4架构上实现了?…

查看全部问答∨

使用multi-bin(XIP)后系统变慢的问题

使用multi-bin(XIP)时发现进入桌面的时候很卡,在串口输出如下信息后要过半天才能看到桌面的部分图标,还有my device等图标要再过两秒才能显示出来。 Maximum Allowed Error 7: Explorer(V2.0) taskbar thread started. 所以看来可能是Explore ...…

查看全部问答∨

想在PDA上做一个串行通信的程序用来传送数据,但不知道选择什么样的PDA,急!

想在PDA上做一个串行通信的程序,用来和其他设备进行数据收发,但发现市面上大多数PDA都没有串口,不知道哪一款可以实现串行通信编程,那位大虾知道,麻烦告诉以下,谢谢了!…

查看全部问答∨

28335的clkout奇怪问题

最近调28335,程序通过仿真器load运行和烧写进flash里运行都正常,但是clkout引脚输出确无信号。经测试epwm输出频率和ecap的ampwm模式的频率都是正常的,说明sysclkout应该正常啊。…

查看全部问答∨
小广播
最新手机便携文章

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved