历史上的今天

今天是:2024年10月27日(星期日)

正在发生

2020年10月27日 | 解密高效率低耗能的地平线AI芯片

发布者:ikfnpo 来源: 爱集微关键字:AI芯片 手机看文章 扫描二维码
随时随地手机看文章

早在2017年,在“AI芯·时代”发布会上,地平线就发布了中国首款全球领先的嵌入式人工智能芯片——面向智能驾驶的征程(Journey)1.0处理器和面向智能摄像头的旭日(Sunrise)1.0处理器,同步发布的还有针对智能驾驶、智能城市和智能商业三大应用场景的人工智能解决方案。

地平线发布的“旭日 1.0”和“征程 1.0”是完全由地平线自主研发的人工智能芯片,具有全球领先的性能。我们知道,人工智能芯片及其使用的卷积神经网络算法已经成功地应用于图像处理、自动驾驶等诸多领域。

随着应用需求的不断发展,卷积神经网络中涉及的乘加运算的运算量越来越多,对于用于卷积神经网络运算的卷积神经网络加速器的处理性能也提出越来越高的要求。但是,随着数据量和运算量的增加,卷积神经网络加速器消耗在存取数据上的时间急剧增加,并且在很多情况下成为制约卷积神经网络加速器的处理性能的主要因素之一。

因此, 为实现AI芯片的高性能,地平线在18年11月6日申请了一项名为“卷积处理引擎及控制方法和相应的卷积神经网络加速器”的发明专利(申请号:201811323140.7),申请人为地平线(上海)人工智能技术有限公司。

根据该专利目前公开的资料,让我们一起来看看地平线的这项AI芯片技术吧。

如上图,为该专利中发明的卷积处理引擎示意图,为了提高卷积处理引擎的处理效率,该方案在卷积处理引擎中设置了多个高速缓冲存储器(C1-Cn):用于缓存输入数据的输入高速缓冲存储器和用于缓存输出数据的输出高速缓冲存储器。

并且这些缓冲存储器两两之间相互耦合,如下图所示,例如C1的输出端藕接到高速缓冲存储器C2的输入端,串联在最开始位置处的存储器C1将接收和缓存来自于卷积处理引擎外部的数据,并且最末尾的存储器将缓存的数据传送到引擎的外部,也就是运算后的结果数据。

这样尽管有多个缓冲器,但是与外部数据进行交换的始终只有两个,从而保证了数据的安全性以及简化了芯片内部结构的设计。而与存储器配合的是运算电路OC,运算电路中的乘法累加器阵列可以耦合到每个高速缓冲存储器的输入端,连接方式有直接互连和间接互连两种。

如上图,为该卷积处理引擎中的运算电路OC的结构示意图,可以看到高速缓冲存储器布置在其最顶部,通过共同的交叉开关或者单独的交叉开关耦接到高速缓冲存储器的输出段。

值得一提的是,该专利发明的卷积处理引擎CE,不需要针对运算电路OC分别设置输入和输出高速缓冲存储器,只有一个存储器接收外部数据,也仅有一个存储器向外输出数据。因此,这种设计方案能够简化每个存储器与处理引擎中其他部件之间的连线,同时简化了数据传输的控制逻辑,从而能够极大地降低硬件设置的复杂度和软件控制复杂度,并且有利于降低功耗。

下面我们再来看看上面这种处理引擎在整个AI芯片中的整体布置示意图。

可以看到,卷积神经网络加速器包括两个片外存储器DDR1和DDR2以及四个卷积处理引擎CE1-CE4。每个卷积处理引擎包括运算电路、单独的用于缓存运算参数的高速缓冲存储器以及三个串联在一起的高速缓冲存储器,其中高速缓冲存储器的输入端还耦合到高速缓冲存储器的输出端。

另外,交叉开关CB跨越四个卷积处理引擎,因此能够被每个卷积处理引擎中的串联的三个缓冲存储器所共用,这样的配置可以允许一个卷积处理器引擎使用另一个卷积处理器引擎的高速缓冲存储器。

最后,我们再来看看可以用于控制上述这种硬件结构中卷积处理引擎的方法,首先可以确定待处理的卷积神经网络中连续的两层中串联在一起的高速缓冲存储器的对应关系,也就是确定每层的输入特征数与高速缓冲存储器之间的对应关系。

其次,可以从卷积处理引擎外部接收输入特征数据并存储到高速缓冲存储器的对应部分中,最后在执行操作中,控制卷积处理引擎中的运算电路执行第一操作。

以上就是地平线发明的卷积处理引擎及控制方法,这种卷积处理引擎采用多个缓冲存储器串联的方式进行数据的传输,每层中获得的特征数据可以存储在对应高速缓冲存储器的对应部分。因此,这样的设计方案可以以很低的硬件设计复杂度、控制复杂度、成本以及功耗来高效率地实现卷积运算。


关键字:AI芯片 引用地址:解密高效率低耗能的地平线AI芯片

上一篇:8英寸晶圆代工产能持续紧张 多家芯片厂商启动涨价模式
下一篇:苹果还会为iPhone换USB-C吗?

推荐阅读

        大约在10天以前,华为在英国伦敦发布了旗下四款Mate系列旗舰产品,HUAWEI Mate 20、Mate 20 Pro、HUAWEI Mate 20 X以及PORSCHE DESIGN HUAWEI Mate 20 RS。而在发布会后,不仅引起了国内媒体的一片赞叹,还得到了海外媒体的一致好评,在北京时间10月26日下午14:30,国行版的Mate 20系列也将正式发布。  从目前来看国行版...
近日,工业和信息化部颁发中国首个5G无线电通信设备进网许可证。华为率先获得首张5G基站设备的进网许可证。此证的颁发标志着华为5G基站设备可以支持中国规模部署,正式接入公用电信商用网络。此前华为创始人任正非先生在一场论坛上表示,从今年十月份起,华为5G基站的出货量将到达每月5000台。值得注意的是,这些基站不含任何美国生产的零部件,而且不比使...
专注于引入新品的全球电子元器件授权分销商贸泽电子 (Mouser Electronics) 宣布与半导体公司e-peas签署全球分销协议,该公司致力于开发能量收集PMIC以及处理和传感解决方案。签约后,贸泽成为首家备货e-peas产品并且可以立即向全球发货的授权分销商。通过遍布全球的27个客户支持中心,贸泽致力于为客户提供无时差的本地化服务,并支持使用当地货币结算。...
数字源表为什么叫源表呢?为了源概念延伸?为了与数字万用表有所区别?为了体现其独特优势性?吉时利SourceMeter数字源表系列是专为那些要求紧密结合激励源和测量功能,要求精密电压源并同时进行电流与电压测量的测试应用而设计的。所有源表均由一个精密的、低噪声、高稳定的带回读功能的直流电源和一个低噪声、高重复性、高输入阻抗的5位半多功能表组成,...

史海拾趣

问答坊 | AI 解惑

ARM发布AMBA 3 AXI ASSERTIONS

ARM公司发布了AMBA 3 AXI Assertions的生产版本,以此加快基于AMBA 3 AXI架构的片上系统的设计和验证。任何公司都可以从ARM公司获得该Assertions的源文件,不用支付任何版税或版权费用。 该Assertions提供了对AMBA 3 ...…

查看全部问答∨

有趣的程序

#include<reg52.h> sbit P0_1=P0^1; main() { P0_1=1; } 为什么仿真P0_1脚一直为高电平。 照程序来,执行P0_1=1后应该为低电平了啊!!…

查看全部问答∨

现代操作系统

现代操作系统(英文版.第2版) >Modern Operating Systems (3rd Edition) 作者: Andrew S. Tanenbaum         isbn: 0136006639         书名: Modern Operating Systems (3 ...…

查看全部问答∨

用waveInXXX()录音时media player没声音是怎么回事?

WinCE5.0环境, 录音机和media player都是正常的 但是先录音再用media player播放音乐时,media player没声音。 先media player播放音乐再录音也录不下什么声音。…

查看全部问答∨

急问:用EVC, 语句实现Access数据库自增长列问题

CString strSQL=        _T("create table aa(ID AUTOINCREMENT ,Name varchar(50)"); 想把ID设为自增长,可运行该条语句失败。将AUTOINCREMENT 改为int 就可以运行成功。但是想要自增长的。咋办呢? …

查看全部问答∨

求助 为什么我的inf文件在win2000中可用!在xp中就不能发现硬件设备呢?急急急急!谢谢!

求助  在xp中 PCI驱动安装“Windows无法为这个设备找到驱动程序”??? 请各位DX帮帮忙吧! 偶的inf在win2000 中正常,但在xp中提示“无硬件信息”(在手动安装inf文件时出现),但在win2000中使用是好的!请不吝赐教!!!! 谢 ...…

查看全部问答∨

基于51系列单片机设计一个投币刷卡转换器

  基于51系列单片机及射频技术实现一个刷卡投币控制系统,采用mifare读卡头结合数码管显示。以mcu为控制核心,结合液晶显示技术,实现对mifare刷卡头及投币器的控制。   不知道从哪里下手,跪求高人指点!…

查看全部问答∨

stm32的uart居然是单双工的

本人刚开始学习stm32,从串口的例程开始。看它介绍说是全双工的,实际一看就是单双工的嘛:因为共用一个寄存器来发送、接收,这样带来很大问题。实际中,测试方法是:采用中断方式,将接收到的数据立即发送回去。代码如下:    ...…

查看全部问答∨

轿车着火或者溺水之后车门安全系统如何预警和自救?

  看到新闻上不断有报道轿车自燃之后乘客不能及时逃生,大暴雨也导致有驾驶员不幸在轿车中溺水身亡!很多朋友都提到这些事故中的致命汽车中控锁。中控锁是通过车辆总线来控制的,也是可以设置的,把中控设置成熄火后四门全部开锁,关键时刻可 ...…

查看全部问答∨
小广播
最新手机便携文章

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved