早在2017年,在“AI芯·时代”发布会上,地平线就发布了中国首款全球领先的嵌入式人工智能芯片——面向智能驾驶的征程(Journey)1.0处理器和面向智能摄像头的旭日(Sunrise)1.0处理器,同步发布的还有针对智能驾驶、智能城市和智能商业三大应用场景的人工智能解决方案。
地平线发布的“旭日 1.0”和“征程 1.0”是完全由地平线自主研发的人工智能芯片,具有全球领先的性能。我们知道,人工智能芯片及其使用的卷积神经网络算法已经成功地应用于图像处理、自动驾驶等诸多领域。
随着应用需求的不断发展,卷积神经网络中涉及的乘加运算的运算量越来越多,对于用于卷积神经网络运算的卷积神经网络加速器的处理性能也提出越来越高的要求。但是,随着数据量和运算量的增加,卷积神经网络加速器消耗在存取数据上的时间急剧增加,并且在很多情况下成为制约卷积神经网络加速器的处理性能的主要因素之一。
因此, 为实现AI芯片的高性能,地平线在18年11月6日申请了一项名为“卷积处理引擎及控制方法和相应的卷积神经网络加速器”的发明专利(申请号:201811323140.7),申请人为地平线(上海)人工智能技术有限公司。
根据该专利目前公开的资料,让我们一起来看看地平线的这项AI芯片技术吧。
如上图,为该专利中发明的卷积处理引擎示意图,为了提高卷积处理引擎的处理效率,该方案在卷积处理引擎中设置了多个高速缓冲存储器(C1-Cn):用于缓存输入数据的输入高速缓冲存储器和用于缓存输出数据的输出高速缓冲存储器。
并且这些缓冲存储器两两之间相互耦合,如下图所示,例如C1的输出端藕接到高速缓冲存储器C2的输入端,串联在最开始位置处的存储器C1将接收和缓存来自于卷积处理引擎外部的数据,并且最末尾的存储器将缓存的数据传送到引擎的外部,也就是运算后的结果数据。
这样尽管有多个缓冲器,但是与外部数据进行交换的始终只有两个,从而保证了数据的安全性以及简化了芯片内部结构的设计。而与存储器配合的是运算电路OC,运算电路中的乘法累加器阵列可以耦合到每个高速缓冲存储器的输入端,连接方式有直接互连和间接互连两种。
如上图,为该卷积处理引擎中的运算电路OC的结构示意图,可以看到高速缓冲存储器布置在其最顶部,通过共同的交叉开关或者单独的交叉开关耦接到高速缓冲存储器的输出段。
值得一提的是,该专利发明的卷积处理引擎CE,不需要针对运算电路OC分别设置输入和输出高速缓冲存储器,只有一个存储器接收外部数据,也仅有一个存储器向外输出数据。因此,这种设计方案能够简化每个存储器与处理引擎中其他部件之间的连线,同时简化了数据传输的控制逻辑,从而能够极大地降低硬件设置的复杂度和软件控制复杂度,并且有利于降低功耗。
下面我们再来看看上面这种处理引擎在整个AI芯片中的整体布置示意图。
可以看到,卷积神经网络加速器包括两个片外存储器DDR1和DDR2以及四个卷积处理引擎CE1-CE4。每个卷积处理引擎包括运算电路、单独的用于缓存运算参数的高速缓冲存储器以及三个串联在一起的高速缓冲存储器,其中高速缓冲存储器的输入端还耦合到高速缓冲存储器的输出端。
另外,交叉开关CB跨越四个卷积处理引擎,因此能够被每个卷积处理引擎中的串联的三个缓冲存储器所共用,这样的配置可以允许一个卷积处理器引擎使用另一个卷积处理器引擎的高速缓冲存储器。
最后,我们再来看看可以用于控制上述这种硬件结构中卷积处理引擎的方法,首先可以确定待处理的卷积神经网络中连续的两层中串联在一起的高速缓冲存储器的对应关系,也就是确定每层的输入特征数与高速缓冲存储器之间的对应关系。
其次,可以从卷积处理引擎外部接收输入特征数据并存储到高速缓冲存储器的对应部分中,最后在执行操作中,控制卷积处理引擎中的运算电路执行第一操作。
以上就是地平线发明的卷积处理引擎及控制方法,这种卷积处理引擎采用多个缓冲存储器串联的方式进行数据的传输,每层中获得的特征数据可以存储在对应高速缓冲存储器的对应部分。因此,这样的设计方案可以以很低的硬件设计复杂度、控制复杂度、成本以及功耗来高效率地实现卷积运算。
上一篇:8英寸晶圆代工产能持续紧张 多家芯片厂商启动涨价模式
下一篇:苹果还会为iPhone换USB-C吗?
推荐阅读
史海拾趣
Agere Systems(后来被LSI Logic收购)是一家在半导体行业具有重要影响力的公司之一。以下是该公司发展的五个相关故事:
公司成立和发展:Agere Systems成立于2000年,是由Lucent Technologies的微电子部门分拆而成。公司总部位于美国新泽西州的默里斯敦市。Agere Systems专注于开发半导体解决方案,包括通信芯片、存储芯片和无线网络技术。通过不断的技术创新和市场拓展,Agere Systems在短时间内成为半导体行业的领军企业之一。
无线通信技术:Agere Systems在无线通信技术方面取得了重大突破,推动了移动通信产业的发展。该公司开发了一系列的基带处理器和射频芯片,用于手机和其他移动设备中的无线通信。这些技术的应用使得移动通信设备具有更高的性能、更低的功耗和更广泛的覆盖范围,促进了全球移动通信市场的快速增长。
存储解决方案:除了在通信领域取得成功外,Agere Systems还致力于开发先进的存储解决方案。该公司生产的存储芯片和控制器广泛应用于硬盘驱动器、固态硬盘和存储系统中,为数据存储和处理提供了关键的技术支持。Agere Systems的存储产品以其高速、高效和可靠性而闻名,成为许多数据中心和企业用户的首选。
公司并购与重组:在Agere Systems发展的过程中,该公司进行了多次并购和重组以加强自身实力和市场竞争力。2007年,LSI Logic公司宣布收购Agere Systems,将两家公司的技术和资源整合在一起,共同致力于推动半导体行业的发展。通过这一合并,LSI Logic扩大了其在存储和通信领域的市场份额,进一步巩固了在全球半导体市场的领导地位。
技术创新与发展:Agere Systems始终把技术创新作为公司发展的核心驱动力。该公司投入大量资源用于研发,并与全球各地的科研机构和合作伙伴进行紧密合作。Agere Systems持续推出高性能、低功耗的芯片产品,并不断改进现有产品的性能和功能,以满足客户不断增长的需求。通过持续的技术创新和产品优化,Agere Systems在半导体行业保持了竞争优势,并为客户提供了更加先进和可靠的解决方案。
自2000年4月成立以来,Enova Technology Corporation(伊诺瓦科技)就以其卓越的技术创新能力在电子行业中崭露头角。公司总部位于台湾新竹科学工业园区,这里汇聚了众多高科技企业和研发机构,为伊诺瓦科技提供了丰富的技术资源和人才支持。
伊诺瓦科技专注于硬件加解密解决方案的研发与应用,其产品在军事单位、政府机关、财务金融机构等领域得到了广泛应用。其中,公司的X-WallSE产品凭借其独特的携带式电子钥匙(Security Key)技术,实现了硬盘的一对一加密,为用户提供了前所未有的数据安全保护。这一创新技术的推出,不仅提升了公司的市场竞争力,也为整个电子行业树立了新的技术标杆。
随着技术的不断发展,伊诺瓦科技不断推出更加先进的产品和解决方案。例如,公司的SecureNAS系列产品在网络硬盘服务器加解密应用方面提供了全新的解决方案,为用户提供了更加便捷、高效的数据安全保护。这些产品的推出,不仅进一步巩固了公司在电子行业的领先地位,也为公司的未来发展奠定了坚实的基础。
面对电子行业的高度周期性和市场波动,Vishay凭借其强大的技术实力、丰富的产品线和灵活的市场策略,始终保持在行业内的领先地位。公司通过持续的技术创新、成本优化和“一站式”服务,赢得了广大客户的信赖和支持。即使在行业低迷时期,Vishay也能保持稳定的增长和发展。如今,Vishay已成为全球最大的分立半导体和被动元件制造商之一,其产品和服务广泛应用于工业、计算机、汽车、消费品、电信、军事、航空和医药等多个领域。
背景:面对电子行业日新月异的技术变革和消费者日益多样化的需求,Galaxy深知持续创新的重要性。
行动:公司不断加大研发投入,致力于产品技术的突破和创新。同时,为了更好地满足市场需求和提升品牌形象,Galaxy推出了全新的品牌理念和系列产品。例如,“个性玩家 影驰显卡”的品牌理念以及独一无二的“影驰玩家系列”产品,凭借独特的双BIOS设计、蜂鸣器报警设计等创新功能,赢得了广大消费者的喜爱和认可。
成果:这些创新举措不仅提升了Galaxy产品的市场竞争力,还进一步巩固了公司在电子行业内的领先地位。
近年来,国际环境复杂多变,某些国家对我国进行“芯片限制”。然而,这一限制反而为驰芯微带来了机遇。在“芯片限制”的背景下,更多国内车企开始寻求与国内芯片企业的合作。驰芯微凭借其在车规级芯片领域的丰富经验和卓越性能,成功获得了多家车企的青睐。公司抓住这一机遇,加大了与车企的合作力度,进一步巩固了其在行业中的地位。
ARM公司发布了AMBA 3 AXI Assertions的生产版本,以此加快基于AMBA 3 AXI架构的片上系统的设计和验证。任何公司都可以从ARM公司获得该Assertions的源文件,不用支付任何版税或版权费用。 该Assertions提供了对AMBA 3 ...… 查看全部问答∨ |
|
用waveInXXX()录音时media player没声音是怎么回事? WinCE5.0环境, 录音机和media player都是正常的 但是先录音再用media player播放音乐时,media player没声音。 先media player播放音乐再录音也录不下什么声音。… 查看全部问答∨ |
|
CString strSQL= _T("create table aa(ID AUTOINCREMENT ,Name varchar(50)"); 想把ID设为自增长,可运行该条语句失败。将AUTOINCREMENT 改为int 就可以运行成功。但是想要自增长的。咋办呢? … 查看全部问答∨ |
求助 为什么我的inf文件在win2000中可用!在xp中就不能发现硬件设备呢?急急急急!谢谢! 求助 在xp中 PCI驱动安装“Windows无法为这个设备找到驱动程序”??? 请各位DX帮帮忙吧! 偶的inf在win2000 中正常,但在xp中提示“无硬件信息”(在手动安装inf文件时出现),但在win2000中使用是好的!请不吝赐教!!!! 谢 ...… 查看全部问答∨ |
基于51系列单片机及射频技术实现一个刷卡投币控制系统,采用mifare读卡头结合数码管显示。以mcu为控制核心,结合液晶显示技术,实现对mifare刷卡头及投币器的控制。 不知道从哪里下手,跪求高人指点!… 查看全部问答∨ |
本人刚开始学习stm32,从串口的例程开始。看它介绍说是全双工的,实际一看就是单双工的嘛:因为共用一个寄存器来发送、接收,这样带来很大问题。实际中,测试方法是:采用中断方式,将接收到的数据立即发送回去。代码如下: ...… 查看全部问答∨ |
看到新闻上不断有报道轿车自燃之后乘客不能及时逃生,大暴雨也导致有驾驶员不幸在轿车中溺水身亡!很多朋友都提到这些事故中的致命汽车中控锁。中控锁是通过车辆总线来控制的,也是可以设置的,把中控设置成熄火后四门全部开锁,关键时刻可 ...… 查看全部问答∨ |
- 曝iPhone SE 4首发苹果自研5G基带:明年3月登场
- 曝iPhone 17全系首发3nm A19系列芯片:无缘台积电2nm工艺制程
- 供应链称上游元器件要大降价:国产手机现涨价潮后会主动下调售价吗
- 消息称苹果将拿出近 1 亿美元用于解除印尼 iPhone 16 系列销售禁令
- 消息称塔塔公司收购和硕在印度的唯一一家iPhone工厂,深化与苹果合作
- 苹果遭4000万英国iCloud用户集体诉讼,面临276亿元索赔
- 消息称苹果、三星超薄高密度电池均开发失败,iPhone 17 Air、Galaxy S25 Slim手机“变厚”
- 美光亮相2024年进博会,持续深耕中国市场,引领可持续发展
- Qorvo:创新技术引领下一代移动产业