历史上的今天

今天是:2024年10月24日(星期四)

正在发生

2020年10月24日 | 微软发明的GPU和FPGA之间的数据传输方案

发布者:代码漫游者 来源: 爱集微关键字:微软 手机看文章 扫描二维码
随时随地手机看文章

2018年5月,在Bulid大会上,微软宣布 Project Brainwave 开放预览,这是一种用于深度神经网络处理的架构,可以用于Azure与边缘环境,并且可以让Azure成为实时运行人工智能最快的云平台。

为什么微软要基于FPGA来进行人工智能芯片设计呢?这是因为当时微软的搜索引擎都是依靠CPU驱动,尽管英特尔等公司不断改进CPU,但是这些芯片还是不能满足微软的需求。而此时恰好FPGA能弥补这个不足。

图形处理单元(GPU)已经被用于图形应用许多年,近年来也被应用于其他例如图形处理、搜索以及其他一般的应用。虽然FPGA和GPU均可以被视为专用处理器,但是在某些场合,如果FPGA与GPU之间可以进行通信以及任务的共享、转交,会更加高效的完成任务,这也是基于FPGA设计人工智能芯片的重要设计方案之一。

为了实现FPGA与GPU之间的通信,微软在2013年8月16日申请了一项名为“GPU和FPGA组件之间的直接通信的方法和系统”的发明专利(申请号:201380044351.6),申请人为微软技术许可有限责任公司。

根据该专利目前公开的资料,让我们一起来看看这项FPGA与GPU之间的通信技术吧。

如上图,为用于GPU和FPGA组件之间直接通信的系统框图,系统100包括存储计算机指令的存储器、中央处理单元(CPU)102、图形处理单元(GPU)104和现场可编程门阵列(FPGA)106,这些部件通过总线进行连接,传输数据包括经由PCIe交换机在GPU和FPGA之间直接传输数据。

而要达到数据传输的目的,必然不可避免要对于数据在硬件中进行编址,也就是例如基于虚拟存储器存储的数据,被存储在不连续的块中的数据的物理地址中时,需要进行地址编码。当数据在GPU与FPGA之间传输时,数据可以从FPGA的存储器传输到GPU中,由于采用了编址,因此也就不会发生数据错位、丢失等问题。

在GPU和FPGA通信中,也分为直接通信和间接通信两种方式,首先我们来看看间接通信方式。

如上图,为GPU和FPGA组件之间间接通信的系统示意图,如图所示,数据202经由GPU、快速PCI交换机、CPU和CPU存储器,在GPU存储器和FPGA存储器之间交换。这是一个间接的路径,由于在GPU和FPGA之间经过了CPU,因此也被称为GPU-CPU-FPGA传输。

这种间接传输的方式,虽然可以保证数据在GPU和FPGA之间共享,但是由于数据经过了两次PCIe交换机并由于操作系统和CPU存储器硬件两者的等待时间加时,因此增加了通信等待时间和操作系统的开销。

接着,我们来看看GPU和FPGA组件之间直接通信的流程图,如上图所示,首先要获取标识用于直接访问FPGA的存储器的地址的虚拟指针,例如FPGA驱动程序可以生成标识用于直接访问FPGA中的存储器的地址的虚拟指针。

之后就可以启动虚拟指针到与FPGA外部的GPU相关联的图形处理单元(GPU)驱动程序的传输,经过外部的总线接口,可以直接启动GPU与FPGA之间的数据传输,而无需作为中间操作来将数据存储在中央处理单元的存储器中。

以上就是微软发明的GPU与FPGA之间的数据传输方案,在微软进行基于FPGA的人工智能芯片设计的过程中,FPGA担任着机器学习算法的主要硬件基础。这种在GPU与FPGA之间传输数据的技术,势必会加速人工智能芯片的发展以及加快深度学习技术的发展。


关键字:微软 引用地址:微软发明的GPU和FPGA之间的数据传输方案

上一篇:华为Mate40 Pro相机成绩登全球第一
下一篇:前中芯国际执行副总裁汤天申博士加盟跃昉科技,任CEO

推荐阅读

集微网北京报道,10月23日,黑鲨科技最新旗舰黑鲨游戏手机Helo在北京惊艳上市。黑鲨科技创始人兼CEO吴世敏,小米集团创始人、董事长兼首席执行官雷军,中国文化娱乐行业协会会长刘金华、京东商城通讯事业部总裁陈婷、南昌金开集团董事长胡顺明以及优点科技创始人兼CEO刘江峰等共同揭开了黑鲨游戏手机Helo的神秘面纱。与上一代黑鲨游戏手机相比,黑鲨游戏手...
玻璃管液位计主要适用于直接指示各种罐、塔、槽、箱等容器内介质液位的高度。仪表结构简单,使用方便。仪表上下阀门内装有安全钢珠,当玻璃因意外损坏时,钢珠在容器内压力的作用下自动密封,防止容器内液体外溢。在实际应用中,玻璃管液位计非常容易破损,在运输调试中要非常小心,说说它的一些注意事项:1、液位计在运输、搬运及安装时,不准撞击或敲打...
10月23日讯,近日,位列机器人四大家族之一的库卡在顺德美的全球创新中心内举行了2020新品发布会。多款自主研发机器人揭开面纱,包括库卡中国首款自主研发、中国首发全球销售的KR 4 AGILUS,以及即将上市的KR DELTA。库卡中国产品线经理郝文斌表示,KR 4 AGILUS无论性能还是技术参数等,与同类机器人相比表现均十分出众。此外,KR SCARA同样由库卡中...
根据日经亚洲今天的一份最新报道,苹果已经将屏幕制造商京东方列入了iPhone 13机型OLED面板的主要供应商名单。多个关于iPhone 12的传言曾暗示,京东方将为这些设备提供部分面板,但京东方后来遇到了重大的生产问题。2020年,由于京东方制造的屏幕未能通过验证测试,因此未能向苹果交付第一批OLED面板。最初,京东方将只为标准版6.1英寸‌的iPhone 13‌...

史海拾趣

问答坊 | AI 解惑

视频监控与报警新技术共缆一线通

视频监控与报警新技术共缆一线通         在实际生活中,大部分监控和报警的联动是被动式的,如何更加紧密地将其结合在一起,一直是备受关注的课题。而共缆一线通技术在不需增加电缆数量的情况下将监控系统可以实现 ...…

查看全部问答∨

哪位有TMS320DM6437串口通信的资料

如果有的话,共享一下,谢谢了~~·…

查看全部问答∨

Wince5.0 中RTL8139的驱动支持RTL8139D的芯片么

我用的CEPC的BSP,平台是PC104,网卡是RTL8139D,我在PB中加入了RTL8139的驱动,去掉了enable KITL选项,可是系统启动后一切正常,就是ping不通, error code 11010 ping自己能ping通, ipconfig也正常,网口发送指示灯都不闪,我觉得根本包就没 ...…

查看全部问答∨

请教:如何使得屏幕保持常亮(visual basic 2008)

使用VS2008,使用visual basic编写的程序,使用什么代码才能使得屏幕保持常亮?谢谢了!…

查看全部问答∨

9B96原理图(有部分错误!)

目前是RS485收发搞反掉了!把TFT 的数据线搞错了,应朋友需要才发的,SCH没修改。。。。。。。。。…

查看全部问答∨

新唐MINI51直流无刷电机

应用MINI51做电机控制,M0内核24M主频速度快,单指令周期, I/O口布局兼容传统8051 6路PWM,其中2路硬件PWM,稳定性更高,MINI51的PWM可做无感弦波控制(真正的弦波),微调占空比, 设计产品噪声极低 8路10位高精度AD,自带1个串口,SPI接口,I2C ...…

查看全部问答∨

TI zigbee sensor monitor找不到串口

  别人的计算机可以,我的不行,不知道咋回事?…

查看全部问答∨

出点不用的元件

本帖最后由 ddllxxrr 于 2016-1-7 16:56 编辑 7805 17片7809 3片7812 4片                         励源 PS500DC4SR ...…

查看全部问答∨

zigbee2007最大跳数是多少?

zigbee2007最大跳数是多少?…

查看全部问答∨
小广播
最新手机便携文章
换一换 更多 相关热搜器件
随便看看

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved