历史上的今天

今天是:2024年08月29日(星期四)

正在发生

2019年08月29日 | 突破AI发展瓶颈,人工智能加速落地的关键在哪?

发布者:幸福花开 来源: eefocus关键字:AI  人工智能  瓶颈 手机看文章 扫描二维码
随时随地手机看文章

充足的算力资源,在数据量持续增长及算法持续复杂化的前提下,无疑是保障人工智能应用落地效果的关键。

 

软件定义算力——打造AI转型最佳实践

8月2日,第四范式联合英特尔共同举办了AI实践者之声夏令营活动。第四范式基础架构负责人刘一鸣以《软件定义算力——打造AI转型最佳实践》为题做了演讲,他指出,不管是围绕专家规则构建AI系统,还是围绕AutoML技术构建应用系统,都将带来算力的巨大需求。

 

具体而言,挑战在于数据量越来越大,但模型效果没有多大提升,这就需要做高维复杂的模型。其次,数据的价值是随着时间的增加而递减,比如情报资料知道的越早越容易做出决策。

 

其中的关键是要让AI释放算力达到极致效果,这就需要基础架构提供算力。为此,第四范式首先做了自研的机器学习框架,现在模型越来越深,此外他们还自研了整个软件栈,每一层都做了精细优化,并且与硬件进行结合。

 

      

 

通过与AI行业核心基础设施技术提供商英特尔公司的深度合作,第四范式AIO引入英特尔®Cascade,Optane固态硬盘等技术,拥有了更充沛的算力,进一步加速了企业实施AI应用的进程。

 

在AI数据处理能力上,结合英特尔®Cascade Lake CPU与第四范式软硬一体的优化,先知AI平台分布式模型训练框架训练速度获得飞跃。在TB级数据规模下,“第四范式先知”平台的模型训练速度可达Spark*的数千倍。英特尔®Optane固态盘则是“第四范式先知”平台引入的另一项英特尔 “杀手锏”,其3D XPoint™ 技术,正在打破内存和固态盘之间的边界。

 

最后,刘一鸣表示,第四范式的最终目标是端到端的机器学习,其软硬一体的企业级AI平台就是为了让AI的价值快速落地,所以不管是网络、存储还是计算,他们要让全流程至少比起普通的机器快四到十倍。

 

软硬协同——突破产品性能瓶颈

作为硬件平台的重要合作方,英特尔为第四范式提供性能强劲的至强®处理器和数据中心级持久化内存硬件平台, 同时为第四范式业务更好的协同硬件工作而提供了一系列的优化工具和方法,帮助企业软件协同硬件,更好的发挥硬件的性能潜力,打破产品性能瓶颈,助推第四范式“1+N”智能化转型。

 

 

此次夏令营活动上,英特尔AI方案架构师赵玉萍和英特尔软件工程师吴国安以《软硬协同——突破产品性能瓶颈》为题讲述了系统性能的优化方法以及性能优化的结果。

 

系统性能的优化方法主要三种:

第一种是资源分析方法,主要包括USE的方法,也就是检测使用率、饱和、错误,还有资源缩放的方法。

 

第二种是微架构自下而上分析方法,主要是分析CPU微架构的使用情况,包括前端受限、后端受限或者错误预测以及等待卸货的比例,各个比例是怎么样,这主要是为了更高效地使用CPU执行单元。

 

第三种是代码和热点优化方法,主要是包括热点检测,并发和锁分析,以及如何使代码特别对于AI的代码进行向量化、减少内部布局和多线程并发。

 

这三种方法是从总体到细节这样一个优化过程,同时三种方法不停地循环往复推动整个系统的性能提升。

 

吴国安还介绍了英特尔傲腾数据中心级持久内存应用方法。傲腾数据中心级持久化内存与正常内存共享内存控制器和内存通道,主要有三大特点:    扩展大内存,也就是可以存放或者缓存更多,不需要做任何代码上的改动,非常简单易用;内存持久化,需要应用做一些改动,可以实现一些高可用场景;快速存储设备,可以减少I/O受限,简单易用,但由于做快速存储设备优势不那么明显,目前还没有找到合适场景。

 

 

走进南京大学——AI实践者之声夏令营活动招募

8月31日,由英特尔发起的 AI实践者之声夏令营来到南京大学,该技术沙龙旨在打破技术理论、产品、场景边界,促进人工智能规模化落地。

 

众所周知,在实现智能化转型的道路上,各行业企业面临着海量数据处理、机器学习和深度学习技术支撑、高昂计算成本以及技术人才紧缺带来的挑战。企业一直在寻求可以不断提高效率、降低成本的生产线,这就需要开发者不断增长技能,紧跟技术发展,帮助企业解决工程实践中的挑战。

 

此次AI实践者之声夏令营活动一如既往有重磅演讲嘉宾莅临,分别是南京大学人工智能学院教授俞扬教授、英特尔(中国)人工智能行业客户总监孙宇以及创新工场南京国际人工智能研究院执行院长冯霁。


关键字:AI  人工智能  瓶颈 引用地址:突破AI发展瓶颈,人工智能加速落地的关键在哪?

上一篇:RPA突然火了?成为资本宠儿的背后
下一篇:RAdam与LookAhead双剑合璧,是否能打造出更强化器?

推荐阅读

近日,Facebook的人工智能实验室与纽约大学医学院达成合作,尝试将核磁共振成像(MRI)的检查速度提高十倍。MRI的检查速度一般在半个小时到一个小时之间,如果将其检查的速度提高十倍,未来的放射科医生则有望在短短的几分钟内就完成检测工作。而这看似小小的技术合作,又会给当前的医疗现状带来怎样的改变?AI加速MRI检查,吹一场医疗新风不管人们对人工...
据世界卫生组织的全球健康与老龄化报告指出,预计到 2050 年,65 岁或 65 岁以上人口将增加到近 15 亿,其中大部分增长发生在发展中国家。因衰老而带来的疾病和孤独,将让老人更快去世。 衰老意味着中风、痴呆症、抑郁症、高血压等各种疾病都可能随之而来,很多老人需要 24 小时的持续护理和监测,但现实并不理想,除了很多单身子女很难抽出时...
机器人物联网(IoRT)是一项快速发展的技术。在短短的几十年中,工业机器人在世界各地的工厂环境中已变得司空见惯,并且它们的生产率和盈利能力一直在不断普及。机器人技术掀起了制造业革命。机器人和物联网技术之间的合作增强了供应链运营,减少了电子商务需求不断增长和仓库工人短缺的挑战,并以更有效和更具成本效益的方式简化了行业流程。机器人技术由...
近日隆利科技自主研发了一项专利,据悉,该专利是一种关于提升光均匀度的mini-LED背光灯板,可以调整发光效果,提升光的均匀度和光能利用效率,可应用于柔性mini-LED电子设备等方面。柔性液晶显示面板凭借其轻薄、可弯折、耐冲击的特性即将成为显示领域的主流。但液晶显示装置为非自发光显示装置,需要搭配背光才能实现显示,大大增加了柔性显示的难度。如...

史海拾趣

问答坊 | AI 解惑

液位传感器报警,断电电路

液位传感器+什么?+AD+单片机 高手推荐一种类型的传感器吧,还有AD部分具体是怎么做? 急求啊…

查看全部问答∨

有没有人用5402的呀

有没有人用5402的呀,小弟正在学习中,希望的各位指教指教…

查看全部问答∨

EVC OnRButtonUp

各位大大 为什么我在EVC中添加 OnRButtonUp 和 OnRButtonDown 会提示 error LNK2019: unresolved external symbol "protected: void __cdecl CWnd::OnRButtonUp(unsigned int,class CPoint)" (?OnRButtonUp@CWnd@@IAAXIVCPoint@@@Z) reference ...…

查看全部问答∨

synaptic是通过共享能存来开关触摸板的?

是和哪个进程共享内存来修改触摸板的呢  是X Window吗?如果我不想通过共享能存的方式应该怎么修改触摸板?…

查看全部问答∨

LINUX vivi移植内核时的配置设置

安装VIVBOOTLOADER时,那个配置文件应该怎么设置,好象就是 文件路径,有视频最好了 谢谢!…

查看全部问答∨

求助关于视频采集卡

我们公司现在使用的一种PCI视频采集卡,使用SA7111A做AD转换=>>EP2C8T144暂存和控制转移数据=>>PLX9054,在FPGA芯片里写了一个FIFO,此视频采集卡在使用时会占用很高的CPU使用率,我的电脑是赛扬2.93Ghz的cpu,每次能占用40%到50%,当使用 ...…

查看全部问答∨

RT-Thread MIPS分支连载:MIPS32的异常与中断

本篇说的是MIPS的异常与中断。异常与中断可能很多人不是太明白这两者的含义:异常,是指计算机在执行程序的过程中,当出现异常情况或特殊请求时,计算机停止现行程序的运行,转而对这些异常情况或特殊请求的处理。中断,是异常的一种,通常指的是由 ...…

查看全部问答∨

找个熟手做个CORTEX学习板,有兴趣和我联系,有酬。

    找个熟手做个CORTEX学习板,有兴趣和我联系,站内信吧。    主要针对大容量的CORTEX,另外还有学习板使用文档要写很详细,这个我会参与指导。…

查看全部问答∨

MSP430 F149远程固件升级的方法

哪位大哥能详细讲下MSP430远程固件升级的方法?有看到过一位大哥写的固件升级的三种方法,1,JTAG, 2BSL,3,自定义固件升级,哪位大哥能否详细介绍下第三种,我对第三种不是很明白,假如要做两线制的该如何设计?求大侠们帮帮忙了。如下 3 利用用 ...…

查看全部问答∨

请教一个关于数码管电子钟的调时问题。。。。

我的设想是,用一个按键key1做功能键,另一个按键key2作为加1按键,当key1按第一次的时候,显示秒的数码管闪烁,这时候按key2的话秒加1,key1按两次,进入分设置,key1按三次进入小时设置。。现在仅仅能做到按一次的时候开始设置秒,按两次设置分, ...…

查看全部问答∨
小广播
最新嵌入式文章
何立民专栏 单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

换一换 更多 相关热搜器件
随便看看

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved