英特尔首发大型神经拟态系统Hala Point,推进“绿色AI”发展

发布者:EEWorld资讯最新更新时间:2024-04-18 来源: EEWORLD关键字:神经拟态系统  AI 手机看文章 扫描二维码
随时随地手机看文章

英特尔发布了代号为Hala Point的大型神经拟态系统。Hala Point基于英特尔Loihi 2神经拟态处理器打造而成,旨在支持类脑AI领域的前沿研究,解决AI目前在效率和可持续性等方面的挑战。在英特尔第一代大规模研究系统Pohoiki Springs的基础上,Hala Point改进了架构,将神经元容量提高了10倍以上,性能提高了12倍。


英特尔研究院神经拟态计算实验室总监Mike Davies 表示:“目前,AI模型的算力成本正在持续上升。行业需要能够规模化的全新计算方法。为此,英特尔开发了Hala Point,将高效率的深度学习和新颖的类脑持续学习、优化能力结合起来。我们希望使用Hala Point的研究能够在大规模AI技术的效率和适应性上取得突破。”


Hala Point在主流AI工作负载上展现了出色的计算效率。研究显示,在运行传统深度神经网络时,该系统能够每秒完成多达2万万亿次(20 petaops)运算,8位运算能效比达到了15 TOPS/W,相当于甚至超过了基于GPU和CPU的架构。Hala Point有望推动多领域AI应用的实时持续学习,如科学研究、工程、物流、智能城市基础设施管理、大语言模型(LLMs)和AI助手(AI agents)。


目前,Hala Point是一个旨在改进未来商用系统的研究原型。英特尔预计其研究将带来实际技术突破,如让大语言模型拥有从新数据中持续学习的能力,从而有望在AI广泛部署的过程中,大幅降低训练能耗,提高可持续性。



深度学习模型的规模正在不断扩大,参数量可达万亿级。这一趋势意味着AI技术在可持续性上面临着严峻的挑战,有必要探索硬件架构底层的创新。神经拟态计算是一种借鉴神经科学研究的全新计算方法,通过存算一体和高细粒度的并行计算,大幅减少了数据传输。在本月举行的声学、语音与信号处理国际会议(ICASSP)上,英特尔发表的研究表明,Loihi 2在新兴的小规模边缘工作负载上实现了效率、速度和适应性数量级的提升。


Hala Point在其前身Pohoiki Springs的基础上实现了大幅提升,基于神经拟态计算技术提升了主流、常规深度学习模型的性能和效率,尤其是那些用于处理视频、语音和无线通信等实时工作负载的模型。例如,在今年的世界移动通信大会(MWC)上,爱立信研究院(Ericsson Research)就展示了其如何将 Loihi 2神经拟态处理器应用于电信基础设施效率的优化。


Hala Point基于神经拟态处理器Loihi 2打造,Loihi 2应用了众多类脑计算原理,如异步(asynchronous)、基于事件的脉冲神经网络(SNNs)、存算一体,以及不断变化的稀疏连接,以实现能效比和性能的数量级提升。神经元之间能够直接通信,而非通过内存通信,因此能降低整体功耗。


Hala Point系统由封装在一个六机架的数据中心机箱中的1152个Loihi 2处理器(采用Intel 4制程节点)组成,大小相当于一个微波炉。该系统支持分布在 140544 个神经形态处理内核上的多达 11.5 亿个神经元和 1280 亿个突触,最大功耗仅为 2600 瓦。Hala Point还包括 2300 多个嵌入式 x86 处理器,用于辅助计算。


在大规模的并行结构中,Hala Point集成了处理器、内存和通信通道,内存带宽达每秒16PB,内核间的通信带宽达每秒3.5 PB,芯片间的通信带宽达每秒5TB。该系统每秒可处理超过380万亿次8位突触运算和超过240万亿次神经元运算。


在用于仿生脉冲神经网络模型时,Hala Point能够以比人脑快20倍的实时速度运行其全部11.5亿个神经元,在运行神经元数量较低的情况下,速度可比人脑快200倍。虽然Hala Point并非用于神经科学建模,但其神经元容量大致相当于猫头鹰的大脑或卷尾猴的大脑皮层。



在执行AI推理负载和处理优化问题时, Loihi 2神经拟态芯片系统的速度比常规CPU和GPU架构快50倍,同时能耗降低了100倍。早期研究结果表明,通过利用稀疏性高达10比1的稀疏连接(sparse connectivity)和事件驱动的活动,Hala Point运行深度神经网络的能效比高达15 TOPS/W,同时无需对输入数据进行批处理。批处理是一种常用于GPU的优化方法,会大幅增加实时数据(如来自摄像头的视频)处理的延迟。尽管仍处于研究阶段,但未来的神经拟态大语言模型将不再需要定期在不断增长的数据集上再训练,从而节约数千兆瓦时的能源。


世界各地领先的学术团体、研究机构和公司共同组成了英特尔神经拟态研究社区(INRC),成员总数超过200个。携手英特尔神经拟态研究社区,英特尔正致力于开拓类脑AI前沿技术,以将其从技术原型转化为业界领先的产品。

关键字:神经拟态系统  AI 引用地址:英特尔首发大型神经拟态系统Hala Point,推进“绿色AI”发展

上一篇:STM32全球在线峰会:揭示2024年嵌入式系统三大趋势
下一篇:龙芯预告下一代桌面端处理器 3B6600 与 3B7000:8 核,最高 3.5GHz

推荐阅读最新更新时间:2024-11-07 12:41

AI芯片公司泰芯科技获远瞻资本投资
在传统的智能化解决方案中,终端只能采集数据、显示云端计算结果,终端云端之间需要持续畅通的网络连接。AI芯片公司泰芯科技所研发的终端本身具有计算能力,采集数据后可做出相应的计算,在没有网络连接的情况下,仍然可以实时处理、智能应对。 泰芯科技于2017年成立,是一家聚焦于人工智能算法在芯片级别快速实现的人工智能芯片科技公司。泰芯科技核心团队长期致力于深度学习算法的技术突破与无线图传、人脸识别的研究。该公司集硬件、软件、算法于一体,通过FPGA至ASIC的设计流程,为新零售和新工业提供完善的解决方案,重点关注设备端的AI集成电路设计。 铅笔道根据工商信息获知,泰芯科技已获得新一笔投资,投资方为远瞻资本。 2017年11月27
[半导体设计/制造]
瑞芯微跻身AI芯片阵营,2018年有望享受人工智能市场红利
人工智能迎来了新一轮的爆发,结合人工智能的产业应用已经从技术突破阶段,向商业化阶段加速迈进,人工智能的市场红利正在到来。人工智能技术的突破,让计算从云端向边缘端、设备前端迁移,前端要具备智能感知和智能认知的能力,这种改变对于AI芯片的应用支持将尤为重要。 而在人工智能这一轮产业契机中,全球AI产业链的芯片、IP、算法以及终端等厂商都在摩拳擦掌,携手推出集成本、性能和功耗最优的人工智能芯片,加速人工智能终端应用落地与产业爆发。日前,人工智能算法厂商阅面科技在深圳举行“人工智能视觉产业创新应用论坛”,并宣布将世界领先的自研算法IP集成至瑞芯微RV1108芯片,用于官方开发套件,这意味着瑞芯微也正式跻身AI芯片阵营。 阅面AI
[手机便携]
瑞芯微跻身<font color='red'>AI</font>芯片阵营,2018年有望享受<font color='red'>人工智能</font>市场红利
AI“入侵”教师职业,这五类产品发展迅猛
去年,麦肯锡的一份报告中提出,预计到2055年,全球经济体的有薪工作中,49%将借由改善现有科技而实现自动化。人工智能正在不断“替代”各种职位的今天,教师却被认为是最难以替代的职位。BBC基于剑桥大学研究者Michael Osborne和Carl Frey的数据体系,分析了365个职业在未来的“被淘汰概率”,其中教师被取代的可能性仅为0.4%。 然而,人工智能技术不断应用于教育产业的过程中,中国已经出现一些AI+教育产品(行业习惯称之为AIED,即”AI + Education”),对教师的部分工作起到替代或辅助作用。根据亿欧智库此前发布的《2018人工智能赋能教育产业研究报告》中,总结了AIED在教师工作中的五大主流应用场景,分
[机器人]
比人类更聪明?看AI如何实现智能出行
1 关于AI的科普 说到AI(人工智能),是如今非常热门的一个概念。很多人觉得它尚处于科幻的范畴,距离我们如今的生活过于遥远——而事实上AI如今已经在不知不觉中改变着我们的生活。在本月3日举行的百度AI开发者大会上,百度发布了在AI领域的最新成果,下面我们就来看看,未来这些具备了智能的机器,如何改变我们的出行。 何谓AI?    AI是一个计算机学科中的名词,简而言之,就是通过算法和计算,令机器具备像人类一样的感知能力,从而能够自我学习和并且主动解决问题。从技术角度来说,AI主要包括了机器的识别、分析、学习和决策能力,而在这背后,包含数十万、甚至百万条代码的算法是实现这些功能的核心。 我
[汽车电子]
比人类更聪明?看<font color='red'>AI</font>如何实现智能出行
麻省理工发布AI指数 称人类常常“错估”人工智能
  一份新的报告试图具体衡量人工智能混乱的进展。      人工智能到底有多聪明?进展有多快?   这些问题让政治家、经济学家和人工智能研究人员夜不能寐。   回答这些问题是至关重要的——不仅是为了提高公众的理解,而且是为了帮助社会和政府在未来几年里找出应对这种技术的方法。   麻省理工学院(MIT)、斯坦福大学、OpenAI和其他机构的专家们提出了一份新的报告,旨在为这些问题提出一些清晰的思路。   “人工智能指数”(AIIndex)首先告诉我们的事实就是:我们对人工智能的能力的估计基本上是“盲目的”。   接着它提出了两点:第一,人工智能领域比以往任何时候都更加活跃,人才和金钱都在以惊人的速度涌入这个领域;   其次,尽管人工
[机器人]
人工智能技术可以制造假指纹 欺骗指纹扫描仪
指纹扫描传感器已经成为了绝大多数智能手机的标配,甚至在某些情况下,在部分笔记本电脑上也已经变得非常普遍。考虑到我们每个人都有独特的指纹图案,指纹识别作为一种生物识别安全手段的使用能够普及,还是存在一定的合理性。但遗憾的是,现在指纹识别可能不再像我们想象的那样安全了。 根据纽约大学的研究人员最近的一项研究结果发现,我们都听说过的人工智能技术实际上可以用来生成一个合成的“假指纹”,并且这种“假指纹”可以骗过某些生物识别扫描仪。该系统被称为DeepMasterPrints,并且这个系统似乎成功复制了23%的指纹,同时这个系统的错误率只有千分之一。 DeepMasterPrints利用了这样一个事实,即大多数生物识别系统都不会将部分指纹图
[安防电子]
人工智能有望出现中美双引擎
中国研发的无人驾驶车队在广州南沙正式上路 西班牙《国家报》网站报道称,中国正经历一场真正的人工智能革命,其实力已经可以与目前该行业的领导者美国相竞争。中国人工智能企业依图科技联合创始人兼首席执行官朱珑说:“在我看来,未来5至10年,人工智能领域会出现中美双引擎的格局。” 增势迅猛 近几年来,中国人工智能领域发展迅猛。英国广播公司网站不久前以《人工智能:英、中、美上演“三国演义”》为题报道称,从2012年至今,中国的人工智能领域有1354家企业,投资总额1448亿元﹔2017年人工智能的投资总额超过622亿元,相比2012年的6亿元翻了上百倍。 不久前,机器之心和Comet Labs(彗星实验室)联合发布了人工智能公司榜单。该
[机器人]
恩智浦eIQ软件扩展AI边缘功能
恩智浦在eIQ AI和机器学习开发软件中增加了带有检索增强生成(RAG)与微调的生成式人工智能(GenAI)流程和eIQ Time Series Studio,以便在小型微控制器(MCU)、功能更强大的大型应用处理器(MPU)等各种边缘处理器上轻松部署和使用AI 中国上海——2024年10月30日—— 恩智浦半导体(NXP Semiconductors N.V.,)近日宣布在其eIQ AI和机器学习开发软件中增加两款新工具,以便轻松在各种边缘处理器上部署和使用AI边缘。 eIQ Time Series Studio提供自动机器学习工作流程,可轻松在MCU级芯片(如MCX系列MCU产品组合或i.MX RT跨界MCU产
[嵌入式]
恩智浦eIQ软件扩展<font color='red'>AI</font>边缘功能
小广播
最新嵌入式文章
何立民专栏 单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved