Icbank半导体行业观察

文章数:25239 被阅读:103424336

datasheet推荐 换一换
随便看看
账号入驻

诺贝尔物理学奖,为何颁给做AI的?

最新更新时间:2024-10-13
    阅读数:

????如果您希望可以时常见面,欢迎标星????收藏哦~


来源:内容来自IEEE Spectrum,谢谢。


诺贝尔物理学奖委员会将2024年诺贝尔物理学奖授予John J. Hopfield(约翰·j·霍普菲尔德)和Geoffrey E. Hinton(杰弗里·e·辛顿),以表彰他们在神经网络方面的基础性工作,这让学术界猝不及防。



约翰·J·霍普菲尔德(左)和杰弗里·E·辛顿因其在神经网络领域的奠基性工作而获得 2024 年诺贝尔物理学奖。Niklas Elmehed/诺贝尔奖宣传活动


两人因在 20 世纪 80 年代发表的开创性论文而获奖,这些论文描述了基本的神经网络。尽管他们的想法比ChatGPT或Stable Diffusion等现代生成式人工智能所使用的网络简单得多,但他们的想法为后来的研究奠定了基础。


就连霍普菲尔德和辛顿也不相信他们会赢,后者告诉美联社,他“目瞪口呆”。毕竟,当大多数人想到物理学时,他们脑海中浮现的并不是人工智能。然而,委员会采取了更广泛的观点,部分原因是研究人员将他们的神经网络建立在“物理学的基本概念和方法”之上。


“一开始,我很惊讶,因为这是诺贝尔物理学奖,他们的工作是在人工智能和机器学习方面,”加州大学欧文分校(University of California, Irvine)的杰出教授帕德拉克·史密斯(Padhraic Smyth)说。“但仔细想想,我就更清楚了(诺贝尔奖委员会)这么做的原因。”他补充说,统计力学的物理学家对表现出突发行为的系统“思考已久”。


Hopfield在1982年发表的一篇关于神经网络的论文中首次探讨了这些想法。他描述了一种神经网络,后来被称为Hopfield网络,由单层相互连接的神经元组成。这篇最初被归类为生物物理学的论文称,神经网络可以从“任何合理大小的子部件”中保留“记忆”。


Hinton扩展了这项工作,将玻尔兹曼机概念化,这是一种更复杂的神经网络,在1985年Hinton与David H. Ackley和Terrence J. Sejnowski合著的论文中描述过。他们引入了“隐藏单元”的概念,即存在于神经网络输入和输出层之间的额外神经元层,但不直接与两者交互。这使得处理需要更广义理解的任务成为可能,比如对图像进行分类。


那么,这和物理有什么联系呢?


Hopfield的论文引用了“自旋玻璃”的概念,这是一种无序磁粒子导致复杂相互作用的材料。辛顿和他的合著者利用了统计力学,这是一个用统计学来描述系统中粒子行为的物理学领域。他们甚至用物理学家路德维希·玻尔兹曼的名字来命名他们的网络,玻尔兹曼的工作奠定了统计力学的基础。


神经网络和物理学之间的联系并不是单行道。机器学习对希格斯玻色子的发现至关重要,它对数十亿次质子碰撞产生的数据进行了分类。今年的诺贝尔化学奖进一步强调了机器学习在研究中的重要性,因为该奖项授予了三位科学家,他们建立了一个人工智能模型来预测蛋白质的结构。


虽然霍普菲尔德和辛顿撰写了有影响力的论文,但他们对机器学习的贡献是由他们持续的工作巩固的,并且两人在获得诺贝尔奖之前都获得了多个奖项。其中,霍普菲尔德于 2022 年获得了玻尔兹曼奖章;辛顿于 2014 年获得了 IEEE 弗兰克·罗森布拉特奖, 2016 年获得了IEEE 詹姆斯·克拉克·麦克斯韦奖章,并于 2018 年获得了图灵奖(最后一项是与Yann LeCun和Yoshua Bengio一起获得的)。


作为加州理工学院的学生,史密斯亲眼目睹了霍普菲尔德的努力。霍普菲尔德能够将数学家、工程师、计算机科学家和物理学家聚集在一起。他让他们在同一个房间里,让他们对大脑建模、模式识别和机器学习感到兴奋,这些都是他从物理学中引入的数学理论统一起来的。”


2012 年,Hinton 与他的两名学生 Ilya Sutskever(后来与他人共同创立了OpenAI)和 Alex Krizhevsky 共同创立了一家名为 DNNResearch 的公司。三人共同开发了 AlexNet,这是一个对计算机视觉领域影响巨大的神经网络。Hinton 还在多伦多大学任教,继续倡导机器学习。


现任苹果深度学习研究员的Navdeep Jaitly表示,Hinton 启发了新一代工程师和研究人员。对于 Jaitly 来说,这种影响是直接的;Jaitly 曾在多伦多大学师从 Hinton。


“我加入时已经有统计建模经验,”Jaitly 说道,“但 Hinton 还是彻底改变了我对解决问题的看法。就他对机器学习的贡献而言,他的方法几乎是我们所做的一切的核心。”


原文链接

https://spectrum.ieee.org/nobel-prize-in-physics

END


????半导体精品公众号推荐????

▲点击上方名片即可关注

专注半导体领域更多原创内容


▲点击上方名片即可关注

关注全球半导体产业动向与趋势

*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。



今天是《半导体行业观察》为您分享的第3914内容,欢迎关注。


推荐阅读


『半导体第一垂直媒体』

实时 专业 原创 深度

公众号ID:icbank


喜欢我们的内容就点 “在看” 分享给小伙伴哦

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: TI培训

北京市海淀区中关村大街18号B座15层1530室 电话:(010)82350740 邮编:100190

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved