英伟达新GPU以他为名,Blackwell是谁?
来源
:内容
由半导体行业
观察(ID:i
c
ba
nk)
编译自HPCwire
,谢谢。
????如果您希望可以时常见面,欢迎标星????收藏哦~
在GTC24期间,NVIDIA 联合创始人兼总裁 Jensen Huang 推出了 Blackwell GPU。该 GPU 本身针对 AI 工作进行了深度优化,拥有 192GB HBM3E 内存以及训练 1 万亿个参数模型的能力。此外,黄仁勋还推出了 BG200 超级芯片,它将两个 Blackwell GPU 与一个 Grace CPU 配对,可提供 720 petaflops 的训练性能和 1.4 exaflops 的推理性能。
虽然如此令人印象深刻的创新已在整个科技界得到广泛报道,但“Blackwell”这个名字并没有引起太多关注。这款 GPU 以美国数学家和统计学家 David Blackwell 的名字命名,他的工作对数学以及人工智能的特定领域产生了持久的影响。
布莱克威尔的工作具有革命性,尤其是在非裔美国科学家面临严重种族障碍的时代。
Blackwell 的故事讲述了一位伟大的智者在逆境中取得胜利的故事,因此 NVIDIA 对他的认可是当之无愧的。为了更多地了解这位非凡的思想,让我们探索布莱克威尔的生活和工作以及他对人工智能的贡献。
布莱克威尔的一生
布莱克威尔 1919 年 4 月 24 日出生于伊利诺伊州森特勒利亚。布莱克威尔是一名家庭主妇和一名铁路工人的儿子,他就读于综合学校,并立即表现出了学业上的潜力。他的老师两次要求他跳级,这使得布莱克威尔在十六岁时高中毕业。
1938 年,他在伊利诺伊大学厄巴纳-香槟分校用三年时间获得了数学学士学位,并于 1939 年获得了硕士学位。随后,他于 1941 年 22 岁时获得了博士学位,成为第非裔美国人第七个获得博士学位美国数学专业。
此后,布莱克威尔获得了高等研究院 (IAS) 的罗森沃尔德奖学金。在那段时期,IAS 成员获得附近普林斯顿大学访问学者的任命是常态。不幸的是,普林斯顿大学以种族歧视为由反对布莱克威尔的任命,拒绝他在大学听课或从事研究活动。这一决定最终被推翻,布莱克威尔直到多年后才意识到这一丑闻。
在 IAS 工作期间,布莱克威尔接触了被认为是博弈论之父的约翰·冯·诺伊曼 (John Von Neumann),并开始培养他对博弈论的兴趣以及对指导的热爱。冯·诺依曼相信引导人们进入职业生涯的高级专业阶段,这种塑造聪明头脑的愿望给年轻的布莱克威尔留下了深刻的印象。在他的教育生涯中,他继续指导了 50 多名学生。
布莱克威尔的职业生涯异常成功,个人生活也很充实。1944 年,他与安·麦迪逊 (Ann Madison) 结婚,并与她育有八个孩子。在加州大学伯克利分校工作了几十年后,布莱克威尔于 1988 年退休,享年 70 岁。二十多年后,布莱克威尔于 2010 年 7 月 8 日因中风并发症去世,享年 91 岁。两年后,总统巴拉克·奥巴马将追授布莱克威尔国家科学奖章。
虽然布莱克威尔显然过着充实的个人生活并享有成功的职业生涯,但他对数学和人工智能的深远贡献需要进一步探索。
博弈论
布莱克威尔对博弈论的贡献对他的职业生涯极其重要。简而言之,博弈论是数学的一个分支,研究个人或群体在面临相互依赖的选择时如何做出决策。
在人工智能的背景下,博弈论对于理解理性主体如何在竞争或合作环境中做出决策至关重要。通过分析不同代理之间的战略交互,人工智能系统可以设计为根据其他实体的行为来优化结果。Blackwell 的可接近性框架(其中两个玩家使用向量值策略进行重复博弈)提供了一种结构化方法来对动态环境中的决策过程进行建模。
布莱克韦尔对博弈论的贡献为人工智能算法的发展铺平了道路,这些算法可以适应不断变化的条件并在复杂场景中做出最佳决策。他对顺序分析和动态编程的见解有助于增强人工智能系统从过去的经验中学习并随着时间的推移改进决策的能力。
统计数据
统计为数据分析、建模和决策提供基础,在人工智能中发挥着至关重要的作用。在人工智能中,统计学是预测建模、模式识别和数据解释等各种任务的支柱。通过利用统计技术,人工智能系统可以分析复杂的数据集、识别模式并根据经验证据做出明智的决策。布莱克韦尔在统计学方面的工作为人工智能研究人员和从业者提供了从数据中得出准确结论的工具,从而产生更有效的人工智能算法和模型。
更具体地说,布莱克威尔在贝叶斯统计方面做出了开创性的工作。贝叶斯统计是一个强大的框架,它使用概率论来量化不确定性并根据新证据更新信念。在人工智能应用中,贝叶斯方法在机器学习、模式识别和概率推理等任务中发挥着至关重要的作用。
布莱克威尔在贝叶斯统计领域的开创性工作推动了人工智能领域的发展,使研究人员能够开发出更强大、更具适应性的算法,这些算法可以从数据中学习并在不确定的环境中做出智能决策。
拉奥-布莱克威尔定理
尽管Rao-Blackwell 定理属于统计学范畴,可以包含在上面的章节中,但 Blackwell 的同名定理(与 Calyampudi Radhakrishna Rao 一起创建)对人工智能产生了如此重要的影响,因此值得单独讨论。它提供了一种系统方法,通过利用基于充分统计数据的条件预期来增强统计估计。
在人工智能应用中,准确的估计对于预测建模、参数估计和优化等任务至关重要。Rao-Blackwell 定理提供了一种通过条件期望减少误差来完善统计估计的方法。通过有效利用足够的统计数据,人工智能系统可以提高预测的准确性和可靠性,从而实现更明智的决策过程。
该定理在各种人工智能任务中都有应用,其中精确估计对于模型性能至关重要。在机器学习、优化算法和概率建模中,准确的估计对于提高人工智能系统的效率和有效性起着至关重要的作用。Blackwell 在 Rao-Blackwell 定理方面的工作为改进人工智能应用中的统计估计提供了宝贵的工具,有助于算法开发和模型优化的进步。
布莱克威尔对数学的贡献跨越了四十多年,当时这一研究领域正在催生计算革命。更重要的是,当时非裔美国人要求尊重他们对一个严重歧视他们的国家的贡献。
Blackwell 是一位知识巨人,他对我们目前所处的计算密集型世界产生了深远的影响,NVIDIA 显然很自豪能够将其革命性的 GPU 与他的遗产联系起来。
原文链接
https://www.hpcwire.com/2024/03/22/who-is-david-blackwell/
END
*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。
今天是《半导体行业观察》为您分享的第3713期内容,欢迎关注。
推荐阅读
『半导体第一垂直媒体』
实时 专业 原创 深度
公众号ID:icbank
喜欢我们的内容就点 “在看” 分享给小伙伴哦