研华推出面向生成式 AI 的边缘 AI 服务器解决方案

发布者:EE小广播最新更新时间:2024-07-16 来源: EEWORLD关键字:研华  AI  边缘  服务器 手机看文章 扫描二维码
随时随地手机看文章

中国台湾—台北,2024年6月4日—— 全球工业物联网厂商研华科技宣布,采用Phison的aiDAPTIV+专利技术,为生成式人工智能(Generative AI)提供开创性的边缘AI服务器解决方案。AIR-520 Edge AI Server采用AMD EPYC 7003系列处理器,集成了SQ ai100 AI SSD、NVIDIA RTX GPU卡、Edge AI SDK和NVIDIA AI Enterprise,提供了一个可立即部署的解决方案。


大型语言模型(LLM)等生成式AI工具正通过自动化数据组织、检索和分析改变企业知识管理,提高生产力并改善决策。定制大型语言模型(LLM)提高了准确性,而边缘训练则增强了数据隐私属性(成本相应提高)。该方案支持大型语言模型(LLM)微调配备1-4个显卡和SQ AI100 AI SSD,供企业经济高效地训练大型语言模型(LLM),同时保护边缘敏感数据安全。 


image.png


适用于不同应用的四种解决方案


对此研华提供四种选择:AIR-520-L13B/L33B/L70B和L70B-Plus,针对不同规模和应用量身定制。L13B非常适合聊天机器人和语言翻译提高生产力和内容创作创新能力。L70B擅长专业领域的复杂数据分析和决策。此外,L70B-Plus配备了NVIDIA AI Enterprise软件平台,提供端到端的、可靠的优化AI SDK,提供长期支持和专家咨询服务,保障业务场景中的高效部署。


安装简单快捷,优化成本效益 


所有解决方案均包含SQ AI100 AI SSD,后者采用群联(Phison)aiDAPTIV+技术。此系列SSD充当显卡vRAM的扩展,使系统能够使用最少的显卡对大型语言模型(LLM)实现微调。这种方案不仅减轻了客户的预算负担,而且相比传统的大型机架式服务器,边缘AI服务器会更加紧凑。AIR-520边缘AI服务器专为各种边缘AI应用设计,尺寸与台式电脑相当,并且可以通过适当的附件安装在机架上。凭借轻薄的设计,该产品可以实现在边缘AI微调环境中的轻松部署,打消了客户在空间和维护上的忧虑。


通过软件服务快速跟踪生成式AI的开发


除了大型语言模型(LLM)微调功能外,研华还提供了带有生成式AI训练工作室的边缘AI SDK,预装了Llama-2 13B/33B/70B模型,用于聊天机器人和数据分析等应用。此举将简化并加速通过AIR-520进行客户专属大型语言模型(LLM)模型训练和推理评估工作的进程。此外,研华的DeviceOn提供OTA软件/容器更新和远程管理,促进高效的边缘AI编排和长期维护。


image.png


产品特性:


  • 采用AMD EPYC 7003处理器的服务器级性能,提供多达64个内核、768GB DRAM和四个PCle x16扩展插槽

  • 高达768GB DDR4 3200 DRAM

  • 支持4个PCIe x16扩展插槽

  • 集成1200W PSU,可为两块NVIDIA L40S图形卡供电


关键字:研华  AI  边缘  服务器 引用地址:研华推出面向生成式 AI 的边缘 AI 服务器解决方案

上一篇:BOE(京东方)2024年半年度净利润预计21亿元-23亿元 彰显强劲发展新动能
下一篇:85-528VAC超宽输入OVC III认证电源,适用于工业自动化,商业和住宅建筑中的电器

推荐阅读最新更新时间:2024-11-02 15:15

研华学院2013年上半年培训计划新鲜出炉
在过去的2012年,我们见证了研华学院的成立与成长,在广大学员的信任与支持下,研华学院成功开办了技术培训近120场,管理培训3场,并圆满举办系统集成商高级培训、经销商培训等专项培训课程,获得研华同仁、经销商与系统集成商伙伴及众学员的一致好评。同时,研华学院在“2012中国自动化服务品牌峰会暨2012中国自动化服务品牌评选典礼”中一举将“培训服务优秀品牌”奖收入囊中。2013年,研华学院将继续努力,为学员奉献更加优质的培训课程与服务。 新年伊始,研华学院2013年上半年培训课程新鲜出炉,囊括8类20门课程,从产品特性到技术应用,从专案解析到实战演练,提供全方位培训解决方案。 (一)数据采集与量测培训 研华在设计和制造PC-B
[半导体设计/制造]
<font color='red'>研华</font>学院2013年上半年培训计划新鲜出炉
OPPO A5发布:4230mAh大电池+AI双摄
OPPO A5作为一款该性价比产品,该机采用了超视野全面屏、幻镜纹理设计,配备4230mAh超大电池和AI拍照等功能,针对人群为喜欢时尚设计与拍照的年轻用户。据悉OPPO A5 4+64GB版售价1500元,该机将于7月13日正式开售。   外观方面,OPPO A5采用了时下流行的刘海屏,屏幕尺寸为6.2英寸,比例19:9。搭配窄边框设计,屏幕使用率更高,在看视频时更有沉浸感,玩游戏时有更广的视野范围。   同时,OPPO A5拥有独特的幻镜纹理设计,灵感来自万华镜,采用微纳米工艺,光织纹,光线交织形成的纹理,使平面的手机后盖呈现出具有深度的空间感与立体感,灵动又富有变化,诠释出一种不确定性的艺术之美。   拍照方面,OPPO
[手机便携]
中国物联网发展趋势论坛于北京圆满落幕
2010年11月19日,研华主办的“中国物联网发展趋势论坛”北京场活动在北京丽亭华苑酒店成功举行。会上邀请到中国工程院院士倪光南先生、工信部软件与集成电路促进中心副总工程师李滨先生、北京科技大学王志良教授、台湾大学吴文中教授、IBM中国研究院高级经理邵凌先生等物联网方面的专家学者作为嘉宾,同时研华工业自动化事业群全球总经理吴明钦先生、中国区总经理蔡奇男先生和研华绿能事业部总经理李守仁先生也出席了此次活动。 研华工业自动化事业群中国区总经理蔡奇男先生致以开场致辞,本次物联网论坛的主旨在于联合产官学研等各界人才,对物联网及自动化的下一发展阶段趋势进行探讨和普及;先由各界嘉宾进行物联网主题的相关介绍和圆桌讨论,再分四大行业进行
[网络通信]
比特大陆投资人工智能领域 希望开发出比特币AI芯片
    5月18日消息,据国外媒体报道,中国ASIC芯片制造商比特大陆(Bitmain)此前出售了全球80%的矿业,现在正考虑进入一个充满挑战的人工智能领域,希望可以开发出比特币AI芯片。   Bitmain的联合首席执行官吴忌寒表示,由于其ASIC销售收入巨大,该公司感到“幸运”。现在,采矿设备制造商正寻求向其他方向扩张。   这不是Bitmain第一次进军人工智能市场。2017年10月,钻机制造商发布了Sophon BM1680,这是一款深度学习加速器,连接到计算机系统,用于神经网络训练和推理。与图形渲染和处理相比,它更像是用于深度学习的GPU。   目前,谷歌已经在人工智能领域建立了张量处理单元(Tensor Process
[半导体设计/制造]
AI手机大战正酣,芯片江湖裂变,谁是真正赢家?
智能手机走向各方,是无限循环的硬件性能大赛,还是眼花缭乱的新奇概念,真假美猴王,哪个才是真正的齐天大圣? 联想刚推出了一款区块链手机,炒作意义大于实际价值,不仅没有震惊世界,反而让人们丢失了对联想品牌的尊重。 在世界的另一维,AI手机已经大放异彩,华为家族的华为Mate10系列、荣耀V10等新一代旗舰大获成功,苹果的iPhone x虽丑也销量可观,三星则聚焦在软件端AI产品。 AI手机大爆发,很多厂商开始言必称AI,真真假假,泥沙俱下,让消费者很晕乎。残酷的真相却是AI并非拿来主义,靠简单拼凑不行,必须有强大的软硬件实力,真AI背后是真实力。 独立AI处理单元、AI操作系统、AI底层开放程度成为衡量AI手机三大标尺
[手机便携]
受美国打压,中国服务器老大浪潮被临时性暂停供货
浪潮是中国服务器老大,但核心部件依然依赖美国。 6月29日晚间11点59分,Intel已停止向中国最大的服务器厂商浪潮(Inspur)供货。 根据《云头条》获取的一份文件显示,Intel产品出口至浪潮需要在6月29日子夜 11:59暂停。除非遇到以下情况,否则禁令不得恢复: 获得了所需的授权; 美国商务部认定浪潮电子信息产业有限公司及/或浪潮集团不受制于该要求; 或者 Intel 认为产品不受制于 EAR。 对此消息,Intel 方面也回应称: 英特尔需要根据美国相关法律对我们的供应链做出一些相应的调整,因而不得不临时性暂停对此客户的供货。这次临
[嵌入式]
受美国打压,中国<font color='red'>服务器</font>老大浪潮被临时性暂停供货
看看人工智能将替代哪些工作
  机器脑和人脑相比,谁会更聪明?“Alphago”击败围棋天才李世石,“沃森”勇挫两名人类智力冠军,“深蓝”战胜国际象棋世界冠军卡斯帕罗夫,超级电脑正在一次次刷新“战胜人类”的奇迹。恰恰是人类的聪明才智,才能让机器变得更加聪明。在一些特定领域,机器脑的运算速度和效率在不断提高,将逐渐扮演“解放人类”的角色。    焦点:机器人能否化解脸盲症   12月17日,百度公司与江苏卫视宣布,将在2017年1月6日首播的《最强大脑》第四季中,增加有百度大脑人工智能参与的“人机大战”比赛环节。   据了解,本季人机大战中的一个真实比赛项目是,通过识别0至4岁童年旧照,找到在场的成年人。这对于最强大脑选手“水哥”王昱珩和李威来说
[机器人]
制造商如何通过云技术优化深度学习机器视觉运作方式
机器视觉作为驱动中国制造业发展的重要先进技术,在半导体、电子制造、汽车、医药和食品包装等领域得到广泛应用;在此背景下, 高工产业研究所(GGII)预测2024年中国机器视觉市场规模有望突破200亿元,同比增速接近12%。 随着人工智能(AI)技术的迅猛发展,多数制造行业的机器视觉负责人认为AI机器视觉可以实现更好的性能和更多的功能。因此,为行业提供机器视觉解决方案的合作伙伴们需要进一步思考如何为客户优化前沿技术,让深度学习机器视觉等技术在企业内部变得更易于获取、更便于使用、并部署得更好。此外,云计算的部署也是推动机器视觉应用的重要一环,尽管仍有一些制造商对于云计算的采用踌躇不前,现在正是克服这些顾虑的最佳时机。 对于制造
[网络通信]
小广播
最新工业控制文章

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved