Intel 英特尔

文章数:1933 被阅读:13229860

账号入驻

活动预告|OpenVINO™ 加速PC及小型设备LLM性能

最新更新时间:2024-09-06
    阅读数:

如何在客户端PC和边缘设备上高效运行 LLM? 9月13日, 《OpenVINO™加速PC及小型设备LLM性能》 活动线上线下同步直播。扫描底部海报二维码,即可报名参与!


在本次活动中, 您可以了解英特尔如何使这些大语言模型更小、更高效地在本地实现 AI 推理:


对话式语音 AI Agent

  • AI 语音助理原型: 基于 OpenVINO™ 开发和优化的基于 LLM 的 AI Agent

  • LLM 性能优化: 针对 AI PC 和边缘设备优化 LLM,平衡计算资源与功耗,满足不同应用场景需求

  • 灵活部署: 利用模型量化等技术优化模型,减小模型尺寸和计算需求,适应 AI PC 和边缘设备要求


相芯科技数字人解决方案

  • 基于客户端 PC、Intel AI 算力及 OpenVINO™ 技术,支持文本转语音与1080p-25fps 视频输出,适用于电商、在线购物、教育与社交平台

  • 使用 OpenVINO™ 基于 Intel iGPU 或独立 GPU 进行性能优化和推理加速,并加速运行在 CPU 上的 TTS 引擎,将文本转换为流畅的中英文语音


灵感碰撞,创意无界

  • 我们将向您展示基于 OpenVINO™ 的优秀AI作品,这些作品见证了科技博主以及 AIGC 大赛中开发者的思维火花与创新力量,还体现了开发者对未来AI发展的前瞻性思考


实践面对面

  • 主题: 如何在 AI PC 上一步步优化你的聊天机器人

  • 通过动手操作,您将获得第一手 OpenVINO™ 使用经验,深入了解如何在实际项目中运用 OpenVINO™ 的先进技术,加速您的 AI 开发之旅


探索AI,启迪未来

  • 探索英特尔 AI 前沿技术,您将有机会走进英特尔科技中心,亲眼见证先进的产品和技术解决方案,启发您的创新思维





想看更多“芯”资讯

用你的 在看 告诉我们~




©英特尔公司,英特尔、英特尔logo及其它英特尔标识,是英特尔公司或其分支机构的商标。文中涉及的其它名称及品牌属于各自所有者资产。


隆重推出 OpenVINO™ 2024.3: 增强的多头注意力 、OneDNN 及 vLLM 集成显著提升 LLM 性能

解锁 LLM 新高度,拓宽模型新边界 —— OpenVINO™ 2024.1 赋能生成式 AI 高效运行

OpenVINO™ 2024.2 发布--推出LLM专属API !服务持续增强,提升AI生成新境界

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: TI培训

北京市海淀区中关村大街18号B座15层1530室 电话:(010)82350740 邮编:100190

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved