2021年08月30日 | 机器学习成为主流—恩智浦eIQ™软件开发环境更智能更友好

机器学习成为主流——恩智浦eIQ™软件开发环境更智能、更友好

自物联网（IoT）问世以来出现了多项颇具颠覆性的创新，边缘智能便是其中之一。物联网带来了数十亿智能互联设备，这些设备传输TB级海量传感器数据，用于执行基于人工智能的云计算。除此之外，另一项革命正在进行：边缘设备上的机器学习（ML）。随着越来越多的智能设备迁移到网络边缘，恩智浦紧跟趋势，提供成本、性能和功率优越的处理解决方案，在多个市场和应用推动机器学习技术，让最终用户享受到更强安全性、更高隐私性、更少延迟等优势。

以前，机器学习、深度学习和神经网络应用一直是数据科学家和人工智能专家的专属领域。但是，越来越多的机器学习工具和技术问世，消除了机器学习应用开发方面的一些复杂性，这种情况逐渐改变。恩智浦的eIQ（“边缘智能”）机器学习开发环境就是一个很好的例子。eIQ提供一套全面的工作流程工具、推理引擎、神经网络（NN）编译器，以及经过优化的库和技术，帮助简化并加快机器学习开发。从刚开始第一个深度学习项目的嵌入式开发人员，到专注研究高级目标识别、分类、异常检测或语音识别解决方案的专家，各种技能水平的用户都可以使用eIQ。

eIQ机器学习软件于2018年推出，经过不断开发，可支持系统级应用和机器学习算法实现，适用于恩智浦i.MX系列从低功耗i.MX RT跨界微控制器（MCU），到基于Arm® Cortex®-M和Cortex®-A内核的多核i.MX 8和i.MX 8M应用处理器。

今日重大更新

为帮助机器学习开发人员更熟练高效地运用恩智浦i.MX 8处理平台，我们大力扩展了eIQ软件环境，添加了全新eIQ Toolkit工作流程工具、基于GUI的eIQ门户开发环境，以及针对i.MX和i.MX RT设备进行优化的DeepViewRT™推理引擎。

图1. eIQ Toolkit和eIQ门户特性与工作流程的简要展示

下面详细介绍eIQ软件环境中，这些强大的新增工具如何帮助简化机器学习开发，提高工作效率并为开发人员提供更多选项和更大的灵活性。

eIQ Toolkit：实现“机器学习人人可用”

考虑到机器学习、神经网络和深度学习应用的潜在复杂性以及机器学习开发人员的不同需求，简单的“万能”工具并不能实现“人人可用”。更好的方法是提供灵活的综合工具套件，该套件应该能够扩展，以满足不同技能水平和经验水平的机器学习开发人员。为此，我们在eIQ机器学习开发环境中添加了强大而易用的eIQ Toolkit，使开发人员能够导入数据集和模型，并跨恩智浦i.MX 8M应用处理器系列和i.MX RT跨界MCU产品组合进行训练、量化、验证和部署神经网络模型与机器学习工作负载。无论您是刚刚开始第一个机器学习项目的嵌入式开发人员，还是熟练的数据科学家或人工智能专家，都能在该工具套件中找到与您的技能水平相对应的功能，来帮助简化机器学习项目。

图2. eIQ门户提供数据集管理工具，帮助您注释并整理所有训练数据

eIQ Toolkit提供简单的工作流程和机器学习应用示例。此外，该工具套件在eIQ门户中提供一个基于GUI直观开发选项，您也可以根据自己的喜好选择使用命令行主机工具。如果您想要使用现成的开发解决方案，或是需要恩智浦及我们值得信赖的合作伙伴提供的专业服务与支持，您可以通过该工具套件在eIQ市场中轻松访问Au-Zone Technologies等公司提供的选项列表，该列表将不断更新。

图3. eIQ门户提供便捷的模型验证和精度测量方法

通过eIQ门户，您可以轻松创建、优化、调试、转换并导出机器学习模型，也可以从TensorFlow、ONNX和PyTorch机器学习框架中导入数据集和模型。您可以通过“自带数据” （BYOD）流程，使用自己的数据训练模型，从预训练模型数据库中选择模型，或通过“自带模型”（BYOM）流程导入预训练模型，例如来自Au-Zone Technologies的高级检测模型。通过遵循简单的BYOM流程，您可以使用基于公共云或私有云的工具构建经过训练的模型，然后将模型传输到eIQ Toolkit中，以便在适当的芯片优化推理引擎上运行。

图4. eIQ门户提供灵活的BYOM和BYOD方法

针对目标的图形级别分析功能让开发人员能够在运行时深入了解运行情况，以便微调和优化系统参数、运行时性能、内存使用和在i.MX设备上执行的神经网络架构。

最新eIQ推理引擎，实现恩智浦提速发展

推理引擎是机器学习开发项目的核心，也是机器学习应用的运行时组件。eIQ机器学习软件开发环境支持使用针对Glow、ONNX和TensorFlow Lite等i.MX设备和MCU进行优化的各种基于社区的开源推理引擎进行推理，除此之外，我们还为其添加了DeepViewRT推理引擎。

DeepViewRT是恩智浦与合作伙伴Au-Zone Technologies联合开发的专有推理引擎，该引擎提供了长期稳定的解决方案，由供应商进行维护，用于补充基于社区的开源引擎。

图5. DeepViewRT为机器学习应用提供稳定灵活的生产就绪型推理引擎

在恩智浦MCUXpresso SDK和Yocto BSP版本中，DeepViewRT推理引擎可作为基于Linux™操作系统的开发的中间件。

关于eIQ的更多优势

eIQ机器学习开发环境及所有必要的基准支持，包括全新eIQ Toolkit、eIQ门户和通过DeepViewRT实现的eIQ推理，均无许可费。

在恩智浦机器学习/人工智能培训学院磨练技能

恩智浦的机器学习/人工智能培训学院针对与机器学习开发相关的各个主题提供自主学习模块，并提供有关结合使用eIQ工具与恩智浦i.MX和i.MX RT设备的最佳实践。机器学习/人工智能培训学院面向所有恩智浦客户开放，提供一系列不断扩展的培训模块，帮助您开始进行机器学习应用开发。

立即开始使用eIQ机器学习软件和工具

现在，单击eIQ Toolkit即可下载包括eIQ门户在内的eIQ Toolkit。

当前的Yocto Linux版本支持eIQ机器学习软件，包括适用于i.MX应用处理器的DeepView RT推理引擎。适用于i.MX RT跨界MCU的eIQ机器学习软件已完成集成到恩智浦的MCUXpresso SDK版本中。

有关更多信息，请访问www.nxp.com.cn/ai?cid=pr和www.nxp.com.cn/eiq?cid=pr。

加入eIQ社区：eIQ机器学习软件。

单击此处详细了解DeepViewRT和Au-Zone的机器学习开发工具。

作者：

Ali Ors

恩智浦半导体边缘处理部门人工智能机器学习战略技术总监

Ali在半导体行业拥有超过23年的经验，擅长领导跨职能团队来打造机器学习和视觉处理领域的创新产品和平台。他目前主要负责全球人工智能机器学习战略。