边缘AI未必越大越好

物联网与传感器   作者:EEPW 时间:2024-11-05来源:EEPW

为平衡性能、功耗和成本而选择适当的硬件,可以使机器学习能够在资源受限的平台上运行。

核心要点
通过适配合适的硬件、集成开发环境(IDEs)、开发工具和套件、框架、数据集及开源模型,工程师可以更轻松地开发出支持机器学习(ML)和人工智能(AI)的边缘处理产品。

边缘上的机器学习
机器学习和人工智能(AI)起初主要依赖于高性能计算平台,近年则逐步转向云端处理。然而,如今越来越多的应用将计算部署在靠近数据源的位置进行。这种适合物联网(IoT)设备的边缘处理方式无需将大量数据传输到云端,从而减少了延迟并提升了安全性。

边缘处理中的ML/AI可使物联网设备在源头就进行推理。这意味着设备可以从经验中学习并改善其行为,例如通过算法分析数据以发现模式并做出决策。目前常用的机器学习方法包括监督学习、无监督学习和强化学习。

嵌入式系统与机器学习
ML/AI起初需要大量计算资源,如今则可以在嵌入式系统(如物联网设备)中实现。图像检测和分类可以在FPGA或微处理器单元(MPU)上实现,而简单的应用,如振动监测,则可以在8位微控制器(MCU)上完成。

如今,嵌入式系统工程师可以利用硬件、软件和工具,快速设计ML/AI产品。例如,Microchip的MPLAB X IDE集成了ML模型开发插件,使得模型可直接部署到目标硬件。自动机器学习(AutoML)则可自动化模型开发和训练中的许多繁琐任务。

小尺寸设计的机器学习
小型机器学习(tinyML)允许在资源受限的微控制器上运行模型。这类MCU通常在1至400 MHz频率下运行,配备2至512 kB的RAM,功耗仅为150 µW到23.5 mW,非常适合电池供电或能量采集的应用。

实现tinyML的关键
数据捕获和准备在tinyML中至关重要,需要优化数据集以避免数据过多导致内存不足,同时保持足够的数据量以确保预测的准确性。模型压缩技术(如“权重剪枝”和量化)可减少模型体积,从而更有效地在MCU上运行。

这些技术为开发ML/AI边缘产品提供了极大便利。尽管如此,切勿过度设计,否则会导致功耗和成本的上升。

关键词: AI IoT

加入微信
获取电子行业最新资讯
搜索微信公众号:EEPW

或用微信扫描左侧二维码

相关文章

查看电脑版