边缘AI到底有多火？

摘要：AI乃至生成式AI正以前所未有的态势向边缘设备迁移，从AIoT的初步探索，迈向真正意义上的边缘AI时代，这一转变让嵌入式行业发生着天翻地覆的巨变。

AI乃至生成式AI正以前所未有的态势向边缘设备迁移，从AIoT的初步探索，迈向真正意义上的边缘AI时代，这一转变让嵌入式行业发生着天翻地覆的巨变。

边缘AI到底有多火？在嵌入式展上，各家厂商都无一例外介绍了边缘AI的相关产品，那么我们就来看看意法半导体、英飞凌、恩智浦、德州仪器等行业领军者的近况。

意法半导体

意法半导体MCU、数字IC和射频产品线总监RemiEl-Ouazzane表示，在嵌入式展上，ST共有大约50个围绕边缘的Demo，方便与开发者进行深入交流。“事实上在两天时间里，我与不同规模公司的研发经理或开发人员开展深入交流，有的公司只有10人，有的则有上万人，这让我非常充实。”

El-Ouazzane强调，AI不再是昙花一现，如今已然是边缘节点的核心。“我们的客户主要分为三类，第一类希望通过AI替代物理传感器，降低物料成本；第二类长期使用随机模型，现在正通过概率模型提升推理精度；第三类则是利用微控制器的低功耗和低成本特性，探索全新的AI应用场景。这些趋势在三年前还只是萌芽，如今已成为主流。”

在嵌入式展上，El-Ouazzane参加几十场会议，每场都提到了AI。其举例道，例如一家专注于能量收集传感器的公司，尽管受限于能量预算，仍在探索如何用卷积模型优化传感器性能。这类应用已在工业领域落地，ST官网上有很多案例。

同样的事情在汽车行业也是如此，也逐渐将AI从自动驾驶（依赖高性能计算）扩展到区域控制器、微控制器等边缘设备。ST的汽车AI场景专注于“非性感但关键”的应用。比如预测轮胎漏气、数据中心风扇故障、车牌识别、自动驾驶汽车电机过热预警，以及电池管理系统中的热失控风险监测。这些应用虽不吸引眼球，但对客户至关重要。

从市场规模来看，通用微控制器每年出货量约100亿个节点。虽然单个价值不如数据中心GPU，但五年后，边缘AI设备的总部署量将成为全球最大的智能终端群体。

谈到ST如何在AI竞赛中取胜，El-Ouazzane表示，关键在于开发者生态的质量。我们不仅优化开发工具（如IDE功能、日志机制），还通过AI技术提升开发者开发效率。例如，我们训练了一个基于STM32产品的生成式AI模型，可快速响应开发者问题，减少人工干预。此外，我们每月评估开发者满意度，持续优化工具链和社区服务。

“AI不仅在推动技术创新，还在重塑商业模式。例如，某公司为超大规模数据中心开发的风扇，通过预测性维护避免了因散热问题导致的停机，从而改变了与客户的合作模式。在工业领域，传统企业正通过云连接智能设备实现数字化转型，这一过程充满挑战但潜力巨大。”El-Ouazzane说道。

在嵌入式展上，ST展现了一款利用STM32MP2微处理器实现桌上足球系统的视频采集和运算过程。

英飞凌

日前，英飞凌IoT计算和无线业务执行副总裁SamGeha在英飞凌播客中提到了英飞凌在边缘AI的机遇。

Geha认为，目前边缘AI最大的挑战是生态系统建设。尤其是针对AIoT客户，缺乏足够数量的数据科学家和模型优化专家，因此英飞凌开发了DeepCraftStudio工具，让开发者能够上传自有数据、使用预训练模型或从头构建模型。此外，硬件设计也需要创新：微控制器（MCU）需支持大数据采集、传感器融合和机器学习（ML）模型运行。例如，英飞凌的PSoCEdge最新一代MCU，集成了专用AI加速器，在降低成本和功耗的同时，性能可媲美微处理器（MPU）。

Geha介绍到，目前英飞凌正在通过三个层面加速客户的AI部署，首先依然是通过DeepCraftStudio提供端到端开发平台，简化AI工具链。其次是提供DeepCraft预训练模型库，客户无需自行开发，可直接调用或通过第三方获取模型。另外第三点也很重要，即安全增强，可以确保模型和数据不被窃取，英飞凌PSoCEdge是全球首款达到PSALevel4安全认证的AI微控制器（MCU）。

为了满足客户对于不同AI性能的需求，英飞凌也推出了不同的产品组合，集成了英飞凌自研NPU或者ArmEthos-U55不同类型，灵活适用于各类场景。

Geha给出了英飞凌认为边缘AI的几个重要趋势，比如工业预测维护：通过AI分析电机振动数据，避免停机。智能家居优化：根据衣物湿度自动调整烘干时间。安全认证：替代传统门禁卡，通过人脸识别或语音验证身份。可穿戴设备：实时健康监测（如鼾症检测）。

“我们的目标是将AI解决方案成本从20美元降至2美元，并通过低功耗设计支持便携设备。”Geha说道。

Geha预测，AI的三大趋势正在形成：首先是边缘AI普及：低延迟、高效能、高安全性将成为下一代物联网设备的标配。其次是应用爆发：智能家居、医疗健康、工业自动化等领域将加速AI集成。第三是生态开放：一方面英飞凌会构建自己的工具与平台，另外也会积极参加第三方生态建设，努力提升AI的广度与参与度。

利用英飞凌PSoCEdge实现智能厨房的边缘AI检测

恩智浦

恩智浦AI产品经理DavisSawyer在《智启边缘，芯承恩智浦》（AIBornattheEdge，BuiltonNXP）演讲中，介绍了NXP在边缘AI上的理解，尤其是在一些软件策略方面。

当然硬件是根本，所以NXP推出了一系列可扩展NXP，以满足不同AI需求。

NXP自研的额eIQNeutronNPUIP，算力从GOPS到数TOPS，另外未来也在规划更大算力的NPU。

NXP的NPU相比Cortex-A，在运行YOLOv8目标检测时，可以更好地识别出车辆，反正比CPU算的好是一定的。

Davis强调，边缘AI并非云端模型的简单移植，而是需要为设备特性量身定制的原生方案。首先是多样化边缘设备，因此需要谨慎移植，从家电中的微控制器到工业网关，恩智浦可以提供覆盖低功耗MCU到高性能MPU的全场景；其次是AI生命周期重构，未来训练集中化与推理本地化将协同演进，随着数据的改进，算法与模型都是要不断变化，未来两者界限将进一步模糊。模型正在不断变化，从AlexNet（2012）到如今的LLM，另外边缘原生创新也正在变化，如TinyML、智能体工作流等开始变火。

NXP通过eIQ软件栈实现边缘AI的全链路支持，实现软硬件协同，恩智浦提供了一系列特色的工具链与生态，比如Time-SeriesStudio、模型优化及安全特性（如模型IP保护）。另外，开发采用模块化设计，支持自定义模型/数据导入，兼容TensorFlowLite、PyTorch等主流框架。

eIQTime-SeriesStudio是NXP推出的一套开发工具，支持工业监测、电池管理、预测性维护等。整个工作流程，包括数据采集、模型训练、优化、部署（支持Kinetis、MCX、RT系列）都在统一软件平台中执行。可以一键生成模型并验证，从而降低AI开发门槛。NXP的软件支持自定义数据格式（如未标注传感器数据）。

Davis还介绍了NXP在边缘生成式AI上的表现，其中重点是RAG（检索增强生成）技术。相比于云端AGI，边缘AGI可以利用本地知识库避免数据泄露，从而符合欧盟AI法案等合规要求。恩智浦的eIQGenAIFlow可以实现低延迟语音控制（如智能家居、医疗设备），响应速度较2024年提升3倍。