在上篇文章《巨头入局TinyML，端侧与边缘AI迎来新拐点》中，我曾提到TinyML基金会进行了品牌重塑，已更名为边缘智能（Edge AI）基金会。
近日，边缘智能基金会发布了2025年度最新版本的《2025边缘AI技术报告》。该报告对边缘智能以及微型机器学习TinyML的发展趋势进行了全面扫描和总结。
从报告内容来看，TinyML的成熟度可能超出了很多人的预期，已经在现实场景中产生了众多应用案例。
报告的亮点如下：
边缘AI的技术推动因素：报告深入探讨了支持边缘AI部署的软硬件进步，重点关注了专用处理器和超低功耗设备的创新，这些创新正在克服资源受限环境中处理能力和可扩展性的限制。
边缘AI在行业转型中的作用：报告揭示了边缘AI如何通过实现实时分析和决策能力，影响各个行业的运营模式。
未来技术与创新：报告的最后章节展望了可能影响边缘AI未来发展的新兴技术，例如联合学习、量子神经网络和神经形态计算等。
因此，在今天这篇文章中，我们将一起梳理《2025边缘AI技术报告》的精华内容，全面了解TinyML以及边缘AI的最新进展和发展全貌。
实时、在地、高效：边缘AI在六大行业的创新应用
随着市场对低延迟、实时处理的需求日益增长，边缘AI正在各个行业掀起一场风潮，尤其是在汽车、制造业、医疗、零售、物流和智慧农业领域。边缘AI通过在数据源处进行实时分析和决策，极大地提升了效率，优化了资源配置，改善了用户体验。
首先来看自动驾驶汽车领域。
随着摄像头分辨率达到千兆像素，激光雷达系统每秒可发射数百万个激光脉冲，边缘人工智能可加快反应时间，并增强安全性。例如，Waymo已扩展模拟训练和评估，以处理罕见的驾驶情况。与此同时，理想汽车预计其端到端模型将在今年年底前从超过500万个驾驶数据片段中学习。
同样，随着人工智能市场的快速增长，实时边缘人工智能已成为提高效率和减少停机时间的关键。在繁忙的汽车生产车间：智能传感器会立即标记温度峰值或机械应力，使团队能够在问题升级之前防止中断。从汽车行业汲取灵感，蔚来的NWM（NIO世界模型）展示了超快速AI预测的强大功能。同样，基于边缘AI的分析可以以惊人的精度检测生产线上的微缺陷。
通过结合速度、可靠性和设备智能，实时数据处理正在改变自动驾驶汽车的标准实践，为全面更具适应性、更高效的未来铺平了道路。
边缘AI之所以对自动驾驶汽车如此重要，主要有三个原因：
边缘系统减少了对云中继的依赖，实现了50ms以下的防撞响应时间，这对于处理行人突然横穿马路，或高速公路突发事件尤为关键。
边缘AI使得自动驾驶汽车或半自动驾驶汽车即使在蜂窝盲区，也能保持安全功能（例如车道保持、自适应巡航控制）。5G汽车协会（5GAA）更新的蜂窝车联网（C-V2X）技术路线图，强调了混合V2X架构，该架构将边缘处理与5G-V2X直接通信相结合。边缘AI硬件和传感器融合算法，使自动驾驶汽车能够将决策延迟缩短30-40%，实现低至20-50毫秒的响应时间。
集成来自摄像头、激光雷达和雷达等边缘设备的数据可以提高感知可靠性，实现安全导航。例如，Innoviz的2024年激光雷达升级版采用了边缘优化的神经网络，以每秒20帧的速度处理点云数据，最大限度地减少了障碍物检测的延迟。
接着来看制造业。
生产线每天可以生成大量数据，有研究显示，智能工厂每周生成超过5PB的数据。边缘AI系统可以在本地处理这些信息，提供即时洞察和自动响应。边缘AI的影响体现在三个关键领域：预测性维护、质量控制系统和流程优化。
据报道，利用实时传感器数据分析的预测性维护系统可将维护成本降低30%，并将停机时间减少45%。通过持续监控设备性能，边缘AI算法可以在细微异常和潜在故障发生之前检测到它们，从而实现主动维护并最大限度地减少意外停机时间。
在质量方面，边缘AI通过实时检查和缺陷检测增强了质量控制。例如，一家大型食品饮料制造商在边缘部署了视觉AI，用于质量检查和闭环质量控制。该系统持续监控产品差异并建议调整设备设置，将检查周期缩短50-75%，并提高准确性。
第三，在医疗保健领域，本地化AI可通过直接在设备中处理医疗数据，加速诊断并改善患者治疗效果。
例如，边缘AI驱动的远程患者监测设备（如便携式心电图和血压监测仪）可以实时分析心律和生命体征。这些设备（例如由AliveCor和Biobeat开发的设备）使临床医生无需等待基于云的分析即可检测心律失常和其他异常情况，从而缩短危急情况下的响应时间。
第四，边缘AI正在通过实时行为分析优化店内运营并增强客户体验，从而改变零售业。
AI驱动的智能货架和结算系统可在本地处理客户互动，分析购买模式并调整库存预测，而无需依赖云同步。零售商正在部署AI驱动的视频分析来检测客流量异常、监控库存水平并减少结账时间，从而提高效率并降低运营成本。
在运营方面，基于人工智能的智慧零售已经在2025年展现出应用前景。人工智能驱动的计算机视觉可以实现完全的非接触式交易，将平均结账时间缩短30%。Amazon Fresh已经通过在货架或手推车上安装摄像头，在顾客离开时自动结账，并提供实时消费预览。
亚马逊的Just Walk Out（JWO）系统是零售业边缘AI的典范，它集成了传感器阵列、设备分析和高级机器学习模型。所有计算都在定制边缘硬件上本地处理，实现实时决策，并提高客户便利性和运营效率。
第五，边缘AI与物联网传感器集成，通过直接在配送中心、仓库和运输枢纽处理物流数据，增强了物流的智能化。
智能传感器无需将大量信息传输到集中式服务器，而是现场分析温度波动、运动异常和库存短缺，并在出现偏差时触发即时警报。例如，P&O Ferry masters使用人工智能驱动的船舶装载程序将货运能力优化了10%，从而保持了整个供应链的实时可见性。此外，人工智能驱动的预测有助于减少20%的物流费用。
最后，边缘AI正在帮助智慧农业扩大精准种植，以满足全球不断增长的粮食需求。
预计到2050年，全球人口将达到98亿，农业必须智能地扩大规模，以满足不断增长的粮食需求，同时最大限度地减少对环境的影响。边缘人工智能使农场能够在不增加复杂性的情况下扩大其技术覆盖范围，分析土壤条件，监测天气模式，并实施自动化灌溉系统。
先进的传感器和AI模型无需将数据发送到远程服务器，而是在检测到土壤湿度或害虫活动等因素时对其进行评估，从而迅速采取干预措施。CrackSense等项目展示了实时传感如何确保柑橘、石榴和葡萄等作物的果实质量，减少灾害和浪费。
配备边缘人工智能的智能灌溉系统已显示出成效，可根据局部土壤水分分析动态调整水分配，减少25%的用水量。同样，人工智能驱动的害虫检测可减少30%的农药使用量，确保精准农业，最大限度地减少浪费。
边缘AI生态系统：三层架构下的协同创新
当今的边缘AI生态系统正处于一个关键阶段：项目的成功取决于硬件供应商、软件开发商、云提供商和行业利益相关者的共同协作。这种状态可能将会持续较长的一段时间，因此企业之间的互相协同成为重点。
如果没有互操作性标准、可扩展的部署模型和共享的研发工作，边缘AI就有可能出现碎片化，从而限制其在制造业、医疗保健和物流等关键领域的应用。
边缘AI的生态系统普遍公认采用三层架构，将计算工作负载分配到边缘设备、边缘服务器和云平台。这种结构允许AI模型在边缘执行实时推理，同时在需要时利用更高的计算能力。每一层在处理、汇总和优化数据以进行智能决策方面发挥着独特的作用。
边缘设备与终端设备是与现实世界数据交互的第一个点。这些设备包括部署在制造业、医疗保健、汽车和零售环境中的物联网传感器、工业机器人、智能摄像头和嵌入式计算系统。它们的主要功能是低延迟AI推理——无需依赖持续的云连接即可在现场处理数据。
边缘服务器充当边缘设备和云之间的计算中介。这些服务器通常部署在工厂、医院、零售店和自动驾驶汽车网络中，用于汇总来自多个来源的数据，并执行更为复杂的AI工作负载。边缘服务器的一个关键优势是本地化AI推理：无需将数据卸载到远程数据中心即可运行更重的模型。这减少了与云依赖相关的延迟、带宽成本和安全风险。
这里需要区分边缘计算和终端设备，尽管从整体上他们可以归为一类，但由于功耗、尺寸和算力等约束条件截然不同，“边缘”和“终端”具有显著区别，不能使用同一个思路处理。边缘设备（例如嵌入式摄像头或工业传感器）专为低功耗AI推理而设计，而功能更强大的边缘服务器则充当中介，在将数据转发到云端之前，处理复杂的AI工作负载。
云对于模型开发、大规模数据分析和存储仍然至关重要。它是深度学习模型在优化和部署到边缘之前进行训练的支柱。经过训练后，AI模型将部署到边缘设备和边缘服务器，在生产环境中执行推理任务。云还充当AI模型监控、分析和集中编排的骨干，确保部署在数千甚至数百万个边缘端点上保持高效。
虽然三层架构涵盖了边缘AI的全貌，但是企业之间的跨界合作正在更加密切的进行。
半导体公司正在与AI开发人员合作以提高专用硬件上的模型效率；云提供商正在集成边缘原生计算解决方案；研究机构正在与行业领导者合作推进可扩展架构。
在硬件和云协作方面，英特尔通过其边缘AI合作伙伴支持包推动边缘AI的采用，该计划为企业提供工具、框架和技术资源，以加速边缘AI的部署。
另一项值得注意的合作涉及高通和Meta，他们致力于将Meta的Llama大型语言模型直接集成到高通的边缘处理器上。这种合作关系减少了对基于云的LLM的依赖，使设备能够在现场执行生成AI工作负载。
MemryX和Variscite也宣布建立了合作伙伴关系，旨在提高边缘AI效率。通过将MemryX的AI加速器与Variscite的系统模块（SoM）解决方案相结合，简化了边缘设备上的AI部署，尤其针对工业自动化和医疗保健的应用。
Google与Synaptics合作开发了边缘人工智能系统。Google的Kelvin MLIR兼容机器学习 核心将集成到Synaptics Astra AI-Native IoT计算平台中。两家公司将共同努力，为可穿戴设备、家电、娱乐和监控等应用定义IoT Edge情境感知计算多模式处理的最佳实现。
政产学研合作在推进边缘AI研究和部署方面发挥着至关重要的作用，一些国家推出了边缘AI的试点项目和协作平台。
在英国，国家边缘人工智能中心是一个协作平台，联合学术界、工业界和公共部门推进边缘人工智能技术。该中心由纽卡斯尔大学牵头，汇集了来自英国各地机构的多学科团队，其使命是提高医疗保健和自动驾驶电动汽车等时间关键型应用的数据质量和决策准确性。
同样，美国国家科学基金会的NAIRR试点项目是一项旨在实现AI普及的大型计划。英特尔、英伟达、微软、Meta、OpenAI和IBM等行业参与者为开发安全节能的AI应用程序的研究人员贡献了计算能力和AI工具。
从联邦学习到神经形态计算：边缘AI的5大前沿趋势
技术的发展日新月异，边缘AI的5个新兴趋势正在重塑人工智能系统，包括联邦学习、边缘原生AI模型、量子增强智能和边缘生成AI。这些趋势彼此结合，让自动驾驶汽车可以相互训练，无需依赖集中式数据集；医院可以部署基于患者数据实时演进的AI模型，确保高度个性化的治疗；工业机器人将以预测智能运行，在故障发生之前检测并修复。
神经形态计算、多智能体强化学习和后量子密码学等领域的新兴创新也在重新定义边缘AI的各种可能性，使人工智能系统变得更快、更安全、效率更高。
1. 联邦学习：边缘的去中心化智能
联邦学习（FL）正在从隐私保护发展成为去中心化智能的基石。未来5年，联邦框架有望积极增强模型适应性、自主性和跨行业协作。市场预测到2030年，联邦学习有望实现近3亿美元的市场价值，预计复合年增长率为12.7%。
联邦学习演进的另一个主要驱动力是与6G等下一代网络的集成。随着边缘部署规模的扩大，超低延迟网络将使AI模型能够更有效地在分布式设备之间同步，从而减少优化和部署更新所需的时间。量子联邦学习（QFL）的出现也正在被探索，以减少设备之间的通信负担，使大规模物联网网络的通信过程更加高效。
2. 边缘量子计算和量子神经网络
量子计算将重新定义边缘AI的功能。虽然当今的边缘AI依赖于优化的深度学习模型和低功耗硬件加速器，但量子计算引入了一种完全不同的方法：利用量子态来处理指数级增大的数据集，并以传统方法无法达到的速度优化决策。随着量子处理单元（QPU）超越基于云的基础设施，混合量子-经典AI将在边缘出现，增强金融、医疗保健、能源和工业自动化等行业的实时决策能力。
量子神经网络（QNN）是一种新型AI模型，它利用量子特性来检测数据中的模式和关系，而“传统AI”则难以做到这一点。与需要增加功率和内存来提高性能的现有神经网络不同，QNN可以以更紧凑、更高效的方式处理信息。
到目前为止，量子计算由于其硬件要求（包括极端冷却）而仅限于基于云的数据中心。然而，移动QPU的最新进展很可能使在室温下运行量子算法成为可能。在未来几年，量子计算将不仅限于云端，还可以嵌入到边缘的自主系统、工业机器人和物联网设备中。
3. 自主人形机器人的边缘人工智能
人形机器人的下一阶段将由具身智能定义，其中人工智能模型变得更具适应性、响应性，并能够自我改进。
在零售环境中，人形机器人可以通过回答口头询问、分析面部表情和浏览商店布局来协助消费者。同时，在医院和养老院中，人工智能机器人可以监测患者、协助行动并检测可能预示医疗紧急情况的细微行为变化，所有这些都通过设备端处理来确保数据隐私和安全。
4. 人工智能驱动的AR/VR：下一个进化方向
增强现实（AR）和虚拟现实（VR）已不再局限于游戏和娱乐，边缘AI是这一发展的关键推动因素。下一代AR/VR设备将在本地处理信息，从而实现实时响应并提高能源效率。
AI驱动的空间计算将允许AR眼镜和VR耳机根据上下文动态调整叠加、深度感知和环境交互。
在工业环境中，这意味着AR驱动的工作空间将为工程师提供免提、AI生成的指令，这些指令可实时适应现实世界的情况。在医疗保健领域，AR辅助手术将集成AI能力，以提高精度，根据外科医生的动作在几毫秒内更新，而不会出现云引起的延迟。
5. 神经形态计算：低功耗人工智能的未来
通过引入大脑启发式架构，神经形态计算有望在边缘AI领域变得越来越流行，这些架构在能源效率和处理能力方面具有显著优势。与将内存和处理单元分开的传统计算系统不同，神经形态系统集成了这些功能，模仿了人脑的并行和事件驱动特性。这种设计使它们能够以最小的能耗处理复杂的实时数据处理任务，使其成为边缘应用的理想选择。
例如，2022年《自然》杂志的一项研究中推出的NeuRRAM芯片模拟计算架构的能效，是最先进的“内存计算”芯片的两倍，可以在没有云连接的情况下在边缘设备上执行复杂的认知任务。这一飞跃反映了从台式电脑到智能手机的转变，解锁了曾经被认为不可能的便携式应用程序。
研究和早期商业部署表明，神经形态芯片可以重新定义智能在边缘的部署方式。
写在最后
边缘AI正在重塑各行各业，从自动驾驶汽车到智能制造，从医疗保健到零售物流，再到智慧农业。通过将人工智能的力量带到数据源头，边缘AI实现了前所未有的实时洞察、自主决策和资源优化。
它的崛起标志着人工智能从集中式云模型向分布式智能的根本性转变。
随着边缘AI生态系统的不断成熟，创新的步伐正在加快。从联邦学习到神经形态计算，从量子增强智能到人工智能驱动的增强现实，前沿技术正在重新定义边缘AI的可能性。展望未来，边缘AI有望成为推动行业变革和社会进步的关键力量。
本文来自微信公众号“物联网智库”（ID：iot101），作者：彭昭，36氪经授权发布。