爱游戏-AI普及给嵌入式设计人员带来新挑战

[导读]切磋了人工智能(AI)的普和给嵌入式设计人员带来的新挑战。在建立“边沿机械进修(ML)”利用时，设计人员必需确保其能有用运行，同时最年夜限度地下降处置器和存储开消，和物联网(IoT)装备的功耗。 切磋了人工智能(AI)的普和给嵌入式设计人员带来的新挑战。在建立“边沿机械进修(ML)”利用时，设计人员必需确保其能有用运行，同时最年夜限度地下降处置器和存储开消，和物联网(IoT)装备的功耗。 从监控和拜候节制到智能工场和猜测性保护，基在机械进修(ML)模子构建的人工智能(AI)在工业物联网边沿处置利用中已变得无处不在。跟着这类普和，撑持AI的解决方案的构建已变得“公共化”——从数据科学家的专业范畴转为嵌入式系统设计人员也需要领会的范畴。这类公共化带来的挑战在在，设计人员其实不必然具有界说要解决的问题和以最得当体例捕捉和组织数据的能力。另外，与消费类解决方案分歧，工业AI实现的现稀有据集很少，凡是需要用户从头最先建立本身的数据集。 融入主流 AI已融入主流，深度进修和机械进修(DL和ML)是我们此刻习觉得常的很多利用的背后气力，这些利用包罗天然说话处置、计较机视觉、猜测性保护和数据发掘。初期的AI实现是基在云或办事器的，需要年夜量的处置能力和存储空间，和AI/ML利用与边沿(终端)之间的高带宽毗连。虽然生成式AI利用(如ChatGPT、DALL-E和Bard)依然需要此类设置，但最近几年来已呈现了边沿处置的AI，即在数据捕捉点及时处置数据。边沿处置极年夜削减了对云的依靠，使整系统统/利用更快、需要更少的功耗而且本钱更低。很多人认为平安性获得了提高，但更正确地说，首要的平安重点从庇护云与终端之间的通讯转移到了使边沿装备更平安。 边沿的AI/ML可以在传统的嵌入式系统上实现，这些系统的设计人员可使用壮大的微处置器、图形处置单位和丰硕的存储器器件，即近似在PC的资本。但是，愈来愈多的贸易和工业物江南体育联网装备需要在边沿具有AI/ML功能，这些装备凡是硬件资本有限，并且在很多环境下由电池供电。 在资本和功耗受限的硬件上运行的边沿AI/ML的潜力催生了“TinyML”这一术语。现实用例涵盖工业(如猜测性保护)、楼宇主动化(情况监控)、建筑施工(监视人员平安)和安防等范畴。 AI(和其子集ML)需要从数据捕捉/搜集到模子摆设的工作流程(见图1)。对TinyML而言，因为嵌入式系统资本有限，是以每一个工作流程阶段的优化相当主要。 例如，TinyML的资本需求被认为是1 MHz到400 MHz的处置速度、2 KB到512 KB的RAM和32 KB到2 MB的存储空间(闪存)。另外，150 µW至23.5 mW的小功耗预算也经常带来挑战。 图1——上图为简化的AI工作流程。固然图中未显示，但模子摆设自己必需将数据反馈回流程中，乃至可能影响数据的搜集。 另外，在将AI嵌入资本有限的嵌入式系统时，还更主要的斟酌身分或衡量。模子是系统行动的要害，但设计人员常常发现本身在模子质量/精度(影响系统靠得住性/依靠性和机能，首要是运行速度和功耗)之间做出让步。 另外一个要害身分是决议利用哪一种类型的AI/ML。凡是有三种算法可供利用：监视进修、无监视进修和强化进修。 解决方案 即便是对AI和ML有杰出理解的设计人员，可能也会在优化AI/ML工作流程的每一个阶段并在模子精度与系统机能之间找到完善均衡方面碰到坚苦——那末缺少以往经验的嵌入式设计人员若何应对这些挑战呢? 起首，主要的是不要轻忽一个事实：假如模子小且AI使命仅限在解决简单问题，那末摆设在资本有限的物联网装备上的模子将会更有用。 荣幸的是，ML(特殊是TinyML)进入嵌入式系管辖域，带来了新的(或加强的)集成开辟情况(IDE)、软件东西、架构和模子——此中很多都是开源的。例如，TensorFlow™ Lite for Microcontrollers(TF Lite Micro)是一个面向ML和AI的免费开源软件库，它专为在只有几KB存储器的器件上实现ML而设计。另外，法式可以用开源和免费的Python说话编写。 关在IDE，Microchip的MPLAB X就是此类情况的一个示例。该IDE可与公司的MPLAB ML一路利用，MPLAB ML是专门开辟的MPLAB X插件，用在构建优化的AI物联网传感器辨认代码。MPLAB ML由AutoML供给撑持，可将AI ML工作流程的每步完全主动化，无需反复、繁琐和耗时的模子构建。特点提取、练习、验证和测试确保知足单片机和微处置器存储器限制的优化模子，使开辟人员可以或许快速在基在Microchip Arm Cortex 的32位MCU或MPU上建立和摆设ML解决方案。 流程优化 工作流程优化使命可以经由过程利用现成的数据集和模子来简化。例如，假如一个撑持ML的物联网装备需要图象辨认，从现有的标识表记标帜静态图象和视频片断数据集最先进行模子练习(测试和评估)是公道的;需要留意的是，监视进修算法需要标识表记标帜数据。 很多图象数据集已存在在计较机视觉利用中。但是，因为它们是为基在PC、办事器或云的利用设计的，凡是都很年夜。例如，ImageNet包括跨越1400万张标注图象。 按照ML利用的分歧，可能只需要少许子集;例如，有良多人但只有少许静物的图象。例如，假如在建筑工地利用撑持ML的摄像头，当有不戴平安帽的人进入其视野时，它们可以当即发出报警。ML模子需要练习，但可能只需要少许戴或不戴平安帽的人的图象。但是，对帽子类型，可能需要更年夜的数据集和足够的数据集规模，以斟酌分歧的光照前提等各类身分。 图1中第1步到第3步的内容别离是取得准确的及时(数据)输入和数据集、预备数据和练习模子。模子优化(第4步)凡是是紧缩，这有助在削减存储器需求(处置时代的RAM和用在存储的NVM)和处置延迟。 在处置方面，很多AI算法(如卷积神经收集(CNN))在处置复杂模子时会碰到坚苦。一种风行的紧缩手艺是剪枝(见图2)，剪枝有四种类型：权重剪枝、单位/神经元剪枝和迭代剪枝。 图2——剪枝削减了神经收集的密度。上图中，某些神经元之间的毗连权重被设为零。但有时神经元也能够被剪失落(图中未显示)。 量化是另外一种风行的紧缩手艺。量化是将高精度格局(如32位浮点(FP32))的数据转换为低精度格局(如8位整数(INT8))的进程。量化模子(见图3)的利用可以经由过程以下两种体例之一纳入机械练习。 · 练习后量化触及利用FP32格局的模子，当练习完成后，再进行量化以便摆设。例如，可使用尺度TensorFlow在PC长进行初始模子练习和优化。然后模子可以进行量化，并经由过程TensorFlow Lite嵌入到物联网装备中。 · 量化感知练习可仿真揣度时量化，建立一个模子供下流东西用在生成量化模子。 图3——量化模子利用低精度，从而削减存储器和存储需求并提高能源效力，同时仍保存不异的外形。 固然量化很有效，但不该过度利用，由于它近似在经由过程利用较少的位暗示色彩和/或利用较少的像夙来紧缩数字图象——即，会存在一个图象变得难以注释的点。 正如我们在开首所提到的，AI此刻已深深融入嵌入式系管辖域。但是，这类公共化意味着之前不需要领会AI和ML的设计工程师正面对将AI解决方案实现到其设计中的挑战。 虽然建立ML利用并充实操纵有限硬件资本的挑战可能使人望而生畏，但这对经验丰硕的嵌入式系统设计人员来讲其实不是一个新挑战。好动静是，工程社区内有丰硕的信息(和培训)，和像MPLAB X如许的IDE、MPLAB ML如许的模子构建东西和各类开源数据集和模子。这类生态系统可帮忙分歧理解程度的工程师快速完成此刻可以在16位乃至8位单片机上实现的AL和ML解决方案。

欲知详情，请下载word文档 下载文档

来历：Microchip

作者：Microchip Technology Inc.触摸和手势营业部副总监，Yann LeFaou

北京2024年8月27日 /美通社/ -- 在8月23日举行的2024年长三角生态绿色一体化成长示范区结合招商会上，软通动力信息手艺（团体）股分有限公司（以下简称 软通动力 ）与长三角投资（上海）有限...

要害字： BSP 信息手艺

上海2024年8月26日 /美通社/ -- 本日，高端全合成润滑油品牌美孚1号联袂品牌体验官周冠宇，开启全新路程，助力泛博车主经由过程驾驶去摸索更广漠的世界。在全新发布的品牌视频中，周冠宇和分歧布景的消费者表达了对驾驶的酷爱...

要害字： BSP 汽车制造