人工智能 (AI) 和機(jī)器學(xué)習(xí) (ML) 是關(guān)鍵技術(shù)，使系統(tǒng)能夠從數(shù)據(jù)中學(xué)習(xí)、進(jìn)行推理并隨著時間的推移提高性能。這些技術(shù)經(jīng)常用于大型數(shù)據(jù)中心和功能強(qiáng)大的 GPU，但是在資源受限的設(shè)備，例如微控制器 (MCU) 上進(jìn)行部署的需求越來越大。

在本博客中，我們將探討 MCU 技術(shù)和 AI/ML 的交集，以及它如何影響低功耗邊緣設(shè)備。我們將討論在電池供電的 MCU 上運(yùn)行 AI 的困難、創(chuàng)新和實(shí)際用例。

AI/ML 和 MCU：簡要概述

AI 創(chuàng)建可以執(zhí)行類似人類任務(wù)的計算機(jī)系統(tǒng)，例如理解語言、尋找模式和做出決定。機(jī)器學(xué)習(xí)是人工智能的一個子集，涉及使用算法，讓計算機(jī)從數(shù)據(jù)中學(xué)習(xí)并隨著時間的推移取得進(jìn)步。ML 模型可以尋找模式，對對象排序，并從示例中預(yù)測結(jié)果。

MCU 對于在邊緣設(shè)備上實(shí)現(xiàn) AI 和 ML 至關(guān)重要。

基于 MCU 的邊緣 AI/ML 的一些用例包括：

• 關(guān)鍵詞識別： 無需云連接即可識別特定詞語或短語（例如語音命令）
• 傳感器融合： 結(jié)合來自多個傳感器的數(shù)據(jù)，比使用單個傳感器解決方案做出更明智的決策
• 異常檢測： 檢測傳感器數(shù)據(jù)中可能指示故障、錯誤或威脅的異常值或異常模式，以進(jìn)行預(yù)測性維護(hù)或質(zhì)量控制
• 對象檢測： 識別和定位由攝像頭或其他傳感器捕獲的圖像或視頻中的感興趣對象（例如，人臉、行人、車輛）。
• 手勢識別： 解讀攝像頭或其他傳感器捕獲的圖像或視頻中的人類手勢（例如，手部動作、面部表情、身體姿勢），以改善人類與計算機(jī)的交互

MCU 上的 AI/ML 挑戰(zhàn)

深度學(xué)習(xí)模型，特別是深度神經(jīng)網(wǎng)絡(luò) (DNN)，對于計算機(jī)視覺和自然語言處理等復(fù)雜任務(wù)來說已經(jīng)變得不可或缺。然而，它們的計算需求很大。這種資源密集型模型對于日常設(shè)備來說是不切實(shí)際的，尤其是那些由邊緣設(shè)備中常見的低能耗 MCU 供電的設(shè)備。深度學(xué)習(xí)模型復(fù)雜性的增長是不可否認(rèn)的。隨著 DNN 變得越來越復(fù)雜，其尺寸會不斷擴(kuò)大，使其與 MCU 上可用的有限計算資源不再兼容。

什么是 TinyML？

TinyML 是指針對資源受限設(shè)備上的部署而優(yōu)化的機(jī)器學(xué)習(xí)模型和技術(shù)。這些設(shè)備在生成數(shù)據(jù)的邊緣運(yùn)行，并在本地執(zhí)行推理。TinyML 系統(tǒng)通常在低功耗 MCU 上運(yùn)行，在節(jié)點(diǎn)對本地收集的數(shù)據(jù)執(zhí)行推理。推理是 AI 模型的真相時刻，測試其運(yùn)用訓(xùn)練中所學(xué)到知識的能力。本地推理使 MCU 能夠直接執(zhí)行 AI 模型，無需依賴外部服務(wù)器或云服務(wù)即可做出實(shí)時決策。

在 AI/ML 背景下進(jìn)行本地推理至關(guān)重要，原因有以下幾點(diǎn)：

資源限制： 許多嵌入式設(shè)備，特別是那些電池供電的設(shè)備，其內(nèi)存、處理能力和能源效率等資源有限。傳統(tǒng)的通用微控制器由于其有限的處理能力和內(nèi)存、有限的能源資源或缺乏片上加速而難以有效地執(zhí)行 AI 任務(wù)。本地推理允許這些資源受限的設(shè)備執(zhí)行 AI 工作負(fù)載，而不會消耗過多的功率來提高諸如以下方面的效率和性能：

用戶體驗(yàn)增強(qiáng)： 舉一個例子：支持 AI 的電子貓門。通過訓(xùn)練它來區(qū)分貓和其他物體，它只能為授權(quán)的貓打開門。在這里，本地推理通過確保安全性和便利性來改善用戶體驗(yàn)，而不需要 RFID 項(xiàng)圈等其他硬件。

效率和性能：GPU 通常用于大規(guī)模 AI 部署，因?yàn)樗鼈兛梢圆⑿袌?zhí)行許多流程，這對有效的 AI 訓(xùn)練至關(guān)重要。但是，GPU 成本高昂，超出了小型嵌入式應(yīng)用的功耗預(yù)算。AI 優(yōu)化的 MCU 具有專用體系結(jié)構(gòu)，通過為 AI 工作負(fù)載提供更好的性能和功率效率實(shí)現(xiàn)平衡。Silicon Labs 將矩陣矢量處理器作為其對 AI/ML 支持的一部分。這種專用外圍設(shè)備旨在提升 AI/ML 算法或矢量數(shù)學(xué)運(yùn)算的性能，以縮短推理時間并以較低的功率執(zhí)行這些關(guān)鍵任務(wù)。

總之，邊緣的本地推理可以實(shí)現(xiàn)實(shí)時決策、降低延遲、強(qiáng)化安全性、為電池供電設(shè)備提供 AI 功能，并增強(qiáng)用戶體驗(yàn)，使其成為現(xiàn)代計算系統(tǒng)的關(guān)鍵組件，同時尊重資源限制。

Silicon Labs 邊緣先驅(qū) AI/ML 解決方案：

在動態(tài)技術(shù)環(huán)境中，Silicon Labs 是將人工智能 (AI) 和機(jī)器學(xué)習(xí) (ML) 引入邊緣的開拓者。我們對創(chuàng)新的承諾帶來了突破性的解決方案，使微控制器 (MCU) 等資源受限設(shè)備具有智能功能。

針對 TinyML 優(yōu)化的設(shè)備

MCU 及 無線 MCU EFR32xG24、EFR32xG28 和 EFR32xG26 產(chǎn)品家族結(jié)合了 78 MHz ARM Cortex?-M33 處理器、高性能無線電、精密模擬性能和 AI/ML 硬件加速器，為開發(fā)人員提供了靈活的邊緣智能部署平臺。這些 SOC 支持廣泛的無線物聯(lián)網(wǎng)協(xié)議，具有市場領(lǐng)先的安全性和 RF 性能/能效比。

當(dāng)今的開發(fā)人員經(jīng)常因在邊緣部署 AI/ML 而被迫付出高昂的性能或能源代價。xG24, xG28 和 xG26 產(chǎn)品家族作為首款配備專用 AI/ML 加速器的超低功耗設(shè)備，可降低總體設(shè)計復(fù)雜性，從而降低這些代價。這種專用硬件旨在處理復(fù)雜的計算，與僅采用固件的方法相比，推理速度提高 8 倍，能效提高 6 倍，與基于云的解決方案相比，性能更高。硬件加速器的使用減輕了主應(yīng)用 MCU 推理的負(fù)擔(dān)，留出更多的時鐘周期為您的應(yīng)用提供服務(wù)。