借助 Edge Impulse 實(shí)現 AI 開(kāi)發(fā)的民主化

民主化 AI 開(kāi)發(fā) Edge Impulse：Edge Impulse 101

加拿大哲學(xué)家馬歇爾·麥克盧漢 (Marshall McLuhan) 曾說(shuō)過(guò)：“我們成為我們所看到的。我們塑造我們的工具，然后我們的工具塑造我們?！?如果是這樣，那么人工智能 (AI) 的最獨特之處在于我們看到的對象是我們自己，特別是我們的大腦。如果這是真的，那么看看人工智能這個(gè)工具將如何遞歸地塑造我們自己和我們的未來(lái)將會(huì )很有趣。開(kāi)發(fā)工具的民主化使我們能夠創(chuàng )建具有基于 AI 功能的對象，這對于為人類(lèi)建設光明、積極的未來(lái)至關(guān)重要。一家名為 Edge Impulse 的公司正在盡自己的一份力量來(lái)確保這一點(diǎn)。

對于我們這些嵌入式系統開(kāi)發(fā)人員來(lái)說(shuō)，向神經(jīng)網(wǎng)絡(luò )的范式轉變可能令人望而生畏，他們是在過(guò)程甚至面向對象編程的全盛時(shí)期開(kāi)始學(xué)習的。對于一些人來(lái)說(shuō)，這感覺(jué)就像是放棄了對設計的一點(diǎn)絕對控制，而放棄了表面上似乎未經(jīng)證實(shí)的東西，即使不是徹頭徹尾的魔法。盡管如此，邊緣機器學(xué)習的前景（意味著(zhù)將 AI 算法從云端轉移到數十億物聯(lián)網(wǎng)設備中的微控制器上）仍然很有吸引力，不容忽視。幸運的是，Edge Impulse 為嵌入式系統工程師提供了一條非常簡(jiǎn)單且有據可查的前進(jìn)道路，以幫助他們成功駕馭 AI、機器學(xué)習和神經(jīng)網(wǎng)絡(luò ) (NN) 等相對較新的領(lǐng)域。

有可能在嵌入式設計的某個(gè)時(shí)刻，工程師會(huì )繪制流程圖以了解機器在其運行生命周期中所處的各種狀態(tài)。為此，了解使用 Edge Impulse 為獨特的嵌入式應用程序開(kāi)發(fā)定制神經(jīng)網(wǎng)絡(luò )時(shí)將遇到的步驟是有益的。下面從嵌入式電子工程師和人工智能專(zhuān)業(yè)的計算機科學(xué)家的角度總結了這些步驟。

第一步：獲取訓練數據

神經(jīng)網(wǎng)絡(luò )的開(kāi)發(fā)需要訪(fǎng)問(wèn)數據。很多很多的數據。簡(jiǎn)而言之，數據越多，未來(lái)的 NN 模型在根據實(shí)際操作預測輸出時(shí)就會(huì )越準確。Edge Impulse 提供了多種易于使用的工具來(lái)將數據從現實(shí)世界獲取到他們的服務(wù)器以開(kāi)發(fā)自定義神經(jīng)網(wǎng)絡(luò )。首先，它們?yōu)樵S多流行的開(kāi)發(fā)板（例如TI CC1352P Launchpad、SiLabs Thunderboard Sense 2和Arduino Portenta ）提供預構建固件) 可以訪(fǎng)問(wèn)各種板載傳感器并將數據流發(fā)送回 Edge Impulse。對于其他主板，Edge Impulse 在其命令行界面 (CLI) 工具集的保護下提供了一套工具，可用于 Mac OS、Windows 和 Linux 發(fā)行版 Ubuntu 和 Raspbian。CLI 需要在您的桌面上安裝 Python3 和 Node.js。CLI 的三個(gè)關(guān)鍵工具是：

艾達蒙

沖動(dòng)上傳者

數據轉發(fā)器

這些工具對于從缺乏直接互聯(lián)網(wǎng)連接的開(kāi)發(fā)板獲取傳感器數據特別有用。它們充當代理，通過(guò)串行端口接收數據，并通過(guò)主機互聯(lián)網(wǎng)連接將其轉發(fā)到 Edge Impulse 服務(wù)器。Edge Impulse 還提供了一種基于瀏覽器的機制來(lái)從智能手機收集數據（例如語(yǔ)音樣本或加速度計數據）。

從實(shí)際角度出發(fā)，仔細考慮您的嵌入式設備在運行過(guò)程中可能遇到的所有狀態(tài)。例如，在最近的一個(gè)涉及工業(yè)機械和根據加速度計數據識別機器故障的項目中，開(kāi)發(fā)團隊在數據按預期負載運行時(shí)以及處于故障模式時(shí)收集了大量數據。但最初，它在機器空閑時(shí)無(wú)法收集數據。結果，第一個(gè) NN 模型難以區分故障和空轉。最后，使用機器空閑時(shí)收集的數據對神經(jīng)網(wǎng)絡(luò )進(jìn)行再訓練，模型的預測準確性（例如，神經(jīng)網(wǎng)絡(luò )性能）顯著(zhù)提高。底線(xiàn)是，如果房地產(chǎn)是關(guān)于位置、位置、還是位置的話(huà)。那么機器學(xué)習就是數據、數據、數據。

第 2 步：標記和分塊原始數據

一旦訓練數據位于 Edge Impulse 服務(wù)器上，訓練 NN 模型（也稱(chēng)為“Impulse”）的其余工作將通過(guò) Web 瀏覽器在 Edge Impulse 網(wǎng)站上進(jìn)行。首先，我們收集的數據集必須標有每個(gè)特定數據集代表的輸出狀態(tài)。這是通過(guò)簡(jiǎn)單地編輯收集的每個(gè)單獨數據集的“標簽”標簽來(lái)實(shí)現的。使用上述工業(yè)機械示例，三分之一的數據被標記為“故障”，另外三分之一被標記為“正?！?，最后三分之一被標記為“空閑”?；叵胍幌律窠?jīng)網(wǎng)絡(luò )的輸出不是絕對的；相反，它是每個(gè)可能結果的確定性百分比。

對于時(shí)間序列數據（例如隨時(shí)間收集的加速度計讀數），有必要將每個(gè)數據集中的數據“分塊”。像所有好的解決問(wèn)題的技巧一樣，將問(wèn)題分解成更小、更易于管理的塊可以讓人們解決看似無(wú)法克服的問(wèn)題。在 NN 訓練的這個(gè)初始階段，您可以調整數據分析方式的一些屬性，包括窗口大小、窗口增加、采樣頻率以及數據是否應該被零填充。此外，可以調整這些不同的屬性以平衡分析的分辨率與完成分析的時(shí)間之間的權衡。

第 3 步：分析和轉換原始數據塊

在數據被適當地分塊后，是時(shí)候通過(guò)應用適當的分析技術(shù)（例如“處理塊”）來(lái)分析它了。這會(huì )獲取原始數據并將其轉換為訓練過(guò)程中下游 NN 分類(lèi)器可以使用的格式。Edge Impulse 根據要分析的數據類(lèi)型提供多種不同的分析技術(shù)。

頻譜分析：非常適合分析重復運動(dòng)，例如來(lái)自加速度計的數據。提取信號隨時(shí)間變化的頻率和功率特性。

Flatten：將軸展平為單個(gè)值，與其他塊結合使用可用于溫度數據等緩慢移動(dòng)的平均值。

Mel-Filterbank Energy (MFE)：從非語(yǔ)音音頻信號中提取頻譜圖。

Mel 頻率倒譜系數 (MFCC)：從人聲音頻文件中提取頻譜圖。

圖像：用于識別靜態(tài)圖像中的對象。

自定義處理塊：對于那些具有基于人工智能的計算機科學(xué)背景的人，還可以上傳為您的特定應用量身定制的自定義處理塊

第 4 步：對數據塊進(jìn)行分類(lèi)，運行 NN 分類(lèi)器

一旦我們將原始數據轉換為可用格式并了解如何從我們的數據集中提取特征，就有必要訓練神經(jīng)網(wǎng)絡(luò )從這些特征中學(xué)習，以便它可以適當地對測試和操作數據集進(jìn)行分類(lèi)。換句話(huà)說(shuō)，所有表示系統故障的數據集都應歸類(lèi)為此類(lèi)。同樣，所有代表正常操作的數據集都應該進(jìn)行類(lèi)似的分類(lèi)。這是通過(guò)應用所謂的學(xué)習塊來(lái)實(shí)現的。與處理塊一樣，可以根據數據類(lèi)型應用各種學(xué)習塊。例如，對于快速波動(dòng)的時(shí)變數據，例如我們示例中的數據集，可以使用以下學(xué)習模塊：

分類(lèi) (Keras)：從數據中學(xué)習模式并將其應用于新數據。非常適合對運動(dòng)進(jìn)行分類(lèi)或識別音頻。

異常檢測（K 均值）：在新數據中查找異常值。有利于識別未知狀態(tài)和補充分類(lèi)器。

回歸 (Keras)：從數據中學(xué)習模式并將其應用于新數據。非常適合預測連續數值。

可以調整信號處理算法的各種參數以微調學(xué)習塊的性能。通過(guò)調整截止頻率和快速傅里葉變換 (FFT) 長(cháng)度等參數，可以在處理時(shí)間和隨機存取存儲器 (RAM) 使用峰值之間取得平衡。Edge Impulse 甚至提供在目標嵌入式平臺上運行時(shí)處理時(shí)間和 RAM 使用情況的性能估計。

最后，在最終生成神經(jīng)網(wǎng)絡(luò )模型（又名脈沖）本身之前，可以更改用于控制 NN 分類(lèi)器輸出的設置?？梢哉{整的參數包括訓練周期數、學(xué)習率、驗證集大小以及輸入層和輸出層之間網(wǎng)絡(luò )中間層的神經(jīng)元數。改變這些參數的能力對于防止稱(chēng)為過(guò)度擬合的常見(jiàn)數據科學(xué)問(wèn)題至關(guān)重要，這種問(wèn)題發(fā)生在模型與訓練數據完美配合但在暴露于新數據時(shí)卻慘敗。

第 5 步：測試神經(jīng)網(wǎng)絡(luò )模型

對于機器學(xué)習算法的開(kāi)發(fā)人員來(lái)說(shuō)，過(guò)度擬合并不是一個(gè)不常見(jiàn)的問(wèn)題。為確保模型足夠通用，有必要根據獨立測試數據測試 Edge Impulse 生成的神經(jīng)網(wǎng)絡(luò )。Edge Impulse 提供的用于收集訓練數據的相同技術(shù)可用于收集測試數據。除了對先前記錄的測試數據進(jìn)行分類(lèi)外，還可以從測試設備流式傳輸數據并在 Edge Impulse 服務(wù)器上進(jìn)行實(shí)時(shí)分類(lèi)。設計人員可以使用由 Edge Impulse 應用程序編程接口 (API) 提供支持的固件中的直接連接或數據轉發(fā)器代理將數據從傳感器獲取到云端。

第 6 步：部署神經(jīng)網(wǎng)絡(luò )模型

在神經(jīng)網(wǎng)絡(luò )針對訓練數據取得令人滿(mǎn)意的結果后，是時(shí)候將 NN 模型打包到一個(gè)軟件庫中，該軟件庫可以部署在基于微控制器的系統上。Edge Impulse 使這個(gè)過(guò)程變得非常簡(jiǎn)單。首先，模型可以置于版本控制之下，以便在需要時(shí)可以將未來(lái)的改進(jìn)與過(guò)去的模型進(jìn)行比較。接下來(lái)，該模型可以變成各種嵌入式系統開(kāi)發(fā)板的“交鑰匙”固件。

對于Edge Impulse不直接支持的開(kāi)發(fā)板，仍然可以生成通用庫，包括基于C++、Arduino、WebAssembly、TensorRT、STM32Cube.MX CMSIS-PACK等系統架構的模型文件。在生成庫或固件之前，還可以運行優(yōu)化器以實(shí)現速度或內存使用優(yōu)化，具體取決于運行 NN 模型（又名脈沖）的硬件規格。此外，基于作為 8 位整數或 32 位浮點(diǎn)數發(fā)送的傳感器數據的脈沖也是可能的。

由于 Edge Impulse 還提供基于 C++、GoLang、Node.js 和 Python 的軟件開(kāi)發(fā)工具包 (SDK)，Impulses 也可以在運行 Linux 操作系統的嵌入式系統上運行。也可以使用 C++ 庫在 Windows 和 macOS 上運行脈沖。

最后，impulse 可以直接部署到智能手機上，無(wú)需在目標設備上安裝任何額外的應用程序。

概括

對于那些希望將 AI 技術(shù)集成到他們的下一個(gè)嵌入式系統項目中的人來(lái)說(shuō)，瀏覽 Edge Impulse 的文檔和論壇是開(kāi)始了解邊緣 ML 的一種免費且簡(jiǎn)單的方法。一個(gè)有限的免費版本可用于測試 Edge Impulse 生態(tài)系統。免費層的主要限制是單個(gè)開(kāi)發(fā)人員的汗水訪(fǎng)問(wèn)、最長(cháng) 20 分鐘的處理時(shí)間以及 4GB 或 4 小時(shí)數據的云存儲限制。此外，還提供企業(yè)版，按項目付費，這消除了免費層的限制，并提供對私有云和每個(gè)項目五個(gè)席位的訪(fǎng)問(wèn)。

Michael Parks, PE 是 Green Shoe Garage 的聯(lián)合創(chuàng )始人，Green Shoe Garage 是一家位于馬里蘭州西部的定制電子設計工作室和嵌入式安全研究公司。他制作了 Gears of Resistance 播客，以幫助提高公眾對技術(shù)和科學(xué)問(wèn)題的認識。Michael 還是馬里蘭州的持證專(zhuān)業(yè)工程師，并擁有約翰霍普金斯大學(xué)的系統工程碩士學(xué)位。

審核編輯黃宇