<acronym id="s8ci2"><small id="s8ci2"></small></acronym>
<rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
<acronym id="s8ci2"></acronym>
<acronym id="s8ci2"><center id="s8ci2"></center></acronym>
0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

如何使用TinyML在內存受限的設備上部署ML模型呢

全棧芯片工程師 ? 來源:OpenFPGA ? 作者:碎碎思 ? 2022-11-30 09:04 ? 次閱讀

介紹

這本書是關于 TinyML 的,TinyML 是一個快速發展的領域,位于機器學習嵌入式系統的獨特交叉點,可以使 AI微控制器等極低功耗設備中應用。

TinyML 是一個充滿機遇的激動人心的領域。只需很少的預算,我們就可以賦予與周圍世界巧妙互動的物體生命,并讓我們的生活方式變得更美好。本書想通過實例來掃除這些障礙,讓沒有嵌入式編程經驗的開發者也能上手TinyML。每一章都將是一個獨立的項目,以學習如何使用 TinyML 的一些核心技術,與傳感器電子組件接口,以及在內存受限的設備上部署 ML 模型。

License

MIT license

Lattice tinyvision & tingyml

https://github.com/tinyvision-ai-inc

https://www.latticesemi.com/Products/DevelopmentBoardsAndKits/HimaxHM01B0

d5baf2d8-7049-11ed-8abf-dac502259ad0.png

上面只是放了Lattice在低功耗FPGA Up5k上實現相關AI例程的參考鏈接,想關的可以自己搜索,官網上都有相關介紹,github上看著不像官方的,不過也有很多完整的參考設計。

Efinix TinyML

https://github.com/Efinix-Inc/tinyml/tree/661ae30f2bf5b083ab88c7a4e54f0185a859f9b8

d5d871fa-7049-11ed-8abf-dac502259ad0.png

Efinix 提供基于開源 TensorFlow Lite for Microcontrollers (TFLite Micro) C++ 庫的 TinyML 平臺,該庫在 RISC-V 上運行,帶有 Efinix TinyML 加速器。

本網站提供端到端設計流程,有助于在 Efinix FPGA 上部署 TinyML 應用程序。介紹了從人工智能 (AI) 模型訓練、訓練后量化一直到使用 Efinix TinyML 加速器在 RISC-V 上運行推理的設計流程。此外,還展示了 TinyML 在 Efinix 高度靈活的特定領域框架上的部署。

d5e4f722-7049-11ed-8abf-dac502259ad0.png

RISC-V SoC:

d5f7a2be-7049-11ed-8abf-dac502259ad0.png

設計流程:

d61abe66-7049-11ed-8abf-dac502259ad0.png

TinyAcc

https://github.com/kksweet8845/TinyAcc

d62f5cae-7049-11ed-8abf-dac502259ad0.png

這是一個實現具有下降功能的神經網絡模型的項目。

總結

今天介紹的TunyML項目只有幾個,目前的應用場景還是比較偏向于嵌入式微處理上,只有Lattice和Efinix FPGA在這方面推出了自己的IP及示例程序,而Lattice的發展更傾向于開源的發展(靠開源推廣),所以這方面的應用是個“前途”還是“斷途”就仁者見仁智者見智了~






審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 微控制器
    +關注

    關注

    48

    文章

    6868

    瀏覽量

    148299
  • 嵌入式系統
    +關注

    關注

    40

    文章

    3448

    瀏覽量

    128408
  • MCU芯片
    +關注

    關注

    3

    文章

    236

    瀏覽量

    11171
  • TinyML
    +關注

    關注

    0

    文章

    42

    瀏覽量

    1134

原文標題:MCU芯片上的人工智能TinyML

文章出處:【微信號:全棧芯片工程師,微信公眾號:全棧芯片工程師】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    開發TinyML系統必須考慮的四大指標

    TinyML)領域,其中模型被縮小以適應受限設備以超低功耗執行。由于TinyML是一個新興領域,本篇文章將討論在開發
    的頭像 發表于 01-11 12:10 ?2155次閱讀

    【先楫HPM5361EVK開發板試用體驗】:4、TinyML測試(1)

    1、TinyML簡介 TinyML是指在邊緣設備上運行的機器學習模型,通常是在資源受限的嵌入式系統上運行的輕量級
    發表于 12-22 10:12

    基于stm32h743IIK在cubeai上部署keras模型,模型輸出結果都是同一組概率數組,為什么?

    基于stm32h743IIK,在cubeai上部署keras模型,模型輸出結果都是同一組概率數組,一點也搞不明白,看社區也有相同的問題,但沒有解決方案
    發表于 05-20 08:18

    介紹在STM32cubeIDE上部署AI模型的系列教程

    介紹在STM32cubeIDE上部署AI模型的系列教程,開發板型號STM32H747I-disco,值得一看。MCUAI原文鏈接:【嵌入式AI開發】篇四|部署篇:STM32cubeIDE上部署
    發表于 12-14 09:05

    什么是TinyML?微型機器學習

    影響范圍,并在這一過程中開啟一個應用的新時代,我們必須找到方法,在更小、更資源受限設備上促進機器學習的推理。這種追求導致了微型機器學習或 TinyML (TinyML 基金會的商標名
    發表于 04-12 10:20

    在Arm虛擬硬件上部署PP-PicoDet模型

    1、在Arm虛擬硬件上部署PP-PicoDet模型  經典的深度學習工程是從確認任務目標開始的,我們首先來簡單地介紹一下目標檢測任務以及本期部署實戰課程中我們所使用的工具和平臺?! ∧繕藱z測任務
    發表于 09-16 14:42

    在Arm虛擬硬件上部署PP-PicoDet模型的設計方案

    1、在Arm虛擬硬件上部署PP-PicoDet模型  經典的深度學習工程是從確認任務目標開始的,我們首先來簡單地介紹一下目標檢測任務以及本期部署實戰課程中我們所使用的工具和平臺?! ∧繕藱z測任務
    發表于 09-23 15:02

    通過Cortex來非常方便的部署PyTorch模型

    (比如移動設備)非常有用。在大多數情況下,你會使用模型服務器。今天你看到的許多 ML 應用程序 — 從你最喜歡的流媒體服務背后的推薦引擎到在線搜索欄中的自動完成功能—都依賴于這種部署
    發表于 11-01 15:25

    如何將ML模型部署到微控制器?

    大家好,的我正在嘗試將 ML 模型部署到微控制器,我有兩塊 STM32L4R9I-Discovery 和 STM32H7B3I-Discovery 板。實驗及相關結果如下所示:我使用 TFLite
    發表于 12-29 13:09

    如何使用TensorFlow將神經網絡模型部署到移動或嵌入式設備

    有很多方法可以將經過訓練的神經網絡模型部署到移動或嵌入式設備上。不同的框架在各種平臺上支持Arm,包括TensorFlow、PyTorch、Caffe2、MxNet和CNTK,如Android
    發表于 08-02 06:43

    ML-EXray:云到邊緣部署驗證框架

      嵌入式AI和ML在邊緣的部署不斷增加,無疑引入了從云到邊緣的新性能變化。盡管邊緣設備上的AI執行性能突然發生了負面變化,但采用TinyML是一種前進的方式。
    的頭像 發表于 10-18 14:31 ?522次閱讀

    如何優化ML模型與硬件實現TinyML?Arm歸納出5種作法

    攝影機來偵測機臺設備有無故障。但受限于CPU效能、數據吞吐量、內存及數據儲存的影響,想要在資源有限的IoT或嵌入式裝置跑AI或ML推論模型,
    的頭像 發表于 01-07 09:20 ?916次閱讀

    在OpenNCC上部署人臉檢測模型

    電子發燒友網站提供《在OpenNCC上部署人臉檢測模型.zip》資料免費下載
    發表于 06-27 10:34 ?0次下載
    在OpenNCC<b class='flag-5'>上部署</b>人臉檢測<b class='flag-5'>模型</b>

    如何部署ML模型到Google云平臺

    實踐中的機器學習:在 Google 云平臺上部署 ML 模型
    的頭像 發表于 07-05 16:30 ?459次閱讀
    如何<b class='flag-5'>部署</b><b class='flag-5'>ML</b><b class='flag-5'>模型</b>到Google云平臺

    AI推動邊緣智能、RISC-V 和Chiplet成為2024年的三大熱點

    蘋果剛剛發布的關于在內存有限的資源受限設備上部署大型語言模型(LLM)的研究論文顯示,通過將模型
    的頭像 發表于 01-14 13:50 ?830次閱讀
    AI推動邊緣智能、RISC-V 和Chiplet成為2024年的三大熱點
    亚洲欧美日韩精品久久_久久精品AⅤ无码中文_日本中文字幕有码在线播放_亚洲视频高清不卡在线观看
    <acronym id="s8ci2"><small id="s8ci2"></small></acronym>
    <rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
    <acronym id="s8ci2"></acronym>
    <acronym id="s8ci2"><center id="s8ci2"></center></acronym>