芯耀
445
TinyML微型機器學習技術正在加速物聯(lián)網(wǎng)行業(yè)的智能革新，但通信功耗限制和模型更新困難仍是阻礙其在真實場景落地的“最后一公里“難題。近日，縱行科技宣布將和QuickLogic公司聯(lián)合推出ZETA-TinyML開發(fā)套件，以滿足遠距離、低功耗和成本敏感的嵌入式人工智能產(chǎn)品的原型驗證及應用需求，打造一站式連接-訓練-部署-應用的泛在智聯(lián)新生態(tài)。該開發(fā)套件面向企業(yè)、高校、個人開發(fā)者，即日起接受預定，并從9月份開始發(fā)貨。此開發(fā)套件為那些運營商信號難以覆蓋、遠距離和需要實時處理的物聯(lián)網(wǎng)應用帶來了無限可能，例如偏遠山區(qū)的環(huán)境監(jiān)測、畜牧群動態(tài)跟蹤、戶外廣告牌的松動檢測；工廠中設備的預測性維護、皮帶機的啟停和狀態(tài)識別、管道氣體的異常泄露監(jiān)測；智能可穿戴設備、手勢和語音識別等多種復雜場景。
1.實現(xiàn)TinyML應用的最后一公里：通訊和升級
在嵌入式設備部署和運行機器學習模型向來困難重重，但越來越多的軟硬件平臺正讓這一切變得容易起來。QuickLogic是其中領先的佼佼者，其超低功耗可編程SOC半導體技術和旗下SensiML子公司一站式AutoML平臺，為TinyML的訓練部署和驗證提供了一個完整的解決方案。
QuickFeather低功耗開源代碼硬件開發(fā)工具包（HDK）是一個小型系統(tǒng)，這是第一款Arm CortexR-M4F MCU并完全支持Zephyr RTOS和FreeRTOS，是下一代低功耗、支持機器學習（ML）的物聯(lián)網(wǎng)設備的理想選擇。與其他基于專有硬件和軟件工具的開發(fā)包不同，QuickFeather基于100%開源硬件并圍繞100%開源軟件（包括Symbiflow FPGA工具）構(gòu)建。
QuickFeather開發(fā)板
SensiML提供了一套完整的TinyML數(shù)據(jù)捕獲、算法生成和驗證的工具包解決方案，適用于自動化創(chuàng)建并優(yōu)化AI物聯(lián)網(wǎng)傳感器識別代碼過程的每個步驟。整個工作流使用不斷增長的高級ML和AI算法庫來生成代碼，這些代碼可以在開發(fā)階段或部署后從新數(shù)據(jù)中學習。
SensiML工具包流程圖
借助QuickFeather開發(fā)板和SensiML訓練平臺，現(xiàn)在可以將一個訓練并驗證好的機器學習推理模型直接部署到MCU中，但這些對于一個完整的TinyML應用來說還不夠。物聯(lián)網(wǎng)的應用大部分由電池驅(qū)動，雖然模型已經(jīng)極度壓縮節(jié)省了內(nèi)存和計算耗能，但模型的推理結(jié)果仍需要上傳，還需要考慮業(yè)務下行的傳輸要求。一般來說，通信耗能和計算耗能占比至少為3:1，低功耗傳輸仍是TinyML產(chǎn)品開發(fā)者必須直面的最大挑戰(zhàn)之一。
此外，TinyML模型部署后并非一勞永逸，還存在一些不確定性的升級需求，這些不確定性包括模型參數(shù)調(diào)整、重新訓練需求、業(yè)務邏輯變化等。有線連接更新僅適用于調(diào)試階段，對于安裝到客戶現(xiàn)場的應用幾乎不具備可行性。傳統(tǒng)遠程升級方式（OTA）占用資源且耗電，對于大部分物聯(lián)網(wǎng)場景并不友好，升級困難無疑在某種程度上限制了端側(cè)智能產(chǎn)品的發(fā)展。
所以，當一個算法工程師正在為串口打印出的98%模型精度擊掌歡呼時，產(chǎn)品設計師卻只是聳聳肩，“很好，還剩最后一公里?！?/p>
2.ZETA+TinyML滿足“低功耗+通信+遠程升級”需求
ZETA作為國內(nèi)唯一全棧國產(chǎn)化的LPWAN物聯(lián)網(wǎng)通信技術，解決物聯(lián)網(wǎng)產(chǎn)業(yè)存在的終端功耗高、海量連接、廣域覆蓋能力不足和成本高等困難，非常適合大規(guī)模部署。作為全球首個支持分布式組網(wǎng)的LPWAN通訊標準，ZETA利用搭載Advanced M-FSK調(diào)試解調(diào)的超窄帶技術，提出“LPWAN2.0泛在物聯(lián)”愿景，旨在以更高性能、更強穿透力、更低成本加速物聯(lián)網(wǎng)在工業(yè)、物流等成本敏感性行業(yè)的應用。
ZETA LPWAN 2.0泛在物聯(lián)
ZETA并不局限于傳統(tǒng)LPWAN行業(yè)的低速率場景，針對諸如圖像、振動和聲音等中、高速率應用，ZETA與TinyML技術 深度融合，各種“端智能“傳感器內(nèi)置著機器學習AI算法，以低成本、低功耗和穿透力更強的ZETA通信技術為載體，使智能泛在物聯(lián)無處不在。
與此同時，針對TinyML遠程升級難題，ZETA自研差分OTA算法，可在server端對新舊軟件包進行對比分析和高效壓縮，在保留遠距離覆蓋性能基礎上完成低功耗升級。以100kB、10%差異的TinyML模型來說，最終的差分包大小將在11kB以下，而僅要求10kB的額外內(nèi)存空間，幾乎適用于所有物聯(lián)芯片使用。
3.ZETA+ QuickLogic：加速端側(cè)AI產(chǎn)品應用進程
此次與QuickLogic的合作，將在QuickFeather開發(fā)板基礎上，上疊ZETA高性能通信模組，并搭配ZETA低成本網(wǎng)關使用。軟件層面，ZETA通信部分SDK將直接集成到SensiML軟件平臺上，可直接生成能部署運行的Binary文件，用戶只需配置推理結(jié)果的對應關系。同時，ZETA為開發(fā)者提供云Server服務，進行終端管理、ZETA網(wǎng)絡配置、協(xié)議解析和差分OTA升級功能，當有新的TinyML模型時，可一鍵完成遠程升級。此開發(fā)套件將幫助那些端側(cè)AI產(chǎn)品的開發(fā)者們進一步縮短原型驗證周期，提前發(fā)現(xiàn)并評估網(wǎng)絡環(huán)境帶來的影響，從而加速整個產(chǎn)品的落地進程。
ZETA-TinyML開發(fā)套件包
主要技術指標
?
4.ZETA-TinyML開發(fā)套件：豐富泛在物聯(lián)應用場景
此開發(fā)套件為那些運營商信號難以覆蓋、遠距離和需要實時處理的物聯(lián)網(wǎng)應用帶來了無限可能，無論是偏遠山區(qū)的環(huán)境監(jiān)測、畜牧群動態(tài)跟蹤、戶外廣告牌的松動檢測，還是工廠中設備的預測性維護、皮帶機的啟停和狀態(tài)識別、管道氣體的異常泄露監(jiān)測，抑或是智能可穿戴設備、手勢和語音識別，都能通過ZETA-TinyML開發(fā)套件來快速完成原型驗證和匹配于真實場景的測試。
聲音和語音分析需求是推動著TinyML應用快速發(fā)展的新勁動力，關鍵詞喚醒應用正是到目前為止TinyML的最佳代表作。與此同時，自然界、工廠、城市、家居場景中無時無刻都存在著各種聲音：動物的叫聲、機器的轟鳴聲、汽車行駛的噪聲、嬰兒的啼哭聲…盡管這些聲音沒有確切的理論模型，但是通過ZETA-TinyML開發(fā)套件，仍能快速完成模型創(chuàng)建和驗證，并瞄準于始終在線的低功耗檢測。比如智能咳嗽檢測以在公共場所排查新冠疫情風險、野外珍稀動物的叫聲識別以幫助統(tǒng)計其活動范圍和數(shù)量、變電站內(nèi)聲音異響檢測以識別變壓器異常放電故障、藍牙耳機在使用中識別到地鐵運行聲音以自動開啟主動降噪功能…這些音頻分析場景都能在ZETA-TinyML套件上完成開發(fā)和樣機測試。
?
使用聲音識別皮帶機脫落故障
QuickLogic中國區(qū)總經(jīng)理張貴表示，“我們非常高興能與縱行科技在嵌入式人工智能領域展開合作，ZETA超低功耗特性和LPWAN2.0的泛在物聯(lián)構(gòu)想與QuickLogic的戰(zhàn)略方向不謀而合。不論你是高校、企業(yè)還是個人開發(fā)者，都能使用ZETA-TinyML套件來激發(fā)你完成一些非常有創(chuàng)意、更具實用價值的智能物聯(lián)網(wǎng)應用，甚至是一款‘殺手級’產(chǎn)品?！?
