01.實現(xiàn)TinyML應用的最后一公里：通訊和升級

在嵌入式設備部署和運行機器學習模型向來困難重重，但越來越多的軟硬件平臺正讓這一切變得容易起來。QuickLogic是其中領先的佼佼者，其超低功耗可編程SOC半導體技術和旗下SensiML子公司一站式AutoML平臺，為TinyML的訓練部署和驗證提供了一個完整的解決方案。

QuickFeather低功耗開源代碼硬件開發(fā)工具包（HDK）是一個小型系統(tǒng)，這是第一款Arm CortexR-M4F MCU并完全支持Zephyr RTOS和FreeRTOS，是下一代低功耗、支持機器學習（ML）的物聯(lián)網設備的理想選擇。與其他基于專有硬件和軟件工具的開發(fā)包不同，QuickFeather基于100%開源硬件并圍繞100%開源軟件（包括Symbiflow FPGA工具）構建。

QuickFeather開發(fā)板

SensiML提供了一套完整的TinyML數(shù)據(jù)捕獲、算法生成和驗證的工具包解決方案，適用于自動化創(chuàng)建并優(yōu)化AI物聯(lián)網傳感器識別代碼過程的每個步驟。整個工作流使用不斷增長的高級ML和AI算法庫來生成代碼，這些代碼可以在開發(fā)階段或部署后從新數(shù)據(jù)中學習。

SensiML工具包流程圖

借助QuickFeather開發(fā)板和SensiML訓練平臺，現(xiàn)在可以將一個訓練并驗證好的機器學習推理模型直接部署到MCU中，但這些對于一個完整的TinyML應用來說還不夠。物聯(lián)網的應用大部分由電池驅動，雖然模型已經極度壓縮節(jié)省了內存和計算耗能，但模型的推理結果仍需要上傳，還需要考慮業(yè)務下行的傳輸要求。一般來說，通信耗能和計算耗能占比至少為3:1，低功耗傳輸仍是TinyML產品開發(fā)者必須直面的最大挑戰(zhàn)之一。

此外，TinyML模型部署后并非一勞永逸，還存在一些不確定性的升級需求，這些不確定性包括模型參數(shù)調整、重新訓練需求、業(yè)務邏輯變化等。有線連接更新僅適用于調試階段，對于安裝到客戶現(xiàn)場的應用幾乎不具備可行性。傳統(tǒng)遠程升級方式（OTA）占用資源且耗電，對于大部分物聯(lián)網場景并不友好，升級困難無疑在某種程度上限制了端側智能產品的發(fā)展。

所以，當一個算法工程師正在為串口打印出的98%模型精度擊掌歡呼時，產品設計師卻只是聳聳肩，“很好，還剩最后一公里?！?

02.ZETA+TinyML滿足“低功耗+通信+遠程升級”需求

ZETA作為國內唯一全棧國產化的LPWAN物聯(lián)網通信技術，解決物聯(lián)網產業(yè)存在的終端功耗高、海量連接、廣域覆蓋能力不足和成本高等困難，非常適合大規(guī)模部署。作為全球首個支持分布式組網的LPWAN通訊標準，ZETA利用搭載Advanced M-FSK調試解調的超窄帶技術，提出“LPWAN2.0泛在物聯(lián)”愿景，旨在以更高性能、更強穿透力、更低成本加速物聯(lián)網在工業(yè)、物流等成本敏感性行業(yè)的應用。

ZETA LPWAN 2.0泛在物聯(lián)

ZETA并不局限于傳統(tǒng)LPWAN行業(yè)的低速率場景，針對諸如圖像、振動和聲音等中、高速率應用，ZETA與TinyML技術 深度融合，各種“端智能“傳感器內置著機器學習AI算法，以低成本、低功耗和穿透力更強的ZETA通信技術為載體，使智能泛在物聯(lián)無處不在。

與此同時，針對TinyML遠程升級難題，ZETA自研差分OTA算法，可在server端對新舊軟件包進行對比分析和高效壓縮，在保留遠距離覆蓋性能基礎上完成低功耗升級。以100kB、10%差異的TinyML模型來說，最終的差分包大小將在11kB以下，而僅要求10kB的額外內存空間，幾乎適用于所有物聯(lián)芯片使用。

03.ZETA+QuickLogic：加速端側AI產品應用進程

此次與QuickLogic的合作，將在QuickFeather開發(fā)板基礎上，上疊ZETA高性能通信模組，并搭配ZETA低成本網關使用。軟件層面，ZETA通信部分SDK將直接集成到SensiML軟件平臺上，可直接生成能部署運行的Binary文件，用戶只需配置推理結果的對應關系。同時，ZETA為開發(fā)者提供云Server服務，進行終端管理、ZETA網絡配置、協(xié)議解析和差分OTA升級功能，當有新的TinyML模型時，可一鍵完成遠程升級。此開發(fā)套件將幫助那些端側AI產品的開發(fā)者們進一步縮短原型驗證周期，提前發(fā)現(xiàn)并評估網絡環(huán)境帶來的影響，從而加速整個產品的落地進程。

ZETA-TinyML開發(fā)套件包

主要技術指標

04.ZETA-TinyML開發(fā)套件：豐富泛在物聯(lián)應用場景

此開發(fā)套件為那些運營商信號難以覆蓋、遠距離和需要實時處理的物聯(lián)網應用帶來了無限可能，無論是偏遠山區(qū)的環(huán)境監(jiān)測、畜牧群動態(tài)跟蹤、戶外廣告牌的松動檢測，還是工廠中設備的預測性維護、皮帶機的啟停和狀態(tài)識別、管道氣體的異常泄露監(jiān)測，抑或是智能可穿戴設備、手勢和語音識別，都能通過ZETA-TinyML開發(fā)套件來快速完成原型驗證和匹配于真實場景的測試。

聲音和語音分析需求是推動著TinyML應用快速發(fā)展的新勁動力，關鍵詞喚醒應用正是到目前為止TinyML的最佳代表作。與此同時，自然界、工廠、城市、家居場景中無時無刻都存在著各種聲音：動物的叫聲、機器的轟鳴聲、汽車行駛的噪聲、嬰兒的啼哭聲…盡管這些聲音沒有確切的理論模型，但是通過ZETA-TinyML開發(fā)套件，仍能快速完成模型創(chuàng)建和驗證，并瞄準于始終在線的低功耗檢測。比如智能咳嗽檢測以在公共場所排查新冠疫情風險、野外珍稀動物的叫聲識別以幫助統(tǒng)計其活動范圍和數(shù)量、變電站內聲音異響檢測以識別變壓器異常放電故障、藍牙耳機在使用中識別到地鐵運行聲音以自動開啟主動降噪功能…這些音頻分析場景都能在ZETA-TinyML套件上完成開發(fā)和樣機測試。

使用聲音識別皮帶機脫落故障

QuickLogic中國區(qū)總經理張貴表示：

“我們非常高興能與縱行科技在嵌入式人工智能領域展開合作，ZETA超低功耗特性和LPWAN2.0的泛在物聯(lián)構想與QuickLogic的戰(zhàn)略方向不謀而合。不論你是高校、企業(yè)還是個人開發(fā)者，都能使用ZETA-TinyML套件來激發(fā)你完成一些非常有創(chuàng)意、更具實用價值的智能物聯(lián)網應用，甚至是一款‘殺手級’產品?！?