芯耀
168
TinyML微型機(jī)器學(xué)習(xí)是機(jī)器學(xué)習(xí)和物聯(lián)網(wǎng)設(shè)備的交集，它是一門新興的工程學(xué)科，有可能在許多行業(yè)引發(fā)革命。
在3月22到26日，TinyML基金會(huì)舉辦了2021 TinyML峰會(huì)，這是有史以來(lái)的第三屆。
雖然本屆峰會(huì)在云端舉辦，但同樣聲勢(shì)浩大，而且無(wú)論是影響力還是參會(huì)者都可謂上了一個(gè)新臺(tái)階。諸多國(guó)際一線企業(yè)、業(yè)內(nèi)獨(dú)角獸初創(chuàng)公司和知名院校云集線上。
其中的代表性公司包括：ARM、高通、臉書、微軟、三星、Greenwaves、SensiML、Silicon Labs、Syntiant、Qeexo、普林斯頓大學(xué)、密歇根大學(xué)、埃里克斯霍爾姆大學(xué)、麻省理工學(xué)院、斯坦福大學(xué)等。
在此前的文章中，我曾介紹過(guò)微型機(jī)器學(xué)習(xí)TinyML，也就是在終端和邊緣側(cè)的微處理器上實(shí)現(xiàn)的機(jī)器學(xué)習(xí)過(guò)程。更準(zhǔn)確的說(shuō)，TinyML是指工程師們?cè)趍W功率范圍以下的設(shè)備上，實(shí)現(xiàn)機(jī)器學(xué)習(xí)的方法、工具和技術(shù)。
TinyML微型機(jī)器學(xué)習(xí)是機(jī)器學(xué)習(xí)和物聯(lián)網(wǎng)設(shè)備的交集，它是一門新興的工程學(xué)科，有可能在許多行業(yè)引發(fā)革命。
在這次峰會(huì)上，大家分享了TinyML的最新進(jìn)展以及各種應(yīng)用實(shí)例，值得關(guān)注的趨勢(shì)包括：
用戶對(duì)于隱私的關(guān)注推動(dòng)了TinyML的發(fā)展
TinyML有可能將開啟音頻識(shí)別的新藍(lán)海
最新發(fā)布的TinyML產(chǎn)品和工具
01、保護(hù)隱私成為TinyML發(fā)展的推動(dòng)力
消費(fèi)者對(duì)于隱私問(wèn)題的擔(dān)憂，成為TinyML發(fā)展的推動(dòng)力，很多公司為了響應(yīng)消費(fèi)者需求，正在開發(fā)功耗更低、響應(yīng)速度更快、隱私保護(hù)更佳的設(shè)備。
人工智能與設(shè)備的結(jié)合，經(jīng)歷了三個(gè)發(fā)展階段：
第1階段--云端能
在人工智能發(fā)展的初期，機(jī)器學(xué)習(xí)模型是在云端訓(xùn)練和托管的。運(yùn)行AI所需的強(qiáng)大計(jì)算能力使云成為理想的選擇。
開發(fā)人員和數(shù)據(jù)科學(xué)家利用高端CPU和GPU訓(xùn)練模型，然后托管它們以進(jìn)行推理。每個(gè)消耗AI的應(yīng)用程序都與云對(duì)話。該應(yīng)用程序?qū)⑴c微控制器通信以管理傳感器和執(zhí)行器。
第二階段--邊緣智能
隨著物聯(lián)網(wǎng)的發(fā)展，越來(lái)越多的遍布于工業(yè)自動(dòng)化、智能醫(yī)療、智能聯(lián)網(wǎng)汽車中的場(chǎng)景，都要求人工智能模型能在本地運(yùn)行。邊緣側(cè)成為在本地托管人工智能模型的理想選擇。邊緣智能可以有效避免云中運(yùn)行相同AI所帶來(lái)的延遲。
但是鑒于邊緣資源有限，AI模型的訓(xùn)練仍然需要云。這種方法提供了兩全其美的優(yōu)勢(shì)，既有用于訓(xùn)練的云端強(qiáng)大計(jì)算環(huán)境，又能兼顧用于推理的低延遲邊緣托管環(huán)境。但是由于與云端進(jìn)行協(xié)作，邊緣智能仍舊無(wú)法解決消費(fèi)者對(duì)于隱私性的擔(dān)憂。
階段3--微型人工智能
分布最廣的物聯(lián)網(wǎng)設(shè)備往往體積很小、電量有限。它們被作為終端硬件，通過(guò)嵌入式傳感器采集各種數(shù)據(jù)；計(jì)算能力有限，對(duì)功耗極為敏感。某些情況下，將這類設(shè)備連接到邊緣側(cè)以便實(shí)現(xiàn)智能，在成本上并不劃算，
直接在微處理器中嵌入人工智能，成為消費(fèi)和工業(yè)物聯(lián)網(wǎng)場(chǎng)景的關(guān)鍵。這種方法并不依賴于外部程序，也不依賴邊緣和云端。這種方案能夠提供最佳的實(shí)時(shí)響應(yīng)，同時(shí)對(duì)隱私提供極大保護(hù)。
TinyML峰會(huì)上提供的微型機(jī)器學(xué)習(xí)的例子包括，智能家居場(chǎng)景中，帶有傳感器洗衣機(jī)和冰箱可以在電機(jī)損壞之前主動(dòng)發(fā)送信號(hào)。洗衣機(jī)可以根據(jù)衣服的重量，精準(zhǔn)的調(diào)節(jié)水位。
具備TinyML的可穿戴設(shè)備，可以脫離云端持續(xù)監(jiān)測(cè)用戶的睡眠水平、心率體征等健康數(shù)據(jù)。TinyML胰島素泵可以在不必時(shí)刻保持網(wǎng)絡(luò)連接的情況下，根據(jù)血糖水平自動(dòng)釋放胰島素。這些不必時(shí)刻聯(lián)網(wǎng)的設(shè)備，讓數(shù)據(jù)處于私有狀態(tài)，更加安全并保護(hù)隱私。
02、TinyML開啟音頻分析的新藍(lán)海
過(guò)去我們極大的發(fā)展了機(jī)器視覺(jué)，現(xiàn)在我們正在賦予機(jī)器聽覺(jué)。
和視覺(jué)信息一樣，聲音無(wú)處不在。語(yǔ)音啟動(dòng)的設(shè)備，在智能家居的應(yīng)用中非常常見，最典型的比如智能音箱。
還有很多聲音，比如機(jī)床震動(dòng)的聲音、車輛拋錨的聲音、報(bào)警器鳴響的聲音…這些聲音不同于語(yǔ)音，沒(méi)有語(yǔ)言模型。
目前越來(lái)越多的物聯(lián)網(wǎng)企業(yè)正在將分析的重點(diǎn)從視頻轉(zhuǎn)移到音頻。比如在家居場(chǎng)景中，亞馬遜推出了Guard這項(xiàng)在智能音箱中的功能，用來(lái)識(shí)別窗戶破碎的聲音并報(bào)警。在工業(yè)場(chǎng)景中，預(yù)測(cè)性維護(hù)已經(jīng)取得了長(zhǎng)足的發(fā)展，很多企業(yè)監(jiān)測(cè)設(shè)備的振動(dòng)和聲音，用來(lái)主動(dòng)發(fā)現(xiàn)故障，為客戶節(jié)省數(shù)百萬(wàn)元的維護(hù)成本。
在TinyML峰會(huì)中，一家名為Audio Analytic的公司分享了關(guān)于音頻分析的最新進(jìn)展，并且認(rèn)為TinyML即將開啟音頻分析的新藍(lán)海。
他們已經(jīng)建立了包含700種不同聲音的配置文件，可以檢測(cè)到從火車進(jìn)站到嬰兒啼哭，常見的和不常見的各種聲音。
借助TinyML，Audio Analytic公司展示了基于ARM Cortex-M0+處理器檢測(cè)聲音的方案。應(yīng)用場(chǎng)景包括墻壁上安裝的小型傳感器，可以檢測(cè)玻璃破碎的聲音；降噪耳機(jī)通過(guò)識(shí)別疾馳而來(lái)的汽車的聲音，主動(dòng)關(guān)閉降噪功能，以便讓佩戴者及時(shí)作出反應(yīng)。
根據(jù)峰會(huì)中的分析，聲音檢測(cè)可能在4個(gè)場(chǎng)景取得大發(fā)展：
第一個(gè)是安全場(chǎng)景：比如根據(jù)玻璃破碎或者煙霧報(bào)警器的聲音，通知更多人員。
第二個(gè)是個(gè)人健康：比如檢測(cè)嬰兒的哭聲、打鼾的聲音，并且及時(shí)提醒。根據(jù)烹飪時(shí)發(fā)出的聲音，自動(dòng)調(diào)節(jié)房間的空氣質(zhì)量。
第三個(gè)是家庭娛樂(lè)：比如根據(jù)外部環(huán)境和回聲，根據(jù)房間大小，自動(dòng)調(diào)整娛樂(lè)系統(tǒng)的音效。
第四個(gè)是工業(yè)應(yīng)用：比如根據(jù)風(fēng)力發(fā)電機(jī)振動(dòng)的聲音，檢測(cè)葉片的裂紋并給予預(yù)警。
03、TinyML產(chǎn)品與工具陸續(xù)發(fā)布
Nordic Semiconductor在其nRF52和nRF53系列低功耗藍(lán)牙芯片中引入了TinyML，并且提供相應(yīng)的開發(fā)套件，成為業(yè)界首個(gè)支持人工智能技術(shù)的藍(lán)牙產(chǎn)品。
Nordic將這些支持TinyML技術(shù)的藍(lán)牙SoC應(yīng)用于瀕臨滅絕的動(dòng)物保護(hù)，野生大象佩戴了Nordic提供的藍(lán)牙追蹤項(xiàng)圈，幫助護(hù)林員防止非法狩獵盜取象牙的事件發(fā)生，取得了很好的效果。
SensiML聯(lián)手Silicon Labs，為開發(fā)者快速研發(fā)支持TinyML的智能傳感應(yīng)用程序提供便利。
使用Silicon Labs提供的Thunderboard Sense 2物聯(lián)網(wǎng)開發(fā)入門套件，配合使用SensiML提供的Analytics Toolkit AI/ ML開發(fā)軟件，開發(fā)者能夠快速創(chuàng)建運(yùn)行于物聯(lián)網(wǎng)終端設(shè)備的智能方案。
這些方案將特別適用于低功耗和能源敏感型應(yīng)用，包括能源、水表和燃?xì)獗?、樓宇自?dòng)化、警報(bào)及安防，和便攜式醫(yī)療/健身器材。
在峰會(huì)上，Raspberry Pi聯(lián)合創(chuàng)始人Eben Upton公布了“Pi Silicon”的未來(lái)路線，其內(nèi)部專用集成電路ASIC團(tuán)隊(duì)正在進(jìn)行下一次迭代，并且正專注于研發(fā)針對(duì)超低功耗機(jī)器學(xué)習(xí)TinyML應(yīng)用程序的輕量級(jí)加速器。
同期，Eben Upton發(fā)布了三款“Pi Silicon”樹莓派板，分別為SparkFun MicroMod RP2040、Arduino Nano RP2040 Connect和ArduCam Pico4ML。三款產(chǎn)品會(huì)將機(jī)器學(xué)習(xí)、攝像頭、麥克風(fēng)和屏幕集成到Pico軟件包中。
尤其是售價(jià)僅為4美元的Pico4ML，提供對(duì)于TinyML的支持。比如在上圖展示的樣例中，Pico4ML可以同時(shí)檢測(cè)到兩張人臉，一個(gè)真人以及一個(gè)超級(jí)馬里奧，Pico4ML以百分比值做出判斷，在提供實(shí)時(shí)圖像的同時(shí)，顯示圖像是真人的概率。
----寫在最后----
劃個(gè)重點(diǎn)。
第一，TinyML將為數(shù)以億計(jì)的物聯(lián)網(wǎng)終端設(shè)備帶來(lái)“生命”，它將引發(fā)的變革不容小覷。
第二，消費(fèi)者對(duì)于隱私問(wèn)題的擔(dān)憂，成為TinyML發(fā)展的推動(dòng)力，很多公司為了響應(yīng)消費(fèi)者需求，正在開發(fā)功耗更低、響應(yīng)速度更快、隱私保護(hù)更佳的設(shè)備。
第三，目前越來(lái)越多的物聯(lián)網(wǎng)企業(yè)正在將分析的重點(diǎn)從視頻轉(zhuǎn)移到音頻，TinyML可能即將開啟音頻分析的新藍(lán)海。
參考資料：
Privacy and new functions will make TinyML big，作者：STACEY HIGGINBOTHAM，來(lái)源：staceyoniot.com
2021 TinyML峰會(huì)官網(wǎng)：www.tinyml.org/event/summit-2021
SensiML and Silicon Labs Partner to Enable Rapid Development of TinyML Applications，來(lái)源：finance.yahoo.com
TinyML is breathing life into billions of devices，作者：Adam Benzion，來(lái)源：thenextweb.com
Pico4ML Brings Machine Learning To the Raspberry Pi Pico，作者：Les Pounder，來(lái)源：tomshardware.com
