芯耀
825
AI處理已經(jīng)從云端向邊緣滲透，到2025年，將有75%的AI處理會(huì)在邊緣側(cè)完成，而不需要上云，這是半導(dǎo)體硬件技術(shù)發(fā)展所推動(dòng)的。如今，AI的硬件處理已經(jīng)不僅僅是FPGA、GPU或者專用加速處理器，MCU這類器件也正在成為AI處理的主力。考慮到MCU廣泛的適用性，這將極大地促進(jìn)AI邊緣計(jì)算的進(jìn)程，同時(shí)擴(kuò)大嵌入式應(yīng)用的內(nèi)涵。
一些大廠很早就看到了這一趨勢(shì)背后的商機(jī)，結(jié)合自身產(chǎn)品和技術(shù)積極布局?，F(xiàn)已成為ADI一部分的Maxim早在2013年就開始研發(fā)卷積神經(jīng)網(wǎng)絡(luò) (CNN) 加速器，并將之和自家MCU進(jìn)行整合，在兩年前推出了MAX78000。去年，該公司被ADI收購(gòu)。最近這條產(chǎn)品線又推出了升級(jí)版的MAX78002。
一切有效的產(chǎn)品技術(shù)的創(chuàng)新，都源自應(yīng)用需求。AI MCU的出現(xiàn)，原因在于端側(cè)智能化，即邊緣端越來(lái)越需要更多的基于數(shù)據(jù)處理的決策能力。這些端側(cè)涵蓋消費(fèi)、工業(yè)、醫(yī)療和汽車等領(lǐng)域。但傳統(tǒng)上，MCU的主要應(yīng)用是邏輯控制，并逐漸擴(kuò)展到傳感器管理、數(shù)據(jù)采集、嵌入式安全認(rèn)證、數(shù)據(jù)通訊、算法，以及電源管理等。ADI在總結(jié)其MCU性能時(shí)，給出的一組評(píng)價(jià)維度也反映出傳統(tǒng)應(yīng)用對(duì)MCU的要求，即低功耗、豐富的接口資源、對(duì)BLE的支持、全面的評(píng)估資源（外設(shè)驅(qū)動(dòng)、評(píng)估套件和開發(fā)平臺(tái)）、簡(jiǎn)易的開發(fā)，以及很高的安全性。
AI這一新的應(yīng)用給MCU帶來(lái)了變化。應(yīng)用上看，ADI將其MCU分為3類，低功耗、安全和AI。小體積、低功耗和大存儲(chǔ)的低功耗MCU適用于工業(yè)、物聯(lián)網(wǎng)、醫(yī)療和可穿戴設(shè)備；具有抗攻擊的加密能力和安全系統(tǒng)架構(gòu)的安全MCU適用于移動(dòng)支付終端和讀卡器等；具有邊緣AI處理能力的AI MCU則適用于電池供電的人工智能和物聯(lián)網(wǎng)設(shè)備，比如說(shuō)智能家居、人臉打卡、語(yǔ)音控制等等。
ADI中國(guó)技術(shù)支持中心高級(jí)工程師辛毅認(rèn)為，傳統(tǒng)上依賴軟件技術(shù)的音視頻檢測(cè)和識(shí)別技術(shù)已經(jīng)難以勝任現(xiàn)在的應(yīng)用需求，AI技術(shù)已經(jīng)成為標(biāo)準(zhǔn)手段。但無(wú)論是物聯(lián)網(wǎng)還是消費(fèi)類設(shè)備，在融合AI的過(guò)程中都要克服大量計(jì)算、高存儲(chǔ)空間帶來(lái)的功耗和成本的挑戰(zhàn)。在諸如體征監(jiān)測(cè)、語(yǔ)音識(shí)別和智能預(yù)警這類邊緣AI應(yīng)用中，系統(tǒng)通常不聯(lián)網(wǎng)，并采用電池供電，這就需要處理器小而美。
這正是MCU一直努力的方向。而MAX78000的特性則證明了MCU在AI化上的努力是有效的。該器件采用了基于FPU的Arm Cortex-M4F處理器（100MHz）+32位RISC-V協(xié)處理器（60MHz）的雙處理器內(nèi)核，并內(nèi)置了自研的CNN 引擎。該引擎有64個(gè)8位處理器，頻率為50MHz，擁有432KB的權(quán)重存儲(chǔ)內(nèi)存，可支持1、2、4、8位權(quán)重（支持權(quán)重高達(dá)350萬(wàn)的網(wǎng)絡(luò)），其權(quán)重內(nèi)存基于SRAM（128KB），因此可以即時(shí)進(jìn)行 AI 網(wǎng)絡(luò)更新。該引擎可編程網(wǎng)絡(luò)深度達(dá)64層，每層網(wǎng)絡(luò)通道數(shù)達(dá)1024。引擎具有512KB的數(shù)據(jù)存儲(chǔ)器，其架構(gòu)高度靈活，支持包括MLP和循環(huán)神經(jīng)網(wǎng)絡(luò)在內(nèi)的其他網(wǎng)絡(luò)類型，允許在PyTorch和TensorFlow等傳統(tǒng)工具集中訓(xùn)練網(wǎng)絡(luò)，然后使用 ADI提供的工具進(jìn)行轉(zhuǎn)換以在MAX78000上執(zhí)行。
據(jù)ADI MCU產(chǎn)品線資深業(yè)務(wù)經(jīng)理李勇介紹，在具體工作中，Arm Cortex-M4F負(fù)責(zé)MCU的控制處理，而RISC-V協(xié)處理器則專門配合CNN 引擎進(jìn)行AI推理中的數(shù)據(jù)搬運(yùn)。ADI提供的資料顯示，與MCU+DSP方案相比，這種方案使得復(fù)雜的AI推理功耗降低99%以上。此外，該AI MCU的成本只是FPGA或GPU方案的零頭，而執(zhí)行推理的速度比低功耗微控制器上實(shí)施的軟件方案快100倍。
不久前，ADI推出了升級(jí)版的MAX78002，原有架構(gòu)不變，主要是提高了CNN引擎的內(nèi)存資源和網(wǎng)絡(luò)支持能力，其頻率大幅提高到200MHz，權(quán)重存儲(chǔ)內(nèi)存增加到2 MB，可支持1600 萬(wàn)個(gè)權(quán)重的網(wǎng)絡(luò)，可編程網(wǎng)絡(luò)深度達(dá)256層。另外，該引擎的數(shù)據(jù)內(nèi)存提高到1.31MB 。除了CNN引擎，MAX78002也升級(jí)了更多的片內(nèi)資源，包括內(nèi)核主頻提升至120MHz，2.5 MB閃存和384 KB SRAM，支持更多的高速和低功耗通信接口，包括I2S、MIPI CSI-2串行攝像頭、并行攝像頭(PCIF)和SD 3.0/SDIO 3.0/eMMC 4.51安全數(shù)字。
顯然，有了CNN引擎，MCU可以實(shí)現(xiàn)更多的應(yīng)用，諸如目標(biāo)檢測(cè)和分類（人臉、物體和寵物等）、災(zāi)難檢測(cè)（煙感、煙霧監(jiān)測(cè)；火災(zāi)監(jiān)測(cè)；泥石流監(jiān)測(cè)；震動(dòng)監(jiān)測(cè)）、醫(yī)療應(yīng)用（心電圖；心率、血液數(shù)據(jù)）、指令識(shí)別（語(yǔ)音指令控制智能家居），以及人聲識(shí)別（可以識(shí)別指令的發(fā)出人）等。
如上圖所示，在這些應(yīng)用中，AI MCU可以用更小的處理器內(nèi)核實(shí)現(xiàn)一些大內(nèi)核MCU所不能達(dá)到的性能，并大大降低了功耗，這為降低MCU以及邊緣AI應(yīng)用的邊際成本提供了新的途徑。ADI的AI MCU已經(jīng)在智能門鎖、垃圾分類、車載冰箱、智能頭盔和管道泄漏檢查等系統(tǒng)中應(yīng)用。現(xiàn)階段，AI MCU的應(yīng)用面向那些基于RTOS而非安卓或Linux的操作系統(tǒng)，以及并不需要很高算力的邊界內(nèi)。相信不久的將來(lái)，面對(duì)廣闊的邊緣智能化市場(chǎng)，AI MCU將會(huì)承擔(dān)越來(lái)越關(guān)鍵的角色。
