芯耀
718
近日，意法半導(dǎo)體收購(gòu)AI初創(chuàng)公司Deeplite的消息曝光，引來(lái)了MCU業(yè)界的關(guān)注。
DeepLite（Deeplite）是一家專注于深度學(xué)習(xí)優(yōu)化的AI軟件公司，成立于2018年，總部位于加拿大蒙特利爾，CEO Nick Romano在AI領(lǐng)域有豐富的經(jīng)驗(yàn)。其主要核心技術(shù)包括：
- 深度學(xué)習(xí)模型優(yōu)化：DeepLite的核心產(chǎn)品是其優(yōu)化軟件，能夠?qū)⒋笮蜕疃葘W(xué)習(xí)模型進(jìn)行壓縮和優(yōu)化，使其在資源受限的邊緣設(shè)備上高效運(yùn)行。
- 自動(dòng)化神經(jīng)網(wǎng)絡(luò)架構(gòu)設(shè)計(jì)：DeepLite的軟件能夠自動(dòng)化設(shè)計(jì)神經(jīng)網(wǎng)絡(luò)架構(gòu)，大大減少了以往需要人工反復(fù)測(cè)試的時(shí)間和錯(cuò)誤。
- 針對(duì)不同硬件平臺(tái)的解決方案：DeepLite與多家硬件供應(yīng)商合作，提供針對(duì)RISC-V CPU等不同硬件平臺(tái)的優(yōu)化方案。
DeepLite的核心能力，在于通過(guò)多種方式降低深度學(xué)習(xí)模型的功耗，主要通過(guò)優(yōu)化模型結(jié)構(gòu)、減少計(jì)算復(fù)雜度和存儲(chǔ)需求，以及提高模型在硬件上的執(zhí)行效率來(lái)實(shí)現(xiàn)。
具體地分析，DeepLite做的工作包括：
1、模型壓縮與量化
- 權(quán)重剪枝（Weight Pruning）：通過(guò)移除模型中不重要的權(quán)重（即接近零的權(quán)重），減少模型的參數(shù)數(shù)量。剪枝后的模型在計(jì)算時(shí)需要處理的參數(shù)更少，從而降低了計(jì)算復(fù)雜度和功耗。
- 量化（Quantization）：DeepLite的量化技術(shù)可以在幾乎不損失模型精度的情況下，將模型的存儲(chǔ)需求減少數(shù)倍，并顯著降低計(jì)算功耗。
2、 優(yōu)化模型結(jié)構(gòu)
- 自動(dòng)化架構(gòu)設(shè)計(jì)（AutoML）：利用自動(dòng)化機(jī)器學(xué)習(xí)技術(shù)，DeepLite能夠設(shè)計(jì)出更適合特定硬件和應(yīng)用場(chǎng)景的神經(jīng)網(wǎng)絡(luò)架構(gòu)?？梢詫⑸疃葘W(xué)習(xí)模型的推理速度提高數(shù)倍，同時(shí)顯著降低功耗。
- 稀疏化（Sparsification）：通過(guò)使模型的權(quán)重矩陣稀疏化，即增加零值權(quán)重的比例，減少實(shí)際計(jì)算的次數(shù)?？梢燥@著減少模型的計(jì)算量，從而降低功耗。
3、硬件適配與優(yōu)化
- 針對(duì)特定硬件的優(yōu)化：可以根據(jù)不同的硬件平臺(tái)（如RISC-V CPU、Arm Cortex-M系列等）進(jìn)行定制優(yōu)化。
- 內(nèi)存訪問(wèn)優(yōu)化：通過(guò)優(yōu)化模型的內(nèi)存訪問(wèn)模式，減少內(nèi)存訪問(wèn)的次數(shù)和延遲。
4、減少數(shù)據(jù)傳輸
DeepLite的優(yōu)化技術(shù)使得模型可以在本地設(shè)備上運(yùn)行，減少了數(shù)據(jù)傳輸?shù)皆贫嘶?a class="article-link" target="_blank" href="/tag/%E6%9C%8D%E5%8A%A1%E5%99%A8/">服務(wù)器的需求。數(shù)據(jù)傳輸本身會(huì)消耗大量功耗，尤其是在無(wú)線通信中。
某種角度上看，DeepLite簡(jiǎn)直就是邊緣AI的DeepSeek。DeepLite通過(guò)模型壓縮、量化、優(yōu)化模型結(jié)構(gòu)、硬件適配和減少數(shù)據(jù)傳輸?shù)榷喾N技術(shù)手段，顯著降低了深度學(xué)習(xí)模型的功耗。這些技術(shù)不僅提高了模型的執(zhí)行效率，還使得復(fù)雜的AI模型能夠在資源受限的物聯(lián)網(wǎng)設(shè)備上高效運(yùn)行，推動(dòng)了物聯(lián)網(wǎng)設(shè)備的智能化和節(jié)能化發(fā)展。
2019年DeepLite與晶心科技合作，將DeepLite的優(yōu)化技術(shù)與晶心的RISC-V CPU相結(jié)合，推動(dòng)深度學(xué)習(xí)模型在邊緣設(shè)備上的應(yīng)用。其優(yōu)化后的模型在執(zhí)行時(shí)間上比TensorFlow Lite Micro的模型快了9%，模型大小減少了1.7倍，同時(shí)功耗顯著降低。
對(duì)于意法半導(dǎo)體這樣的MCU巨鱷來(lái)說(shuō)，這個(gè)收購(gòu)顯然非常匹配。
1、DeepLite在模型優(yōu)化、量化和壓縮方面有獨(dú)特技術(shù)，可使AI大模型在邊緣設(shè)備上運(yùn)行得更快、更小、更節(jié)能。ST作為半導(dǎo)體巨頭，收購(gòu)DeepLite后，能將后者的軟件解決方案與自身先進(jìn)的MCU和NPU相結(jié)合，打造全球領(lǐng)先的邊緣AI平臺(tái)。
2、DeepLite能夠提供最先進(jìn)的模型、針對(duì)AI處理器的預(yù)先優(yōu)化以及訓(xùn)練和部署模型到生產(chǎn)環(huán)境所需的工具，這將大大加速ST NPU的采用，并縮短AI應(yīng)用的上市時(shí)間。
ST一直以來(lái)都在通過(guò)收購(gòu)等方式來(lái)補(bǔ)充和部署技術(shù)和產(chǎn)品資源，以實(shí)現(xiàn)縱向和橫向擴(kuò)展。收購(gòu)DeepLite是其在AI領(lǐng)域的重要布局，有助于ST在未來(lái)的市場(chǎng)競(jìng)爭(zhēng)中占據(jù)更有利的位置，更好地滿足客戶對(duì)高性能、低功耗AI解決方案的需求，從而在AI芯片市場(chǎng)中占據(jù)更大的份額。
早在2021年，意法半導(dǎo)體就收購(gòu)了法國(guó)邊緣AI軟件專業(yè)開(kāi)發(fā)公司Cartesiam，基于ARM平臺(tái)開(kāi)發(fā)AI開(kāi)發(fā)工具，并推出了帶有神經(jīng)網(wǎng)絡(luò)硬件處理單元（Neural-Art Accelerator）的通用微控制器——STM32N6。
今年4月10日，意法半導(dǎo)體發(fā)布年報(bào)時(shí)披露了其公司戰(zhàn)略的更多細(xì)節(jié)，其中最核心的部分就有：“部署更多人工智能和自動(dòng)化技術(shù)，優(yōu)先投資面向未來(lái)的基礎(chǔ)設(shè)施”，這一規(guī)劃與該公司此次對(duì)Deeplite的收購(gòu)行動(dòng)不謀而合。
這個(gè)收購(gòu)案也預(yù)示著未來(lái)MCU（微控制器）的主戰(zhàn)場(chǎng)正在向邊緣AI計(jì)算領(lǐng)域轉(zhuǎn)移。
其他幾家MCU大廠也在不斷收購(gòu)該領(lǐng)域的初創(chuàng)企業(yè)并緊鑼密鼓地準(zhǔn)備迎戰(zhàn)。
瑞薩：收購(gòu)Reality AI，提供TinyML解決方案。
英飛凌：收購(gòu)瑞典Imagimob公司，提升其微控制器和傳感器上的TinyML邊緣 AI 功能。
恩智浦：已推出機(jī)器學(xué)習(xí)軟件eIQ軟件和AI工具鏈NANO.AI。
隨著邊緣計(jì)算和AIoT（人工智能物聯(lián)網(wǎng)）的發(fā)展，AI芯片的市場(chǎng)爭(zhēng)奪逐漸向邊緣側(cè)轉(zhuǎn)移。據(jù)預(yù)測(cè)，到2025年，75%的數(shù)據(jù)將在邊緣側(cè)進(jìn)行處理，端側(cè)AI MCU市場(chǎng)潛力巨大。這表明邊緣AI計(jì)算的需求正在快速增長(zhǎng)，MCU作為邊緣設(shè)備的核心組件，將在這一趨勢(shì)中發(fā)揮重要作用。
未來(lái)的MCU不再局限于傳統(tǒng)控制功能，而是逐漸集成AI推理能力，用于圖像識(shí)別、語(yǔ)音處理、設(shè)備預(yù)測(cè)性維護(hù)等場(chǎng)景。具備邊緣計(jì)算能力的MCU憑借低功耗、高效性能、即時(shí)響應(yīng)等特性，成為邊緣算力的重要載體，為智能設(shè)備和系統(tǒng)提供更強(qiáng)大的支持。
