芯耀
658
2016年，“阿爾法狗（AlphaGo）”與李世石的圍棋對決，讓人工智能（AI）和深度學(xué)習(xí)進(jìn)入了大眾的視野。Gartner在最新報告中指出，預(yù)計到2022年，人工智能軟件市場的營收或達(dá)到625億美元，預(yù)計較2021年增長21.3% 。
AI技術(shù)的快速創(chuàng)新對FPGA市場有利
AI市場火熱的背后，我們常常會看到FPGA的身影，這就是今天說的“AI技術(shù)的快速創(chuàng)新對FPGA市場有利”的一個前提。
而FPGA可以配合AI技術(shù)隨時為用戶提供最佳體驗。由于AI不斷的技術(shù)創(chuàng)新，會不斷帶來新的實現(xiàn)方式，而新的實現(xiàn)方式的產(chǎn)生需要有更快的硬件和優(yōu)化的算法來實現(xiàn)，這些優(yōu)化的算法如果純粹只是停留在軟件，或者是大型CPU的計算方法上的話，對于實際的落地，尤其是對于邊緣端的部署，其實是比較大的挑戰(zhàn)。
?
圖 | AI模型的快速發(fā)展
從上圖中，大家可以看到AI模型的快速發(fā)展史，從2012到2021年，AI分類模型創(chuàng)新的數(shù)量逐年遞增。
網(wǎng)絡(luò)邊緣側(cè)的AI應(yīng)用更離不開FPGA
我們看到網(wǎng)絡(luò)邊緣的計算正在快速興起，有很多新的應(yīng)用都在邊緣端發(fā)展出新的應(yīng)用和使用場景。ABI的研究調(diào)查表明，預(yù)計到2024年設(shè)備端的AI推理功能將覆蓋近60%的設(shè)備。
面對客戶端計算設(shè)備越來越需要快速響應(yīng)和情景感知式的用戶體驗、高質(zhì)量視頻會議和協(xié)作式應(yīng)用的現(xiàn)實，我們發(fā)現(xiàn)網(wǎng)絡(luò)邊緣側(cè)的AI應(yīng)用是離不開FPGA的，這是因為邊緣端對功耗的敏感度和尺寸的大小的要求是比較嚴(yán)格的。
?
圖 | 為什么選擇FPGA實現(xiàn)網(wǎng)絡(luò)邊緣AI
對比市場上的存量產(chǎn)品，就以Lattice的網(wǎng)絡(luò)邊緣AI產(chǎn)品來說，它的功耗范圍可達(dá)1mW到1W，目前只有ASIC才有可能替換FPGA，但是ASIC目前還不能做到將使用場景固態(tài)化，并且和ASIC相比，F(xiàn)PGA的性能和效率是比較強(qiáng)的。而除了ASIC的器件外，其他的器件都不能實現(xiàn)。
比如我們常提到的CPU，與使用CPU來驅(qū)動AI應(yīng)用的設(shè)備相比，采用sensAI開發(fā)，并在萊迪思FPGA上運(yùn)行的AI計算設(shè)備的電池使用時間可延長28%。sensAI還支持現(xiàn)場軟件更新，從而保持AI算法的演進(jìn)，還能讓OEM廠商靈活選擇不同的傳感器和SoC技術(shù)來適配他們的設(shè)備。
Lattice推sensAI v4.1解決方案集合，助力AI/ML發(fā)展
近日，Lattice再次更新了sensAI的版本，升級至sensAI v4.1。sensAI 4.1將會增加支持Lattice 今年剛剛推出的CetusPro-NX器件，而CetusPro-NX器件不僅容量方面有所提升，同時計算的能力和功效也提高不少。在這款器件的基礎(chǔ)上，Lattice還推出了相對應(yīng)的開發(fā)板——聲音和視覺機(jī)器學(xué)習(xí)板，并配套CNN Plus加速器，以及相對應(yīng)的sensAI Studio。
圖 | Lattice sensAI解決方案集合
總結(jié)sensAI v4.1的增強(qiáng)特性和新特性，主要包括以下幾個方面：
1、客戶端計算AI體驗參考設(shè)計
??? ?用戶檢測：用戶接近或離開設(shè)備時會自動啟動或關(guān)閉客戶端設(shè)備
??? ?注意力追蹤：當(dāng)用戶的注意力不在屏幕上時，降低設(shè)備的屏幕亮度，節(jié)約電量，延長使用時間
??? ?面部取景：在視頻會議應(yīng)用中提升視頻體驗
??? ?旁邊者檢測：檢測站在設(shè)備后面潛在的窺視者，模糊屏幕以保障數(shù)據(jù)隱私
2、更多應(yīng)用支持
sensAI 4.1版本在性能和準(zhǔn)確度方面的提升有助于拓展其目標(biāo)應(yīng)用，包括自動化工業(yè)系統(tǒng)中使用的高精度目標(biāo)檢測和瑕疵檢測等應(yīng)用。該解決方案集合擁有全新硬件平臺，包括板載圖像傳感器、兩個I2S麥克風(fēng)和用于添加更多傳感器的擴(kuò)展連接器，助力基于語音和視覺的機(jī)器學(xué)習(xí)應(yīng)用的開發(fā)。
3、易于使用的工具
sensAI還更新了神經(jīng)網(wǎng)絡(luò)編譯器，支持Lattice sensAI Studio，這是一款基于GUI的工具，擁有AI模型庫，經(jīng)過配置和訓(xùn)練可適用于各類主流應(yīng)用場景。sensAI Studio現(xiàn)支持AutoML功能，能根據(jù)應(yīng)用和數(shù)據(jù)集目標(biāo)來創(chuàng)建機(jī)器學(xué)習(xí)模塊。一些基于Mobilenet機(jī)器學(xué)習(xí)推理訓(xùn)練平臺的模型專為最新的Nexus系列產(chǎn)品——Lattice CertusPro?-NX進(jìn)行了優(yōu)化。sensAI還兼容其他廣泛使用的機(jī)器學(xué)習(xí)平臺，包括最新版本的Caffe、Keras、TensorFlow和TensorFlow Lite。
sensAI v4.1的落地場景和落地途徑
Lattice Nexus FPGA和sensAI解決方案集合是開發(fā)計算機(jī)視覺和傳感器融合應(yīng)用的理想平臺，可以提升用戶的參與和協(xié)作，保護(hù)用戶隱私。例如，客戶端設(shè)備可以分析攝像頭采集的圖像數(shù)據(jù)，確定后方人員是否離用戶過于靠近，還可以在用戶的注意力轉(zhuǎn)移到別處時，模糊屏幕，保護(hù)隱私，或者調(diào)暗屏幕，延長電池使用時間。據(jù)悉，通過注意力追蹤可以延長28%的電池壽命。
?
圖 | 電池使用時間與計算機(jī)視覺解決方案
為了能夠讓這款產(chǎn)品在PC上得到落實，Lattice和OEM的、其他芯片廠商、操作系統(tǒng)和軟件支持商，以及傳感器廠商合作，以保證客戶在使用Lattice方案的時候能夠很快的把這些方案做出來。
此外，前面也提到過，為了進(jìn)一步加速落地，Lattice還提供了三個參考設(shè)計：人員偵測、注意力追蹤和目標(biāo)分類。同時，在智能家居、智慧城市、工廠、智能汽車這些領(lǐng)域，還將提供相對應(yīng)的設(shè)計服務(wù)。
硬件優(yōu)化的設(shè)計方案：將AI的設(shè)計方案通過Lattice Radiant和DIAMOND結(jié)合之后，產(chǎn)生FPGA比特流，然后再把訓(xùn)練后的模型錄進(jìn)來，這樣產(chǎn)生一個類似于中央處理器的功能，而這里產(chǎn)生的量化的權(quán)重和指令更多指向于執(zhí)行的代碼，這兩個結(jié)合之后，可以產(chǎn)生一個AI的體驗項目。
軟件優(yōu)化的設(shè)計方案：為了便于工程師的開發(fā)設(shè)計，Lattice專門提供了一個PROPEL的軟件，便于大家對于整個內(nèi)部結(jié)果的控制能夠進(jìn)行類似于C代碼的控制，而不是使用比較難以上手的FPGA的開發(fā)代碼，這樣的代碼是便于初學(xué)者能夠調(diào)用一些基本的指令進(jìn)行一些控制。左側(cè)更多指的是Lattice的開發(fā)AI引擎的一些架構(gòu)，包括機(jī)器學(xué)習(xí)引擎，以此能夠做視覺的收取，同時做軟核的控制。
?
圖 | 軟件優(yōu)化的設(shè)計方案
Mirametrix副總裁Stephen Morganstein表示：“我們的Glance by Mirametrix注意力感應(yīng)軟件可以捕捉用戶的面部、眼睛和凝視動作，從而了解用戶的意識和注意力。這項獨特的技術(shù)開發(fā)的智能設(shè)備能提供更自然和沉浸式的用戶體驗和設(shè)備交互。萊迪思的sensAI解決方案集合和低功耗FPGA可幫助開發(fā)人員實現(xiàn)新穎的AI功能，提高設(shè)備的電池壽命。”
寫在最后
借用Gartner高級研究主管Alys Woodward的一段話，“AI軟件市場正在加速發(fā)展，但長期軌跡仍取決于企業(yè)AI的成熟度。想要獲得成功的話，還得看怎么挑選具體的應(yīng)用。綜合來看，通過提供重要的業(yè)務(wù)價值擴(kuò)展、同時降低AI用例的風(fēng)險，對于AI投資和業(yè)務(wù)營收的預(yù)期影響至關(guān)重要?！倍馤attice推出的這一些列采用sensAI技術(shù)的產(chǎn)品是促使AI軟件市場不斷發(fā)展的重要基石，尤其是在網(wǎng)絡(luò)邊緣側(cè)。
?
