• 方案介紹
  • 相關(guān)推薦
申請入駐 產(chǎn)業(yè)圖譜

輕松部署-MemryX AI 加速卡結(jié)合 Rockchip RK3588 多路物體檢測解決方案

04/08 11:48
1165
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

關(guān)鍵詞:升壓LED驅(qū)動器

核心技術(shù)優(yōu)勢/方案詳細規(guī)格/產(chǎn)品實體圖/PCB/方塊圖Datasheet/測試報告/Gerber/Schematics/User manual +一鍵獲取

信息革命的浪潮正快速推進!隨著科技日新月異的發(fā)展,人工智能(AI) 的應(yīng)用已悄然融入人們的日常生活,無論是 Google 的搜索引擎、Facebook 的推薦系統(tǒng),還是電商平臺的銷售排行,AI 技術(shù)正潛移默化地改變著我們的生活方式。這些科技成果的普及,使得低成本、高效能的解決方案成為當下的關(guān)鍵需求。
同時,視覺相關(guān)的AI應(yīng)用正在改變著我們的世界,無論是在車用、工業(yè)還是醫(yī)療領(lǐng)域,都展現(xiàn)出其無可替代的價值。未來,隨著視覺AI技術(shù)的進一步發(fā)展,更多的創(chuàng)新應(yīng)用將逐步落地,徹底重塑我們的日常生活與工作方式。應(yīng)用于以下領(lǐng)域:
◆ 智能監(jiān)控:可實現(xiàn)實時目標檢測、行為分析及入侵預(yù)警,為智慧城市的安全提供保障。

◆ 智慧零售:通過顧客行為分析與智能貨架管理,優(yōu)化購物體驗并提升銷售效率。

◆ 醫(yī)療影像分析:協(xié)助醫(yī)生進行精準診斷,例如腫瘤檢測分析以提升醫(yī)療效率與準確性。

◆ 工業(yè)質(zhì)檢:利用視覺AI快速識別產(chǎn)品瑕疵,確保生產(chǎn)質(zhì)量,提高生產(chǎn)效率。

自動駕駛:車載AI能夠通過視覺處理分析道路環(huán)境、行人和障礙物,實現(xiàn)即時決策,提升駕駛安全性。

其中,邊緣計算(Edge Computing) 將是推動這項技術(shù)的關(guān)鍵指標隨著 神經(jīng)運算處理芯片(Neural Processing Unit, NPU) 的誕生,運算性能實現(xiàn)了指數(shù)級的飛躍,使機器學(xué)習(xí)與人工智能應(yīng)用得以廣泛應(yīng)用于移動設(shè)備、傳感器等多種硬件中,將智能計算更貼近人們的日常生活。因此MemryX 推出 MX3 AI 芯片能夠提供每瓦 5 TOPS 的算力性能,并且支持 浮點數(shù)(Brain Floating Point) 運算來確保用戶的模塊準確度。每顆芯片內(nèi)建 10.5 MB 的 靜態(tài)隨機存取存儲器(SRAM) 用于訪問模塊,不會占用主系統(tǒng)的資源,并且最多可以串聯(lián) 16 顆芯片來擴展性能。


圖1 MemryX AI芯片規(guī)格示意圖

2024年,MemryX 重磅推出外掛式 MemryX MX3 AI 推理加速卡,采用 PCIe Gen3 M.2 M-Key 接口,具備高達 20 TOPS 的卓越計算性能,為各類工業(yè)電腦帶來即插即用的便捷體驗。該解決方案以“平臺升級,迎接AI智能時代”為設(shè)計理念助力企業(yè)與開發(fā)者輕松邁向人工智能領(lǐng)域。本方案特別結(jié)合了 Orange Pi 5 Plus (Rockchip RK3588) 與 MemryX AI 加速卡,構(gòu)建出一套高性價比的智能解決方案。憑借 MemryX 提供的豐富軟件資源及對主流深度學(xué)習(xí)框架 (如 TensorFlow、PyTorch、ONNX) 的支持,即便是新手也能快速上手,輕松部署 AI 模型,實現(xiàn)智能應(yīng)用開發(fā)。

圖2 基于 MemryX AI 加速卡結(jié)合 Rockchip RK3588 多路物體檢測解決方案優(yōu)勢示意圖

憑借 MemryX 的強大運算能力,能夠輕松 實現(xiàn)多路(Multi-Streamer) 的 物體檢測(Object Detection) 應(yīng)用。只需要使用普通的USB攝像頭或通過網(wǎng)絡(luò)來源串聯(lián),即可適用于市面上常見的停車場管理系統(tǒng)、智慧停車柱、智慧交通監(jiān)控、商場人流檢測、居家無死角意外檢測等應(yīng)用?,F(xiàn)在就加入我們,體驗人工智能的無限魅力!讓 AI 助力您的創(chuàng)新,開創(chuàng)屬于您的智能應(yīng)用時代!

圖3 多路物件檢測解決方案應(yīng)用示意圖

搭配 MemryX 所構(gòu)建的開發(fā)環(huán)境 Developer Hub,開發(fā)者能夠簡單且快速地上手將 TensorFlow Lite、ONNX、Pytorch、Keras 等熱門深度學(xué)習(xí)框架的模塊轉(zhuǎn)換為 MemryX MX3+ 芯片所需的 DFP 框架。并通過原廠豐富的示例應(yīng)用與公共工具,即可一步步實現(xiàn) AI 應(yīng)用。

圖4 MemryX 開發(fā)環(huán)境示意圖

 

編譯器(Compiler)

神經(jīng)編譯器 提供多種功能,如多模型整合(Multi-Model)、模型剪枝(Model Cropping)、多路流輸入單一應(yīng)用(Multiple Input Streams)、單路流輸入多個應(yīng)用(Shared Input Stream)、混合精度權(quán)重(Mixed-Precision Weights)、模塊資源使用情況顯示(Resources Utilization)。通過簡單的命令行指令,能夠幫助開發(fā)者。快速轉(zhuǎn)換模塊將 Pytorch、Keras、Tensorflow、Tensorflow Lite、ONNX 等模型轉(zhuǎn)換為 MemryX DFP 模組格式。

▼ 運行時(Runtime)

提供優(yōu)化的用戶體驗,利用 Benchmark 搭配模型庫能夠幫助開發(fā)者快速評估其硬件性能與準確度,并且提供多種開源示例 DEMO (MemryX_Example) 與簡潔有力的 API 能夠幫助開發(fā)者快速實現(xiàn)與部署AI應(yīng)用。

基準測試(Python,C/C++)

加速器 API(Python,C/C++)

▼ 公用工具(Utility Tools)

模擬器 (Simulator)? ? : 為 MemryX 提供一套軟件,以解決手頭沒有 MX3 芯片的開發(fā)者進行性能評估的問題。

可視化工具(Viewer)? : 為 MemryX 提供的 GUI 界面,包含上述編譯器、模擬器、加速器。

檢查器(DFP Inspect) : 為 MemryX 提供的一套檢查 DFP 文件的工具。

如下圖所示,展示了更多實際的應(yīng)用,如物體檢測、語義分割、車輛識別、深度估算、肢體識別、虛擬畫筆、人臉識別、車牌識別、表情檢測、圍欄警示等。都可以通過你的想象力與創(chuàng)造力,開發(fā)出更具潛力的殺手級應(yīng)用!這里還提供了實際應(yīng)用數(shù)據(jù),大多數(shù)應(yīng)用都能輕松達到每秒 30 幀以上的推理速度!并主打浮點數(shù)運算 (BF16),確保模型的準確性!潛力無限!

圖5 MemryX 實際應(yīng)用示意圖

圖6 MemryX M3+ 芯片性能數(shù)據(jù)表

參考網(wǎng)站:

  • MemryX官網(wǎng):https://memryx.com/
  • MemryX 開發(fā)網(wǎng)站:https://developer.memryx.com/
  • MemryX 銷售網(wǎng)站: https://eshop.wpgam.com/mx3-2280-m-4
  • Orange Pi 5 Plus網(wǎng)站:http://www.orangepi.org/html/hardWare/computerAndMicrocontrollers/details/Orange-Pi-5-plus.html

?場景應(yīng)用圖

?展示板照片

?方案方塊圖
?核心技術(shù)優(yōu)勢
◆ 采用浮點數(shù) BF16 進行計算,確保模塊準確度:
模塊設(shè)計以 BF16(Brain Floating Point 16)為基礎(chǔ)進行運算,相較于傳統(tǒng)的浮點數(shù)格式,BF16 能夠在大幅減少內(nèi)存使用量的同時,仍然提供接近 FP32 的計算準確度。這使其特別適合用于人工智能和深度學(xué)習(xí)模型的推理與訓(xùn)練場景,確保結(jié)果的精確性?!?不占用系統(tǒng)內(nèi)存:
模塊運行時采用了獨立內(nèi)存的架構(gòu),無需占用主系統(tǒng)的 RAM 資源,有效降低對系統(tǒng)整體性能的影響。這種設(shè)計特性確保模塊在高效運行的同時,仍然能為其他應(yīng)用程序預(yù)留足夠的系統(tǒng)資源。

◆ 高度可擴展性:
支持連接多達 16 個模塊,通過模塊化設(shè)計實現(xiàn)高擴展性。這使得系統(tǒng)能夠根據(jù)需求靈活擴展計算能力,以應(yīng)對不同場景的計算需求,例如需要更高性能的數(shù)據(jù)中心或邊緣計算。

◆ 最佳數(shù)據(jù)流優(yōu)化,最大限度減少數(shù)據(jù)移動:
模塊內(nèi)部針對數(shù)據(jù)流進行了高度優(yōu)化設(shè)計,通過智能路由和緩存機制,能夠最大程度地減少數(shù)據(jù)在運行過程中的移動頻率,從而提升處理性能并降低延遲。此外,這樣的設(shè)計也有助于降低能耗,進一步增強系統(tǒng)的運行效率。

◆ 高性價比與低功耗解決方案:
將主平臺 Orange Pi 5 Plus 搭配 MemryX MX+ 的 AI 芯片,即可無痛升級為更高階的 AI 平臺,每秒能夠運行約 480 幀(YOLOv8)的物體檢測;且 MX3+ 擁有 5 TOPS/W 的性能表現(xiàn),整套多路物體檢測解決方案僅耗電約 14 W。

◆ 多路應(yīng)用的新概念:
相較于近年來興起的邊緣計算,將其概念套用到區(qū)域性場景或許是一個新穎且能夠大幅降低成本的解決方案。利用輕松易得的攝像頭,再搭配一臺智能工業(yè)主機,即可實現(xiàn)許多應(yīng)用,并且能夠?qū)η岸说臄z像頭進行任意更換與配置。

?方案規(guī)格
◆ 主平臺開發(fā)板采用 RockChip RK3588 平臺為基礎(chǔ),搭載四顆 Cortex-A76 處理器與四顆 Cortex-A55 處理器,并提供高性能圖像處理器 Arm Mali-G610 與神經(jīng)運算處理器 NPU 等強大核心架構(gòu)。

◆ I/O Board 開發(fā)板提供強大的周邊配置,如 Gigabit Ethernet 千兆以太網(wǎng)、USB Type A/C 3.0 通用串行總線接口、HDMI 高清多媒體接口、M.2 E-Key 傳輸接口、M.2 M-Key 傳輸接口,并能夠通過擴展的 40 pin 針腳來模擬常用的 UARTI2C、SPI、CAN 等信號。

◆ MemryX MX3+ 芯片提供強大的 AI 運算能力(20 TOPS),以 PCIe Gen3 M.2 2280 M-Key 接口為主,其 M.2 加速卡搭載四顆 MX3+ 芯片,每顆芯片能夠提供 5 TOPS/W 的性能,并內(nèi)置 10.5 MB 的靜態(tài)隨機存取存儲器用于存取模塊。支持 Linux 與 Windows 兩大操作系統(tǒng),并提供豐富的軟件資源供開發(fā)者使用,能夠直接移植 Tensorflow、ONNX、Pytorch、Keras 等熱門的深度學(xué)習(xí)框架。

大大通

大大通

針對電子行業(yè)逐漸呈現(xiàn)碎片化、客制化的趨勢,大聯(lián)大推出匯聚內(nèi)外工程師,搭建互相幫助樂于分享,解決問題的首選技術(shù)平臺----研發(fā)心中的翰林院 大大通。其中包含了大聯(lián)大代理的上百條產(chǎn)品線、數(shù)百個方案,以及最新的產(chǎn)品信息和原廠新聞。大大通的方案涵蓋智能家居、智慧城市、穿戴裝置、智慧醫(yī)療、車聯(lián)網(wǎng)、電源等應(yīng)用領(lǐng)域;除了大聯(lián)大內(nèi)部的方案,還有原廠的最新方案,以及行業(yè)優(yōu)質(zhì)合作方案商(IDH)的方案,打通客戶、原廠、IDH 以及大聯(lián)大的FAE 之間的壁壘,搭建整個技術(shù)的生態(tài)圈。 除了大聯(lián)大七百馀位專業(yè)FAE在線上進行高效、專業(yè)的技術(shù)支持,大大通更希望匯聚所有工程師一起分享和成長??蛻艨梢愿苯涌焖俚牧私夥桨?、解答疑問、獲取技術(shù)文檔,從而縮短客戶方案量產(chǎn)時間。使用者登錄后,可以根據(jù)應(yīng)用、原廠、傳輸技術(shù)、輸出功率等選項快速篩選出感興趣的方案;瀏覽方案時可以提問、分享、收藏,還能一鍵連結(jié)到大大購進行方案的關(guān)鍵物料的購買。大大通還有完善個人的社交系統(tǒng),關(guān)注技術(shù)大牛,獲取積分,吸引粉絲,獲取更高頭銜和特別勳章,讓工程師可以獲得榮譽感、成就感。

針對電子行業(yè)逐漸呈現(xiàn)碎片化、客制化的趨勢,大聯(lián)大推出匯聚內(nèi)外工程師,搭建互相幫助樂于分享,解決問題的首選技術(shù)平臺----研發(fā)心中的翰林院 大大通。其中包含了大聯(lián)大代理的上百條產(chǎn)品線、數(shù)百個方案,以及最新的產(chǎn)品信息和原廠新聞。大大通的方案涵蓋智能家居、智慧城市、穿戴裝置、智慧醫(yī)療、車聯(lián)網(wǎng)、電源等應(yīng)用領(lǐng)域;除了大聯(lián)大內(nèi)部的方案,還有原廠的最新方案,以及行業(yè)優(yōu)質(zhì)合作方案商(IDH)的方案,打通客戶、原廠、IDH 以及大聯(lián)大的FAE 之間的壁壘,搭建整個技術(shù)的生態(tài)圈。 除了大聯(lián)大七百馀位專業(yè)FAE在線上進行高效、專業(yè)的技術(shù)支持,大大通更希望匯聚所有工程師一起分享和成長??蛻艨梢愿苯涌焖俚牧私夥桨?、解答疑問、獲取技術(shù)文檔,從而縮短客戶方案量產(chǎn)時間。使用者登錄后,可以根據(jù)應(yīng)用、原廠、傳輸技術(shù)、輸出功率等選項快速篩選出感興趣的方案;瀏覽方案時可以提問、分享、收藏,還能一鍵連結(jié)到大大購進行方案的關(guān)鍵物料的購買。大大通還有完善個人的社交系統(tǒng),關(guān)注技術(shù)大牛,獲取積分,吸引粉絲,獲取更高頭銜和特別勳章,讓工程師可以獲得榮譽感、成就感。收起

查看更多

相關(guān)推薦

方案定制

去合作
方案開發(fā)定制化,2000+方案商即時響應(yīng)!

大大通的方案涵蓋智能家居、智慧城市、穿戴裝置、智慧醫(yī)療、車聯(lián)網(wǎng)、電源等應(yīng)用領(lǐng)域;除了大聯(lián)大內(nèi)部的方案,還有原廠的最新方案,以及行業(yè)優(yōu)質(zhì)合作方案商(IDH)的方案,打通客戶、原廠、IDH 以及大聯(lián)大的FAE 之間的壁壘,搭建整個技術(shù)的生態(tài)圈。 除了大聯(lián)大七百馀位專業(yè)FAE在線上進行高效、專業(yè)的技術(shù)支持,大大通更希望匯聚所有工程師一起分享和成長??蛻艨梢愿苯涌焖俚牧私夥桨?、解答疑問、獲取技術(shù)文檔,從而縮短客戶方案量產(chǎn)時間。