芯耀
3910
8月19日，“第四屆滴水湖中國RISC-V產(chǎn)業(yè)論壇”正式在上海臨港滴水湖洲際酒店召開。北京奕斯偉計算技術(shù)股份有限公司智能計算事業(yè)部交付中心中心長路向峰先生推介了全球首款搭載64位RISC-V亂序執(zhí)行CPU及自研高性能NPU的雙DIE互聯(lián)AI SoC EIC7702X，算力高達40TOPS！
近年來，在中美科技戰(zhàn)、國產(chǎn)芯片自主可控的大背景之下，開源RISC-V架構(gòu)的在中國獲得了蓬勃發(fā)展，一大批的國產(chǎn)芯片設計廠商都有在做基于RISC-V架構(gòu)的自研芯片。而隨著自去年以來AI大模型的快速發(fā)展，也開始有不少廠商發(fā)力基于RISC-V架構(gòu)AI SoC。
北京奕斯偉科技集團有限公司是一家集成電路領域產(chǎn)品和服務提供商，核心業(yè)務包括芯片與方案、硅材料、生態(tài)鏈開發(fā)等板塊。其中，從事芯片與方案業(yè)務的奕斯偉計算公司是一家以RISC-V為基礎的新一代計算架構(gòu)芯片與方案提供商，目前也推出了一系列基于RISC-V架構(gòu)的AI SoC。
據(jù)介紹，目前奕斯偉智能計算事業(yè)部已經(jīng)推出了多款基于RISC-V架構(gòu)高性能AI SoC，其中EIC7700X是全球首款搭載64位RISC-V亂序執(zhí)行CPU及自研高性能NPU的AI SoC，基于四核的SiFive P550 RISC-V CPU內(nèi)核，支持64位亂序執(zhí)行能力，它的DMIPS跑分可以達到8.57分，這個是要超過競品A76的指標，并且其還集成了NPU內(nèi)核，AI算力約20TOPS，能夠支持在端側(cè)加速生成式AI大模型。
而EIC7702X則是在EIC7700X基礎上進行了雙DIE互聯(lián)封裝，即擁有了8核SiFive P550 RISC-V CPU內(nèi)核，和雙核NPU內(nèi)核，實現(xiàn)了EIC7700X兩倍的性能，進一步提升了CPU及AI性能，AI算力高達40TOPS，是全球基于RISC-V架構(gòu)性能最高的AI SoC，可以滿足各類AI智能設備、AI PC、AI加速卡等產(chǎn)品的需求。
根據(jù)路向峰公布的測試數(shù)據(jù)來看，EIC7700X和EIC7702X都可以支持運行Llama 2 70億參數(shù)大模型，EIC7700X可以實現(xiàn)每秒8個Token的生成，EIC7702X可以實現(xiàn)每秒16個Token的生成。
“我們這個芯片在自研的時候也是創(chuàng)新性的引入了很多指令優(yōu)化，涉及到數(shù)據(jù)流的優(yōu)化，所以不光是它的整個性能好，它的利用率也是得到了極大的優(yōu)化。它內(nèi)部支持的數(shù)據(jù)精度包含F(xiàn)P16，這對于精度要求比較高的場合是非常合適的。這個芯片內(nèi)部支持了LPDDR4/4X/6等不同的接口，EIC7700X達到32GB，EIC7702X達到了64GB，分別是64-Bit和128-bit。這個也是特別適用于大模型，它們對于整個參數(shù)數(shù)量大、帶寬吞吐量要求較高的特點。除了NPU的這些優(yōu)勢之外，這個芯片內(nèi)部集成了豐富的視頻編解碼，3D的GPU及豐富的外設。芯片整體的功耗也是非常低的，在桌面應用下只有2.6瓦的功耗?！甭废蚍暹M一步解釋道。
△在25路1080P的解碼加上回放的場景，EIC7700X的功耗是2.83W，覆蓋了桌面、辦公及媒體播放。右邊的三列實際上在上面的業(yè)務基礎之上，還添加了NPU推理的性能，這個可以當作一個AI PC典型應用的場景，它的功耗也控制在6-7W，這樣就使得它適用于電池供電或者是一些無風扇設計的一些被動散熱的場合。
路向峰表示：“我們這個產(chǎn)品因為內(nèi)部的CPU算力非常高，所以也是適用于邊緣側(cè)的一些AI應用，像筆記本電腦或者是平板這樣的一類產(chǎn)品。這個核心原因：一方面是，EIC7702X內(nèi)部的高性能CPU；第二方面是，EIC7702X內(nèi)部有2個GPU，可以為游戲等一些對GPU要求較高的場景（3D渲染）提供支持。EIC7702X有2路輸出，因此可以適用于筆記本一路接內(nèi)置屏、第二路解外置屏。還有CV類算法與大語言模型，這些也是為對應的場景提供了較有力的軟件層面的適配和支持。EIC7700X/EIC7702X出色AI性能和能效表現(xiàn)，則主要得益于兩方面的工作：一是，硬件上NPU內(nèi)部的設計優(yōu)化。二是，采用的編譯器框架能夠根據(jù)網(wǎng)絡模型特點自動適配NPU，使得內(nèi)部的數(shù)據(jù)流盡量達到最優(yōu)化。采用了這些優(yōu)化之后，現(xiàn)在芯片支持的整個編譯器的框架包含了TensorFlow、PyTorch等多種框架?！?/p>
在論壇的展示區(qū)域，奕斯偉也展示了基于EIC7702X方案的AI PC產(chǎn)品，支持Linux系統(tǒng)。此外，EIC7702X還可用作AI加速卡，EIC7702X通過內(nèi)部的Switch互聯(lián)，做到一個板子上往外通過PCIE接口提供出來，用戶在主機就可以調(diào)用實現(xiàn)軟件功能
據(jù)路向峰透露，EIC7702X即將在今年8月初已經(jīng)正式量產(chǎn)，目前已經(jīng)獲得了一些客戶的采用，預計很快將會上市。
編輯：芯智訊-浪客劍
