億新聞 | 演講回顧：億鑄科技以技術(shù)創(chuàng)新打通算力最后一公里

隨著人工智能技術(shù)的飛速發(fā)展，算力已成為推動(dòng)產(chǎn)業(yè)變革的關(guān)鍵力量，但大模型的快速發(fā)展，參數(shù)的爆發(fā)，對(duì)于算力需求也提出了更高的要求，帶來(lái)了全新的挑戰(zhàn)。那大算力芯片應(yīng)對(duì)這些挑戰(zhàn)，如何才能夠助力人工智能技術(shù)的發(fā)展，實(shí)現(xiàn)算力的落地和最后一公里的打通？

2024年7月8日，億鑄科技創(chuàng)始人、董事長(zhǎng)兼CEO熊大鵬博士在“2024算力技術(shù)創(chuàng)新發(fā)展生態(tài)大會(huì)”上發(fā)表了題為《超越極限：大算力芯片面臨的技術(shù)挑戰(zhàn)和解決策略》的主題演講，從億鑄自己的角度帶來(lái)了大算力時(shí)代下新的解決方案。

打通最后一公里，算力落地帶來(lái)無(wú)限可能

人工智能正與傳統(tǒng)行業(yè)深度融合，創(chuàng)造出智算中心、AI PC、AI手機(jī)和具身智能等新型產(chǎn)品與服務(wù)，使得這些傳統(tǒng)產(chǎn)業(yè)在AI的影響下變得更加智能化和個(gè)性化，從而提供更加精準(zhǔn)和高效的服務(wù)，這也是算力落地的最后一步。

以智算中心為例，據(jù)《中國(guó)算力發(fā)展指數(shù)白皮書(shū)》顯示，2022年中國(guó)智能算力規(guī)模達(dá)到178.5 EFlops，年增長(zhǎng)率為71.63%。預(yù)計(jì)到2026年，中國(guó)的AI算力規(guī)模將達(dá)到1271.4 EFLOPS。在端側(cè)也是如此，以具身智能為例，具身智能是將人工智能與機(jī)器人的感知等能力相結(jié)合，使機(jī)器人能夠以更智能和自然的方式，完成工業(yè)和服務(wù)應(yīng)用場(chǎng)景中不同的任務(wù)，未來(lái)將有極大的發(fā)展空間。

但是熊大鵬博士也指出，要打通最后一公里，實(shí)現(xiàn)算力的落地，對(duì)芯片也提出了完全不同的要求。目前傳統(tǒng)架構(gòu)下的大算力芯片主要面臨著存儲(chǔ)墻，能耗墻等諸多問(wèn)題，不同的公司都在尋找解決路徑。

大算力芯片面臨哪些挑戰(zhàn)

對(duì)于具體的挑戰(zhàn)及問(wèn)題，熊大鵬博士從有效算力的第一性原理的角度對(duì)相關(guān)問(wèn)題做了闡釋?zhuān)?/p>

對(duì)于傳統(tǒng)的馮諾依曼架構(gòu)而言，數(shù)據(jù)搬運(yùn)和訪存占據(jù)了大量時(shí)間，形成了存儲(chǔ)墻及其有效性能的天花板。其中，存儲(chǔ)墻問(wèn)題對(duì)AI的發(fā)展構(gòu)成了重大挑戰(zhàn)，過(guò)去20年峰值算力提高了90000倍，但內(nèi)存帶寬僅提高了100倍，互聯(lián)帶寬僅提高了30倍?？梢哉f(shuō)帶寬的發(fā)展速度嚴(yán)重滯后于算力的發(fā)展速度，已成為嚴(yán)重制約AI發(fā)展的關(guān)鍵所在。除了芯片內(nèi)部的數(shù)據(jù)傳輸，芯片與芯片間的傳輸也遇到了瓶頸。隨著AIGC浪潮興起，AI服務(wù)器需求增長(zhǎng)，服務(wù)器內(nèi)部之間或與其他設(shè)備的數(shù)據(jù)傳輸、控制和管理等接口功能的要求也隨之增加。

同時(shí)， 隨著人工智能模型的規(guī)模和復(fù)雜性不斷增加，在訓(xùn)練和運(yùn)行時(shí)所需的能源消耗也在顯著增長(zhǎng)。為了應(yīng)對(duì)能源挑戰(zhàn)，人工智能行業(yè)需要開(kāi)發(fā)更高效的算法和硬件，以減少能源消耗。

由于存儲(chǔ)墻和能耗墻的存在，未來(lái)想要實(shí)現(xiàn)更高的算力，就需要消耗更多的芯片，更多的互聯(lián)技術(shù)和更多的能耗，隨之而來(lái)的就是在傳統(tǒng)架構(gòu)的基礎(chǔ)上無(wú)論是電力的成本還是設(shè)施建設(shè)的成本，都呈現(xiàn)爆發(fā)式的增長(zhǎng)。

那么該如何解決上述的問(wèn)題呢？目前業(yè)界已經(jīng)有很多公司在嘗試新的路徑，而億鑄科技則堅(jiān)定的從存算一體的角度尋找"終極解決方案"。

算力落地的終極解決方案

眾所周知，摩爾定律曾是半導(dǎo)體行業(yè)發(fā)展的黃金法則，它預(yù)言了集成電路上晶體管的數(shù)量將每?jī)赡攴环瑥亩鴮?shí)現(xiàn)性能的指數(shù)級(jí)增長(zhǎng)。然而，隨著工藝節(jié)點(diǎn)的不斷微縮，晶體管尺寸已接近物理極限，導(dǎo)致摩爾定律面臨局限，業(yè)界一直在尋找新的解決方案。

存算一體技術(shù)有望成為后摩爾時(shí)代的重要技術(shù)路線之一，它不僅能夠解決當(dāng)前工藝制程面臨的挑戰(zhàn)，還能夠?yàn)橛?jì)算領(lǐng)域帶來(lái)新的增長(zhǎng)點(diǎn)。存算一體將存儲(chǔ)和計(jì)算有機(jī)結(jié)合，理論上計(jì)算可以直接在存儲(chǔ)器中進(jìn)行，這樣既打破了系統(tǒng)對(duì)于存儲(chǔ)器的絕對(duì)依賴(lài)，還能夠極大地消除數(shù)據(jù)搬移帶來(lái)的開(kāi)銷(xiāo)，徹底消除“存儲(chǔ)墻”以及“能耗墻”的問(wèn)題。

最后，熊大鵬博士指出，從有效算力的第一性原理來(lái)看，對(duì)于存算一體，數(shù)據(jù)搬運(yùn)量大幅下降，有效算力呈現(xiàn)線性增長(zhǎng)?？梢哉f(shuō)存算一體將打破摩爾定律，開(kāi)啟算力第二增長(zhǎng)曲線。同時(shí)，相信存算一體技術(shù)在未來(lái)計(jì)算領(lǐng)域的變革性潛力，特別是在AI時(shí)代，這種技術(shù)可能會(huì)成為推動(dòng)算力增長(zhǎng)的關(guān)鍵因素。

億鑄科技的創(chuàng)新不僅為大算力芯片的發(fā)展提供了新思路，更為人工智能技術(shù)的進(jìn)一步發(fā)展奠定了基礎(chǔ)。隨著存算一體架構(gòu)的不斷成熟和應(yīng)用，我們有理由相信，億鑄科技將在人工智能的新紀(jì)元中扮演重要角色。

未來(lái)，億鑄科技將以創(chuàng)新驅(qū)動(dòng)未來(lái)，與全球伙伴共同開(kāi)啟人工智能的新篇章。我們期待與各界同仁攜手合作，共創(chuàng)智能科技的美好未來(lái)。