• 正文
  • 相關(guān)推薦
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

ChatGPT熱潮后的反思:我國(guó)應(yīng)加速構(gòu)建新型智能計(jì)算中心

2023/03/27
471
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

1769年,英國(guó)人瓦特改良的蒸汽機(jī)掀開(kāi)了熱力時(shí)代的序幕。今天,伴隨AI 算量需求急劇增加倒逼傳統(tǒng)計(jì)算架構(gòu)加速革新,數(shù)據(jù)成為關(guān)鍵生產(chǎn)要素,算力時(shí)代悄然開(kāi)啟。

業(yè)內(nèi)普遍認(rèn)為,算力的提升在拉動(dòng)GDP方面有非常明顯的效果。有關(guān)國(guó)際機(jī)構(gòu)統(tǒng)計(jì),中國(guó)總算力排在全球第二,僅次于美國(guó),但人均算力方面中國(guó)還處于中等發(fā)展國(guó)家水平,因此存在很大的鴻溝去跨越??梢钥吹剑懔Φ乃胶蛧?guó)家智能水平有很大的關(guān)系,5G、物聯(lián)網(wǎng)、區(qū)塊鏈、元宇宙、AR/VR等新興技術(shù)的普及與發(fā)展帶來(lái)了爆發(fā)式的算力需求。

實(shí)際上,早在2018年,中國(guó)科學(xué)院計(jì)算技術(shù)研究所研究員張?jiān)迫褪状翁岢隽恕八懔?jīng)濟(jì)”概念,指出以計(jì)算為核心的算力經(jīng)濟(jì)將成為衡量一個(gè)地方數(shù)字經(jīng)濟(jì)發(fā)展程度的代表性指標(biāo)和新舊動(dòng)能轉(zhuǎn)換的主要手段。經(jīng)過(guò)5年的發(fā)展,當(dāng)前的趨勢(shì)已經(jīng)充分表明,隨著超算與云計(jì)算大數(shù)據(jù)、人工智能的融合創(chuàng)新,算力成為當(dāng)前整個(gè)數(shù)字經(jīng)濟(jì)社會(huì)發(fā)展的關(guān)鍵推動(dòng)力。

今天,計(jì)算已經(jīng)成為智能世界的關(guān)鍵驅(qū)動(dòng)力,算力服務(wù)業(yè)的崛起意味著我們正式進(jìn)入算力經(jīng)濟(jì)時(shí)代?!八懔Ψ?wù)業(yè)在2021年至2022年間異軍突起,今年會(huì)更加火爆?!睆?jiān)迫赋觯绻f(shuō)算力是硬件軟件配合共同執(zhí)行某種計(jì)算需求的能力的話,那么,算力服務(wù)是提供算力的一種商業(yè)模式,是包括算力生產(chǎn)者、算力調(diào)度者、算力服務(wù)商以及算力消費(fèi)者在內(nèi)的算力產(chǎn)業(yè)鏈上算力經(jīng)濟(jì)模式的統(tǒng)稱,他們共同構(gòu)成一個(gè)閉環(huán)的“算力經(jīng)濟(jì)”的產(chǎn)業(yè)鏈。

伴隨算力經(jīng)濟(jì)的發(fā)展,超算技術(shù)和人工智能的融合創(chuàng)新讓智能計(jì)算中心成為新基建熱點(diǎn)。智能計(jì)算中心指的是專門(mén)用于人工智能計(jì)算的中心。今天,可以看到,智能計(jì)算中心越來(lái)越熱,使得人工智能訓(xùn)練的效果特別好,除了寫(xiě)新聞,還可以編故事、聊天,做很多事情。

摩爾定律放緩的情況下,以英偉達(dá)NVIDIA)創(chuàng)始人黃仁勛名字命名的定律“黃氏定律 (Huang’s Law)”對(duì)AI性能的提升作出預(yù)測(cè),每10年GPU性能增長(zhǎng)1000倍?!拔磥?lái)GPT-4的參數(shù)規(guī)?;?qū)⑦_(dá)到數(shù)萬(wàn)億,至少需要上萬(wàn)塊的GPU,甚至連國(guó)家超算中心都無(wú)法滿足需求,建設(shè)新的智能計(jì)算平臺(tái)成為人工智能新的發(fā)展方向。”張?jiān)迫f(shuō)道。

像GPT-3就帶來(lái)了感知智能對(duì)超算的算力挑戰(zhàn)。從CPT-3到ChatGPT的技術(shù),實(shí)際上是“人工反饋(RLHF)訓(xùn)練機(jī)制+大數(shù)據(jù)+大算力”的集成。大模型帶來(lái)巨大的AI算力需求缺口,呼喚新型智能計(jì)算中心的加速構(gòu)建。

“為什么ChatGPT能從GPT-3演變過(guò)來(lái),這是關(guān)鍵,也是中國(guó)人工智能之路和美國(guó)人工智能之路的分歧點(diǎn)?!睆?jiān)迫赋?,“這兩年大模型國(guó)內(nèi)有人做,但是我們追求的是參數(shù)量,從千億級(jí)到萬(wàn)億級(jí)訓(xùn)練參數(shù)的快速躍進(jìn),但是智能沒(méi)有涌現(xiàn)。OpenAI走了另外一條路,利用人工反饋的訓(xùn)練機(jī)制,通過(guò)標(biāo)注、對(duì)齊高質(zhì)量數(shù)據(jù),最后把這條路走通了,用千億參數(shù)的大模型把通用智能挖掘出來(lái)了,這點(diǎn)值得反思?!?/p>

張?jiān)迫J(rèn)為,未來(lái)算力經(jīng)濟(jì)市場(chǎng)會(huì)有三類公司參加,將出現(xiàn)類似發(fā)電廠的算力工廠,尤其是在東數(shù)西算西部新能源發(fā)達(dá)地區(qū),而網(wǎng)絡(luò)通信公司可通過(guò)實(shí)施算網(wǎng)融合戰(zhàn)略轉(zhuǎn)型為算力供應(yīng)商,超算云公司、網(wǎng)絡(luò)通信公司甚至國(guó)家電網(wǎng)等分別從不同的技術(shù)途徑搶占算力服務(wù)市場(chǎng),究竟鹿死誰(shuí)手尚未可知。

他建議,一是要在現(xiàn)有大科學(xué)裝置基礎(chǔ)上,圍繞“東數(shù)西算”重大任務(wù)目標(biāo)增加建設(shè)一類算力網(wǎng)工程技術(shù)裝置;二是要成立國(guó)家算網(wǎng)管理機(jī)構(gòu)和專家委員會(huì),建設(shè)國(guó)家級(jí)算力調(diào)度和交易平臺(tái);三是在智算中心建設(shè)過(guò)程中,依據(jù)自有品牌核心器件成熟度和應(yīng)用效果,設(shè)置合理的核心器件采購(gòu)比例,扶植和拉動(dòng)本土算力設(shè)備的發(fā)展。

作者丨宋婧

編輯丨諸玲珍

美編丨馬利亞

監(jiān)制丨連曉東

相關(guān)推薦