燧原科技實現(xiàn)全國各地智算中心DeepSeek的全量推理服務部署

02/06 11:15
1736
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

以DeepSeek-R1和V3為代表的開源模型系列在多語言理解和復雜推理任務中表現(xiàn)出色,極大優(yōu)化了算力成本,并進一步改變了訓練和部署的算法結(jié)構,這一技術創(chuàng)新將快速提升對于推理算力的需求,從而加速推動AI應用場景的落地。作為國產(chǎn)算力領軍企業(yè),燧原科技完成了對DeepSeek全量模型的高效適配,包括DeepSeek-R1/V3 671B原生模型、DeepSeek-R1-Distill-Qwen-1.5B/7B/14B/32B、DeepSeek R1-Distill-Llama-8B/70B等蒸餾模型。整個適配進程中,燧原AI加速卡的計算能力得到充分利用,能夠快速處理海量數(shù)據(jù),同時其穩(wěn)定性為模型的持續(xù)優(yōu)化和大規(guī)模部署提供了堅實的基礎。

目前,DeepSeek的全量模型已在慶陽、無錫、成都等智算中心完成了數(shù)萬卡的快速部署,將為客戶及合作伙伴提供高性能計算資源,提升模型推理效率,同時降低使用門檻,大幅節(jié)省硬件成本。這一成果標志著燧原科技在國內(nèi)率先實現(xiàn)了DeepSeek全量模型的部署和落地,也充分展示了燧原科技超大規(guī)模集群的部署能力和日趨成熟的軟件生態(tài),為2025年更大規(guī)模國產(chǎn)算力的建設應用提供了樣板。

此外,燧原科技與并濟科技、并行科技、東華軟件、道客網(wǎng)絡、光環(huán)云、邁富時、清程極智、燧弘華創(chuàng)、未來速度、無問芯穹、向量棧、億算智能、中科加禾等合作伙伴緊密合作,積極推進DeepSeek全量模型的更多系統(tǒng)級優(yōu)化,進一步提升模型在推理系統(tǒng)的性價比,從而為客戶帶來更優(yōu)的商業(yè)價值。

與此同時,燧原科技還與萬物安全、飛渡科技、萬物之宜等深度合作,即將推出面向“智慧城市、智慧園區(qū)、智慧交通”等AIoT場景的國內(nèi)首個DeepSeek智算訓推一體機,幫助用戶解決國產(chǎn)化私有算力、超清數(shù)字孿生物聯(lián)網(wǎng)安全等問題。
燧原科技正在推動“國產(chǎn)推理算力系統(tǒng)+國產(chǎn)大模型+國產(chǎn)應用+國產(chǎn)智算中心” 全方位生態(tài)的普及和泛化,以慶陽的推理萬卡集群為起點,用“算力普惠”的理念推動更大規(guī)模的國產(chǎn)算力部署,為國產(chǎn)應用賦能,為中國人工智能產(chǎn)業(yè)的發(fā)展提供了新的路徑。

相關推薦

登錄即可解鎖
  • 海量技術文章
  • 設計資源下載
  • 產(chǎn)業(yè)鏈客戶資源
  • 寫文章/發(fā)需求
立即登錄

燧原科技專注人工智能領域云端算力平臺,致力為人工智能產(chǎn)業(yè)發(fā)展提供普惠的基礎設施解決方案,提供自主知識產(chǎn)權的高算力、高能效比、可編程的通用人工智能訓練和推理產(chǎn)品,可廣泛應用于云數(shù)據(jù)中心、超算中心、互聯(lián)...