<nobr id="fwemt"><sup id="fwemt"></sup></nobr>

<ul id="fwemt"></ul>
<rt id="fwemt"><ins id="fwemt"></ins></rt>
  • 正文
    • 服務(wù)器的GDDR時(shí)代來了
    • 快,就夠了嗎?
    • 客戶需要怎樣的內(nèi)存?
  • 相關(guān)推薦
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

Rambus GDDR6 PHY 賦能AI服務(wù)器

原創(chuàng)
2023/05/23
3266
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

內(nèi)存,對(duì)于裝機(jī)愛好者來說已經(jīng)再熟悉不過了。它是計(jì)算機(jī)的重要部件,用于暫時(shí)存放CPU中的運(yùn)算數(shù)據(jù),以及與硬盤等外部存儲(chǔ)器交換的數(shù)據(jù)。簡單來說,內(nèi)存就是CPU的“草稿紙”,負(fù)責(zé)將CPU這個(gè)大腦暫時(shí)用不到的數(shù)據(jù)存放起來,以備隨時(shí)取用。這種將數(shù)據(jù)放在CPU外暫存的結(jié)構(gòu)被稱為“馮·諾依曼結(jié)構(gòu)”。即使將CPU升級(jí)為服務(wù)器級(jí)別,其數(shù)據(jù)交換方式仍舊是這樣。

不過,隨著AI時(shí)代來臨,服務(wù)器核心的算力越來越高,它與內(nèi)存間的數(shù)據(jù)交換頻率也水漲船高,算力的增長非常顯著,但是帶寬上的進(jìn)步卻無法改善,造成兩者間不匹配,也導(dǎo)致了很多GPU資源的浪費(fèi)。存儲(chǔ)帶寬制約了計(jì)算系統(tǒng)的有效帶寬,這也導(dǎo)致芯片算力增長步履維艱。近日,Rambus在產(chǎn)品發(fā)布會(huì)上帶來了GDDR6 PHY產(chǎn)品,可以有效提升內(nèi)存數(shù)據(jù)傳輸速率,滿足生成式AI等先進(jìn)計(jì)算應(yīng)用的需求。

 

服務(wù)器的GDDR時(shí)代來了

傳統(tǒng)內(nèi)存,按照不同代際分為DDR至DDR5。DDR的全稱為Double Data Rate SDRAM(雙倍速率的SDRAM)。DRAM指動(dòng)態(tài)隨機(jī)存取內(nèi)存,SDRAM就是一種傳輸速率更高的DRAM。

DDR內(nèi)存從1代進(jìn)化到5代,它的時(shí)鐘周期變短了,頻率也就變高了,因此傳輸速度也就更快。此外,更高代的內(nèi)存支持的最大容量也越大,電壓更低,耗電更少。

而GDDR通常指的是用在顯卡上的內(nèi)存,本質(zhì)上還是雙倍速率同步動(dòng)態(tài)隨機(jī)存儲(chǔ)器,它是為了設(shè)計(jì)高端顯卡而特別設(shè)計(jì)的高性能 DDR 存儲(chǔ)器規(guī)格,其有專屬的工作頻率、時(shí)鐘頻率、電壓,因此與市面上標(biāo)準(zhǔn)的 DDR 存儲(chǔ)器有所差異,與普通 DDR 內(nèi)存不同且不能共用。一般它比主內(nèi)存中使用的普通 DDR 存儲(chǔ)器時(shí)鐘頻率更高,發(fā)熱量更小,所以更適合搭配高端顯示芯片。

GDDR的出現(xiàn)是因?yàn)槌绦蛐枰M(jìn)行更頻繁的圖形計(jì)算,需要頻繁讀取內(nèi)存中的數(shù)據(jù),因此就需要更高性能的內(nèi)存來輔助顯卡運(yùn)行。

AI應(yīng)用對(duì)于內(nèi)存帶寬有著旺盛需求,其訓(xùn)練集每年也以10倍的速度增長。GDDR內(nèi)存逐漸成為眾望所歸。Rambus GDDR6 PHY提供市場(chǎng)領(lǐng)先的數(shù)據(jù)傳輸速率,最高可達(dá)24 Gb/s,能夠?yàn)槊總€(gè)GDDR6內(nèi)存設(shè)備帶來96 GB/s的帶寬。作為系統(tǒng)級(jí)解決方案的一部分,Rambus GDDR6能夠?yàn)?a class="article-link" target="_blank" href="/e/1592241.html">人工智能/機(jī)器學(xué)習(xí)(AI/ML)、圖形和網(wǎng)絡(luò)應(yīng)用提供高成本效益、高帶寬的內(nèi)存性能。

Rambus首席運(yùn)營官范賢志表示:“憑借Rambus GDDR6 PHY所實(shí)現(xiàn)的新一級(jí)性能,設(shè)計(jì)人員可以為帶寬要求極為苛刻的工作負(fù)載提供所需的帶寬。和我們領(lǐng)先的HBM3內(nèi)存接口一樣,這項(xiàng)最新成就表明了我們不斷致力于開發(fā)最先進(jìn)的內(nèi)存性能,以滿足生成式AI等先進(jìn)計(jì)算應(yīng)用的需求。”

快,就夠了嗎?

人工智能的推理正在向邊緣端進(jìn)行遷移,要做到這一點(diǎn)需要更高的帶寬和更低延遲的內(nèi)存。

Rambus GDDR6 PHY除了業(yè)界領(lǐng)先的24Gb/s性能外,還經(jīng)過了全方位的優(yōu)化,可滿足AI/ML及其他需要高帶寬、低延遲內(nèi)存解決方案的先進(jìn)應(yīng)用的需求。Rambus能夠?qū)崿F(xiàn)24Gb/s的數(shù)據(jù)傳輸速率,依靠的是其在信號(hào)完整性電源完整性(SI/PI)方面享譽(yù)世界的專業(yè)知識(shí),這些知識(shí)可用于設(shè)計(jì)PHY、芯片封裝印刷電路板PCB)。Rambus GDDR6 PHY可與Rambus GDDR6數(shù)字控制器IP相結(jié)合,提供完整的GDDR6內(nèi)存接口子系統(tǒng)解決方案。

值得一提的是,GDDR6現(xiàn)在已經(jīng)支持比較先進(jìn)的FinFET工藝節(jié)點(diǎn)。從2019年開始,Rambus就已經(jīng)在該工藝上進(jìn)行布局,包括24Gb/s速率的GDDR6。此外,Rambus還針對(duì)PCB以及封裝提供相關(guān)的參考設(shè)計(jì)。

IDC內(nèi)存半導(dǎo)體副總裁Soo-Kyoum Kim表示:“憑借領(lǐng)先的速度和帶寬,Rambus GDDR6 PHY將為新一代圖形應(yīng)用帶來巨大的性能提升?!?/p>

 

客戶需要怎樣的內(nèi)存?

本次發(fā)布會(huì)上,Rambus還回答了記者的采訪。其中包括為什么GDDR會(huì)被用到服務(wù)器上?DDR和GDDR這兩種不同的產(chǎn)品優(yōu)勢(shì)和差別分別是什么?用戶在具體選擇的時(shí)候,有怎么樣的標(biāo)準(zhǔn)?

Rambus IP核產(chǎn)品營銷高級(jí)總監(jiān)Frank Ferro表示:以DDR4為例,它的成本相對(duì)是比較低的。劣勢(shì)是運(yùn)行速度相對(duì)較慢,它的速度可能最高能達(dá)到3.2Gb/s。作為GDDR這項(xiàng)技術(shù),從幾年前開始就已經(jīng)能夠?qū)崿F(xiàn)16Gb/s的帶寬,而這已經(jīng)是超過了DDR技術(shù)三到四倍之多。由于在DDR4和GDDR6兩者之間存在著巨大的性能差異的鴻溝,越來越多的客戶也開始探尋如何把GDDR6應(yīng)用到自己的設(shè)計(jì)上的方法。 這也是為什么GDDR6轉(zhuǎn)變到非圖形應(yīng)用的重要契機(jī)和原因。

有關(guān)DDR和GDDR的差別,需求端來講,帶寬是主要的標(biāo)準(zhǔn)和最重要的衡量因素,但如果是從存儲(chǔ)密度,也就是能夠存儲(chǔ)多少數(shù)據(jù),以及對(duì)成本的敏感性來看的話,DDR是更好的選擇了。同時(shí), DDR、GDDR和LPDDR這些不同的產(chǎn)品,都是以標(biāo)準(zhǔn)的DRAM為基礎(chǔ)。不管你怎么設(shè)計(jì),在整個(gè)功耗性能上其實(shí)都是大同小異。LPDDR,更加關(guān)注的更低功耗管理,DDR本身的數(shù)據(jù)存儲(chǔ)密度會(huì)更高一點(diǎn), GDDR是更關(guān)注于速度,這三者之間各有千秋。

記者也就AI對(duì)于內(nèi)存的需求與落地時(shí)間進(jìn)行提問。

Rambus 大中華區(qū)總經(jīng)理Raymond Su(蘇雷)表示:對(duì)于內(nèi)存產(chǎn)品的需求,首先就是要實(shí)現(xiàn)高帶寬。在滿足帶寬需求的大前提下,方案的成本和復(fù)雜性就成為第二個(gè)考量因素。GDDR技術(shù)是在帶寬、成本和方案復(fù)雜性的各因素之間,提供了一個(gè)非常完美的折中技術(shù)方案。在設(shè)計(jì)階段,Rambus直接和客戶合作,提供信號(hào)完整性和功能完整性的技術(shù)分析,還會(huì)幫助客戶優(yōu)化芯片的布局。

關(guān)于產(chǎn)品的落地時(shí)間,芯片業(yè)界的一般規(guī)律是從IP最初加入芯片設(shè)計(jì),到最終芯片流片成功到推出市場(chǎng),一顆芯片的誕生需要一到兩年的時(shí)間。因此我們可能會(huì)在2025年或2026年市場(chǎng)上看到使用GDDR6 IP的芯片。

Rambus介紹:

Rambus是一家業(yè)界領(lǐng)先的半導(dǎo)體IP和芯片供應(yīng)商,技術(shù)實(shí)力強(qiáng)勁,擁有3000多項(xiàng)技術(shù)專利。ram和bus分別代表了存儲(chǔ)和安全的快速傳輸,企業(yè)使命就是讓數(shù)據(jù)傳輸更快、更安全。

Rambus成立于上個(gè)世紀(jì)的九十年代,距今有30多年的歷史,總部是位于美國加州。Rambus在全球各地都有分支機(jī)構(gòu),現(xiàn)在全球的員工是預(yù)計(jì)在750名左右。

 

發(fā)言人介紹:

Raymond Su

Rambus 大中華區(qū)總經(jīng)理

Raymond先生現(xiàn)任Rambus 大中華區(qū)總經(jīng)理,他擁有逾15年的半導(dǎo)體及電信行業(yè)從業(yè)經(jīng)驗(yàn)。

在加入Rambus之前,Raymond 先生曾先后任職于華為、三星、瑞薩科技(Renesas)、聯(lián)芯科技(Leadcore)及中國電信。

Raymond 先生對(duì)市場(chǎng)及應(yīng)用需求有著深厚的見解,他專注于企業(yè)市場(chǎng)戰(zhàn)略制定、業(yè)務(wù)開發(fā)、銷售及研究開發(fā)等。

Raymond擁有南京大學(xué)學(xué)士學(xué)位以及電信科學(xué)技術(shù)研究院碩士學(xué)位。

 

Frank Ferro

Rambus IP核產(chǎn)品營銷高級(jí)總監(jiān)

Frank Ferro先生現(xiàn)任Rambus IP核產(chǎn)品營銷高級(jí)總監(jiān),主要負(fù)責(zé)內(nèi)存接口IP產(chǎn)品線。

他在無線通信、網(wǎng)絡(luò)和電子消費(fèi)品領(lǐng)域擁有超過20年的工作經(jīng)驗(yàn),曾先后任職于美國電話電報(bào)公司(AT&T)、朗訊科技(Lucent)與杰爾系統(tǒng)(Agere Systems)。

Frank先生擁有美國杜克大學(xué)富科商學(xué)院的EMBA學(xué)位、新澤西理工學(xué)院計(jì)算機(jī)科學(xué)理學(xué)碩士學(xué)位與電子工程技術(shù)的學(xué)士學(xué)位。

Rambus

Rambus

Rambus致力于使數(shù)據(jù)更快、更安全,創(chuàng)造創(chuàng)新的硬件和服務(wù),推動(dòng)數(shù)據(jù)中心、物聯(lián)網(wǎng)、人工智能和物聯(lián)網(wǎng)的技術(shù)進(jìn)步

Rambus致力于使數(shù)據(jù)更快、更安全,創(chuàng)造創(chuàng)新的硬件和服務(wù),推動(dòng)數(shù)據(jù)中心、物聯(lián)網(wǎng)、人工智能和物聯(lián)網(wǎng)的技術(shù)進(jìn)步收起

查看更多

相關(guān)推薦

登錄即可解鎖
  • 海量技術(shù)文章
  • 設(shè)計(jì)資源下載
  • 產(chǎn)業(yè)鏈客戶資源
  • 寫文章/發(fā)需求
立即登錄
<dfn id="pd2pv"><ins id="pd2pv"></ins></dfn>
<ul id="pd2pv"><dfn id="pd2pv"><style id="pd2pv"></style></dfn></ul>
<div id="pd2pv"><form id="pd2pv"></form></div>
<div id="pd2pv"></div>
<b id="pd2pv"><noframes id="pd2pv">

<dfn id="pd2pv"></dfn>