《電子技術應用》
您所在的位置:首頁 > 人工智能 > 解决方案 > Rambus通过GDDR7内存控制器IP推动AI 2.0发展

Rambus通过GDDR7内存控制器IP推动AI 2.0发展

2024-04-29
來源:Rambus
關鍵詞: Rambus AI GDDR7

  作為 Rambus 行業領先的接口和安全數字 IP 產品組合的最新成員,GDDR7 內存控制器將為下一波AI推理浪潮中的服務器和客戶端提供所需的突破性內存吞吐量。

  面向AI 2.0的內存解決方案

  AI 2.0代表著生成式AI革命性世界的到來。AI 2.0借助大語言模型(LLM)及其衍生模型的巨大增長創建新的多模態內容。多模態意味著可以將文本、圖像、語音、音樂、視頻等混合輸入到模型中,從而創建出這些以及其他媒體格式的輸出,例如根據圖像創建3D模型或根據文本提示創建視頻等。

  LLM的參數規模已超過萬億,數據集樣本規模也已達到數十億。訓練LLM需要巨大的算力,這離不開最新高性能內存解決方案的支持。

  通過GDDR7增強AI推理能力

  AI 2.0訓練流程的輸出結果是一個推理模型,該模型可根據用戶提示創建新的多模態內容。由于準確性和保真度會隨著模型規模的擴大而提高,因此推理模型的規模也在不斷擴大。隨著AI推理變得越來越普遍,并從數據中心向邊緣和終端移動,這就促使整個計算領域需要更加強大的處理引擎和量身定制的高性能內存解決方案。

  GPU一直是推理引擎的首選,在服務器和臺式機等邊緣和終端應用中,GPU一直使用的是GDDR6內存。但GDDR6的數據傳輸速率已達到標準NRZ信號的實際極限——24Gbps。為了滿足未來GPU的帶寬需求,需要使用新信號機制的新一代GDDR。而使用PAM3信號的GDDR7內存可將數據傳輸速率提高至40 Gbps或以上。

  面向AI 2.0的Rambus半導體IP

  作為AI 2.0的首選半導體IP供應商,Rambus提供業界領先的 HBM、PCIe和 CXL控制器 IP,現在更提供業界首個GDDR7內存控制器IP。Rambus GDDR7控制器為GDDR7存儲器的實現提供了功能齊全且具有高帶寬效率的解決方案。它支持40 Gbps的運行速度,為GDDR7存儲器設備提供160 GB/s的吞吐量,較業界吞吐量最高的GDDR6控制器(同樣來自Rambus)提高了67%。Rambus GDDR7控制器實現了適用于最先進AI加速器、圖形和高性能計算(HPC)應用的GDDR內存部署。

  Rambus半導體IP總經理Neeraj Paliwal表示:“AI 2.0工作負載對帶寬提出了前所未有的高要求,因此提供更高的內存性能變得至關重要。借助我們開創性的GDDR7控制器IP解決方案,設計人員可以快速利用最新一代GDDR存儲器的優勢,實現業界領先的吞吐量。”

  IDC內存半導體副總裁Soo-Kyoum Kim表示:“GDDR7內存的性能較GDDR6大幅提升。對任何希望充分利用GDDR7優化的速率和延遲特性的人來說, Rambus GDDR7控制器IP將成為重要的工具。”

  Rambus GDDR7控制器的主要特點:

  ·支持包括PAM3和NRZ信號在內的所有GDDR7鏈路功能

  ·支持多種GDDR7設備尺寸和速率

  ·專門針對各種流量情況進行優化,可實現高效率和低延遲

  ·靈活的AXI接口支持

  ·低功耗支持(自刷新、休眠自刷新、動態頻率縮放等)

  ·可靠性、可用性和可維護性(RAS)功能,例如端到端數據路徑奇偶校驗、存儲寄存器奇偶校驗保護等

  ·全方位的內存測試支持

  ·對現有第三方PHY的集成支持

  ·使用最新的GDDR7 VIP和內存供應商內存模型進行驗證

  Rambus GDDR7內存控制器IP現已上市。




更多精彩內容歡迎點擊==>>電子技術應用-AET<<

3bff459604b6c9954731105876ec40d.jpg

本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
主站蜘蛛池模板: 热门国产精品亚洲第一区在线V| 国产精品视频自在线| 国产成a人亚洲精v品在线观看| 精品午夜一区二区| 日韩欧美一区三区| 91精品视频免费观看| 97碰在线视频| 国产精品91久久| 精品人妻一区二区三区四区在线| 久久久久久久av| 中文字幕av日韩精品| 日韩网址在线观看| 国产精品久久久久久久天堂| 尤物一区二区三区| 国产毛片久久久久久国产毛片| 国产精品∨欧美精品v日韩精品| 久久99久久99精品| 日韩成人手机在线| 国产精品日韩高清| 亚洲中文字幕无码av永久| 91精品国产高清| 日韩亚洲欧美中文在线| 国产精品一区电影| 国产区亚洲区欧美区| 久久国产日韩欧美| 日本在线播放不卡| 久久国产精品久久国产精品| 欧美日韩999| 久久精品国产美女| 国产精品美女免费| 在线视频不卡一区二区| 国产日韩欧美日韩| 日本在线视频不卡| 久久久久久久久亚洲| 丝袜美腿精品国产二区| 欧美精品尤物在线| 99爱精品视频| 欧美激情 国产精品| 日韩久久久久久久久久久久久| 国产精品美女在线观看| 天堂资源在线亚洲视频|