8 月 25 日報道，今天，美國內存 IP 廠商 Rambus 宣布推出 HBM3 內存接口子系統，其傳輸速率達 8.4Gbps，可以為人工智能/機器學習(AI/ML)和高性能計算(HPC)等應用提供 TB 級帶寬，是當前速率最快的 HBM 產品。預計 2022 年末或 2023 年初，Rambus HBM3 將會流片，實際應用于數據中心、AI、HPC 等領域。
芯東西等媒體與 Rambus 大中華區總經理蘇雷、Rambus IP 核產品營銷高級總監 Frank Ferro 就 Rambus HBM3 的具體性能以及 Rambus 對客戶的支持等進行了深入交流。
一、支持 8.4Gbps 數據傳輸速率，帶寬超 TB
據 Frank 分享，隨著越來越多的公司進入人工智能市場，這對內存帶寬提出了很多要求，而神經網絡和深度學習等 AI 應用也在不斷推動內存帶寬增長。
咨詢公司 IDC 內存半導體副總裁 Soo Kyoum Kim 曾稱：“AI/ML 訓練對內存帶寬的需求永無止境，一些前沿訓練模型現已擁有數以十億的參數。”
Rambus 的 HBM3 內存子系統提高了原有性能標準，包含完全集成的 PHY 和數字控制器，可以支持當下很多 AI 及 HPC 應用。
具體來說，HBM3 的數據傳輸速率高達8.4Gbps/pin，帶寬達 1075.2GB/s(1.075TB/s)。Rambus 的 HBM3 支持標準的 64 位 16 通道，支持 2、4、8、12 和 16 HBM3 DRAM 堆棧，信道密度達 32Gb。
Frank 回應芯東西記者問題時稱，HBM3 的流片時間預計為 18 個月，因此可能會在 2022 年末或 2023 年初出片，并實際應用于部分客戶。
Frank 稱，由于其數據傳輸速率和帶寬較高，HBM3 可以應用于 AI、機器學習、HPC 等多種應用。
HBM3 采用了 2.5D 架構，最上面集成了 4 條 DRAM 內存條，通過堆疊的方式集成在了一起。內存條下方是 SoC 和中介層，最下面的綠色部分則是封裝。
對客戶來說，Rambus 會提供 SI/PI 專家技術支持，確保設備和系統具有最優的信號和電源完整性。作為 IP 授權的一部分，Rambus 也將提供 2.5D 封裝和中介層參考設計。
Frank 還給出了 HBM 性能的演進圖。
2016 年 HBM2 的帶寬為 256GB/s，I/O 數據速率為 2Gbps;HBM2E 的帶寬則能達到 460GB/s，數據傳輸速率達 3.6Gbps;SK 海力士公布的 HBM3 帶寬和傳輸速率分別為 665GB/s 和 5.2Gbps;Rambus 的 HBM3 性能又進一步提升，分別達 1075GB/s 和 8.4Gbps。
Frank 強調，雖然 Rambus 的 HBM3 性能比 SK 海力士此前公布的要更進一步，但 SK 海力士作為 Rambus 的重要客戶，Rambus 也會為其提供支持。
蘇雷還透露，當前國內的一流 AI 芯片廠商都和 Rambus 有所接觸，預計行業將會快速升級到 HBM3 標準。
二、Rambus 優勢：市場經驗豐富、支持多廠商制程節點
對于 Rambus 能夠為客戶提供的服務，Frank 提到 Rambus 在 HBM 市場中擁有豐富的經驗和技術優勢。
Rambus 在 2016 年就進入了 HBM 市場，其 HBM2E 內存子系統擁有行業中最快的 4Gbps 速率。
憑借產品性能，Rambus 獲得了超過 50 個市場訂單，是市場份額排名第一的 HBM IP 供應商。Rambus 的芯片開發基本一次就能成功，無需返工，提升了設計效率。
同時，Rambus 的 HBM2/2E PHY(端口物理層)支持臺積電、三星等多個先進制程節點。其產品集成了 PHY、IO、Decap 等，其客戶可以直接采用。
Rambus 也與 SK 海力士、三星等 DRAM 供應商關系緊密，其測試芯片已經經過了市場上所有供應商的 DRAM 驗證，能夠為客戶提供便捷地服務。
三、2025 年全球數據使用量將達到 175ZB，AI 芯片市場將達百億美元
Rambus 大中華區總經理蘇雷分享了近年來 Rambus 所取得的成績。Rambus 創建時間已經超過 30 年，公司總部位于美國加利福尼亞州，在歐盟和亞洲等地設有辦事處，全球員工人數超過 600 人。
Rambus 擁有 3000 余項專利和應用，2020 年經營現金流達 1.855 億美元，來自產品、合同等收入同比增長 41%。其主要的客戶有三星、美光、SK 海力士等內存廠商和高通、AMD、英特爾等芯片廠商，Rambus 75% 以上的收入來自于數據中心和邊緣計算產品銷售。
從市場來說，人工智能/機器學習越來越多地應用于各個領域。預計到 2025 年，超過 25% 的服務器將用于人工智能領域，AI 芯片市場將達到 100 億美元。
2025 年，全球數據使用量將達到 175ZB，年均復合增長率達 35%，服務器整體年增長率為 8%。蘇雷稱，Rambus 也將致力于使數據傳輸更快、更安全。
結語：HBM3 將推動 AI、HPC 應用發展
相對于 GDDR 顯存，HBM 有著高帶寬的特性，是數據密集型應用內存和數據處理瓶頸的解決方案之一。
本次 Rambus HBM3 IP 的推出，將再次推動 HBM 產品性能的提升，推動人工智能、高性能計算等應用發展。
