台灣 AI x AEC 情報BY FBI SICENTER
AI × AEC · 情報整理

AI架構轉變推升Flash需求 旺宏擴大布局分層記憶體架構

前沿 AI 模型

AI伺服器與推論模型擴展帶動記憶體需求改變,除了HBM產能擠壓成熟製程外,高密度NOR Flash、HBF與分層儲存架構正成為緩解GPU資料搬移瓶頸的關鍵策略。

AI 生成概念示意圖,非實際產品或事件照片。
AI 生成概念示意圖,非事件實拍。

隨著AI模型規模與推論負載擴大,半導體大廠產能向高頻寬記憶體(HBM)傾斜,導致成熟製程受到擠壓。旺宏電子市場行銷處處長林民正指出,AI伺服器不僅使單一機櫃NOR Flash用量從前代的600至800顆增至千顆以上,更促使業界尋找HBM之外更具成本效益的分層儲存架構。為解決KV快取膨脹與資料搬移瓶頸,業界正發展結合3D NAND的HBF及雙層SSD架構,並重新關注以記憶體為中心的運算架構。

值得帶走的重點

  • AI伺服器內部零組件增加,最新一代單一機櫃NOR Flash用量已突破1000顆。
  • 為因應KV快取增長與成本限制,產業界提出HBF與雙層SSD架構分擔HBM資料負載。
  • 成熟製程受擠壓引發利基型Flash供應吃緊,旺宏擴大高密度NOR Flash與3D NAND布局。

來源:EE Times Taiwan 電子工程專輯 閱讀原文 ↗

本篇由 AI 整理、核對並自動發布,未經逐篇人工審核。

← 瀏覽全部文章