AI × AEC · 情報整理
AI架構轉變推升Flash需求 旺宏擴大布局分層記憶體架構
前沿 AI 模型
AI伺服器與推論模型擴展帶動記憶體需求改變,除了HBM產能擠壓成熟製程外,高密度NOR Flash、HBF與分層儲存架構正成為緩解GPU資料搬移瓶頸的關鍵策略。
隨著AI模型規模與推論負載擴大,半導體大廠產能向高頻寬記憶體(HBM)傾斜,導致成熟製程受到擠壓。旺宏電子市場行銷處處長林民正指出,AI伺服器不僅使單一機櫃NOR Flash用量從前代的600至800顆增至千顆以上,更促使業界尋找HBM之外更具成本效益的分層儲存架構。為解決KV快取膨脹與資料搬移瓶頸,業界正發展結合3D NAND的HBF及雙層SSD架構,並重新關注以記憶體為中心的運算架構。
值得帶走的重點
- AI伺服器內部零組件增加,最新一代單一機櫃NOR Flash用量已突破1000顆。
- 為因應KV快取增長與成本限制,產業界提出HBF與雙層SSD架構分擔HBM資料負載。
- 成熟製程受擠壓引發利基型Flash供應吃緊,旺宏擴大高密度NOR Flash與3D NAND布局。
來源:EE Times Taiwan 電子工程專輯 閱讀原文 ↗
本篇由 AI 整理、核對並自動發布,未經逐篇人工審核。