AI × AEC · 情報整理
Apple 訪談揭露 Mac 進入企業地端 AI 叢集部署趨勢
前沿 AI 模型 · 企業 AI 導入
Apple 高層接受訪談說明，Mac mini 與 Mac Studio 逐漸被企業組成運算叢集，用於在地端運行大型語言模型與代理工具，主要考量為資料隱私與降低雲端 API 成本。硬體層面透過統一記憶體、Thunderbolt 5 及 RDMA 技術串聯，但在大規模部署下，企業仍需自行面對叢集健康監控與軟體架構整合挑戰。
根據媒體專訪，Apple Mac 產品行銷資深總監 Sophie Le Guen 說明了企業採用 Mac mini 與 Mac Studio 建置 AI 基礎設施的現況。受訪者指出，企業將多台 Mac 組成運算叢集，主要考量是保留敏感資料於本地端，並減少呼叫雲端模型所衍生的持續 Token 費用。技術上，新款搭載 M5 Ultra 的 Mac Studio 具備最高 512GB 統一記憶體與 1.2TB/s 頻寬，並支援透過 Thunderbolt 5 與 RDMA 串聯為低延遲運算叢集。Apple 在展示中曾以四台 Mac Studio 叢集運行兆級參數模型，Meta 亦曾展示以 Mac Studio 搭配 MLX 框架在本地運行開源大型模型。然而，在大規模部署環境中，儘管企業可透過 MDM 工具處理裝置註冊與設定，設備的工作分配、叢集健康監控及長期穩定運作，目前仍需依賴企業自身的軟體架構與整合能力。
值得帶走的重點
- Apple 高層指出，企業將 Mac mini 與 Mac Studio 組成叢集，旨在本地運行大型 AI 模型以確保資料隱私並控制 Token 支出。
- 搭載 M5 Ultra 的 Mac Studio 支援 Thunderbolt 5 與 RDMA，可串聯多機分擔高參數量模型推論工作。
- 企業大規模部署時可透過 MDM 管理裝置，但叢集工作調度與健康監控仍高度依賴企業自身整合能力。
來源：INSIDE 閱讀原文 ↗
本篇由 AI 整理、核對並自動發布，未經逐篇人工審核。