AI × AEC · 情報整理
微軟研究院探討實體 AI 機器人邊緣與雲端推論卸載架構
前沿 AI 模型 · AI 助理 · 企業 AI 導入
微軟研究院針對移動機器人操作負載進行系統評估，指出將 AI 推論卸載至邊緣或雲端 GPU 能提升任務成功率並顯著延長機器人電池續航力。
微軟研究院針對移動機器人操作負載展開系統性評估，探討僅依賴機載 GPU 執行實體 AI 推論所面臨的硬體瓶頸。研究指出，高功耗機載晶片會大幅消耗電池並限制大模型運作，而將推論卸載至邊緣或雲端 GPU 可提升反應速度與續航時間。微軟隨後在開源 Physical AI Toolchain 中加入了基於 Kubernetes 的分散式推論管理工具。
值得帶走的重點
- 測試顯示較小機載 GPU 的建圖與規劃延遲比 A100 增加達 383%，而高階機載晶片則使電池消耗增加高達 160%。
- 將推論運算卸載至邊緣或雲端 GPU，顯著提升了移動操作的任務成功率與障礙物即時偵測表現。
- 微軟在 Physical AI Toolchain 中加入 Kubernetes 工具集，支援在機器人、邊緣與雲端之間自動調度容器化 AI 負載。
來源：Microsoft 閱讀原文 ↗
本篇由 AI 整理、核對並自動發布，未經逐篇人工審核。譯文經 AI 複核。