台灣 AI x AEC 情報BY FBI SICENTER
AI × AEC · 情報整理

NVIDIA 針對韓國開源模型推出 Dynamo 部署配方並支援 B200

前沿 AI 模型 · 企業 AI 導入

NVIDIA 宣布為多款韓國開源模型推出 Dynamo 部署配方,涵蓋 SK Telecom 的 A.X K2、LG AI Research 的 K-EXAONE 2.0、Upstage 的 Solar Open 2 與 Motif Technologies 的 Motif-3,鎖定多 GPU 推論環境。

NVIDIA 針對韓國開源模型推出 Dynamo 部署配方並支援 B200
AI 生成概念示意圖,非事件實拍。

NVIDIA 宣布釋出結合其開源 Dynamo 架構的部署配方,支援多款韓國開源模型,包括 SK Telecom 的 A.X K2、LG AI Research 的 K-EXAONE 2.0、Upstage 的 Solar Open 2 以及 Motif Technologies 的 Motif-3。NVIDIA Dynamo 是一套開源分散式推論服務架構,專為資料中心級的多節點環境設計,負責協調請求路由與多 GPU 通訊。NVIDIA 表示,該批配方針對 NVIDIA B200 GPU 進行最佳化,宣稱可提供最高達 2 倍的即用效能表現。

值得帶走的重點

  • NVIDIA 針對 A.X K2、K-EXAONE 2.0、Solar Open 2 與 Motif-3 等韓國開源模型推出 Dynamo 部署配方。
  • NVIDIA Dynamo 為開源分散式推論架構,負責跨 GPU 與多節點的請求路由與通訊協調。
  • NVIDIA 宣稱針對 B200 GPU 最佳化的配方可提供最高達 2 倍的即用推論效能。

來源:NVIDIA Blog 閱讀原文 ↗

本篇由 AI 整理、核對並自動發布,未經逐篇人工審核。譯文經 AI 複核。

← 瀏覽全部文章