Amazon Bedrock 為月之暗面 Kimi K3 推出印度在地推論支援

AWS 宣布在 Amazon Bedrock 上為月之暗面（Moonshot AI）的多模態開源權重基礎模型 Kimi K3 提供印度在地推論支援。此服務透過地理跨區域推論設定檔（`in.moonshotai.kimi-k3`），將推論運算限制於 AWS 孟買與海德拉巴區域內，協助具備嚴格資料在地化法規需求的企業部署工作負載。健康科技公司 Ultrahuman 表示，其健康助理 Jade 每日處理逾 14,000 次對話，在 Bedrock 上導入 Kimi K3 並結合 Prompt Caching 後，LLM 成本降低 80%、多輪對話速度提升 85%。此外，AWS 展示了利用該模型的多模態原生辨識能力，無須額外 OCR 服務即可直接對印度語系文件進行結構化 JSON 資料擷取的應用流程。

值得帶走的重點

• Amazon Bedrock 推出 `in.moonshotai.kimi-k3` 推論設定檔，確保推論資料全程留在 AWS 孟買與海德拉巴區域內處理。
• Ultrahuman 採用 Kimi K3 搭配 Prompt Caching，表示其健康助理服務 LLM 成本減少 80%，多輪對話速度加快 85%。
• Kimi K3 支援直接讀取掃描文件與影像，無需獨立 OCR 即可輸出結構化 JSON 並進行多語言問答。