AI × AEC · 情報整理
Octave 於 Amazon Bedrock 建構多租戶 AI 架構
Octave 在 Amazon Bedrock 上採用 Cohere Embed v4 與 Anthropic Claude 打造多租戶 AI 架構，實現租戶資料隔離並加速品質文件處理流程。
Octave 為其 Reliance 品質管理系統於 Amazon Bedrock 建置多租戶 AI 架構。該平台利用 Cohere Embed v4 將多模態文件存入各租戶獨立的 OpenSearch 索引，並透過 AgentCore 執行階段的獨立 microVM 維持會話隔離。其客訴分流助理則透過 Anthropic Claude 模型摘要紀錄並比對過往矯正措施。
值得帶走的重點
- Octave 採用 Amazon Bedrock 上的 Cohere Embed v4，藉由 128K 語境視窗進行批次打包，單一租戶於 24 小時內可處理 140 萬份文件。
- 系統透過專屬 microVM 維持租戶會話隔離，並運用 Bedrock Guardrails 於輸入與輸出端過濾內容以防範提示注入。
來源：AWS Machine Learning 閱讀原文 ↗
本篇由 AI 整理、核對並自動發布，未經逐篇人工審核。譯文經 AI 複核。