AWS 提出 Amazon Bedrock 成本管理五階段實務架構

AWS Machine Learning 提出一套針對 Amazon Bedrock 的生成式 AI 成本管理實務指引，協助 FinOps 與平台工程團隊協作控制雲端支出。AWS 指出，具備規劃、讀檔、工具調用與反覆運算能力的 Agent 架構，會執行多次調用並攜帶更大上下文，使得 Token 消耗隨自主程度增加，無法單靠縮短提示詞解決。該指南提出五階段循環操作模型：歸屬、觀測、限制、優化與運作。在歸屬階段，Bedrock 的細部成本歸屬功能可將推論成本記錄於 CUR 2.0 的 IAM Principal 欄位；針對共用 Role 造成的歸屬盲點，建議透過 STS Session Tags 進行個別使用者會話管理與暫存。觀測方面則利用 CloudWatch 或 S3 的調用日誌搭配自訂 Request Metadata，追蹤各工作流程的消耗量。預算執行則涵蓋從純警報的 AWS Budgets，到透過 Lambda 與 DynamoDB 觸發 IAM Deny 政策的強制阻擋方案。

值得帶走的重點

• AWS 表示 Agent 架構因多輪工具調用與較大上下文，Token 消耗量主要取決於流程自主程度與設計架構，而非僅受使用者互動次數影響。
• 管理架構分為五階段循環：費用歸屬至身分團隊、日誌觀測調用細節、預算強制限制、集中優化平台預設值以及跨部門運作檢視。
• 透過 CUR 2.0 的 IAM Principal 欄位進行細部費用歸屬，並以 AWS STS Session Tags 解決 LLM Gateway 共用 Role 造成的能見度遺失問題。
• 預算控制提供不同層級選擇，包含無阻斷的 AWS Budgets 閾值警報，以及透過 Lambda 統計並寫入 IAM 拒絕存取政策的自動化限制機制。