生產環境 AI 代理人上下文工程：Deep Insight 四層實作架構

AWS 機器學習團隊公開了基於 Strands Agents SDK 與 Amazon Bedrock AgentCore 的開源多代理人資料分析系統 Deep Insight 的實作經驗。該指南指出，複雜任務往往在數分鐘內消耗大量 Token，導致 200K 上下文視窗溢出、上下文衰退（Context rot）與成本激增。Deep Insight 將應對策略歸納為四個層次：在架構層以多代理人隔離上下文、透過 Prompt 約束輸出預算與自包含程式碼規則、利用工具將繁重資料與腳本外置到檔案系統，並透過獨立代理人進行驗證與防護。

值得帶走的重點

• 架構層上下文隔離透過精簡的共用狀態字典僅傳遞壓縮後的線索與計畫，使各專業代理人獨立運作，將 Coder 等高負載代理人的上下文控制在 25K Token 以內。
• Prompt 控制層為各代理人設定明確的輸出 Token 上限（如 Coder 1,000–1,500、Validator 800），並規定腳本必須自包含以避免依賴過往對話記憶。
• 工具層將大型內容外置於檔案系統，藉由將寫入與執行整合成單一工具，使每份腳本進入上下文的 Token 量減少約 95%。