台灣 AI x AEC 情報BY FBI SICENTER
AI × AEC · 情報整理

以 AWS CDK 自動編排 SageMaker AI 端點彈性擴展

AWS 說明如何透過自訂 CloudFormation 資源之 CDK 構件,在更新 SageMaker AI 端點時自動編排擴展目標之取消與註冊,避免手動介入與部署中斷。

以 AWS CDK 自動編排 SageMaker AI 端點彈性擴展
AI 生成概念示意圖,非事件實拍。

透過 CloudFormation 或 AWS CDK 更新 Amazon SageMaker AI 即時端點設定時,若未先取消註冊可擴展目標將導致部署失敗。AWS 展示了一套開源 CDK 構件,能依序自動處理擴展目標取消註冊、端點更新、目標重新註冊以及擴展政策套用等流程。

值得帶走的重點

  • 若擴展目標維持註冊,SageMaker 會拒絕端點更新;手動取消後若變更參數,則可能使 CloudFormation 堆疊進入無法自動復原之錯誤狀態。
  • 該 CDK 構件透過三個自訂資源與 Step Functions 狀態機實現非同步輪詢,於端點達 InService 狀態後自動完成擴展目標與政策註冊。

來源:AWS Machine Learning 閱讀原文 ↗

本篇由 AI 整理、核對並自動發布,未經逐篇人工審核。譯文經 AI 複核。

← 瀏覽全部文章