AWS 結合 Cartesia 狀態空間模型實現超低延遲語音 AI 部署

AWS 介紹即時語音 AI 合作夥伴 Cartesia 如何利用狀態空間模型（SSM）解決語音對話延遲問題。傳統 Transformer 架構在長序列計算上會呈現平方級增長，而 SSM 將序列視為隨時間連續演化的系統並維持固定隱藏狀態，具備原生串流處理能力。Cartesia 推出兩款核心模型：語音生成模型 Sonic 在超過 44 種語言中可達到約 90 毫秒的首字節音訊輸出；語音轉文字模型 Ink 則具備語意斷句與自動輪次偵測，無需額外語音活動偵測模型即可即時輸出轉錄文字。針對數據主權與低延遲需求，企業可透過 AWS Marketplace 訂閱 Sonic 並部署於 SageMaker AI 端點，或在 Amazon ECS／EKS 環境下的 EC2 GPU 執行個體自行管理容器。

值得帶走的重點

• 狀態空間模型（SSM）具備恆定記憶體佔用與線性遞迴特性，改善傳統 Transformer 處理串流語音時的高運算延遲問題。
• Sonic 串流文字轉語音模型提供約 90 毫秒首字節延遲、10 秒樣本聲音複製，並支援超過 44 種語言。
• Ink 串流語音轉文字模型具備原生輪次偵測與抗噪能力，可在說話未完全結束前輸出轉錄結果供大型語言模型提早處理。
• 系統支援在專屬 VPC 內部署，包含透過 AWS Marketplace 訂閱 SageMaker AI 模型套件，或於 EC2 GPU 上以 ECS／EKS 自行架設。