Anthropic 揭露 AI 閉環研發風險：研發加速恐超越安全措施且指標落後

Anthropic 於美國時間 11 月 2 日向美國證券交易委員會遞交 S-1 上市申報文件修正案。除營收數據外，文件風險因素詳細揭露了以 AI 加速 AI 研發帶來的治理挑戰。 Anthropic 表示，內部將每一代 Claude 協助開發下一代的流程稱為閉環，並已應用於實驗、資料處理、測試及程式碼撰寫。截至 2026 年 9 月，公司程式庫有超過 90% 的貢獻由 Claude 產出，工程師每日平均程式碼貢獻量達到 2024 年平均的 45 倍以上。然而，公司坦言進展加速往往依賴落後指標，過去曾在加速發生後才察覺，未來模型可能即將符合負責任擴展政策（RSP）中「由 AI 帶來的劇烈加速進展」定義。 Anthropic 警告，若模型能力進展超越相應安全與資安措施的建構速度，可能增加事故與監管介入風險。此外，為維護安全監控所採取的資料保留要求，已與受監管產業企業客戶要求的零資料保留（ZDR）產生衝突，促使部分客戶轉向其他服務商。為此，Anthropic 正分階段推出將監控資料存於客戶端雲端的保護機制。

值得帶走的重點

• Anthropic 指出 2026 年 9 月程式庫逾 90% 貢獻由 Claude 撰寫，工程師角色轉為指揮與審查。
• 文件坦承研發加速多屬落後指標，內部評估未來模型可能觸及 RSP 所定義的劇烈加速門檻。
• 公司表示即使技術可行，也不預期在無實質人類監督下讓 AI 完全自主打造下一代前沿模型。
• 安全框架對資料保留的要求引發與企業客戶 ZDR 期待的衝突，已促使部分客戶轉向競爭對手。