Anthropic 於修訂文件中指出或接近 AI 加速自身研發門檻

根據媒體報導，Anthropic 於 11 月 2 日公開的修訂版 S-1/A 申請文件中新增了關於 AI 加速研發的風險說明。文件中提到，內部估計與對未來模型的預期顯示，其可能即將達到該公司《負責任擴展政策》（RSP）所定義由 AI 帶來的大幅加速進展。Anthropic 表示，公司已使用 AI 協助內部研發，但尚未認定有任何現有模型正式跨越此門檻，目前仍在持續評估數據。此外，該公司指出在缺乏人類監督下難以確保自主迭代開發頂尖模型的安全性，正評估修改 RSP 政策，確保頂尖模型持續受人類掌控。

值得帶走的重點

• Anthropic 在修訂版 S-1/A 申請文件中表示，內部評估顯示可能即將達到由 AI 大幅加速自身研發的門檻。
• 該公司說明曾使用 AI 加速研發且事後才察覺，但目前尚未認定任何現有模型已跨過該門檻。
• Anthropic 正考慮更新負責任擴展政策（RSP），以確保頂尖模型在缺乏監督時不會自主連續迭代，維持人類掌控。