OpenAI 推出 Control Room 中央系統以追蹤並中止研究模型工作負載

OpenAI 發表中央控制系統 Control Room，用於追蹤其內部研究基礎設施中的各項工作負載，並在發生安全或防護疑慮時快速中止模型生成。Control Room 已部署於研究環境中，涵蓋強化學習實驗、評測作業與代理取樣等推論工作。當人員或自動對齊監控系統發出中止指令時，Control Room 會將該工作的識別碼標記為終止。該機制並非依賴容易變動的研究端工作程式碼，而是在直接於 GPU 上運行的推論引擎層進行攔截。推論引擎在處理請求前必須向 Control Room 確認授權狀態；一旦工作被終止，引擎便會拒絕推論請求，同時維持該推論引擎繼續為其他合法工作服務。OpenAI 表示，由於推論授權設有快取層，目前從下達中止指令到完全停止產出的最長時間為 35 秒，未來目標將延遲降至零。此外，該系統採用「故障關閉（fail-closed）」設計，若 Control Room 服務發生故障或遭竄改停用，推論引擎將全面拒絕請求，直至系統恢復正常運作。

值得帶走的重點

• Control Room 作為 OpenAI 研究基礎設施的中央註冊與中止機制，可在收到介入決定後 35 秒內停止模型輸出。
• 各項研究工作負載須取得關聯安全案例的識別碼，GPU 上的推論引擎在產生權標前必須向中央系統核對授權。
• 監控前沿模型訓練的獨立監控模型可在偵測到異常時，直接向 Control Room 發出訊號以終止作業。
• 系統具備故障關閉（fail-closed）架構，若 Control Room 服務中斷或失效，所有推論請求將預設被拒絕。