Google DeepMind 發表 AlphaProof Code 推進深度軟體形式化驗證

Google DeepMind 研究人員 Pushmeet Kohli 與 Swarat Chaudhuri 發表了名為 AlphaProof Code 的多大型語言模型代理框架，用於對複雜軟體進行深度的形式化驗證。DeepMind 表示，該系統透過數學方法證明了 Signal 密碼學協定實際執行程式碼的關鍵安全屬性；該技術目前用於保護 Signal 與 Google Messages 中的訊息傳輸。DeepMind 稱這是首次有被廣泛部署的密碼學協定實作以此深度完成形式化驗證。 根據報導的工作流程，人類專家先與模型合作將 Signal 的安全目標轉換為形式化數學規格。隨後由 Gemini Carbon 驅動的代理進行證明推導，共生成超過六百萬行 Lean 語言證明程式碼。接著代理審查該證明並標記需由人類二次檢視的部分，約佔整體的一百分之一，其餘則由 Lean 自動驗證。DeepMind 指出，傳統上專家團隊需耗時數年的工作，本次驗證過程耗時四週。 為驗證系統能否區分正確程式碼與漏洞，研究團隊將兩個過去修復過的已知漏洞重新植入 Signal 程式碼的隔離版本中，系統在兩次測試中皆產生了證明該版本不安全的機器檢驗證明。Signal 技術長 Ehren Kret 表示，利用 AI 代理將線上程式碼轉譯為有效的 Lean 定理有助於擴大驗證規模。Google DeepMind 亦表示正開源其形式化驗證相關產物。

值得帶走的重點

• Google DeepMind 發表 AlphaProof Code，結合專家審查與 Gemini Carbon 代理，生成超過六百萬行 Lean 證明以驗證 Signal 協定。
• 驗證流程在四週內完成了 Signal 密碼學協定實作的證明，人類專家僅需針對代理標記的約百分之一內容進行審查。
• 在隔離測試中重新植入兩個已知漏洞時，系統均產出機器檢驗證明確認該版本存在安全問題。
• Google DeepMind 表示將向社群開源其形式化驗證產物。