Anthropic 發布 FlashProve 原型，實現大語言模型推論密碼學驗證

Anthropic 與來自 MIT、EPFL、StarkWare 等機構的研究人員合作發表 FlashProve 開源原型，展示大語言模型的「可證明推論」（provable inference）。該純軟體方案採用 zkSNARK（零知識簡潔非互動式知識論證）技術，使模型供應商在不揭露權重的前提下，向使用者或稽核端證明輸出確由特定模型生成。在 400B 參數混合專家模型（Llama 4 Maverick，4 位元量化）測試中，單張 H100 GPU 的證明生成速度約為每秒 110 個 token，耗費 GPU 時間約為 vLLM 推論的 70 至 95 倍。團隊以 Apache 2.0 授權釋出執行程式碼（含 C++ 與 Lean 驗證器）及形式化證明文件。

值得帶走的重點

• FlashProve 透過零知識密碼學機制提供可驗證性，使外部在不獲取私有模型權重的情況下查驗輸出真確性。
• 在 400B 參數 MoE 模型實測中，單張 H100 GPU 生成證明速度約每秒 110 個 token，每 1,024 個 token 產生約 19 MB 證明檔案。
• Anthropic 依 Apache 2.0 授權開放原始碼，內含 C++ 驗證器、具數學證明的 Lean 驗證器與互動式視覺化工具。
• 此技術旨在應對模型竄改檢測、算力監管合規，以及第三方路由或高資安情境下的文字真實來源查核。