Hugging Face 提出模型整合合約以加速 CI 測試

Hugging Face 發表模型整合合約（transformers-mic）提議標準，旨在於 Pull Request（PR）階段及早攔截 Transformers 函式庫中的回歸問題，避免依賴耗費龐大 GPU 資源的完整測試鏈。Transformers 目前支援逾 750 種模型，每次 PR 均執行全量 GPU 整合測試並不切實際，導致如 2026 年 7 月 UMT5 因 SDPA 漏洞導致解碼器預看答案的問題在主分支殘留近兩個月。MIC 作法為依真實模型架構建構大幅縮減的測試固定件（fixture），縮減維度與層數但完整保留所有層類型、標記器與預處理設定。合約包含該固定件、可執行的使用路徑以及經人工審核的基準輸出。在歷史回溯中，UMT5 固定件僅耗時約 13.4 秒即可在 CPU 上抓出異常。截至 2026 年 11 月 1 日，該 CI 機制採通報而不阻擋 PR 方式運作，持續評估誤報率與維護成本。

值得帶走的重點

• Transformers 涵蓋 750 多種模型，難以在每次 PR 執行完整 GPU 測試，導致如 2026 年 7 月 UMT5 解碼器滲漏回歸留在主分支近兩個月。
• 模型整合合約（MIC）封裝了縮減版模型固定件、Markdown 可執行路徑與經審核的基準輸出，可在平價 CPU 上快速比對結果。
• 固定件透過縮減隱藏層與深度來瘦身，但 byte-for-byte 保留標記器、預處理檔案與各類特殊層結構（如滑動注意力或 MoE）。
• 截至 2026 年 11 月 1 日，MIC 檢查已納入 Transformers CI，但暫不阻擋 PR 合併，仍待觀察誤報率與實際攔截成效。