NIST聯合美機構發布AI代理事件應變指引

10月16日，美國國家標準暨技術研究院（NIST）、國家安全局（NSA）及網路安全暨基礎設施安全局（CISA）共同發布10項AI代理事件應變自願性指引。該指引主要面向訓練、評估與部署先進AI代理的組織，將應變流程規劃為準備、偵測、應變、復原及通報5個階段，提供防範代理系統越界行為的具體防護方向。

值得帶走的重點

• CSA指出組織須監控AI代理之工具使用與網路活動，並防範監控紀錄遭竄改；同時可預設存取權限與緊急停止機制，在違規時撤銷權限或停止運作。
• 指引建議保存工具調用與遭阻擋操作之紀錄，並留存模型權重等資訊以利調查；復原前須重測越界行為以驗證防護，並依規進行通報與資訊公開。