衛福部下一階段醫療AI指引擬納AI Agent治理，聚焦授權與責任追溯

衛福部於今年5月發布醫療機構生成式AI應用指引，供公私立院所作為行政指導參考，但當時尚未納入能自主決策與採取行動的AI Agent。衛福部醫事司司長劉越萍在臺灣醫院資訊主管會議上指出，隨著AI從內容生成邁向自主行動，下一階段指引需處理授權範圍、人類接管、行動紀錄、緊急停止機制及責任追溯等核心議題，惟具體發布時程與詳細適用範圍尚未公布。 劉越萍表示，醫療機構落實AI治理應先盤點工具並建立清冊，掌握採購產品、自研模型、RAG應用、部門影子AI及既有系統更新帶來的AI功能。醫院須記錄用途、資料流向、供應商與風險等級，並釐清業務與監測責任人。對於高風險應用，院方應在真實場域進行院內驗證，例如靜默試驗或有限試辦，且系統上線後須持續監測錯誤、病安事件與服務變更，並落實人工監督與退場機制。

值得帶走的重點

• 衛福部下一階段醫療AI指引擬將具自主行動能力的AI Agent納入治理，聚焦授權範圍、人類接管、行動紀錄、緊急停止與責任追溯，具體時程未定。
• 今年5月發布的醫療生成式AI指引屬行政指導性質，提出指派主責單位、資安與資料評估、人工確認及持續監測等5大核心原則。
• 醫療機構AI治理首重盤點工具清冊，涵蓋採購服務、自研模型、RAG、影子AI與既有更新，並記錄用途、資料流與負責人員。
• 導入AI需在真實場域進行院內驗證，如靜默試驗或有限試辦，且系統上線後須持續監測錯誤與病安事件並設退場機制。