OpenAI 宣布推出社群安全報告並強化未成年防護措施

OpenAI 宣布兩項安全措施：預計定期發布的社群安全報告，以及針對暴力與武器相關內容的更嚴格限制，特別聚焦於未成年人防護。OpenAI 表示在 2026 年第三季已向執法單位通報超過 200 起緊急暴力威脅，並規劃於 2027 年初發布涵蓋 2026 下半年的首份報告。此外，新政策將全面限縮對過往大規模攻擊事件的重建細節。針對預測未滿 18 歲的用戶，系統將進一步限制武器與安防系統等實用資訊，並透過行為年齡預測及自動中斷對話機制，防範暴力意圖固定化行為。

值得帶走的重點

• OpenAI 預計於 2027 年初發布半年期社群安全報告，公開威脅偵測、政策調整與執法通報等相關數據。
• ChatGPT 針對所有用戶限縮過往大規模攻擊細節與武器獲取等敏感資訊，降低暴力擴散風險。
• 對話若出現持續執著於嚴重傷害或暴力的跡象，系統將可自動中斷交談，情節嚴重者將暫停帳號。
• 未成年用戶面臨更嚴格的武器與安防系統資訊限制，並搭配行為年齡預測系統與 Persona 驗證機制。