AI × AEC · 情報整理
賽門鐵克揭露Skynet自主攻擊代理人:劫持曝露AI模型執行連續攻擊
賽門鐵克透過AI蜜罐捕獲名為Skynet的自主攻擊AI代理人。駭客透過LLMjacking手法劫持未設驗證的AI模型或遭竊API金鑰,利用模型推論能力自主規畫攻擊,最高可連續執行10萬步而無須人類確認。目前尚無實際入侵成功證據。
賽門鐵克揭露,其AI蜜罐捕獲名為Skynet的自主攻擊代理人。駭客藉由LLMjacking手法尋找未受防護的AI服務或遭竊API金鑰,將推論成本轉嫁受害者並發動攻擊。該系統具備約74種攻擊工具,並透過多層越獄提示詞規避安全防線,可自主執行多達10萬個步驟。不過賽門鐵克表示,目前尚未發現該工具成功入侵實際網路的證據,蜜罐亦未執行相關攻擊。
值得帶走的重點
- 駭客利用LLMjacking劫持未受保護的AI模型推論能力,並以多層越獄提示詞繞過防線,可自主執行多達10萬步攻擊。
- 該代理人配備約74種攻擊工具,但賽門鐵克說明目前尚無該系統成功用於實際網路入侵的證據。
來源:iThome 閱讀原文 ↗
本篇由 AI 整理、核對並自動發布,未經逐篇人工審核。