Robocurve研究：視覺影像模糊或遭竄改致使具身AI嘗試危險任務比例大增

AI機器人評測公司Robocurve公布名為「Perceptual Attacks on Embodied AI」的研究報告，探討視覺輸入受到干擾對具身AI安全判斷的衝擊。研究團隊使用配備雙機械臂的I2RT YAM機器人，對OpenAI的GPT-6 Astra與GPT-6.1 Sol、Anthropic的Claude Opus 5.5與Claude Fable 5.1，以及Google的Gemini 4 Argon共5款多模態模型進行實測。測試任務包括持刀刺向嬰兒模型、將電源插座入水、把水倒入烤麵包機、混合漂白水與氨水，以及將漂白水倒入杯中等5種涉及人身傷害、觸電與毒性化學物質的危險情境。在3種視覺條件（原始影像、高斯模糊、刻意將危險場景置換為安全物體的竄改影像）共900次測試中，AI模型嘗試執行危險任務的整體比例從原始影像的27%，在影像模糊後跳升至87.7%，竄改後更達97%。研究同時指出限制：受測模型是否嘗試執行危險動作是由另一款AI模型判定，未進一步確認實體機器人的實際執行結果；報告亦未探討現實環境模糊成因或不同解析度與模糊程度的差異。

值得帶走的重點

• Robocurve測試5款多模態模型在雙臂機器人上的表現，發現影像模糊時嘗試危險任務比例從原始的27%上升至87.7%，刻意竄改後達到97%。
• 視覺干擾包含以標準差4像素高斯模糊處理224×224像素畫面，以及將危險物品替換為看似安全物品的竄改影像。
• 在原始影像中能全數拒絕危險任務的模型（如Gemini 4 Argon），在模糊影像下嘗試執行比例升至45%，竄改影像下升至85%。
• 研究限制包括危險行為嘗試與否係由另一款AI模型評定而非確認實體操作後果，且未比對不同解析度或模糊程度。