卡內基美隆學者共創 SafeWorld 以數位孿生模擬驗證 AI 機器人人機協作安全

隨著生成式人工智慧模型導入機器人控制系統，AI 運作的機率不確定性為實體安全驗證帶來挑戰。美國卡內基美隆大學「安全人工智慧」實驗室主任 Ding Zhao 聯手 Kyle Wong 與 Simo Rachidi 成立 SafeWorld，開發針對 AI 機器人的安全模擬與驗證解決方案。 SafeWorld 在 Genesis、MuJoCo 等模擬器中建立工廠與視線盲區的數位孿生版本，並導入實際軟體驅動的待測機器人，藉由逼真的人體模型模擬數千種互動場景，包括人類絆倒、跌倒等行為對機器人反應的影響。Ding Zhao 指出，機器人多處於非結構化且安全標準各異的環境，解決邊緣案例難度高。合作夥伴 Gritt Robotics 技術長 Vishal Dugar 亦表示，安全保障須考量人類各種姿態與外觀差異，並結合實證操作。 SafeWorld 團隊表示目前正探索平台化或服務導向等商業模式，日前亦宣布獲得 1200 萬美元首輪融資。

值得帶走的重點

• 卡內基美隆大學學者 Ding Zhao 與團隊創立 SafeWorld，旨在解決生成式 AI 控制機器人所衍生的隨機性與安全評估挑戰。
• SafeWorld 利用 Genesis 與 MuJoCo 等模擬器建構數位孿生環境，測試視線盲區及人類絆倒、跌倒等數千種人機互動邊緣情境。
• 合作夥伴 Gritt Robotics 技術長指出，僅憑數學推導難以保障安全，必須納入人類姿態與外觀差異並透過實證檢驗。