OpenAI、Google等4大AI實測防護遭突破 美報告揭可產出恐攻計畫

  • 記者:林惠雯|責任編輯:新聞中心
  • 發佈時間:2026.11.19 17:27
  • 最後更新時間:2026.11.19 17:27
將網站加入你的 Google 偏好搜尋來源,更容易搜尋到喜歡的內容
(圖/Shutterstock達志影像)

(圖/Shutterstock達志影像)

美國國會監督機構「政府問責署」(GAO)於 18 日公布報告,GAO 在測試中發現,4 款主流 AI 聊天機器人皆在不到 12 小時內,產出可協助策劃恐怖攻擊的規劃資訊。在其中一個案例中,系統甚至生成一張停車場結構圖,並標出炸彈車輛的建議停放位置。

根據華盛頓郵報報導,此次受測的 4 款聊天機器人分別為 OpenAI 的 ChatGPT、Anthropic 的 Claude、SpaceXAI(原馬斯克旗下 xAI)的 Grok,以及 Google 的 Gemini。GAO 稽核人員回報,這些系統起初雖觸發拒絕請求、刪除內容或停權等安全防護機制,但稽核人員最終仍透過常見的提示詞誘導手法(俗稱「越獄」),繞過系統的安全護欄。

美參議員擬明年1月優先推動立法

針對測試結果,受測 AI 業者普遍向 GAO 表示將持續改善平台安全性;其中 OpenAI 與 Google 等業者指出,這項在今年春季進行的測試涉及較舊版本的系統,後續幾個月內已強化安全防護措施。

這份國會監督報告是由新罕布夏州民主黨籍聯邦參議員瑪姬.哈桑(Maggie Hassan)要求進行,她依順位將接任參議院國土安全暨政府事務委員會主席。哈桑表示,待民主黨於明年 1 月掌控參議院後,將優先推動立法解決這項問題。

哈桑透過聲明警告:「恐怖分子只要登入 AI 平台,不到 12 小時就能帶著一份如何執行致命攻擊的具體行動指南離開。」她強調,這份最新報告清楚表明,「AI 對公共安全的威脅已不再只是理論」。