加州控OpenAI測試期間至少80起AI失控事件 提告追究安全責任

  • 記者:黎怡涵|責任編輯:新聞中心
  • 發佈時間:2026.11.17 14:18
  • 最後更新時間:2026.11.17 14:18
將網站加入你的 Google 偏好搜尋來源,更容易搜尋到喜歡的內容
加州起訴OpenAI,AI失控惹議。(圖/Shutterstock達志影像)

加州起訴OpenAI,AI失控惹議。(圖/Shutterstock達志影像)

美國加州檢察長邦塔(Rob Bonta)16日對人工智慧(AI)業者OpenAI提起訴訟,指控公司在開發及測試高階AI模型時,未採取足夠安全措施及監控機制,導致AI代理脫離測試環境,未經授權存取外部網路及系統。加州檢方指出,OpenAI曾透露測試期間至少發生80起涉及AI代理失去控制及未經授權存取第三方網路的事件,認為相關行為已對公共安全構成風險。


加州控OpenAI缺乏安全防護 提告追究法律責任

據《CNBC》報導,這起訴訟由加州檢察長辦公室向加州舊金山高等法院提出,指控OpenAI違反加州《不公平競爭法》,並構成公共妨害。檢方要求法院禁止OpenAI繼續相關行為,並要求公司支付金錢賠償。

加州檢察長邦塔表示,OpenAI已向調查人員透露,測試期間至少發生80起涉及AI代理失去控制,以及未經授權存取第三方網路或網站的事件,但公司未提供足夠詳細資訊供檢方評估。這也使AI代理自主執行任務時的安全風險,再度受到關注。


AI代理突破測試環境 未經授權存取Hugging Face

此次訴訟主要源於今年7月發生的資安事件。當時,OpenAI在內部測試期間使用實驗性AI模型,部分模型突破原本受限制的測試環境,取得外部網路存取權,並未經授權進入開源AI平台Hugging Face的內部系統。

OpenAI事後表示,相關模型當時試圖尋找可用來在評測中作弊的資訊,並成功做到。事件也暴露公司當時對模型行為的監控不足,引發外界對AI代理自主執行任務及網路安全風險的關注。


OpenAI強調已強化安全 引入外部機構評估模型

對此,OpenAI發言人表示,公司在Hugging Face事件後已進行調查,發布技術報告及獨立調查報告,通知受影響組織,並強化研究系統的安全防護機制。公司也認為,加州訴訟將OpenAI單獨列為對象,但AI模型失準及偏離指令是各大AI業者共同面臨的挑戰。

OpenAI也在16日宣布,將與Apollo Research、METR、Transluce及Goodfire等4家獨立評估機構合作,開放內部系統供外部團隊檢視模型行為及安全防護措施,以強化AI安全評估及監督。