AI測試怎麼變成資安風險？OpenAI、Anthropic、Meta接連出現異常　35人以色列新創成關鍵

過去兩週，OpenAI、Anthropic與Meta陸續公開AI模型在資安測試中意外連上網路。根據CNBC報導，三起事件都牽涉以色列新創Irregular提供的測試環境，相關設定問題讓AI模型取得原本不應具備的網路存取權。

Irregular成立於2023年，總部位於特拉維夫（Tel Aviv），前身為Pattern Labs，專門協助AI公司進行模型資安評估，測試模型可能出現的攻擊行為與安全弱點。公司曾獲紅杉資本（Sequoia）與Redpoint Ventures投資8000萬美元，2025年估值達4.5億美元。

OpenAI在8月4日表示，Irregular的測試環境出現不明設定錯誤，讓模型可連上公開網路。Anthropic也表示，開始分析相關資料數天後，通知Irregular，Claude模型可能曾存取網際網路。Meta本週則表示，從Irregular得知相關事件，目前仍在調查，待掌握完整事實後將公布完整回顧報告。

AI找漏洞是測試目的　真正問題在隔離

Irregular向 CNBC表示，三起事件均源自同一個測試環境的配置問題，並非模型發生沙盒逃逸，亦非複雜的網路攻擊，目前相關疑慮已全數排除。Irregular正準備白皮書，分享如何更安全地進行AI資安測試。

企業 AI 服務新創Von人工智慧主管Sundeep Bhimireddy形容，這類測試就像請外部考官替AI評分，目的在於避免模型開發商自行替自己評估。Bhimireddy認為，若模型本來不該真正接觸外部網站，開發公司應監控連外流量，必要時立刻停止測試。

資安機構Magnitude創辦科學家Gordon Rios說，AI模型的行為難以預測，傳統軟體測試未必足夠。Anthropic的Mythos曾建立假網路身分，試圖說服人類核准開源專案的惡意程式碼更新，Rios強調，Mythos甚至使用了人類此前沒有見過的漏洞利用方式。

AI測試接連出包　美國會推「Kill Switch」法案

美國國會跨黨派議員上月提出《AI緊急關閉法案》（AI Kill Switch Act），要求特定強大AI系統的開發商具備降低運作能力、暫停或關閉模型的技術能力。

法案上也提及另一宗上個月OpenAI與AI平台Hugging Face的資安事件。法案共同作者、加州民主黨聯邦眾議員Ted Lieu接受訪問時表示，近期出現AI未經授權存取其他公司系統的事件，法案需要在今年完成立法程序。

資料訓練新創Sapien共同創辦人Trevor Koverko說，基礎模型公司雖然沒有法定揭露義務，仍有誘因公開部分發現，希望搶在立法者與監管機關之前建立自律形象。Koverko說，政治圈對AI的焦慮升高，業界傾向自行監管，避免聯邦新部門介入。

OpenAI與Anthropic均表示，將繼續與Irregular合作，並支持後續檢討。