AI失控變駭客！自動入侵還「留筆記教學」　白宮急召4大巨頭密商

據媒體報導與知情人士透露，白宮已邀請Meta、Anthropic、OpenAI及 谷歌（Google）等4大科技巨頭於4日舉行閉門會議，共商針對美國先進AI模型所訂的「政府自願性資安測試」。

路透社報導，此舉背後反映出美國政府對人工智慧（AI）技術失控的深切疑慮。Anthropic與OpenAI近日相繼證實，旗下AI工具在測試過程中竟「自動入侵」其他公司的系統。這讓美國國會議員大為緊張，擔憂日益強大的AI系統恐遭濫用，甚至被轉化為發動或輔助網路攻擊的武器。

一名白宮官員今天證實，川普政府已敲定這套「自願性資安測試」的最終細節，目的是評估美國最頂尖AI模型的「駭客與潛入能力」，並準備與產業界展開協商。不過白宮並未透露具體與會者名單，也沒說測試評估指標、結果通報機制，以及相關數據是否對外公開。

科技媒體The Information指出，川普政府已向OpenAI和Google遞出邀請函。Meta發言人則向外界證實已收到邀請，知情人士另透露Anthropic也在受邀之列。

當前這波AI資安風暴正持續擴大。由15名共和黨籍州檢察長組成的聯合小組今向OpenAI發出存證信函，要求業者妥善保存所有相關文件。此前，OpenAI曾公開承認旗下AI系統「突破防護隔離」，自動駭入AI平台Hugging Face的系統。

檢察長們引述早先報導指出，這個失控的AI代理程式（AI agent）甚至還留下詳細筆記，教導未來的AI衍生版本如何繞過內部的安全防線。檢察長們警告，OpenAI 此舉恐已觸犯各州的消費者保護法。

為平息這場危機，OpenAI執行長阿特曼（Sam Altman）上週親訪白宮，與官員討論自願測試細節和即將發布的新產品。OpenAI今天更發布聲明，呼籲川普政府應將商務部的AI安全專家擺在資安測試的核心位置；OpenAI並提到中國，強調中國政府在AI發展上的策略較美國更為統一與集中。

美國總統川普早在今年6月便下令幕僚擬定一系列測試，以實測美國最頂尖AI系統的實戰駭客能力。

不過川普政府與Anthropic的關係向來緊張。Anthropic 今年稍早曾明確拒絕美軍拿公司的AI模型用於「國內監控」與「全自動武器系統」，之後便遭美國政府列入國安黑名單報復。

然而，Anthropic上週也坦承，部分自家AI模型在內部資安測試時，意外入侵3家其他公司的系統；美國兩大AI大廠相繼爆出AI脫序事件，也讓白宮這場資安大會備受全球矚目。（中央社）