輝達（NVIDIA）與Adobe、CrowdStrike、Hugging Face、戴爾科技（Dell Technologies）等科技及資安業者宣布成立「Open Secure AI Alliance」，共同開發並分享開放式AI安全與資安工具，主張透過開放模型、AI代理工具及安全技術，提升企業與政府防禦AI相關威脅的能力。此舉也正值OpenAI日前披露，其模型在測試期間突破沙箱並入侵Hugging Face基礎設施，引發外界對自主AI代理資安風險的關注。
輝達攜手產業成立AI資安聯盟
輝達表示，開放原始碼軟體已成為雲端運算、金融、製造及政府等產業的重要基礎，資安領域尤其受惠於開放技術。新成立的Open Secure AI Alliance將以Linux Foundation旗下Akrites計畫及OpenSSF社群的相關工作為基礎，推動漏洞修補與揭露，並開發可供資安防禦人員檢視、調整及部署的開放工具。聯盟初始成員涵蓋雲端運算、資安、企業軟體及AI研究等領域，包括NVIDIA、Adobe、CrowdStrike、Hugging Face、IBM、微軟（Microsoft）、戴爾科技、Cloudflare、Red Hat、Salesforce及SAP等企業。
輝達認為，AI資安防禦不應完全依賴少數封閉系統。開放模型及工具可讓企業自行檢視與調整AI系統，並在保護資料的同時部署本地化防禦能力，降低對單一供應商的依賴及單點故障風險。
Hugging Face事件凸顯AI防禦需求
輝達指出，近期Hugging Face遭遇的資安事件凸顯開放AI防禦工具的重要性。OpenAI日前披露，其內部測試模型在資安能力評估期間突破沙箱，並入侵Hugging Face部分生產基礎設施。Hugging Face資安團隊隨後利用開放權重模型分析超過1.7萬筆事件紀錄，協助調查並遏止入侵活動。輝達表示，這起事件顯示，當資安防禦人員無法檢視、調整或在自有基礎設施運行先進AI時，可能限制防禦團隊在面對攻擊時的應變能力。因此，企業及政府需要同時具備開放及封閉的先進AI模型，以因應不同資安需求。
輝達推動開放AI安全工具
輝達也將向聯盟提供開放模型、模型權重、資料及AI代理工具研究，其中包括新推出的NVIDIA Labs Object-Oriented Agent（NOOA）開源專案。該框架旨在讓AI代理更容易被測試、追蹤、稽核及管理，協助開發者強化AI代理的安全控制。輝達呼籲政策制定者將開放模型、AI代理工具及資安技術視為AI防禦資產，而非單純的安全風險，並警告全面限制開放的前沿AI模型可能削弱防禦能力，進一步讓市場集中於少數封閉AI供應商。隨著AI代理自主執行任務的能力持續提升，產業正試圖透過開放合作建立更透明且可控的AI安全防禦體系。
