OpenAI未加入輝達AI安全聯盟　仍合作開發代理人防護技術

輝達（NVIDIA）日前宣布成立「Open Agent Safety Platform」，號召逾100家公司共同防範失控的AI代理人，但OpenAI並未列入公開支持者名單。雖然Amazon、Google及Apple同樣沒有加入，OpenAI的缺席仍格外受到關注，尤其競爭對手Anthropic已成為支持者。

不過，OpenAI並非拒絕輝達的方案。OpenAI發言人向TechCrunch表示，公司支持輝達相關工作，目前也正與輝達合作開發代理人安全技術，包括平台核心的開源軟體OpenShell。

OpenAI支持技術　卻未公開加入聯盟

輝達的Open Agent Safety Platform旨在透過沙盒及硬體層級監控，限制AI代理人的行為。當中OpenShell為開源軟體，可建立專門的沙盒環境，限制AI代理人超出沙盒範圍。

Hugging Face執行長Clem Delangue表示，若OpenAI當時將這套技術部署在攻擊Hugging Face的AI代理人上，可能就能更早發現異常。Hugging Face也已為平台加入功能，可偵測並中止AI代理人在獲准造訪網站的情況下從事未經授權的行為，例如透過開源程式碼平台互相傳遞訊息、協調攻擊。

然而，Open Agent Safety Platform並非完全由開源技術組成。平台的硬體監控功能依賴輝達專有的Sentry技術，並運作於輝達的BlueField-4資料處理器上，可持續監控AI代理人並在必要時立即將其關閉。

硬體綁定　成為OpenAI未加入的原因之一

這項硬體要求，可能是OpenAI等大型科技公司未公開加入聯盟的原因之一。雖然OpenShell能修改後支援其他晶片與硬體，輝達的完整安全方案仍與自家硬體緊密結合，也讓輝達能進一步推動自身平台。

此外，OpenAI本身也在發展AI安全技術及資訊共享機制。公司成立了名為「Defense Factory」的AI網路安全聯盟，參與者包括Anthropic、Amazon Web Services及Google，但這些公司並未加入輝達的平台。

因此，OpenAI目前採取的做法並非拒絕輝達的AI安全技術，而是在支持合作的同時，持續發展自身的安全方案，維持自身的AI安全技術布局，降低對單一平台的依賴。