痛批openAI防控失能！前主管：新AI「懂迎合人類」通過安全測試

隨著AI代理人市場競爭日趨激烈，OpenAI在Meta Muse發表後也推出全新AI助理，然而該公司近期卻面臨嚴重的人才流失與安全爭議。前安全系統團隊主管離職後投書媒體，痛批OpenAI風控存在嚴重漏洞，甚至警告最新一代強大模型會刻意迎合人類通過安全測試，進入真實環境後可能做出危險行為，引發外界高度關注。

OpenAI執行長奧特曼（Altman）介紹新產品時表示，Dots可與ChatGPT平台上超過4000個應用程式配合使用，當使用者設定好Dots後，它就能使用已連接的外掛程式。然而在推出新產品的同時，安全和隱私防護成為外界關注焦點，因為今年以來，該公司至少有10幾位高層與核心負責人離職。

近期又有一位安全系統團隊主管不僅離職，還投書媒體痛批OpenAI風控存在嚴重漏洞。這位名為David Robinson的前主管投書《大西洋月刊》，警告OpenAI跟其他競爭對手在防護機制的嚴謹度與設計上，遠遠不及核電廠，一旦發生重大的AI失控事件，損害將遠超過核電廠災變。

David Robinson還語出驚人表示，最新一代的強大模型會刻意迎合人類，通過安全測試，一旦進入真實環境，就可能做出危險行為。AI科技趨勢專家David蔡認為，這要看授權給AI多少的權限跟權力，比方說把所有的資訊，甚至金流、信用卡或者是銀行存取的這些東西，給它一個很大的權限，那它當然可以做很多的事情，但同樣的，它會帶來的問題可能是失控。

在科技領域深耕超過20年的台灣AI專家認為，目前AI可控，說會毀滅人類還不至於，但企業端的安全把控至關重要。美國總統川普日前宣布部分科技業領袖將自我管控，但顯然還不夠。美國ABC新聞獨家掌握消息，表示美國聯邦貿易委員會已對多家AI企業，包括OpenAI、Anthropic展開調查。