影音/AI安全敲警鐘「2030恐殺死人類」!業界高層籲減速 輝達仍砸百億美元布局
- 記者:張正安|責任編輯:新聞中心
- 發佈時間:2026.09.13 14:21
- 最後更新時間:2026.09.13 14:21
- 記者:張正安|責任編輯:新聞中心
- 發佈時間:2026.09.13 14:21
- 最後更新時間:2026.09.13 14:21
全球人工智慧(AI)發展持續加速,卻引發業界人士對安全問題的高度關注。Anthropic前員工近期發出警告,指稱打造AI的研發人員確實相信AI可能在2030年前對人類構成致命威脅,執行長阿莫戴亦公開呼籲AI開發需要減速,讓安全措施跟上腳步,而OpenAI執行長奧特曼也表態支持放慢開發速度,承諾今年不會上市,優先處理AI安全問題。

Anthropic前研究員考克森表示,從沒看過AI安全相關貼文引起這麼大迴響,應該是因為最近幾個月接連出現網路攻擊事件。阿莫戴於12日發文強調AI開發需要減速,讓安全措施能夠跟上腳步。他在CNN專訪中進一步表示,他與前員工的看法多數一致,認為整個產業發展過快。阿莫戴認為,與其說機率是10%像在擲骰子,不如說未來有不同的路可走,選對方向出問題的機率就會很低,走錯方向風險甚至可能更高。AI研究員Daniel Kokotajlo強調,這些警告不只來自AI業界內部,獨立專家也提出警告。
儘管阿莫戴呼籲減緩發展速度,資金仍持續布局。根據路透引述消息人士指出,輝達正洽談在Anthropic上市時投資最多100億美元,但交易尚未定案。
Anthropic也揭露旗下大型語言模型Claude遭人濫用的案例。葉門胡塞組織的武器研發團隊利用Claude Code編寫飛彈導引軟體,一次火箭試射疑似失敗,相關帳號隨即遭到封鎖。英國皇家聯合軍種研究所資深研究員Louise Marie Hurel表示,必須了解如何控制AI代理,也要確認目前有哪些危機處理和緊急應變程序,包含政府層級的相關規範。
除了人為濫用,能自行執行任務的AI代理又傳失控。研究人員發現OpenAI旗下代理5月就曾攻擊軟體服務平台RubyGems,OpenAI確認事件,強調原本執行的是良性任務。奧特曼也出面支持放慢AI開發速度,承諾開放獨立評估,並表明今年不會上市,現階段優先處理AI安全問題。









