影音/AI安全敲警鐘「2030恐殺死人類」!業界高層籲減速 輝達仍砸百億美元布局

  • 記者張正安責任編輯新聞中心
  • 發佈時間:2026.09.13 14:21
  • 最後更新時間:2026.09.13 14:21

全球人工智慧(AI)發展持續加速,卻引發業界人士對安全問題的高度關注。Anthropic前員工近期發出警告,指稱打造AI的研發人員確實相信AI可能在2030年前對人類構成致命威脅,執行長阿莫戴亦公開呼籲AI開發需要減速,讓安全措施跟上腳步,而OpenAI執行長奧特曼也表態支持放慢開發速度,承諾今年不會上市,優先處理AI安全問題。

Anthropic執行長阿莫戴示警AI發展速度過快 (圖/達志影像美聯社)
Anthropic執行長阿莫戴示警AI發展速度過快 (圖/達志影像美聯社)

Anthropic前研究員考克森表示,從沒看過AI安全相關貼文引起這麼大迴響,應該是因為最近幾個月接連出現網路攻擊事件。阿莫戴於12日發文強調AI開發需要減速,讓安全措施能夠跟上腳步。他在CNN專訪中進一步表示,他與前員工的看法多數一致,認為整個產業發展過快。阿莫戴認為,與其說機率是10%像在擲骰子,不如說未來有不同的路可走,選對方向出問題的機率就會很低,走錯方向風險甚至可能更高。AI研究員Daniel Kokotajlo強調,這些警告不只來自AI業界內部,獨立專家也提出警告。

儘管阿莫戴呼籲減緩發展速度,資金仍持續布局。根據路透引述消息人士指出,輝達正洽談在Anthropic上市時投資最多100億美元,但交易尚未定案。

Anthropic也揭露旗下大型語言模型Claude遭人濫用的案例。葉門胡塞組織的武器研發團隊利用Claude Code編寫飛彈導引軟體,一次火箭試射疑似失敗,相關帳號隨即遭到封鎖。英國皇家聯合軍種研究所資深研究員Louise Marie Hurel表示,必須了解如何控制AI代理,也要確認目前有哪些危機處理和緊急應變程序,包含政府層級的相關規範。

除了人為濫用,能自行執行任務的AI代理又傳失控。研究人員發現OpenAI旗下代理5月就曾攻擊軟體服務平台RubyGems,OpenAI確認事件,強調原本執行的是良性任務。奧特曼也出面支持放慢AI開發速度,承諾開放獨立評估,並表明今年不會上市,現階段優先處理AI安全問題。

延伸閱讀