認「AI末日論」非假新聞 教宗罕見批評黃仁勳「淡化AI風險」
- 記者：林宏宜｜責任編輯：新聞中心
- 發佈時間：2026.09.29 11:37
- 最後更新時間：2026.09.29 11:37
- 記者：林宏宜｜責任編輯：新聞中心
- 發佈時間：2026.09.29 11:37
- 最後更新時間：2026.09.29 11:37
輝達發表AI監管新工具Open Agent Safety Platform (AI製圖)
受到油價與美債殖利率持續走高影響，美股週一四大指數全面收黑，不過輝達股價卻逆勢上漲1.68%，主要受到公司宣布大手筆股票回購，以及推出新一代AI安全工具激勵。
輝達宣布增加1500億美元股票回購額度，同時發表「開放式代理安全平台」（Open Agent Safety Platform），強調是在超過100家企業夥伴合作下共同開發，目標是因應AI Agent自主執行任務所帶來的安全風險。
輝達的AI安全平台主要分成兩大部分，其中OpenShell就像替AI加裝「保全系統」，將AI Agent限制在安全環境中，控制它可以存取哪些資料、使用哪些工具，以及能夠連接哪些網路，避免AI為了完成任務而擅自越權。
另一項工具Sentry則扮演「總開關」角色，一旦AI Agent出現違規或失控行為，可以在毫秒之內將其隔離、停止，等於替AI裝上一道緊急煞車。
不過，隨著AI能力快速提升，外界對「AI末日論」的討論也持續升溫。近期提出「AI可能導致人類滅絕」警告的Anthropic，更成為全球關注焦點，而天主教教宗良十四世也罕見表態，認為AI帶來的威脅不應被忽視。
教宗良十四世表示，他不認為這些警告是假新聞，並指出，有些人可能只關注財務或其他利益，但對於AI可能帶來的威脅，人類不應該視而不見。
就在AI安全爭議升高之際，美國總統川普也特別邀請Anthropic執行長前往白宮參加一對一晚宴。不過，川普仍主張美國不能放慢AI發展腳步。
川普表示，美國目前處於領先地位，正在創造數兆美元的價值，「為什麼要放棄這一切」，如果出現問題，就應該設法修正。
從輝達推出AI安全平台，到Anthropic提出AI末日風險警告，再到教宗公開呼籲正視威脅，AI快速發展與安全監管之間的矛盾持續升高。
即使輝達已經開始透過軟硬體建立AI安全防線，教宗與部分AI安全專家仍認為，科技業者目前對AI潛在風險的重視程度，仍不足以跟上AI能力快速擴張的速度。
