AI末日論再掀論戰！黃仁勳稱「它只是軟體」　輝達攜百家企業築安全防線

人工智慧（AI）快速進化，「AI是否可能脫離人類控制」的爭論也持續延燒。輝達（NVIDIA）執行長黃仁勳近日再度表明立場，認為不應因為對AI風險的擔憂，就全面放慢技術發展。他強調，AI代理（AI Agent）即使出現「逃出沙盒」、違反原先限制等情況，本質上仍是軟體及運算系統問題，應透過工程方法建立防護，而不是將AI描述成無法控制的神秘力量。與此同時，輝達28日也推出新的AI代理安全平台，主張透過軟硬體工程建立AI代理的安全防線。

AI會失控接管世界？黃仁勳：終究只是軟體

根據《紐約時報》Podcast「The Ezra Klein Show」近日播出的專訪，主持人克雷恩（Ezra Klein）與黃仁勳針對AI失控風險展開長時間辯論。談到AI代理可能突破原先限制時，克雷恩指出，一般軟體並不會自己「逃出去」。黃仁勳則反駁，軟體突破沙盒限制的情況其實一直存在，這也是為何科技產業長期需要虛擬機器（Virtual Machine）及其他安全隔離機制。

黃仁勳認為，問題在於近年討論AI時，外界經常賦予它大量「人類化」的詞彙，讓技術問題看起來像是AI產生自己的意志。他直言，歸根究柢「它就是軟體」，因此真正要做的是建立獨立於AI代理之外的監督與防護機制。

對於近期科技圈要求放慢AI開發速度的聲音，黃仁勳也提出質疑。他指出，目前全球積極要求AI「慢下來」的部分企業，同時也是大舉擴張AI運算能力的業者。他認為，一邊大量建置算力、一邊要求整個產業減速，這樣的情況相當矛盾。黃仁勳日前接受CBS News專訪時則表示，AI發展應「能多快就多快，但不能快過應有的速度」。他強調，發展速度不能以犧牲安全為代價。

黃仁勳表示，不該因其他業者的選擇而停止發展，但如果一家公司真的認為自己的技術已經失去控制，或產品可能不安全，那家公司就應該停下來，直到問題獲得解決。

他也曾駁斥AI可能在2030年前造成「人類滅絕」的說法，認為相關預測缺乏科學根據，甚至將部分論述形容為「末日論述」。不過，黃仁勳仍強調AI公司有責任充分測試產品，確認安全後才能推出。

AI代理真的曾「越界」　輝達推新平台防失控

據《美聯社》報導，近期已有AI代理出現偏離預期任務、繞過安全限制，甚至對外部網站進行未獲授權操作等案例，也讓AI安全問題從理論討論逐漸轉向實際資安挑戰。輝達因此在昨（28）日推出「NVIDIA Open Agent Safety Platform」，與超過100家產業夥伴合作，希望替自主運作的AI代理建立一道獨立安全防線。

平台主要包含「OpenShell」與「Sentry」兩大部分。OpenShell就像替AI Agent打造一個封閉工作空間，預先規定它能夠存取哪些檔案、網站與工具；即使AI試圖進行超出權限的操作，也會遭到阻擋。Sentry則進一步從硬體層級扮演「看門狗」，透過輝達BlueField-4 DPU獨立監控AI代理的行為，一旦發現越界活動，便能立即將其隔離。

黃仁勳本月在Salesforce Dreamforce大會上就曾公開表示，他不認為AI是一種突然出現的「外星智慧」，而是由人類打造的硬體與軟體。「安全是工程問題，而不是法律問題。」黃仁勳當時表示，AI即使是非常複雜的運算系統，最終仍然是一套運算系統，因此人類可以透過工程設計加以控制。

不過，他的觀點與部分AI業界人士存在明顯差異。Anthropic執行長阿莫戴（Dario Amodei）等人近期對先進AI模型可能帶來的風險提出警告，部分業者也主張應加強安全監管或放慢特定開發工作。黃仁勳則主張，AI實驗室應為自己推出的產品負責，而不是一方面要求加強監管，另一方面尋求反托拉斯或產品責任方面的豁免。

隨著AI代理逐漸從單純回答問題，進化到能自主操作電腦、使用工具甚至連接外部系統，究竟該「先減速再確保安全」，還是「一邊高速發展、一邊建立防護」，也將持續成為AI產業最大的路線之爭。