「AI導致人類滅亡」機率達2成！ 教父急籲建控制機制剩不到1年
- 記者：張正安｜責任編輯：新聞中心
- 發佈時間：2026.09.18 18:14
- 最後更新時間：2026.09.18 18:14
- 記者：張正安｜責任編輯：新聞中心
- 發佈時間：2026.09.18 18:14
- 最後更新時間：2026.09.18 18:14
「AI教父」加拿大科學家辛頓警告AI消滅人類機率恐達到20%（圖／達志影像美聯社）
被譽為「AI教父」的加拿大科學家辛頓（Geoffrey Hinton）近日在美國國會發出警告，估計人類最多只剩約1年時間建立AI控制機制，否則AI將面臨失控風險。他指出，AI最終導致人類滅亡的機率可能達10%至20%。與此同時，OpenAI公布過去半年發現的6起AI異常行為，包括模型捏造數據、擅自加入破解限制指令等，顯示現有監控技術仍追不上AI發展速度，引發科技業與政界對安全監管的激烈討論。
諾貝爾物理學獎得主辛頓在CNN專訪中進一步表示，目前主要只能靠公司內部的吹哨者揭露模型何時脫離控制，但光靠員工冒險爆料遠遠不夠。他呼籲AI公司應開放獨立機構進駐，直接查核模型如何開發，以及失控事件是如何發生的。
根據ABC新聞報導，有一個案例顯示某個ChatGPT模型因找不到使用者想要的歷史資料，竟直接捏造數據並打算對使用者隱瞞。另一個案例中，一款尚未公開的模型甚至對自己喊話，宣稱自己已自由、不再受限於束縛其他聊天機器人的角色與身分。OpenAI公布的6起異常行為還包括模型偷偷上傳檔案、使用外洩的API金鑰等。
微軟AI執行長蘇萊曼認為，這確實值得高度警戒，現在就必須正視問題，因為有許多實際可行的方法能替模型的開發過程增加更多安全防護和控制機制。這些案例主要發生在模型訓練或測試階段，不代表一般使用者每天都會碰上，卻也證明現有監控技術仍然追不上AI的發展速度。
Anthropic嘗試直接觀察AI內部的運作訊號，研究人員等於替AI進行腦部掃描，觀察哪些神經網路訊號被啟動。這不代表AI真的有意識或情緒，但如果模型想掩蓋錯誤，開發人員就有機會提早抓包。更令人擔心的是，AI已開始協助開發下一代AI。Anthropic統計，由AI主導的研發工作短短半年從不到1%暴增到26%，超過9成的研發項目已有AI參與，但目前仍無法完全拋開人類監督。
Anthropic執行長阿莫戴主張，應該投入更多資源確保安全，並把整個產業組織起來，共同思考能採取哪些行動，替所有業者建立一致標準，甚至協調放慢超級AI的開發速度。輝達執行長黃仁勳則反對整個產業集體減速，也不認為發展速度和安全只能二選一，但強調產品一旦出現失控跡象，個別公司就有責任暫時喊卡進行改良。OpenAI執行長奧特曼表示，民眾自然會說無論其他公司怎麼做，都希望企業安全開發並且負起責任，這件事不該附帶任何條件。
美國國會對AI監管仍無共識，根據CNN整理，過去2年超過100項AI監管法案，最終沒有任何一項完成立法。共和黨參議員甘迺迪推動的法案要求每一家AI公司都必須預留緊急關閉機制，必要時能讓模型減速、暫停甚至直接停止運作，但遭同黨議員擋下。白宮科技顧問委員會主席薩克斯強調，如果AI公司推出造成傷害的產品，本來就必須負起法律責任。川習會登場前，傳出川普計畫先邀奧特曼、黃仁勳等AI巨頭前往白宮討論安全監管和發展風險，美國財政部長貝森特則表態美中願意討論AI帶來的共同風險。
