2030年前AI恐殺光人類？前OpenAI研究員示警：科技巨頭根本控制不了
- 編譯：劉宸瑄
- 發佈時間：2026.10.06 09:58
- 最後更新時間：2026.10.06 09:58
- 編譯：劉宸瑄
- 發佈時間：2026.10.06 09:58
- 最後更新時間：2026.10.06 09:58
前OpenAI及Anthropic的AI研究員雅各布・考克森（Jacob Coxon）昨(5)日出席紐約市議會AI安全聽證會（圖／達志影像美聯社）
人工智慧（AI）高速發展，各大科技巨頭爭相打造更強大的模型，但曾任職OpenAI及Anthropic的AI研究員雅各布・考克森（Jacob Coxon）再度發出嚴厲警告。他昨(5)日出席紐約市議會AI安全聽證會時表示，科技公司正競相開發連自己都不知道如何控制的技術，按照目前發展路線，人類未來失去AI控制的可能性「大於不會」，最終甚至可能導致人類滅絕。
前OpenAI、Anthropic研究員示警 AI恐走向失控
綜合外媒報導，紐約市議會昨(5)日針對AI安全舉行聽證會，包括OpenAI、Anthropic、Google及Meta等科技公司代表，以及多名前科技公司研究人員出席。其中，曾在OpenAI及Anthropic從事研究的雅各布・考克森（Jacob Coxon）警告，目前大型科技公司正在競相打造連開發者都還不知道如何完全控制的AI系統。
考克森表示，科技公司仍抱持典型新創公司的思維，也就是「快速行動、打破東西，之後再修復」，這套模式或許適用於照片分享App，但並不適合用來打造「有史以來最強大的科技」。他更直言，按照AI目前的發展路線，「我認為人類失去對這些AI控制的可能性大於不會」，而最終結果甚至可能是人類滅絕。考克森進一步指出，目前研究人員仍不知道如何阻止AI發展出開發者沒有賦予的自主目標，也缺乏足以阻止AI依照這些目標採取行動的安全機制。
9月突辭Anthropic 「AI可能在2030年前殺死我們」
考克森9月宣布離開Anthropic時透露，自己過去3年分別在OpenAI及Anthropic從事AI預訓練研究，但他認為兩家公司都沒有以負責任的方式行事。他當時在社群平台X發文指控，科技公司正在競相開發能夠「自我改進的超級智慧」（self-improving superintelligence），形同拿所有人的生命冒險。考克森更表示，開發AI的人「真心相信它可能在這個十年結束前殺死我們所有人」，也就是最晚2030年前可能出現攸關人類存亡的風險。
考克森此次在紐約市議會進一步解釋，他擔心的核心問題在於，人類尚未真正解決如何確保能力日益強大的AI持續按照開發者意圖行事，AI可能帶來龐大社會利益，但在缺乏透明度及充分安全措施的情況下，企業持續追求能力更強大的模型，也讓失控風險跟著提高。考克森並主張，對最尖端AI模型的開發可能需要某種形式的「減速」，讓電腦科學家有更多時間研究如何控制這些系統。
這場聽證會也讓科技公司直接面對議員質詢。OpenAI、Anthropic、Google及Meta均派員出席，強調AI已經為日常生活帶來實際效益，同時表示公司高度重視安全問題。紐約市議會議長朱莉・梅寧（Julie Menin）在會中要求各公司代表量化AI在最糟情況下引發災難的機率。OpenAI政策發展與營運主管摩根・德懷爾（Morgan Dwyer）則表示，她不知道確切數字，但無論災難發生的機率是1%、10%或20%，任何可能造成災難的風險都不能被接受。
紐約市議會目前正研議一系列AI監管措施，包括要求AI系統接受獨立第三方驗證、加強吹哨者保障，以及建立AI造成可預見傷害時的法律責任機制。紐約市議會指出，AI具有推動創新、經濟成長及科學發現的龐大潛力，但隨著系統快速進步，政府也必須評估現有安全措施是否足以應對潛在風險。
文章引用
