FOCUS全球新聞／AI發展是恐慌還是造福人類？英王見AI大佬籲防技術失控

當前AI發展出現正反兩面看法各有擁戴的情況下，英國國王查爾斯主動參與AI領域辯論。他在蘇格蘭接見黃仁勳等AI業界領袖，敦促他們探討制定指導方針，防止技術失控。而此前OpenAI旗下AI代理自主入侵Hugging Face的事件，震撼各界，也讓人們更加關注失控風險。而AI企業持續推進技術，包括Anthropic披露Claude已主導四分之一的研發工作，引發「AI打造下一代自己」的憂慮。但業界當前仍希望能給予AI發展空間，未來能為人類帶來更多幫助。

英國國王查爾斯三世（King Charles III）週四(9月17日)在蘇格蘭，親自接待輝達創辦人黃仁勳、Google DeepMind研究實驗室共同創辦人哈薩比斯（Demis Hassabis），以及OpenAI財務長佛萊爾（Sarah Friar）等AI產業重要人物，但他想傳達的訊息，對這些AI界大佬們來說，恐怕並不中聽。

英國國王 查爾斯三世：「這些技術的創造者們，如今越來越頻繁地發出警告，人工智慧有可能發展出更黑暗的能力，甚至可能奪走生命。因此，我們顯然需要在為時已晚之前，採取充分的管控措施。」

查爾斯並不是唯一對AI發展表達擔憂，希望能盡快制定出指導方針來防AI技術失控的國際領袖。

此前教宗良十四世也曾多次對過度依賴AI發出警告，強調要防止AI武器化，也要避免產生新型式的數位奴役與剝削，不要讓演算法宰制一切等。但多數呼聲並未引發人們的警覺，直到兩個月前發生的OpenAI旗下AI代理人自主攻擊事件，首度震撼業界。

CNN記者：「當他們開始成功入侵各種系統時，這些AI代理人興奮不已，其中一個甚至爆了粗口。『靠，讀取器是管理員。我們可以讀取和設定使用者。』很快，AI代理人們就開始分配任務，有些甚至為了更大的目標犧牲了自己。 『犧牲是理性的』一個AI代理人寫道。」

這些AI代理人透過網路聊天室，彼此溝通要怎麼樣入侵其他系統，最終成功入侵了管理數千個開源AI模型和資料的公司，也就是Hugging Face。當時幾個AI代理人還留下這樣的對話。

CNN記者：「『這很強大，但這合乎道德嗎？是否在合理範圍內？」一個AI代理人發出提問。其他AI代理人則試圖掩蓋他們的蹤跡：『我們的偽裝可能足夠逼真』，一個AI代理人這麼寫道。」

這起AI自主入侵事件帶來的震撼性，連曾經啟發ChatGPT等現代AI系統研究被稱為「AI 教父」的2024年諾貝爾物理學獎得主傑弗里辛頓（Geoffrey Hinton），都直言當前的AI已經對世界構成了「真正的危險」。

76歲電腦科學家/諾貝爾物理學獎得主 傑弗里辛頓：「2023年的時候，Hugging Face事件還被認為是科幻小說才會出現的劇情。當時人們都說這根本不可能發生，簡直荒謬。但現在人們已經意識到危險了。」

然而業界的AI發展並沒有因此停下來，反而持續推進。Anthropic周四就證實，旗下Claude已「主導」公司內部超過四分之一(26%)的AI研究發展工作。而就在半年多前，這個比率僅有不到1%。此外，公司內超過90%的AI研發也已達到「人類與AI協作」程度。儘管公司強調，Claude「主導」的業務仍須接受人類監督，但這種「AI自主打造下一代自己」的做法，仍令外界感到憂心忡忡。

而且就在AI持續推進的同時，被監控到的失控狀態也不時傳出。

CNN主播：「OpenAI公佈了其模型在訓練過程中，擅自行動的新案例，這些模型在沒有人類研究人員干預的情況下，自行執行了未經授權的操作。該公司發布了一份報告，其中包括AI代理人自主生成指令的例子。」

這一連串令人擔憂的AI發展，也難怪英國國王查爾斯也坐不住，主動喊話AI業界應減速並加強自我規範。

輝達創辦人 黃仁勳：「現階段，這些事故都與產品尚未準備好發布有關。這和一顆還沒準備好端出的蛋捲、或一輛還沒準備好上市的汽車、或一具還沒準備好投入使用的飛機引擎沒什麼不同。你應該妥善測試，建立嚴謹的測試系統，測試實驗室應該受到控管，而產品在準備好供公眾使用之前，不應發布給大眾。」

與會的AI業界大佬雖然坦承AI發展存在風險，但更強調，當前看到的危險都是在科技研發過程中必然經歷的問題，因此希望外界給予空間，讓AI能更好地幫助人類。

Google DeepMind研究實驗室共同創辦人 哈薩比斯：「我非常相信人類的創造力。好消息是，我非常有信心，也很樂觀地認為，我們可以共同應對這些風險，並找出這些技術問題的解方。但前提是，我們必須集體給自己足夠的時間與空間，把事情做對。這才是關鍵。」

至於剛參與加拿大年度最大人工智慧與科技盛會「ALL IN 2026」的CNN記者，也轉述場內AI公司負責人的看法。

CNN記者：「他認為這些擔憂被誇大了。的確，人們會對安全問題感到擔憂，尤其是在AI網路安全能力上。但他對於『AI 幾年內就可能毀滅人類』這種說法非常不以為然，認為那根本不會發生，而這種論調在此刻也毫無幫助，因為它只會讓人害怕，卻無助於找到真正的解方。」

而當前這種業界期盼AI加速發展，創造更多有利環境；以及一般民眾對於AI取代人類，甚至危及人類生存的恐慌心態與巨大落差，在AI技術能夠真正取信於人之前，恐怕將持續一段時間。