影音/英王查爾斯示警AI「恐奪人命」 黃仁勳表態:不安全就不推
全球人工智慧(AI)產業領袖日前齊聚英國蘇格蘭鄧弗里斯莊園,參與AI高峰會議。英國國王查爾斯三世在會中對AI發展提出嚴正警告,指出開發者愈來愈常提醒AI可能發展出更黑暗的能力,甚至危及人命。輝達執行長黃仁勳與Google DeepMind創辦人哈薩比斯等業界重量級人物罕見同框,共同探討AI安全議題。

這場高峰會匯集了全球AI產業最具影響力的人物,包括輝達執行長黃仁勳、Google DeepMind創辦人哈薩比斯,以及OpenAI與Anthropic等公司高層,眾人罕見地坐在同一張會議桌前進行討論。
查爾斯三世在會中表示,開發這些技術的人如今愈來愈常提出警告,AI可能發展出更黑暗的能力,甚至奪走人命。他強調,在這個關鍵時刻做出的決定,將形塑下一代繼承的世界。
黃仁勳則強調,如今安全至關重要,AI開發者必須嚴格測試系統,保護隱私、防範濫用,並確保社會所依賴的基礎設施安全。他進一步表示,如果AI產品還不夠安全,就會暫緩推出、持續改良。黃仁勳直言,這並非憑空增加的新規矩,而是科技業一直以來都該堅守的基本原則。
哈薩比斯則認為,AI是一項非常新的技術,仍有許多未知和不確定性,有些問題就連最頂尖的科學家也還沒有完全理解。
儘管這場AI峰會並不會產出具法律約束力的協議,但英國王室期盼能藉此凝聚共識,找出一套共同原則,讓人工智慧在追求效能之餘,也能兼顧人類與自然環境的和諧。這場峰會並沒有為AI發展踩下煞車,卻明確劃定了責任順序,唯有先證明產品足夠安全,才能交付到大眾手中。









