DeepMind共同創辦人警告AI發展不能超越安全　籲審慎看待AGI

Google DeepMind共同創辦人Shane Legg警告，人工智慧（AI）模型能力快速提升之際，安全機制不能落後於技術發展。他表示，AI能力目前正以非常快的速度進步，但業界不能讓AI能力的發展速度超越安全機制，並認為Anthropic執行長阿莫戴（Dario Amodei）提出放慢前沿模型發展速度的主張值得討論。

Legg近日接受《金融時報》訪問時表示，阿莫戴的主張方向值得參考，但仍需要進一步研究如何在實際運作中落實。他同時宣布成立DeepMind Institute，聚焦人工通用智慧（AGI，Artificial General Intelligence）對科學、教育、社會及政策等領域的影響。

AGI仍未達成共識

Legg認為，目前宣稱AGI已經到來仍言之過早。針對輝達（NVIDIA）執行長黃仁勳及OpenAI高層近期宣稱AGI已到來的說法，他表示，即使模型展現出強大的能力，也未必符合OpenAI自身對AGI的定義。

Legg長期預測，到2028年達成「最低程度的AGI」的機率為50%。他表示，目前仍維持這項預測，但不認為現階段的GPT-6 Astra已達到多數具有經濟價值認知工作的能力。

新成立的DeepMind Institute將由Legg擔任主編，與Google DeepMind共同創辦人哈薩比斯（Demis Hassabis）及Google資深副總裁曼宜伽（James Manyika）共同領導，並邀請Google內部研究人員及外部學者參與，希望讓更廣泛的公眾理解AGI相關研究。

AI安全與透明度成焦點

研究機構首批文章之一聚焦於AI推理模型的透明度。DeepMind研究人員批評，OpenAI快速推出GPT-6 Astra的做法可能出現令人擔憂的下降趨勢，競爭壓力也可能降低企業主動公開模型資訊的誘因，並認為監管可能發揮作用。

不過，研究人員也指出，只要在模型設計階段納入更完善的透明度架構，仍有可能在安全與能力提升之間取得平衡。

曼宜伽表示，Google真正希望參與的不是單純的AI能力競賽，而是「把事情做對的競賽」。Legg則認為，AI是全球性技術，安全與治理不能只依靠單一國家處理，國際社會需要共同討論AGI可能帶來的影響。