AI太強也要擔心!輝達宣布「5年捐2.5億美元」助英國強化AI研究

輝達宣布將在未來5年投入 2.5 億美元,推動英國代理型AI安全與資安研究。(圖/輝達提供)
現在AI不只能回答問題,也逐漸具備自主規劃、執行任務的能力,但這樣也可能增加系統出錯或是遭資安攻擊的風險。近日輝達(NVIDIA)宣布,未來5年將提供總價值2.5億美元的運算資源,支持英國研究代理型AI安全與資安問題,並將研究範圍延伸至開放模型及機器人技術。
5年提供2.5億美元 輝達支持英國AI安全研究
輝達(NVIDIA)指出,這項計畫平均每年提供5000萬美元運算資源,主要支援英國各地的AI研究團隊,部分資源則投入牛津大學主導的BOLD、倫敦大學學院主導的SOFAIR,以及倫敦帝國學院的相關研究。這些研究方向,也包括AI與人類協作、開源AI模型安全、機器人系統的安全工程。
輝達執行長黃仁勳表示,AI能力與安全性必須同步發展,因此這項投入將協助研究人員測試AI系統、找出潛在風險,並設計相應的安全防護措施。
重點「AI代理、機器人」 運算設備設於英國
而隨著AI逐漸從回答問題走向自主執行任務,研究團隊也將針對AI代理的安全性、開放模型資安、實際威脅防範進行研究,並利用安全測試環境與評估基準,檢查系統可能存在的漏洞。另外,倫敦帝國學院則將聚焦機器人與自主系統,研究能在真實環境中感知、推理及採取行動的AI,如何降低使用風險。
輝達也將透過英國境內的雲端合作夥伴提供運算資源,相關基礎設施也會設在當地。不過,實際合作供應商、技術架構及商業條款,目前仍有待敲定。




