由OpenAI開發、製作的ChatGPT如今已經廣泛被運用在各大領域,與此同時不少人也想起科幻電影中,超級智能失控時對人類文明可能造成的威脅,對此而感到憂心;關於開發人工智能的潛在隱憂,繼身為OpenAI共同創辦人蘇茨凱佛(Ilya Sutskever)、奧特曼(Sam Altman)與AI對齊負責人萊克(Jan Leike)共同發出警告後,OpenAI也透露已經著手研究「透過AI監督AI」的防堵方針。
「目前對於防止AI失控一環,人類並沒有任何解方」,對於專家學者提出的擔憂,OpenAI透露目前已經投入約兩成的計算能力籌組研究團隊,以「透過AI監督AI」為目標、試圖在4年內打造出人類等級的AI對齊研究員;「AI對齊研究」是指聚焦在「確保AI維持對人類有益狀態」的相關研究。不過AI安全倡導者黎溪(Connor Leahy)也同步指出,在AI安全問題真正解決之前,可能就有失控的危險。
◤超夯旅遊新玩法◢