美國AI新創大廠「Anthropic」高層人士於（4）日透過官方部落格發表聯名文章，呼籲全球暫緩人工智慧（AI）研發腳步，原因在於AI技術正加速發展，甚至出現「遞迴式自我改進」的能力，可能帶來無法預期的風險。文章強調，若全球能共同放慢AI研發速度，讓社會有時間因應科技帶來的衝擊，將對人類社會有正面影響。該呼籲由共同創辦人Jack Clark與研究主管Marina Favaro執筆，並提出建立全球協議及驗證機制的具體建議。
AI自我進化能力帶來潛在風險
「Anthropic」於官方部落格發表題為「當AI開始自我進化」的文章，指出AI技術發展近年來持續加速，且全球各國積極投入資源推動，形成產業榮景。文章中提到，該公司工程師每季提交程式碼數量，已達2021年至2025年期間的8倍，顯示AI研發腳步極為迅速，帶來潛在風險。
文章指出，AI的發展過程比飛彈發射井更難以監控，且當部分機構選擇暫停時，未停下的單位將更易取得領先。為此，作者建議全球須建立放緩AI研發的協議與驗證機制，「Anthropic」也計畫在未來數個月內，與全球政策制定者、研究人員及其他組織展開對話，共同討論AI發展相關問題，並強調「現今正是集思廣益，共同探討這些問題的最好時機」。
