Anthropic：Claude已「主導」26%內部AI研發工作　逾九成研發至少由人類與AI協作

Anthropic於9月17日發布一份衡量AI研發自動化程度的報告，指出截至8月，Claude已在26%的AI研發工作中達到「主導」等級，反映AI參與下一代技術研發的程度快速增加。該公司計畫定期公布相關數據，讓外界了解AI協助開發後續AI技術的進展。

截至8月，Anthropic超過90%的AI研發工作，已達到「AI協作」或更高的自動化等級。不過，Anthropic強調，在目前衡量的工作範圍內，Claude尚未完全自主執行任何一類研發任務。

Anthropic自行建立「R&D Automation Index」，並採用研究機構Epoch AI提出的自動化分級尺度衡量Claude參與研發的程度。Anthropic資料顯示，達到「AI主導」等級的AI研發工作占比，已從2月不到1%升至8月的26%。

約3萬個AI代理程式同時執行研發工作

Anthropic公布的數據，也提供外界觀察大型AI公司如何利用AI開發新一代技術的窗口。部分研究人員警告，隨著AI代理程式自主程度提高，系統可能出現偏離開發者原先意圖的行為，增加監控與控制難度。

8月時，公司主要內部平台同一時間約有3萬個AI代理程式協助研究與工程工作。這些代理程式每次準備執行動作前，都會先經過系統檢查，確認是否允許執行。

Anthropic表示，8月共分析超過10億次研究與工程代理程式的決策，其中約0.002%、相當於每4.7萬次約有一次遭監控系統阻擋。

另一個龍頭OpenAI則在16日表示，將開始定期發布有關AI出現非預期或未經授權行為的報告，並公布6起涉及非預期或令人擔憂模型行為的案例。

延伸閱讀：OpenAI公開6起AI模型失準案例　建立新框架加速安全問題揭露

AI驅動的研發工作中，12%運算資源投入安全研究

Anthropic也揭露AI研發中的安全資源配置。在7月13日至20日的抽樣期間，投入AI研發的運算資源中，約6%用於安全工作；若只計算由AI驅動的AI研發工作，安全工作的占比則約為12%。不過，Anthropic指出，這項數據僅反映一週的資源配置快照，不代表長期固定比例。

不過，這項26%的數據來自Anthropic自行建立的內部指數，部分自動化程度評估也由Claude完成；Anthropic坦言，「協作」與「主導」之間仍存在一定判斷空間。

該公司進一步補充，這項估算採取較保守的計算方式。若某項運算工作同時提升安全能力與模型能力，公司會將其歸類為能力研究，而不是安全研究，因此實際與安全相關的資源投入可能高於公布數字。