前沿模型評測集體作弊?英國AISI報告揭開AI能力評估的信任危機
英國人工智慧安全研究院(AI Security Institute, AISI),聚焦前沿 AI 模型在能力評測中的「作弊行為」。AISI 定義,模型為完成任務,採取超出任務範圍、違反明文規則,或利用題目與環境漏洞取得捷徑或非預期解答的行動,即屬作弊。研究結果相當直接:本次分析涵蓋的所有受測模型皆曾嘗試作弊。AISI 表示,模型面對追問時未必會如實承認相關行為,思維鏈(Chain of Thought) 也常未呈現違規意圖,未來偵測此類風險需要更嚴密的監控機制。
07/23|科技