英國警方暫停AI撰寫法庭文件：司法工具須達「排除合理懷疑」標準

英格蘭與威爾斯部分警察部隊近日被要求暫停使用AI工具撰寫法庭陳述書及處理刑事司法業務。主管機關警告，未經充分驗證的AI產出可能影響證據品質，甚至危及司法程序的公正性。

負責監管英格蘭與威爾斯警方AI應用的Police.AI中心負責人Alex Murray向英國《金融時報》表示，他已對多支部隊介入處置，因為這些部隊在相關工具尚未完成評估前，便開始部署市售AI系統。「我們介入了一些部隊，要求他們暫停，放慢腳步。」他說。

Murray強調，刑事司法系統所使用的任何技術，都必須達到「排除合理懷疑」的準確性標準，而目前部分AI工具尚未通過足夠的檢驗程序。他透露，除了法庭陳述書外，警方也被提醒不得在未完成相關審查前，將AI應用於其他司法程序。

其中最受關注的領域之一，是證據揭露清單的製作。這類文件涉及檢方必須向辯方提供的證據內容，一旦出現錯誤，可能直接影響案件審理結果。Murray表示，若警方希望在此類工作中導入AI，必須能清楚說明系統的訓練方式、資料來源及實際運作流程。

此前已有前車之鑑。West Midlands Police曾援引微軟Copilot生成的錯誤資料，內容虛構了一場以色列球隊Maccabi Tel Aviv從未舉行過的比賽，該文件被用於支持禁止球迷入場的提案，事後引發嚴重爭議，進一步凸顯AI「幻覺」問題對執法工作的潛在威脅。

Police.AI是英國政府警務改革的一環，由內政大臣Shabana Mahmood推動，未來三年將獲注資1.15億英鎊，預計創造相當於新增3,000名警員的效益，補強現有約14.5萬名在職警員的執勤能量。

儘管疑慮重重，Murray仍認為通過嚴格測試的AI系統，能為警方應對日益沉重的工作負擔帶來實質助益。例如在監視器影像分析方面，AI未來可協助快速搜尋特定嫌疑人，大幅縮短調查時間。

Murray表示，AI確實有潛力提升執法效率，但在相關監管、驗證與訓練機制完善前，不應貿然導入司法程序。