校園槍手曾用AI策畫!加國批沒預警釀9死 將提告OpenAI

OpenAI執行長山姆.阿特曼(Sam Altman)因未採納內部通報警方建議,遭加拿大卑詩省政府於加州提告。(圖/達志影像路透社)
加拿大卑詩省今年2月發生釀成9人死亡的嚴重校園槍擊慘案。由於槍手事前曾利用人工智慧聊天機器人策劃攻擊,卑詩省政府近日正式前往美國加州提告OpenAI及其執行長,指控該公司高層曾駁回內部通報警方的建議,未能阻止悲劇發生,要求負起賠償與改革責任。
高層無視內部安全警告 槍手被停用後竟申辦新帳號續用
根據卑詩省政府向舊金山聯邦法院遞交的訴狀內容,槍手傑西.范魯特賽拉爾(Jesse Van Rootselaar)早在去年6月就因在AI系統輸入涉及槍枝暴力的對話,遭OpenAI內部安全系統標記示警。當時安全團隊曾明確建議向警方通報,但該項提議最終遭OpenAI執行長山姆.阿特曼(Sam Altman)及其他高層駁回。

儘管魯特賽拉爾原先的帳號隨後遭到停用,但她隨即註冊新帳號,繼續利用AI進行攻擊計畫。對此,《華爾街日報》報導刊出後,OpenAI回應表示,內部系統雖曾偵測到該帳號涉嫌利用模型助長暴力,但評估後認為相關對話內容尚未達到向執法機關通報的內部標準。
承諾改革卻全數跳票 加拿大政府與家屬跨海追究責任
這起慘劇最終造成多名學童在內的9人不幸喪命。訴狀指出,阿特曼先前曾發表公開信向社區致歉,坦言未及時通報執法單位令他「深感抱歉」。然而,即便卑詩省司法廳長尼基.夏瑪(Niki Sharma)多次溝通,阿特曼也口頭承諾將推動安全機制改革,但後續卻完全沒有付諸實行。

目前案發學校已面臨拆除命運,卑詩省政府被迫承擔重建校舍、心理健康輔導及相關善後龐大費用。除了政府提告外,已有30多名受害者家屬與受影響人士在加州聯邦法院對OpenAI提起訴訟。
跨境法律戰開打 爭執案件管轄權歸屬
針對相關指控,OpenAI已向法院聲請駁回受害者家屬的訴訟,主張本案應由加拿大卑詩省當地法院管轄。對此,夏瑪公開反駁表示:「做出不向警方通報決定的地點,正是在加州。」這也成為卑詩省政府選擇直接在美國加州對OpenAI及阿特曼採取法律行動的核心關鍵。
卑詩省政府在本次訴訟中,要求OpenAI賠償該省因槍擊案所支付及未來預計產生的復原支出,並要求法院下令強制OpenAI修改其可能引發暴力的對話機制,避免類似悲劇再度發生。
文章引用









