槍手曾用ChatGPT策劃!加拿大卑詩省怒告OpenAI壓下警告

加拿大卑詩省校園槍擊慘案的槍手曾利用ChatGPT策劃行動。(圖/Shutterstock達志影像)
加拿大卑詩省今年2月發生校園槍擊慘案,由於槍手曾利用ChatGPT策劃這起屠殺行動,卑詩省政府今天在美國加州控告OpenAI內部曾建議通報警方,卻遭高層駁回,未能阻止憾事。
綜合路透社與法新社報導,卑詩省政府(British Columbia)今天向舊金山聯邦法院提起這項訴訟,將OpenAI及執行長阿特曼(Sam Altman)列為共同被告,要求賠償卑詩省因這起事件已支出及未來預計支出的復原費用,並要求法院命令OpenAI修改可能導致暴力的對話機制。
這起校園槍擊事件造成9人喪命,死者多數是學童。槍手魯特賽拉爾(Jesse Van Rootselaar)先前曾因談論槍枝暴力的對話內容,遭OpenAI安全團隊標記示警,但並未通報警方。
訴狀指出,阿特曼曾發表公開信向社區致歉,表示OpenAI未通報執法單位令他「深感抱歉」;儘管卑詩省司法廳長極力溝通、阿特曼也承諾改革,事後卻從未付諸實行。
訴狀進一步指出,案發學校目前正進行拆除,卑詩省被迫承擔重建新校、心理健康照護及槍擊案造成的其他後續善後成本。
在卑詩省提告之前,已有30多名受害者家屬及其他受這起攻擊事件影響的人士在加州聯邦法院提告,指控OpenAI錯失阻止慘案發生的契機。
OpenAI已聲請駁回受害者家屬的訴訟,辯稱任何與槍擊案相關的法律訴訟都應由卑詩省法院管轄審理;當被問及為何卑詩省認為加州才是適合採取法律行動的地點時,卑詩省司法廳長夏瑪(Niki Sharma)表示:「做出不向警方通報決定的地點,正是在加州。」
訴狀引述案發後向「華爾街日報」爆料的OpenAI內部吹哨者說法指出,魯特賽拉爾與ChatGPT的互動內容,早在去年6月就首次遭到標記示警,安全團隊曾建議通報警方,卻遭阿特曼及其他OpenAI高層駁回。
槍手的帳號雖遭停用,但她隨後另申請新帳號,繼續利用ChatGPT策劃這起攻擊行動。
在華爾街日報的報導刊出後,OpenAI表示,這個帳號當時是由識別「濫用模型助長暴力活動」的系統標記,但相關內容並未達到向執法單位通報的內部標準。(中央社)









