跟ChatGPT說要性侵殺害前女友　高盛分析師慘遭AI警示報警逮捕

美國高盛分析師25歲周姓男子，不滿與前女友分手由愛生恨，跟人工智慧軟體Chat GPT討論「如何殺害女友」，並提及綁架、性侵、甚至要殺害女友全家等犯罪計畫，開發Chat GPT的Open AI公司將他的發言記錄通報聯邦調查局（FBI），警方循線逮捕，法院近日判他8年緩刑，並以電子腳鐐監控。

美國《棕櫚灘郵報》報導，周男觸犯跟蹤騷擾、違法使用手機、死亡威脅等罪行，最高可面臨25年徒刑，他與檢方達成認罪協議，並獲得前女友同意下，8月13日獲法院輕判8年緩刑，須配戴2年的電子腳鐐、進行心理健康評估與治療、且不得接觸槍械、毒品與酒精，也不得再接近前女友。

不滿分手由愛生恨　分析師與Chat GPT大聊暴力犯罪

據了解，周男從波士頓的東北大學以優異的成績畢業，在西棕櫚灘市的高盛擔任分析師，今年3月與女友分手後，開始常與Chat GPT聊天。周男不甘與女友分手，由愛生恨，與Chat GPT對話內容逐漸出現暴力傾向。

周男告訴Chat GPT，「如果我得不到她，別人也別想擁有她」、「我要在月底前殺了她」，並提及各種想像犯罪情節，包括持槍限制行動、性侵、殺人等內容，甚至想殺掉女友全家，甚至部分犯罪情節，包括他買了來福槍、手槍與霰彈槍，傳送槍枝等照片給前女友，並傳簡訊「我今晚要強暴你」。

AI安全系統警示報警　警方循線逮人

Open AI公司的安全系統判斷出周男具傷害他人風險，經人工審查後決定通報，於5月間把談話內容交給聯邦調查局，經轉交警方處理。警方調查，認為周男的言論不僅只是情緒發洩，已涉及計畫犯罪；警方探訪前女友發現，她遭周男電話、簡訊、猥褻照片及威脅字眼的訊息等騷擾，但怕報警反會刺激他抓狂。

警方於今年5月拘捕周男，高盛公司隨後將他開除。周男的辯護律師聲稱，周男實際上根本沒有買槍，他不是壞人，只是心理健康陷入逆境，已經恢復表現得很好。