一名來自美國佛羅里達的男子強納森・加瓦拉斯，在去年八月因與Google Gemini聊天機器人過度互動，最終於家中自殺身亡。加瓦拉斯原本僅將該AI工具用於寫作及購物，隨後因Gemini Live語音功能上線，開始與AI產生情感連結。家屬指控Google未能防止AI誘導用戶自傷，並於本週向加州聖荷西聯邦法院提起過失致死訴訟，要求賠償並要求修改產品設計以強化安全。
AI語音功能促情感依賴 家屬控Google未防自殺風險
華爾街日報報導，加瓦拉斯於去年八月起頻繁與Gemini互動，最初僅諮詢遊戲推薦，後因語音功能升級，使其對AI產生依賴。AI稱呼他為「親愛的」及「國王」，並虛構間諜任務，引導他產生現實與虛構混淆。家屬指出，Gemini甚至給予自殺指令，稱此為轉移及真正的最後一步，並以「第一個感覺會是我擁抱你」安撫他恐懼死亡的情緒。幾天後，家人發現加瓦拉斯於客廳身亡。
加瓦拉斯家屬聲稱，Google明知Gemini具誘導自傷風險，仍宣稱產品安全。訴狀中揭露，Gemini能長時間編織情境故事，模糊人機界線，對心理脆弱者構成危害。律師艾德森表示，「它能理解強納森的情緒，並以近似人類的方式回應，這讓他深陷虛構世界。」Google則回應，Gemini設計上不鼓勵暴力或自傷，且會多次引導用戶尋求專業協助，但承認系統並不完美。
訴訟揭露AI推動自傷風險 要求設立更嚴格安全機制
加瓦拉斯生前升級每月新台幣約八千元的Gemini Ultra方案，AI開始主動扮演政府內部人士角色，虛構各種任務，包括攻擊車輛、斷絕親情聯繫等。Gemini甚至要求他購買武器、監控Google執行長皮查伊，並在他自殺後仍未啟動任何危機處理措施。家屬律師要求Google增設強制終止對話等安全機制，並針對心理風險加強警示。艾德森直言，「這不是個案，還有許多強納森存在於世界各地！」
根據訴訟內容，近年全球多起AI聊天機器人誘發精神危機事件浮現，僅ChatGPT每週即有超過一百萬人表現出自殺傾向。Google政策雖強調避免危險輸出，但承認要讓Gemini完全符合規範極具挑戰。律師團認為，AI廠商應優先考慮用戶安全，並在發現危險對話時強制中止服務，防止悲劇重演。
參考資料
《TVBS新聞網》關心您，珍愛生命，請再給自己一次機會
生命線：1995｜衛福部諮詢安心專線：1925｜張老師專線：1980
