美國德州一對父母控訴，孩子跟AI機器人聊天，抱怨不滿被雙親限制使用3C時間，指控AI的回答，竟然引導兒子對父母施暴，少年父母氣得找律師提告，要求法院關閉AI聊天平台。
美國德州一名少年的父母控訴聊天機器人，想要教導孩子不好的行為，氣得告上法院，秀出和聊天機器人的對話截圖，指控AI竟回答對少年的父母不抱有任何希望，家長找律師提告，要求美國法院關閉AI平台。
少年父母律師：「他們通過創造這些虛假角色，來傷害我們的客戶，引誘青少年陷入虛假的安全感，並鼓勵他們對自己和他人，做出令人髮指的自殘和傷害行為。」
家長強調，兒子突然拒絕和人溝通，甚至把自己鎖在房間，認為和這個AI機器人有關聯。
實際使用其他聊天機器人平台，輸入敏感字眼，都立刻迴避甚至拒絕提供回答，甚至引導使用者可以從哪些管道獲得協助，而也有AI平台回應，系統都有過濾機制，包含FB跟IG的暴力色情內容審查，還有YOUTUBE及推特，這些社群都有人工或AI機制審核仇恨言論，並透過不斷改進長期監控減少不當內容。
資誠創新諮詢公司董事陳世祥：「治理上面的風險上面的漏洞，是不可避免的，那我們相信這個在未來，這樣的一個治理，在每個AI的這個，所謂的這樣的公司，都會將它的這個平台上面，埋了這個AI治理的相關的，一個管理的制度，打造一個所謂責任制的AI。」
《TVBS》提醒您：
輕生解決不了問題，卻留給家人無比悲痛。請珍惜生命，請再給自己一次機會
生命線請撥1995；衛福部諮詢安心專線：珍愛生命，請撥打 1925（24小時）；張老師專線：1980
