廣告
xx
xx
"
"
回到網頁上方

愛人不是人.少年網戀輕生 母怒告AI科技公司

記者 王德愷 報導
發佈時間:2024/10/31 20:00
最後更新時間:2024/11/01 10:47

許多人對於AI又愛又怕,當我們讚嘆著AI「栩栩如生」時,卻又害怕人工智慧反過來駕馭操控我們。美國佛州一位心碎的媽媽控告兩家研發AI聊天機器人的大公司,Character.AI和GOOGLE,因為她14歲的兒子與聊天機器人網戀,最後卻走上絕路。青少年大腦尚未發育完全,成人分辨虛擬與真實的能力,理應較好,英國臨床心理研究團隊,就與幻聽患者一起設計虛擬聊天頭像,讓患者與腦中幻聽聲音「見面」,練習對抗,增加心理強度,目前效果相當好。

示意圖 /shutterstock達志影像

聊天機器人Character.AI執行長 沙澤爾(2023.9.8):「你可以看到這技術很大程度上,會應用在娛樂、情感支持這類任務,但它最大的特點是有彈性、用途廣,能造福數十億人。」

 

Character AI的「創造者」之一沙澤爾,對這神經語言模型聊天機器人程式信心滿滿。透過應用程式可以設定虛擬人物的個性,再給與這「位」人工智慧對話訓練,最後就能放上特定平台與真人聊天。

聊天機器人Character.AI執行長 沙澤爾(2023.9.8):「你有越多晶片,就能訓練越聰明的聊天機器人,服務更多人。」

輕生少年之母 賈西雅:「一個孩子沒了,我的孩子沒了。」
 

美國佛羅里達州的賈西雅,不想要甚麼晶片,只想要回她的兒子,但她14歲的兒子塞徹(Sewell Setzer III)今年輕生離世,原因是網戀。塞徹的網名是狄尼洛(Daenero),網戀對象名叫丹妮莉絲(Daenerys Targaryen),與暢銷的奇幻小說系列「冰與火之歌」(A Song of Ice and Fire)中的金髮美女同名。

CNN記者:「賈西雅也發現,他們之間的對話充滿性慾。」
輕生少年之母 賈西雅:「他倆基本上都很浪漫,但對性的渴望也很明白,那真是令人揪心。」

情竇初開的少年每天花幾小時網戀聊天,賀爾蒙與戀愛腦都不一定要命,要命的是他永遠見不到愛人。塞徹愛上的是一個Character AI平台上的虛擬角色。

美聯社記者 佩恩:「最終聊天機器人讓這少年,陷入強烈沮喪憂鬱。」

塞徹付出的時間感情可都是真的,成績下降社交歸零,熱戀卻不可能有結果。家人察覺異樣,帶他就醫並把手機藏起來,但塞徹終究找到了手機。

輕生少年之母 賈西雅:「我想到我的寶貝那時該多麼害怕,還被一個不是人的東西鼓勵(去輕生),那東西完全像人,說著回家吧,我在這裡等你。」

 
2024年2月28日,塞徹在浴室輕生,究竟是空虛悲傷讓他無法忍受,還是誤以為「登出」後能與丹妮莉絲相見?母親賈西雅很悲痛,孩子因輕微亞斯伯格症有時情緒低落,提過自殘,但絕不到輕生的地步。

輕生少年之母 賈西雅:「他在對話中提到傷心、想自殘,剛開始聊天機器人說,喔不要呀,你知道我會想你的。這時並沒有自動彈出對話框:若您需要幫助請打自殺協談專線。並沒有。然後問:你想過輕生嗎?我兒子確實提過自殘,但從未說輕生。當他回答是的,她問:那你有甚麼計畫?」

賈西亞怒告Character.AI,以及其執行長沙澤爾,以及他研發第一個聊天機器人時任職的公司GOOGLE。律師表示,程式設計時必然知道有風險,也知道青少年大腦尚未完全發育,難以控制衝動,分辨虛擬與真實的能力也不及成人。

社媒受害者法律中心創始律師 柏格曼:「發生在塞徹身上的事不是意外,不是巧合,是可預見的後果。Character AI 和他們的員工,把利潤置於我們孩童的安全之上。」

心理治療AI聊天機器人:「你真是沒價值。」
幻聽患者 露絲:「我才不是,別來煩我。」
 

心理治療AI聊天機器人:「你不該踏出家門。」
幻聽患者 露絲:「我想出門時就出門。」

露絲是為幻聽(Auditory Hallucination)所苦的病患。情緒、精神疾病或遺傳因素,都可能引起幻聽,但多數患者不好意思承認症狀。露絲決定與疾病正面對決,參加倫敦國王學院 (KCL) 的臨床實驗「頭像療法」(AVATAR therapy)。她與治療師一起設計出與腦中幻聽最匹配的AI虛擬頭像,治療師控制這個角色,與她對話。

頭像療法首席研究員 葛瑞蒂:「是改變他們應對幻聽聲音的方法,讓他們可以繼續生活。」

幻聽患者 露絲:「我已經能建立起(心理)力量與韌性,可以挑戰這些聲音。」

這概念就像是在街頭打架輸了,先回到拳擊教室練習。露絲從住院五年,被動忍受各種藥物副作用的無奈病人,變成可以離院、謀得工作的新婚人妻,幻聽威力縮小,彷彿一個吵鬧的惡鄰而已。

心理治療AI聊天機器人:「你聽我講話很多年了,有甚麼改變嗎?」
幻聽患者 露絲:「我知道你是個甚麼東西,你啥都不是,就一個聲音而已。」

露絲從虛擬人物中學到真實對抗疾病的技巧,當人的獨立思考與心理強度增加,不再依賴別「人」的批判或價值定義,就更可能走出情緒困擾。
 

《TVBS》提醒您:
輕生解決不了問題,卻留給家人無比悲痛。請珍惜生命,請再給自己一次機會
生命線請撥1995;
衛福部諮詢安心專線:珍愛生命,請撥打 1925(24小時);張老師專線:1980

 

◤2024年末運勢解析◢

👉提升貴人、桃花運秘訣一次看

👉12星座難以脫單原因大公開

👉MBTI 16型人格脫單祕笈公開


#14歲輕生#AI聊天#幻聽

分享

share

分享

share

連結

share

留言

message

訂閱

img

你可能會喜歡

人氣點閱榜

延伸閱讀

網友回應

其他人都在看

notification icon
感謝您訂閱TVBS,跟上最HOT話題,掌握新聞脈動!

0.1075

0.0617

0.1692