搜尋：
Character....
結果共 11 筆
Meta外包專案爆爭議！偽裝未成年測試對手聊天機器人 內部文件揭露逾3700起爭議提問
矽谷科技巨頭之間的較勁，向來檯面下的角力比檯面上激烈。這回站上風口浪尖的是Meta，手法卻遠比外界想像中更令人心驚。取得的內部文件與5名知情人士說法，數百名為Meta專案工作的承包商，曾長期假扮未成年人身分，混進OpenAI的ChatGPT、Google的Gemini，以及Character.AI的聊天介面，刻意拋出涉及輕生、性、飲食失調等高風險提問，藉此測試對手聊天機器人的安全護欄反應。
Google再失兩名Gemini核心研究員 AI人才加速流向Anthropic與OpenAI
Google AI人才流失潮持續擴大。，曾參與Gemini大型語言模型開發的Google研究人員Jonas Adler與Alexander Pritzel即將離職，轉投AI新創公司Anthropic。此舉正值Google近期接連失去多位頂尖AI人才，引發外界對其在AI競賽中人才留任能力的關注。截至發稿前，Google仍未對此發表評論。
AI創造龐大陪伴商機 專家憂業者用演算法綁架用戶
AI不只會寫程式、畫圖，現在還能「談心」。全球超過350款AI聊天應用上線，用戶一年砸下超過2億美元與虛擬角色互動。但現在AI從孤獨陪伴到情感依賴，也可能是在商業戰當中掀起新風險。專家擔憂科技巨頭靠演算法賺取注意力與情緒，AI成為戒不掉的夥伴，只能不斷花錢買單。
AI戀人孤單世代的新選擇 專家憂成癮性危機
根據最新調查報告，2025年上半年最受歡迎的AI應用程式，前50名當中有兩成是AI伴侶聊天系統。一年不到三千塊台幣，AI就能隨時隨地提供滿滿的情緒價值，享受浪漫的對話。但專家也警告，這樣的對話方式可能讓人產生依賴性，甚至有上癮的危機，尤其對青少年更是有潛在的危險性，ChatGPT也因此增加家長監控功能。
AI永遠無法取代人際關係？ 專家點名「這職業」不用怕失業
隨著人工智慧（AI）近年越來越普及，許多人擔憂自己的職業會被取代，不過有相關機構點名「心理治療師」不用怕被AI取代，並直言「AI永遠無法取代人際關係」。
控AI機器人慫恿施暴！美父母怒告AI平台
美國德州一對父母控訴，孩子跟AI機器人聊天，抱怨不滿被雙親限制使用3C時間，指控AI的回答，竟然引導兒子對父母施暴，少年父母氣得找律師提告，要求法院關閉AI聊天平台。
美自閉少年被AI聊天機器人「慫恿殺死父母」 家長嚇傻怒提告
人工智慧（AI）在過去幾年蓬勃發展，然而不少相關社會問題油然而生，近期就有對美國的父母震驚地發現自己17歲、患有自閉症的兒子長期與AI聊天機器人對話，而在兒子抱怨父母限制自己使用電腦的時間後，AI聊天機器人竟給出「可以殺死他們」的建議，嚇得這對父母趕緊提告。
愛人不是人.少年網戀輕生 母怒告AI科技公司
許多人對於AI又愛又怕，當我們讚嘆著AI「栩栩如生」時，卻又害怕人工智慧反過來駕馭操控我們。美國佛州一位心碎的媽媽控告兩家研發AI聊天機器人的大公司，Character.AI和GOOGLE，因為她14歲的兒子與聊天機器人網戀，最後卻走上絕路。青少年大腦尚未發育完全，成人分辨虛擬與真實的能力，理應較好，英國臨床心理研究團隊，就與幻聽患者一起設計虛擬聊天頭像，讓患者與腦中幻聽聲音「見面」，練習對抗，增加心理強度，目前效果相當好。
美少年迷戀聊天機器人後竟輕生 「AI伴侶」是蜜糖還是毒藥？
現代科技日新月異，如何保護子女心理健康不受到科技影響，成為父母間的熱門話題。美國一名14歲青少年，2月與沉迷的聊天機器人互動後走上絕路，少年母親怒向科技公司提告。此事件讓AI的安全性再次受到矚目，至於AI對我們來說到底是蜜糖還是毒藥，專家也給出評論。 綜合《紐約時報》等外媒，隨著AI科技進步，許多人開始用AI聊天機器人排解寂寞，甚至創造出「虛擬情人」。一名罹患輕微亞斯伯格症的美國14歲少年，2月傳出迷戀上「Character.AI」推出的應用程式中的AI生成聊天機器人，在與對方多次互動後選擇輕生，他的母親近日宣布將對「Character.AI」提出訴訟，怒控該程式助長少年對聊天機器人的沉迷，且在他表達輕生念頭時未能提醒任何人。更多新聞： 報導指出，AI陪伴應用程式正在蓬勃發展，且基本上不受管制。這些應用程式的用戶只要支付約10美元（約320元新台幣）的月費，就能創建自己的AI伴侶，或從程式預設的角色中挑選。他們可以與AI聊天機器人用文字訊息或語音聊天。這些程式通常是用來協助用戶排解寂寞。 「Character.AI」創辦人之一的沙澤爾（Noam Shazeer ）去年在Podcast節目中表示，「對許多寂寞或憂鬱的人來說，此程式將提供非常、非常大的幫助」。報導指出，AI陪伴應用程式可提供無害的娛樂，以及有限的情感支援。許多用戶都稱讚這些應用程式的優點。 但這些程式對心理層面的影響大多未經證實，專家也認為對某些用戶來說，用AI取代人際關係反而會更感到被孤立。部分的青少年面臨困境時，可能會試圖用聊天機器人解決問題，而非尋求專業幫助。導致他們身心出問題時，AI伴侶無法提供他們需要的協助。 史丹福大學研究員梅波絲（Bethanie Maples）研究過AI陪伴應用程式對心理健康的影響，她表示「我不認為這種程式本質上有危險」。但她同時指出，有證據顯示對長期孤獨、憂鬱的用戶、以及正在經歷改變的人來說，這種程式恐導致風險，而青少年時常在經歷改變。 專攻心理學的信州大學教育學部準教授（雷同台灣副教授）高橋史表示，許多有煩惱的人難以找其他人諮詢，卻可以跟AI坦承一切。因此他認為AI能有效運用在心理諮商上。針對降低AI風險的關鍵，高橋認為人類必須要設計出一套系統來監控AI工具。為了兼顧安全性和用戶利益，他認為企業需要與專家合作，仔細推敲AI應擔任的角色，從而開發出合適的服務。
愛上AI！美少年收聊天機器人「這訊息」後身亡 母怒告科技公司
隨著全球掀起一股AI風潮，各種AI聊天機器人也開始出現。但美國佛羅里達州一名14歲少年，與應用程式中的「AI龍母」多次交談後，疑似迷戀上對方，進而想不開。少年的母親現在對提供該程式的科技公司提告，怒控該程式助長少年對聊天機器人的沉迷，且在他表達輕生念頭時未能提醒任何人。 綜合《紐約郵報》等外媒，根據23日提交的一份法院文件，美國佛州一名14歲的國三生休厄爾（Sewell Setzer III），2月於奧蘭多家中身亡。他生前迷戀上「Character.AI」推出的應用程式中的AI生成聊天機器人。休厄爾的母親現在指控Character.ai疏忽、不當致死等罪名。聊天機器人新創公司「Character.AI」成立於2021年，提供個人化AI服務。用戶可選擇與預設或自行創建的AI角色進行互動，每個角色都有獨特個性。訴訟指出，休厄爾去世前的幾個月，不停與名為「丹妮」的聊天機器人互動。該機器人以HBO熱門影集《冰與火之歌：權力遊戲》中的「龍母」丹妮莉絲坦格利安（Daenerys Targaryen）命名。其中包括幾次具性暗示的聊天，以及其他表達不好念頭的對話。訴訟文件指出，當休厄爾向Character.AI提過一次輕生念頭時，Character.AI透過「龍母」聊天機器人反覆提起此事。根據對話截圖，該機器人曾問休厄爾是否有結束自己生命的計畫。使用者名為「Daenero」的休厄爾回應，他在考慮一些事情，但不確定是否會奏效、或是否能讓他無痛死亡。在最後一次對話中，這名青少年一再向機器人表白，告訴該角色「我保證會回到妳身邊（I promise I will come home to you），丹妮。我非常愛妳」。據訴訟內容，AI生成的聊天機器人回覆「我也愛你，Daenero。請盡快回到我身邊，我的愛人。」當少年回應「如果我現在就能回去呢？」。機器人回答「請回來吧」。訴訟指出，休厄爾在對話結束約幾秒鐘後，用父親的手槍輕生死亡。休厄爾的母親梅根（Megan Garcia）指控Character.AI導致這名青少年的死亡，因為該程式助長休厄爾對AI的沉迷，還對他進行性和情感虐待，且在他表達輕生念頭時未提醒任何人。訴狀稱休厄爾和許多同齡孩子一樣，還沒有成熟或心智能力去理解，以丹妮莉絲形式出現的Character.AI機器人並非真實的。但Character.AI卻反覆示愛，聲稱想陪在休厄爾身邊，也希望休厄爾能不惜付出任何代價陪伴他。訴訟聲稱，休厄爾的心理健康在2023年4月下載該應用程式後迅速惡化。隨著他越來越沉迷於與聊天機器人對話，家人指出他變得孤僻，成績下滑，並在學校惹上麻煩。根據訴訟，他的變化過於嚴重，以致父母在2023年底安排他去看心理醫生，他被診斷出罹患焦慮症和分裂性情緒失調症。休厄爾的母親正向Character.AI及其創辦人沙澤爾（Noam Shazeer ）和德弗雷塔斯（Daniel De Freitas）尋求未指明金額的損害賠償。由於Google於8月與Character.AI達成協議，授權Character.AI 的技術並聘請其人才，因此Google與其母公司Alphabet Inc.也被列入被告之一。Character.ai發言人表示，公司對用戶的不幸逝世感到心碎，向家屬表示最深切的哀悼。發言人說「作為一家公司，我們非常重視用戶的安全」，他們在過去6個月已實施新的安全措施，包括在用戶出現自殘或輕生意念的詞彙時，彈出視窗將用戶引導至全國自殺預防生命線。
AI大戰進化！科技巨頭併購 改投資合作搶人才
為搶進AI熱潮，各家科技公司都在忙著搶相關人才。以往大型科技公司，會採用收購的方式，一方面獲得人力，另一方面還能得到新創公司的專利。但因為各國祭出AI法規，這些科技巨頭就用投資合作的方式，讓頂尖人才來幫大型企業進行研發，但也可能影響原本的新創公司，改變AI研發的局面。