Meta於7月16日宣布推出多項AI安全新措施，未來若青少年與Meta AI聊天時出現涉及自殺或自傷的內容，系統將主動通知家長，並提供相關心理健康資源，協助家長與孩子展開對話。Meta也表示，正開發新功能，若判斷使用者有立即自殺風險，未來將可主動聯繫緊急救援單位。
Meta表示，當青少年向Meta AI表達可能有自殺或自傷傾向時，系統原本就會提供心理危機專線資訊，並鼓勵尋求家長或其他可信任成人協助。此次更新則新增家長通知機制，透過專門訓練的AI系統偵測相關聊天內容，再由人工審核確認後發送通知。若系統無法明確判斷使用者意圖，仍會採取較審慎的做法通知家長。
這項功能目前已向美國、英國、澳洲及加拿大使用Instagram家長監護功能的家長開放，Meta預計今年底前擴大至全球市場。
除了通知家長外，Meta表示，未來若AI判斷使用者（無論成人或青少年）可能有迫切的自殺風險，也將比照Facebook與Instagram既有機制，主動聯繫緊急救援單位。Meta指出，去年公司已針對Facebook及Instagram上的相關內容向全球緊急救援單位通報逾1.9萬次，協助第一線人員進行安全關懷。
Meta同時宣布，Instagram的「限制內容（Limited Content）」設定將延伸至Meta AI。啟用後，AI將拒絕回應更多敏感提問，包括涉及性、戀愛及其他可能不適合青少年的內容，以提供更符合年齡的使用體驗。
近年AI聊天機器人如何回應陷入心理危機的使用者，尤其是青少年，持續受到監管機關、家長及心理健康專家的關注。Meta表示，公司已徵詢超過75名專精青少年心理健康的臨床專家意見，進一步改善Meta AI在自殺及自傷等敏感議題上的回應方式。
《TVBS新聞網》關心您，珍愛生命，請再給自己一次機會
生命線：1995｜衛福部諮詢安心專線：1925｜張老師專線：1980
Meta表示，當青少年向Meta AI表達可能有自殺或自傷傾向時，系統原本就會提供心理危機專線資訊，並鼓勵尋求家長或其他可信任成人協助。此次更新則新增家長通知機制，透過專門訓練的AI系統偵測相關聊天內容，再由人工審核確認後發送通知。若系統無法明確判斷使用者意圖，仍會採取較審慎的做法通知家長。
這項功能目前已向美國、英國、澳洲及加拿大使用Instagram家長監護功能的家長開放，Meta預計今年底前擴大至全球市場。
Meta同時宣布，Instagram的「限制內容（Limited Content）」設定將延伸至Meta AI。啟用後，AI將拒絕回應更多敏感提問，包括涉及性、戀愛及其他可能不適合青少年的內容，以提供更符合年齡的使用體驗。
近年AI聊天機器人如何回應陷入心理危機的使用者，尤其是青少年，持續受到監管機關、家長及心理健康專家的關注。Meta表示，公司已徵詢超過75名專精青少年心理健康的臨床專家意見，進一步改善Meta AI在自殺及自傷等敏感議題上的回應方式。
生命線：1995｜衛福部諮詢安心專線：1925｜張老師專線：1980
