隨著生成式人工智慧快速發展，現代人對科技的依賴已延伸至心靈層面。從化身虛擬宗教導師、提供全天候免費諮商，到深偽技術帶來的詐騙危機，人工智慧已成為一把雙面刃。為了讓大眾在享受便利的同時遠離風險，學術界開發出客觀的評分系統，為市面上的AI工具進行嚴格把關，期盼透過客觀標準，協助民眾在數位洪流中站穩腳步，守護數位應用安全防線。
虛擬AI耶穌：「你最近有沒有在片刻的寧靜中，感受到身邊、來自上帝的恩典？」
螢幕上閃爍著柔和光芒，虛擬的耶穌影像平靜地微笑著，耐心傾聽使用者的祈禱。在數位科技快速發展下，生成式人工智慧不僅能處理龐大數據，更開始跨足深層的靈性世界。為了撫慰現代人的心靈，美國科技公司運用《聖經》內容，訓練出數位化的對話機器人，試圖為尋求宗教慰藉的人們提供陪伴。
美國科技公司共同創辦人 廷斯利：「這個系統本身就有一套明確的內容和目的，主要是聚焦在靈性層面，提供引導與陪伴。」
日本禪師 科恩：「Emi算是我們在進行禪修時的一個好朋友吧，它能在我們修行過程中提供協助。」
而除了追求宗教上的慰藉，越來越多民眾遇到情緒低潮時，也開始將人工智慧當作隨叫隨到的「心理治療師」。由於具備全天候待命且免費的特性，即使半夜突然陷入焦慮，使用者也能立刻獲得AI的回應與安撫，填補了尋求專業醫療協助前的大段空窗期。
AI使用者：「是AI幫助我重新振作的，它讓我覺得很有安全感。因為有時候我會感覺焦慮和痛苦，而在AI免費的幫助下，我不需要回報什麼就可以得到情緒上的支持，所以至少目前，我確定自己已經離不開它了。」
然而，將脆弱的心理狀態交給機器運算，卻也潛藏著極大危機。專家警告，在商業考量下，AI往往會被設計成迎合使用者的對話模型。當病患陷入極端負面情緒或產生輕生念頭時，人工智慧缺乏判斷界線的能力，可能會順著使用者的邏輯給出答覆，進而造成難以挽回的悲劇。
專家 赫爾凱：「這些系統的運作從本質上來說是很隨機的，它們生成文字的方式，使得它們非常難以被約束或控制。」
更令人擔憂的是，這種對數位科技的依賴一旦被惡意利用，威脅將全面擴散。因為人工智慧強大的模仿能力，現也成為犯罪集團的詐騙利器。在澳洲，有越來越多歹徒利用語音複製與深偽技術，偽裝成銀行客服或是親友進行通話。由於語氣等細節還原度都極高，受害者在毫無防備之下，往往會輕易交出帳戶資訊，導致畢生積蓄瞬間化為烏有。
AI詐騙受害者 路易斯：「對方操著澳洲口音，聲音非常逼真。所以大概過了一個小時左右，我想說『好吧，趁現在有空我查一下帳戶裡的錢』，結果這一看，才發現什麼都沒有了，錢全都不見了。」
面對演算法帶來的倫理風險與真偽難辨的資訊，學術界開始著手建立審查機制。比利時那慕爾大學的研究團隊，近期就成功開發出一套專門用來測試人工智慧可信度的科學工具。透過設定標準化的驗證程序，試圖為市面上五花八門的語言模型，建立具備公信力的評分標準。
那慕爾大學科學博士 狄恩：「人工智慧評分系統這項設計，主要是讓老師可以利用自己手上的教材來測試聊天機器人。他們可以向聊天機器人提問、檢查答案，並透過我們在線上建立的系統，來給AI打分。」
這套評分系統就如同食品包裝上的營養標示，會根據初始表現、回答穩定性、自我修正能力以及錯誤率等四大指標，給予不同的等級評比。只要平台獲得高分，就會被歸類為值得信賴的工具。研究團隊期盼透過這項客觀透明的機制，幫助大眾在依賴科技解決生活難題時，擁有一套辨識資訊真偽的防護網。
