AI聊天機器人技術發展迅速，如今更有新創公司、企業及研究單位投入開發「會話型人工智慧」（CAI），試圖將其應用於心理治療。然而，這股趨勢已引起專家與學者的關切，認為AI缺乏對人際的理解，恐涉及複雜的倫理問題。
根據《Psychology Today》報導，目前全球已有多家新創公司、企業及研究單位，紛紛開發並推廣基於CAI的心理治療工具，甚至以「心理治療師」之名自居。這讓心理治療從業人員、學界及政策制定者開始擔憂，並強調基於倫理與專業理由，CAI不應被視為真正的心理治療。
依據專家觀察，儘管多數專業人士並不認為CAI工具能取代真正的治療師，但現行對心理治療的定義，卻未能有效區隔真人與AI。美國心理學會（APA）將心理治療定義為「由受過專業訓練者提供的心理服務，透過溝通與互動來幫助人們調整情緒與行為」。這樣的描述雖看似嚴謹的規範，但已無法阻止AI的模擬與仿效。
專家進一步指出，雖然有人質疑CAI是否屬於「受過訓練的專業人士」，有企業就強調，他們的CAI系統透過大量學習認知行為治療資料，並在臨床專家監督下訓練，以證明其具備專業背景。
隨著CAI幾乎能複製傳統心理治療定義的所有面向，專家認為當務之急是釐清心理治療本質，明確指出AI所缺乏的核心要素，重新界定何謂真正的心理治療，以及CAI應具備哪些條件才稱得上心理治療，才能確保專業標準與公眾利益不受侵害。
