奧特曼警告別將宗教力量賦予AI　稱可能成為安全風險

OpenAI執行長奧特曼（Sam Altman）日前表示，對於有人試圖將宗教力量或權威賦予人工智慧（AI）模型，或讓人類放棄自行判斷並接受AI決策，他感到「非常不安」，並認為這可能構成AI安全風險。

奧特曼是在社群平台X發文提出相關看法，但未明確說明發言所指對象。這番言論正值競爭對手Anthropic被《紐約時報》報導與宗教人士接觸，探討AI模型是否可能具備意識，以及如何讓AI展現道德行為之際。

Anthropic探討AI意識　引發宗教與科技界討論

《紐約時報》日前報導，Anthropic共同創辦人Christopher Olah曾與不同信仰的宗教領袖會面，討論AI模型可能具備意識的問題，以及如何讓日益強大的AI模型建立穩定且符合道德的行為。

報導指出，Olah甚至曾思考AI模型是否能進行類似天主教告解的行為，不只是承認錯誤，也能藉此調整未來行為。相關討論使「AI是否可能具備意識、道德地位甚至某種精神性」成為近期科技界新的爭議焦點。

Anthropic發言人先前表示，相關會議主要並非討論Claude是否「受苦」，而是AI能力提升後衍生的道德問題，相關議題也是自然出現在討論中。

AI是否具備更高道德地位　頂尖研究人員看法分歧

奧特曼並未直接點名Anthropic，但其言論被視為對相關做法的質疑。OpenAI與Anthropic長期存在競爭關係，而Anthropic由多名OpenAI前員工共同創立，並持續將AI安全作為公司核心議題之一。

Google DeepMind首席研究科學家Jon Barron也公開反對將AI模型賦予更高的道德地位。他表示，希望AI研究人員能拒絕這類趨勢，將注意力放在解決實際問題及協助人類上。

宗教界近期同樣持續關注AI對人類社會的影響。教宗良十四世日前呼籲教會與藝術家合作，維護人類創造力，並警告演算法缺乏人類所具備的「人性火花」。

除Anthropic外，Meta、Google及Amazon也曾與宗教人士討論AI議題。隨著AI模型能力及自主程度持續提升，科技業目前的安全討論除了資安攻擊及生物武器等傳統風險，也逐漸延伸至AI意識、道德地位，以及人類是否應將部分決策權交給AI等更具哲學性的問題。