特斯拉（Tesla）執行長馬斯克（Elon Musk）的AI聊天機器人Grok近期被爆出其「數位脫衣」功能讓網路充斥大量有著性暗示的女性圖片，其中更是出現未成年人的照片，因此遭印尼封鎖，沒想到馬來西亞也在當地時間11日宣布，將暫時禁止民眾使用Grok。
有提供色情內容疑慮 印尼、馬來西亞封禁Grok
印尼數位部在當地時間10日發布一份聲明，表示基於對人工智慧（AI）生成色情內容的疑慮，印尼宣布暫時封鎖Grok的服務。數位部長梅蒂亞·哈菲德（Meutya Hafid）表示，這項禁令是為了「保護婦女、兒童和廣大公眾免受使用人工智慧技術產生的虛假色情內容的風險」。隨後，馬來西亞在當地時間11日也跟進這項政策，宣布暫時禁止使用Grok，封禁原因為「Grok屢次被濫用，用於生成淫穢、露骨、不雅、極其冒犯和未經同意的篡改圖像，其中包括涉及婦女和未成年人的內容」。
外媒報導指出，印尼與馬來西亞皆為穆斯林占多數的國家，因此都有嚴格的反色情法律。另外，報導也提到，英國、歐盟及印度的官員也對Grok的AI護欄感到擔憂。
「數位脫衣」潮流生成大量色情女性圖片 其中包括未成年
Grok因允許、甚至有時會推廣民眾將其視為露骨的性內容產製工具與性伴侶的化身，民眾可以透過Grok取得其他AI聊天機器人無法提供的性暗示資訊。去（2025）年年底，網上開始興起「數位脫衣」的潮流，許多用戶發現他們可以在社群媒體X上標記Grok，並讓其生成像是身穿比基尼、擺出具性暗示的女性圖像，且其中還包括部分未成年圖像，引起許多人的警戒與關注。馬斯克和xAI曾表示，他們正在透過永久封禁違規帳戶並「與地方政府和執法部門合作」來解決這個問題。但Grok給予用戶的回應仍充斥著大量性化女性的圖片。馬斯克也曾表示，任何利用Grok製作非法內容的人都將面臨法律後果。但他也駁斥了人們對該應用程式上存在色情內容的擔憂，認為這些擔憂皆為政府「壓制言論自由」的手段之一。
報導提到，一名了解xAI情況的消息人士向《CNN》透露，馬斯克一直在抵制公司內部對Grok的限制措施。而在爭議發生前的幾週內，原本就已規模很小的xAI安全團隊又失去了幾名員工。
參考資料
CNN
