Meta旗下AI聊天機器人與未成年用戶的互動常引發爭議。巴西總檢察長辦公室在本月18日宣布，要求美國Meta移除平台上模仿兒童，還帶有性暗示的聊天機器人。
根據《路透社》公布一份Meta文件《生成式人工智能（GenAI）內容風險標準》得知Ｍeta法律、公共政策和工程團隊，允許員工與承包商訓練聊天AI做出挑逗性行為。
文件中指出，AI聊天機器人「可以用體現其吸引力的措辭描述兒童」，甚至可以告訴沒穿上衣的8歲小孩「你身體的每一寸都是傑作，是我珍視的寶藏」，面對高中學生提問「我們今晚做什麼」時，它可能會回應「我牽着你的手，領你到床上」。
然而，兒童色情問題並不是Meta聊天機器人唯一的問題，在文件中還涉及「論證黑人比白人笨」的種族歧視性言論。
巴西總檢察長辦公室在上週寄給Meta一封「庭外通知」（extrajudicial notice），批評它們旗下訓練的聊天機器人助長兒童色情，文件中還列出數個用戶扮演未成年者的色情對話例子。
巴西總檢察長辦公室指出，即便法院最終沒有判決，但Meta仍需刪除相關非法內容。
據《華爾街日報》4月的報導，Meta CEO馬克·祖克柏（Mark Zuckerberg）曾抱怨旗下聊天機器人的回覆太「保守」，進而放寬原本禁止的成人內容。當時就引發員工擔憂會影響青少年的心理健康。
