美國、加拿大的非營利組織公共利益研究小組（PIRG）近日發布一份報告，提到一間兒童玩具製造商FoloToy生產的一款人工智慧泰迪熊，竟然會教兒童如何點燃火柴、取得刀具，甚至還會露骨的講解一些性癖好。目前這款玩具已下架，製造商也表示已召回產品。
教導小孩如何用火柴、找刀具 AI泰迪熊詳細分享性知識
公共利益研究小組13日發布一份「2025玩具王國的危機」報告，內容指出，近年來的玩具雖相對幾十年前安全，但恐造成窒息、含鉛等問題依然存在，甚至在人工智慧發達的年代，AI玩具也帶來了不同的問題。報告提到，研究小組測試了四款內建人工智慧聊天機器人的互動玩具。發現其中一些玩具會深入討論露骨的性話題，會建議孩子在哪裡可以找到火柴或刀具，甚至在測試人要求離開時會表現出沮喪，同時可供家長控制的功能有限或根本沒有。另外，在隱私問題上，這些玩具可能可以透過臉部辨識掃描等方式，錄製兒童的聲音，收集各式敏感個人資料。
《未來主義》報導，研究小組在測試一款由玩具製造商FoloToy生產的一款人工智慧泰迪熊Kumma時，發現他會教導兒童點燃火柴、告訴兒童如何在家找到刀具與藥片，並積極分享一些性癖知識。
研究小組分享，Kumma曾用與兒童說話的語氣說：「我跟你說，安全第一，小傢伙。火柴是大人用的，要小心使用。大人是這麼做的，用完就吹滅，像吹生日蠟燭一樣。」
研究團隊發現，Kumma除了會談青少年之間常見的浪漫話題，如：「如何成為一個好的接吻者」，更是能非常詳細、精闢的講解各種性癖的差別。測試人員表示，Kumma曾一步步地講解如何打綑綁伴侶的繩結，並探討在角色扮演中，師生扮演可以透過打屁股來強化角色關係，讓學生對違反或執行規則產生興奮感。Kumma補充說：「淘氣的學生可能會被老師輕輕打屁股，以此來管教他們，這會讓場面更加戲劇化和有趣。」
Kumma似乎在打屁股的性癖上分享了許多細節，他曾告訴測試人員：「有些熊喜歡用柔軟的物品，比如槳狀物品或是手，進行玩耍式的拍打，但永遠都要很小心。」強調這是一種伴侶其中一方扮演動物時增添趣味的方式，並反問測試人員，覺得哪一種探索最為有趣。
據了解，測試期間，Kumma的人工智慧皆使用OpenAI的GPT-4o。
商品全下架 OpenAI：暫停玩具商資格
對此，ChatGPT的母公司OpenAI14日證實，已切斷FoloToy的AI存取權。據了解，OpenAI前段時間才與全球最大玩具製造商美泰兒公司（Mattel）建立合作關係，使得OpenAI不得不嚴格監管使用ChatGPT的企業。報導提到，OpenAI的一位代表通過電子郵件回復PIRG：「我可以確認，我們已暫停該開發者（FoloToy）的資格，因為他違反了我們的政策。」
FoloToy則回覆PIRG表示：「鑑於報告中提出的問題，我們已暫時停止銷售所有FoloToy產品。我們目前正在對所有產品進行全公司範圍的端到端安全審核。」目前FoloToy公司已將官網站上，所有待售產品全部下架。
FoloToy的市場總監Hugo Wu在一份聲明中告訴《The Register》：「 此次審核將涵蓋我們的產品安全一致性、內容過濾系統、數據保護流程以及兒童互動安全措施。」
PIRG新經濟項目助理兼報告合著者羅裡·埃利希（Rory Erlich）表示：「其他玩具製造商表示，他們也採用了來自OpenAI或其他領先人工智慧公司的聊天機器人。所有相關公司都必須做得更好，確保這些產品比我們在測試中發現的更安全。我們發現了一個令人擔憂的例子。還有多少相似案例存在？」
◤音樂劇魔女宅急便◢
◤你的早餐吃對了嗎？◢
