大陸全力發展人工智慧（AI）技術的同時，也衍生出一條灰色產業鏈，讓不肖人士有機可乘。在抖音等平台上，充斥著能夠盜取他人聲音的軟體介紹和教程，這些工具宣稱只需十幾秒就能完美複製任何人的聲音。奧運跳水冠軍全紅嬋就成為受害者，有人利用AI技術製作她推銷土雞蛋的假影片，以假亂真的內容成功欺騙粉絲，賣出高達4.7萬份的商品。這種AI盜聲技術結合換臉功能，已成為詐騙集團的新型工具。
這些詐騙行為背後，是一個龐大的AI盜聲產業鏈。在大陸社群平台上，充斥著大量AI教程與軟體，它們標榜「一鍵盜聲」功能，讓假冒他人聲音變得毫無難度。這些工具不僅能複製聲音，還能切換不同情緒，讓仿冒效果更加逼真。有示範影片顯示，同一句話可以用不同的情緒表達出來，甚至能將中文「臣妾多想恨你啊」轉換成英文「I wish I could hate you」，並保持原有的聲音特徵。
大陸網路安全專家潘季明表示，這些盜聲軟體可以對用戶輸入的音頻文件進行實時學習，然後按照目標人物的聲音特徵，實時說出攻擊者想要表達的任意內容。潘季明強調，AI複製聲音技術最可怕的地方，是被詐騙集團利用，結合AI換臉技術，可以生成高度逼真的「虛擬人類」，讓無辜民眾的血汗錢被榨乾。他呼籲政府與平台要加強源頭治理，避免科技淪為犯罪幫凶，保護民眾免受這類新型詐騙的侵害。
