雖然大陸圍台軍演不到一天就落幕，但近期，包含抖音臉書等社群平台，流傳一段退役少將于北辰影片，內容是于北辰稱讚共軍軍演、還說共軍登陸時會投降。對此，于北辰表示，影片是造假，利用過去節目上發言片段，再配上AI語音製作而成。
聽到這裡可能開始察覺不對勁，再聽他繼續講下去。
桃園市議員于北辰(遭造假影片)：「解放軍登陸台灣我直接舉手投降就好，你們不要笑我是退役少將，不是現役少將大家都是中國人。」
不只大讚共軍軍演，甚至還說共軍登陸時會投降，這段看似是桃園市議員于北辰說的話，不但本人駁斥，影片是造假利用過去他上節目畫面，再配上假AI聲音製作而成。也被事實查核中心發現確實是AI變造，用今年5月政論節目畫面，再利用深偽技術製造出假的聲音，而且用偵測工具Deepware進行檢測，系統判定有超過5成機率經過深偽變造，部分畫面甚至偵測到9成機率，但不只他受害。
名嘴王瑞德(遭造假影片)：「于北辰你不是很跳腳嗎？怎麼這幾天沒有聲音啊。」
沒仔細看真的看不出來，甚至還有大陸網紅進而再宣傳擴散，讓王瑞德臉書大嗆，中共真的很怕我，連這種剪貼拼湊AI合成的東西，也敢在抖音和小紅書到處散播，七十年前就玩過的老把戲，都沒有長進，像這樣認知作戰，學者認為會越來越頻繁。
就算影片下方附上AI標籤，但經過不同社群平台轉傳，真假更難判斷。
