深偽技術(deep fake)製造的影像幾可亂真,而且已經在網路世界蔓延!美國研究公司指出,一家名為《狼新聞》的網路媒體,利用深偽技術做出來的假主播,散播美國是霸權國家的言論,刻意放大美國社會的問題,緊抓人們對上網獲取新資訊的依賴性,在網路上流竄,提供技術的英國公司毫不知情。外界擔心這類技術如果用在大選前一刻拋出震撼彈,威力不容小覷。
搖滾天團林普巴茲提特(Limp Bizkit)車庫開唱,但仔細一看,成員們的臉孔竟然是大國領袖,金正恩拿著鼓棒,另外美國總統拜登、烏克蘭總統澤倫斯基都成了搖滾樂手,主唱是俄羅斯總統普欽,唯一的觀眾是正在烤肉的湯姆‧克魯斯,這奇怪的組合,原來是利用深偽技術(deep fake)製作的MV。
林普巴茲提特主唱 佛瑞德斯特 (Fred Durst) :「就像是一個平行宇宙,把不同生活的人放在一起,無論是哪一天,他們聚在了一起。」
深偽MV成功闖出話題,但當這項技術被拿來不當運用,以假亂真的影響力讓外界相當擔心──
中國《狼新聞》主播 :「哈囉大家好,這裡是《狼新聞》,我是艾力克斯。」
乍看之下跟一般主播沒有兩樣,但仔細觀察,主播的嘴型和聲音,有時會出現秒差,因為他們都不是真人,這是一家名為《狼新聞》(Wolf News)的網路媒體,利用deepfake技術,靠假主播報新聞,透過來自中國的機器人假帳戶,去年起將這些片段,透過臉書和推特發送。
美國研究公司Graphika情報部副總裁 史塔博(Jack Stubbs) :「這組特定的影片,是由我們自2019年以來一直在追蹤的,它們經常放大符合北京戰略利益的內容。」
美國研究公司Graphika上週發布報告,表示《狼新聞》的系列影片,刻意將美國形容成霸權國家,更被指對抗疫情失敗。新聞內容大力讚揚中國官方活動,放大美國社會的缺失。
中國《狼新聞》主播 :「槍枝暴力造成近4萬人死亡...」
而這兩名假主播,其實是來自英國一家名為Synthesia的公司,在網路上提供的深偽技術服務,只要動動手指,就能指揮虛擬人物說出你想要講的話,沒想到被有心人士利用。
CNN記者 :「讓我來為你示範,做深偽影片有多簡單,我現在在Synthesia官網,點擊創造免費AI影片,講稿部分,我們讓虛擬人物說:嗨!我是CNN的特派記者。然後幾分鐘之後,就可以收到電郵。」
英國Synthesia公司深偽影片:「嗨!我是CNN的特派記者,謝謝安德森,讓我來上節目。」
美國前總統 川普 :「我們現在知道氣候變遷是假的,就像這支影片一樣。」
比利時社會黨曾製作這段深偽影片,只是想在網路上開個玩笑,卻驚訝發現大量民眾湧入留言,把影片內容當真,只好一個個回復澄清;專家擔心,這類影片出現的時間點,短時間內造成的衝擊不容小覷,甚至可能左右一個國家的大選。
德國IT安全技術專家 瑞斯 (Christian Riess):「是的,現在的研究機構,沒辦法幾小時內應對分析,所以當選舉前幾小時,某個讓人不悅的新聞跳出來,結果是假的,但我們卻無法及時察覺。」
美國國家人工智慧安全委員會表示,AI技術正在讓中、俄和其他國家,滲透社會竊取數據,甚至對民主造成威脅。
利用人們對網路獲取及時資訊的依賴性,深偽技術讓假新聞多了一分真實性,吸引民眾受騙上當。
◤Blueseeds永續生活◢