廣告
xx
xx
"
"
回到網頁上方

AI深偽影音氾濫 從「親友復活」到竊取聲音影像 規管難

記者 萬敏婉 報導
發佈時間:2024/05/28 20:01
最後更新時間:2024/05/29 10:41

AI是當前最夯話題。而在中國大陸,AI技術應用也深入各個角落,尤其是AI製作的影音畫面,在網路世界快速發展。從追憶去世親友的「復活」影音,到專門製作「數位人物」來進行網路銷售,業者如雨後春筍般出現。但也因為AI深偽技術的普及,近日傳出烏克蘭YouTuber遭不法人士盜用影音,製作成親俄羅斯「數位人物」的深偽影片,不但大賣俄貨,更鼓吹中俄友好。還有許多帶政治宣傳性質的深偽影片,更是廣為傳播,讓網路世界更加「眼見不為真」。

圖/翻攝自微博

AI復活親人影像:「兒子啊,媽媽來看你了。」

 

從離世親友留存下的影音資料,製作出栩栩如生的「親人復活」影片,為活著的人,帶來一些心理慰藉;到民眾自己走進攝影棚,拍下約10分鐘的影像與聲音素材,為自己打造出一個專門在網路上使用的「數位人物」。

商湯科技數字人產品高級總監 李斌:「數字人的生成的話,其實很簡單,大致就分成兩步就行。那一步就是我們克隆(複製)你的形象,另外一步就是克隆(複製)你的聲音。我們現在在整合了我們的大模型之後,它可以做更多的一些互動型的數字人,其實就是根據所需要的一些人設,來回答它的問題。」

這些透過AI生成的數位人物,不但能夠開展即時互動,還能隨時切換不同語言,在電腦高速運算下,也不會出現口型與聲音不一致的情況。
 

而這些由電腦製作出來,與本尊一模一樣的數位人物,可以隨時在網路上使用各種語言,向全世界的客戶介紹產品,甚至直播帶貨;還可以讓去世的親友重回人世,繼續透過螢幕與其他人互動。

復活親人委託人 楊先生vs.上海東方衛視記者:「等於說我視頻(通話)的時候,其實是他的工作人員坐在我視頻對面,他實時(即時)換臉和聲音提取,(花了多少錢?)如果要說當時,其實是他們設定的一個標準,是9千8(人民幣,約4.3萬台幣)的一個標準。」

業者坦言,在當前進步飛快的AI技術支持下,就算用遮擋部分鏡頭,或者捏臉等動作,即時互動的AI數位人物也能馬上反應在畫面裡,讓人看不出破綻。也因此,所有透過螢幕展現出來的畫面,都有可能不是真實的。

上海東方衛視記者:「你以為你網聊的朋友是長這樣的、這樣的,或者這樣的。但其實,他是長這樣的、這樣的,或者這樣的。」

而這種真假難辨的AI影片,在中國大陸的網路上,隨時可以找到一大票專門的業者負責製作。但此同時,也產生大量侵權深偽影片。從去世的藝人明星,到當前活躍的網紅YouTuber。

AI深偽影片:「我熱愛這片熱土,熱愛中國。」

目前就讀美國賓州大學的20歲烏克蘭女學生洛伊克(Olga Loiek)就是受害者之一。
 

她去年11月開設YouTube頻道,偶爾上傳一些生活分享影片。沒想到卻被不法份子盜用影像與聲音,並且藉AI深偽技術,製造成一個數位人物。

盜用者自稱娜塔莎,是名31歲俄羅斯女性,目前住在黑龍江。她透過中國社交平台抖音與小紅書,販售包括糖果等多種俄羅斯商品,還不斷鼓吹中俄友好,並以「很多漂亮俄羅斯閨密也喜歡中國」,積極向中國單身男性招手。

受害烏克蘭女學生洛伊克:「她已經有14萬粉絲,還發布了一大堆用了我的臉的影片。她喜歡在影片裡說,自己有多愛俄羅斯,以及俄羅斯如何地得到中國的經濟支持。作為一個烏克蘭人,這太讓我感到憤怒了。」

受害女學生坦言,自己一句中文也不會說。但AI深偽技術製作出來的影片,主人翁說得一口流利的中文,嘴型與聲音更是完全符合,就連熟悉中文的台灣民眾也不容易分辨。

台北民眾vs.CNN記者:「我看不出來,看不出來。(沒辦法分辨吧?)嗯。(她的中文怎麼樣?)AI啊。(AI,你看得出來?)」
 

除了透過AI技術,製造許多「各國民眾熱愛中國」的深偽影片,並在中國的社交平台大量傳播之外,這些使用AI技術的深偽影片,還會在許多中國對外爭議性議題,例如南海主權爭議上,被製作成當地民眾贊成中方論調的影片,並由官方媒體廣為傳播。

紐約調查公司總監 泰勒威廉斯(Tyler Williams):「這是對真相來源的普遍性破壞。」

CNN去年就曾經對中國的AI深偽技術,進行深入報導,尤其這些透過深偽製作出來的AI主播,還大剌剌成為官方媒體的御用主播。

AI深偽影片:「第一次來到中國。」

曾經,中國的AI技術,只能讓美國前總統川普說的中文,虛假得讓人尷尬。

AI深偽影片:「中國的單身男人們…」

如今不但影片本身已經真偽莫辨,透過最新研發出的透明螢幕個人電腦,一方面讓AI影片可以與真實物體互動,一方面更讓高度運算的AI技術,只要用一台筆記型電腦就可以達成。這恐怕更讓未來的世界,不再是眼見為真了。
 

◤最新車壇資訊◢

👉2024購車風向球! 未來7成民眾考慮買新車

👉全台購車偏好大公開,看看你的車上榜沒

👉最新車訊不漏接,一鍵輕鬆get不費力


#AI#深偽影片#親人復活#數位人物#政治宣傳#聯想電腦

分享

share

分享

share

連結

share

留言

message

訂閱

img

你可能會喜歡

人氣點閱榜

延伸閱讀

網友回應

其他人都在看

notification icon
感謝您訂閱TVBS,跟上最HOT話題,掌握新聞脈動!

0.1385

0.0663

0.2048