廣告
xx
xx
"
"
回到網頁上方

連父母都騙倒!AI深偽假聲音 恐遭詐騙用

記者 林利庭 報導
發佈時間:2023/03/10 19:51
最後更新時間:2023/03/13 10:43

科技越來越發達,為人類生活帶來進步,卻也引發不少隱憂;最近幾年興起的深偽技術,除了運用在臉孔,也能造假聲音,而且技術越來越純熟,真假難辨。媒體記者實測用電腦做出自己的聲音打給父母,兩人都上當。專家擔心會被濫用散播假新聞、騙取錢財。至於在加州洛杉磯也正因警隊是否加入機械狗而爭論不休。

圖/達志影像美聯社

深偽技術Deepfake越來越成熟,不只要提防以假亂真的影像,現在還要擔心聲音被假冒。

 

AI版CNN記者:「你有覺得我的聲音聽起來不同嗎?」
CNN記者母親:「我才跟Sinead(記者的姊姊)說,他口音越來越像美國人了。」
AI版CNN記者:「這其實並不是我,是電腦生成的聲音。」
CNN記者母親:「天啊,你是認真的嗎?」

 
只需要錄幾分鐘的對話上傳,再一邊輸入談話內容,電腦就能模仿你說出任何話,CNN記者實際測試打給父母都沒有被識破。

AI版CNN記者:「哈囉爸爸。」
CNN記者父親:「哈囉。」
AI版CNN記者:「你好嗎?」
CNN記者父親:「不錯,你呢?」
AI版CNN記者:「才剛剛採訪完,等下要去機場。」
CNN記者父親:「是嗎?回去紐約嗎?」
AI版CNN記者:「克里足球俱樂部(Kerry)這周打球嗎?」
CNN記者父親:「周日和Tyrone打。」

他們雖然覺得聲音有一點點怪,但並沒有多想,甚至還和「AI假兒子」越聊越開心,讓本尊不得不介入。

CNN記者:「爸,我晚點再打給你,你可以再讓媽媽聽一下電話嗎?」
 

利用機器學習功能,把任何人的聲音移花接木,為了好玩無傷大雅,像是這支模擬CNN主播的造假音頻。

AI版CNN主播 布里澤(WOLF BLITZER):「我是Wolf Blitzer,Hany Farid,你在《情境室》。」
CNN記者:「這非常…」
數位鑑識專家 法理德(Hany Farid):「很不錯耶。」

但隨著2024大選逼近,專家也開始擔憂假音頻被有心人士濫用,成為混淆視聽,操弄風向的工具;甚至也有機會被拿來進行詐騙電話,或者突破聲紋辨識的銀行帳戶。

數位鑑識專家 法理德:「當我們進入這個任何東西都可能是假的世界時,任何圖片、任何音頻、任何影像、任何文字,都不用是真實的。我們有所謂騙子的紅利,任何人都可以否認現實。」
 

網路上充斥著各種AI工具,只要動動手指,幾乎人人都能做出假影片、假音頻,資訊的真假更難辨識。

數位鑑識專家 法理德:「沒有線上和線下的世界,只有一個世界,而且它是完全整合的。當事情在網路上發生時,它們會對個人、社區、社會和民主國家產生真正的後果,而且我不認為我們全體有完全認清我們在這裡的責任。」

科技越來越發達,這隻穿梭在黑暗隧道內,由波士頓動力(Boston Dynamics)研發的機械狗,也在近期成為美國洛杉磯市議會的爭論焦點。

加州市民:「沒有人說要一隻愚蠢的機器狗,沒有人需要一隻機器狗。」 

洛杉磯警察基金會以27.8萬美元買了機器狗送給警察局作為特警使用,目的是讓城市更加安全,卻引發大眾的強烈反彈。

洛杉磯市議員 赫南德茲(Eunisses Hernandez):「所以同事們,我再問一次,接受這個贈禮,如何讓我們城市更安全,在財政上又是如何負責?」

這支機器狗可以穿越不平坦地形、爬樓梯、打開車門,還可以透過對講系統與嫌犯交談,確保警方的安全。

洛杉磯警察局 科瓦斯基(David Kowalski):「機械狗Spot可以讓我們可以從遠端看到平時肉眼無法看到的地區,或是不用把我們的官員置於危險境地。」

但就怕被用來收集數據,成為監督市民的工具,其他警察部門,像是紐約市就曾短暫使用,最後又回收,其中最大的原因也是機械狗的使用並沒有明文規範。 

洛杉磯警察局 科瓦斯基:「紐約市沒有製定書面政策。」

洛杉磯警察局表示已經制定詳細的政策,將嚴格限制機器狗的使用,像是不能作為致命武器、加入日常巡邏等等;市議會將在2個月後重啟討論,決定是否接受贈禮。

洛杉磯市議員 索托馬丁尼茲(Hugo Soto-Martinez)「當民眾聽到時,他們聽不見你在說什麼,只聽到這個在社區中的潛在使用。」

科技快速進步,能夠改善人類生活,但同時衍伸出新的問題。
 

◤日本旅遊必買清單◢

👉超夯日本電器竟然還有額外優惠!

👉日本免稅美妝必買這些!筆記給妳

👉存起來!遊日本免稅最高再折17%



#深偽技術#AI#人工智慧#科技#機器狗#波士頓動力

分享

share

分享

share

連結

share

留言

message

訂閱

img

你可能會喜歡

人氣點閱榜

延伸閱讀

網友回應

其他人都在看

notification icon
感謝您訂閱TVBS,跟上最HOT話題,掌握新聞脈動!

0.1073

0.0654

0.1727