科技越來越發達,為人類生活帶來進步,卻也引發不少隱憂;最近幾年興起的深偽技術,除了運用在臉孔,也能造假聲音,而且技術越來越純熟,真假難辨。媒體記者實測用電腦做出自己的聲音打給父母,兩人都上當。專家擔心會被濫用散播假新聞、騙取錢財。至於在加州洛杉磯也正因警隊是否加入機械狗而爭論不休。
深偽技術Deepfake越來越成熟,不只要提防以假亂真的影像,現在還要擔心聲音被假冒。
AI版CNN記者:「你有覺得我的聲音聽起來不同嗎?」
CNN記者母親:「我才跟Sinead(記者的姊姊)說,他口音越來越像美國人了。」
AI版CNN記者:「這其實並不是我,是電腦生成的聲音。」
CNN記者母親:「天啊,你是認真的嗎?」
AI版CNN記者:「哈囉爸爸。」
CNN記者父親:「哈囉。」
AI版CNN記者:「你好嗎?」
CNN記者父親:「不錯,你呢?」
AI版CNN記者:「才剛剛採訪完,等下要去機場。」
CNN記者父親:「是嗎?回去紐約嗎?」
AI版CNN記者:「克里足球俱樂部(Kerry)這周打球嗎?」
CNN記者父親:「周日和Tyrone打。」
他們雖然覺得聲音有一點點怪,但並沒有多想,甚至還和「AI假兒子」越聊越開心,讓本尊不得不介入。
CNN記者:「爸,我晚點再打給你,你可以再讓媽媽聽一下電話嗎?」
利用機器學習功能,把任何人的聲音移花接木,為了好玩無傷大雅,像是這支模擬CNN主播的造假音頻。
AI版CNN主播 布里澤(WOLF BLITZER):「我是Wolf Blitzer,Hany Farid,你在《情境室》。」
CNN記者:「這非常…」
數位鑑識專家 法理德(Hany Farid):「很不錯耶。」
但隨著2024大選逼近,專家也開始擔憂假音頻被有心人士濫用,成為混淆視聽,操弄風向的工具;甚至也有機會被拿來進行詐騙電話,或者突破聲紋辨識的銀行帳戶。
數位鑑識專家 法理德:「當我們進入這個任何東西都可能是假的世界時,任何圖片、任何音頻、任何影像、任何文字,都不用是真實的。我們有所謂騙子的紅利,任何人都可以否認現實。」
網路上充斥著各種AI工具,只要動動手指,幾乎人人都能做出假影片、假音頻,資訊的真假更難辨識。
數位鑑識專家 法理德:「沒有線上和線下的世界,只有一個世界,而且它是完全整合的。當事情在網路上發生時,它們會對個人、社區、社會和民主國家產生真正的後果,而且我不認為我們全體有完全認清我們在這裡的責任。」
科技越來越發達,這隻穿梭在黑暗隧道內,由波士頓動力(Boston Dynamics)研發的機械狗,也在近期成為美國洛杉磯市議會的爭論焦點。
加州市民:「沒有人說要一隻愚蠢的機器狗,沒有人需要一隻機器狗。」
洛杉磯警察基金會以27.8萬美元買了機器狗送給警察局作為特警使用,目的是讓城市更加安全,卻引發大眾的強烈反彈。
洛杉磯市議員 赫南德茲(Eunisses Hernandez):「所以同事們,我再問一次,接受這個贈禮,如何讓我們城市更安全,在財政上又是如何負責?」
這支機器狗可以穿越不平坦地形、爬樓梯、打開車門,還可以透過對講系統與嫌犯交談,確保警方的安全。
洛杉磯警察局 科瓦斯基(David Kowalski):「機械狗Spot可以讓我們可以從遠端看到平時肉眼無法看到的地區,或是不用把我們的官員置於危險境地。」
但就怕被用來收集數據,成為監督市民的工具,其他警察部門,像是紐約市就曾短暫使用,最後又回收,其中最大的原因也是機械狗的使用並沒有明文規範。
洛杉磯警察局 科瓦斯基:「紐約市沒有製定書面政策。」
洛杉磯警察局表示已經制定詳細的政策,將嚴格限制機器狗的使用,像是不能作為致命武器、加入日常巡邏等等;市議會將在2個月後重啟討論,決定是否接受贈禮。
洛杉磯市議員 索托馬丁尼茲(Hugo Soto-Martinez)「當民眾聽到時,他們聽不見你在說什麼,只聽到這個在社區中的潛在使用。」
科技快速進步,能夠改善人類生活,但同時衍伸出新的問題。
◤日本旅遊必買清單◢