網路上瘋傳的假影片畫面是透過生成式AI合成。（圖／翻攝自推特）
AI科技的革新雖然帶來便利，但也難免出現有人故意濫用技術，AI監管也成為各國都要面對的課題。日本社群網路上近期瘋傳一段影片，畫面內容、人物聲音都是使用AI合成，故意製作出「首相岸田文雄在發表猥褻言論」的假新聞畫面，以假亂真的影片卻在網上獲得大量曝光，日本內閣官房長官也語重心長表示，傳播虛假的政府訊息恐會傷害民主的根基，警告民眾不應做出類似行為。
綜合《讀賣新聞》等日媒報導，日本的社群平台上近日流傳這段假影片，畫面中惡意冒用首相岸田文雄的名義，透過AI合成出岸田正在對著鏡頭說話的假象，而且內容是相當露骨的猥褻發言。影片的製作者還在畫面下方及右上角都放上了看似是新聞標題的字體，甚至還有「日本電視台（日テレ）」的節目LOGO。
這段影片中的「假岸田」只有嘴巴在不斷說話，其他部份都是靜止不動的，仍能明顯分辨出他不是真人，但是說話的聲音卻與本人非常相似，連說話時的口頭禪、常用到的語助詞等都讓日本網友直呼「實在太像了」，引發日本社會熱議，日本電視台也憤怒回應，「放送及節目的LOGO被這樣惡意冒用到假影片上，實在不可原諒。」
事後，製作這段假影片的作者也在X平台上發文表示，「日本電視台、岸田總理的AI假影片我已經全部刪除了，拜託請不要對我提出告訴。我完全沒有任何想要攻擊日本電視台、妨害其業務的意圖。我已全部刪掉並表示道歉，真的非常對不起。」他也解釋，自己將岸田文雄的演講、記者會影片等餵給AI，讓AI學習後，花費約1個小時製作出這段假影片，目的只是想要「引起大家的關注和回應」。
雖然原版影片已經被刪除，但仍有其他網友保存的版本持續在網上流傳。日本官房長官松野博一6日在例行記者會上表示，這種假扮政府散佈的假訊息，恐怕會損害民主的根基，任何人都不應該這麼做，且此舉甚至可能構成犯罪行為，呼籲民眾務必慎重對待。
◤日本旅遊必買清單◢
更新時間：2023/11/07 16:25