以巴衝突的前幾天，網上出現AI生成的假照片。（圖／翻攝自jpost）
以巴衝突10月7日爆發後，以色列對加薩地區進行報復性轟炸，至少已造成逾萬名巴勒斯坦人死亡，死者大部分為婦孺。各種加薩地區怵目驚心的照片開始在網上大量瘋傳。然而，外媒指出，許多瀏覽數破百萬的照片，都是使用人工智慧（AI）技術生成。
《美聯社》指出，以巴衝突發生後，AI生成的深度偽造（Deepfake）照片瀏覽數超過上百萬次。只要仔細觀察，就能發現照片中的人像有許多不對勁之處，包括手指異常彎曲、眼中閃爍不自然光芒。這些照片讓我們知道，AI有能力生成栩栩如生的大屠殺照片，足以作為政治宣傳道具。以巴衝突後，社群媒體流傳的部分照片，捏造出未發生的暴行，用來蒙騙網友或做出不當指控。
儘管部分網上的不實指控來自傳統渠道，並未涵蓋AI技術，但這種先進技術遭使用的機率趨於頻繁，且受到較少監督，明顯使AI成為一種新形式武器，可能會被使用在未來發生的衝突、選舉或重大事件中。
報導指出，這些AI生成圖片是為了煽動大眾情緒。（圖／翻攝自arabtimesonline）
美國科技公司Creopoint執行長戈登斯坦（Jean-Claude Goldenstein）指出，「這樣的狀況變好前，會先經歷一段極其惡劣的過程」。該公司主要使用AI辨識網路言論的可信度。他們為爆紅的加薩相關深偽內容創建了資料庫。「照片、影片和音檔，在AI的推波助瀾下，將升級到大家所前所未見的地步」
報導指出，有心人士取用過去其他衝突或災難的照片進行加工，偽造成新的照片，或使用AI程式生成照片。以巴衝突初期，一張嬰兒在殘骸哭泣的深度偽造照片就在網上瘋傳。此外，AI還能生成出以色列飛彈轟炸、坦克駛過毀壞街區、家人在廢墟中尋找倖存者的照片或影片。這些偽造的畫面包括嬰兒或兒童等屍體，能煽動民眾的強烈情緒。以巴衝突的前幾天，以色列與哈瑪斯皆指控對方傷害兒童與嬰兒，嬰兒大哭的深偽照片，立刻被兩方當作證據，打擊對方。
英國非營利組織打擊數字仇恨中心（Center for Countering Digital Hate）主要追蹤戰爭中的虛假資訊。該機構的執行長阿哈默德（Imran Ahmed）表示，製作這種圖片的宣傳者，善於觸動民眾內心深處的衝動與焦慮，不管是AI生成的假嬰兒，還是使用其他衝突中受害嬰兒的照片，都會對人們造成同樣巨大的情感衝擊。畫面越讓人痛恨，用戶就會留下深刻記憶，並加以轉發，於不知不覺中傳播虛假資訊。阿哈莫德指出，這些虛假訊息的目的，就是讓大眾參與其中。
烏俄戰爭後，有心人士用網路加工影片聲稱烏總統澤倫斯基要求人民投降。(圖／翻攝自X@ZelenskyyUa)
俄羅斯2022年入侵烏克蘭時，也曾發生過類似的狀況。一段經過加工的影片，顯示烏克蘭總統澤倫斯基命令烏克蘭人投降。直到上週為止，這樣的內容仍在網上流傳，這告訴我們，即使是容易被揭穿的錯誤資訊，依然能被持久傳播。
發生衝突或舉行選舉時，都是有心人士展示AI新技術的機會。許多AI專家和政治科學家已對2024年的風險示警。因為明年台灣、美國、印度、烏克蘭等地都將舉行大選。美國眾議員康諾里（Gerry Connolly）日前指出，美國政府應投資開發能反制其他AI的AI工具。許多新創科技公司，也在如火如荼地開發能辨別深偽技術的嶄新程式。
◤Blueseeds永續生活◢
更新時間：2023/11/29 10:31