以巴衝突10月7日爆發後，以色列對加薩地區進行報復性轟炸，至少已造成逾萬名巴勒斯坦人死亡，死者大部分為婦孺。各種加薩地區怵目驚心的照片開始在網上大量瘋傳。然而，外媒指出，許多瀏覽數破百萬的照片，都是使用人工智慧（AI）技術生成。
《美聯社》指出，以巴衝突發生後，AI生成的深度偽造（Deepfake）照片瀏覽數超過上百萬次。只要仔細觀察，就能發現照片中的人像有許多不對勁之處，包括手指異常彎曲、眼中閃爍不自然光芒。這些照片讓我們知道，AI有能力生成栩栩如生的大屠殺照片，足以作為政治宣傳道具。以巴衝突後，社群媒體流傳的部分照片，捏造出未發生的暴行，用來蒙騙網友或做出不當指控。
儘管部分網上的不實指控來自傳統渠道，並未涵蓋AI技術，但這種先進技術遭使用的機率趨於頻繁，且受到較少監督，明顯使AI成為一種新形式武器，可能會被使用在未來發生的衝突、選舉或重大事件中。
美國科技公司Creopoint執行長戈登斯坦（Jean-Claude Goldenstein）指出，「這樣的狀況變好前，會先經歷一段極其惡劣的過程」。該公司主要使用AI辨識網路言論的可信度。他們為爆紅的加薩相關深偽內容創建了資料庫。「照片、影片和音檔，在AI的推波助瀾下，將升級到大家所前所未見的地步」
英國非營利組織打擊數字仇恨中心（Center for Countering Digital Hate）主要追蹤戰爭中的虛假資訊。該機構的執行長阿哈默德（Imran Ahmed）表示，製作這種圖片的宣傳者，善於觸動民眾內心深處的衝動與焦慮，不管是AI生成的假嬰兒，還是使用其他衝突中受害嬰兒的照片，都會對人們造成同樣巨大的情感衝擊。畫面越讓人痛恨，用戶就會留下深刻記憶，並加以轉發，於不知不覺中傳播虛假資訊。阿哈莫德指出，這些虛假訊息的目的，就是讓大眾參與其中。
俄羅斯2022年入侵烏克蘭時，也曾發生過類似的狀況。一段經過加工的影片，顯示烏克蘭總統澤倫斯基命令烏克蘭人投降。直到上週為止，這樣的內容仍在網上流傳，這告訴我們，即使是容易被揭穿的錯誤資訊，依然能被持久傳播。
發生衝突或舉行選舉時，都是有心人士展示AI新技術的機會。許多AI專家和政治科學家已對2024年的風險示警。因為明年台灣、美國、印度、烏克蘭等地都將舉行大選。美國眾議員康諾里（Gerry Connolly）日前指出，美國政府應投資開發能反制其他AI的AI工具。許多新創科技公司，也在如火如荼地開發能辨別深偽技術的嶄新程式。
◤Blueseeds永續生活◢
