AI深偽技術越來越進步，美國資安專家最近發現，詐騙集團會鎖定大企業，生成企業老闆的AI影片，再用這段影像，去詐騙公司的小職員，要求匯款或是提供密碼，近期就有一起案例，導致公司被騙走台幣7.6億元。專家說，這些AI影片，現在還會添加指令、讓對話更符合語境，更加難以辨識真假。
資安專家Rachel Tobac向CNN記者Clare Duffy展示了AI深偽詐騙的運作方式。詐騙者通常會先透過簡訊或電子郵件聯繫受害者，表示有緊急情況需要幫忙。當受害者接通視訊電話後，會看到由AI生成的熟人影像，提出匯款、密碼或代碼等緊急請求。Rachel Tobac強調，這類對話通常簡短直接，並會加入「網路不穩」等語句，增加情境合理性。
CNN團隊進行了實際測試，即使參與測試的同事事前已知這是AI生成影片，仍對其逼真程度感到驚訝。該同事表示，她是透過觀察細微的不自然動作和語調來識別假影片。這顯示即使有心理準備，一般人仍可能被高質量的AI深偽影片所欺騙。
這類新型AI詐騙目前主要鎖定大企業的中高階人員。Clare Duffy提到，去年法拉利一名高管曾遭人冒充公司CEO詐騙，而一名跨國公司的財務人員也因深偽技術冒充CFO而損失2500萬美元。Rachel Tobac解釋，攻擊者會假冒知名人士去欺騙任何信任該人士的人。
冒充名人的詐騙案例也越來越猖獗。CNN資深醫療記者Sanjay Gupta就曾被AI冒充，在虛假廣告中推銷所謂能治療阿茲海默症的蜂蜜配方。此外，美國還流行冒充軍人的網戀詐騙，利用軍人在美國受敬重的地位欺騙民眾。根據聯邦貿易委員會數據，去年已收到超過99000起詐騙通報，造成損失超過1.99億美元。
面對日益嚴重的AI詐騙威脅，Rachel Tobac建議民眾在處理敏感要求前必須先確認對方身分，保持「有禮貌地多疑」的態度。同時，美國田納西州的圖書館已開始為長者提供AI認識課程，幫助他們建立防詐意識，避免成為詐騙受害者。
