Google開放SynthID Detector 全球用戶可驗證AI生成圖片、影片及音訊

Google開放AI內容辨識工具。(圖/翻攝自Google官網)
Google宣布,正式向全球用戶開放「SynthID Detector」,讓任何人都能檢查圖片、影片及音訊是否帶有SynthID浮水印,確認內容是否由Google或支援SynthID的合作夥伴AI工具生成。這項工具過去僅提供給部分記者、媒體工作者及研究人員測試,如今擴大開放,盼協助使用者判斷網路內容來源。
支援多種媒體格式 利用不可見浮水印驗證
Google表示,SynthID Detector利用2023年推出的SynthID技術,透過嵌入媒體中的不可見浮水印,辨識內容是否由相關AI工具生成。目前Google旗下Nano Banana、Veo及Lyria模型,以及Gemini、Flow、ProducerAI及Vids等具備生成能力的工具,都會在生成媒體時加入SynthID。
新工具支援多種常見檔案格式,圖片包括JPG、PNG、WEBP及GIF等,影片包括MP4、MOV及WEBM,音訊則支援WAV、MP3、FLAC及M4A等格式。
Google表示,SynthID Detector目前以英文在全球推出,使用者可上傳圖片、影片或音訊進行檢查,確認內容是否由Google或合作夥伴的AI工具生成。
OpenAI、輝達等加入 每天逾百萬次驗證
Google表示,除自家服務外,OpenAI、輝達(NVIDIA)及Kakao也支援SynthID,未來Apple也預計加入。OpenAI同樣維護自有的AI內容檢測網站。
此外,Google已將SynthID驗證功能整合至Gemini及Chrome,搜尋服務也提供相關驗證機制。Google表示,目前這些工具每天處理超過100萬次內容驗證請求。
自2023年推出SynthID以來,Google表示已為超過1800億個圖片及影片內容加入浮水印,另為相當於24萬年時長的音訊內容加入浮水印。去年Google曾推出SynthID Detector早期版本,主要提供媒體專業人士使用。
AI辨識工具仍有侷限 業界持續建立標準
隨著AI生成工具越來越普及,科技業也逐步建立辨識AI內容的標準。微軟(Microsoft)及Meta同樣推出各自的浮水印及驗證技術,但相關工具並非萬無一失,有時仍無法正確辨識自家模型生成的內容。
Google表示,SynthID Detector是協助使用者取得更多內容背景資訊的一項工具,希望讓大眾在接觸網路圖片、影片及音訊時,更容易判斷內容是否來自AI工具,並據此做出更適當的判斷。