廣告
xx
xx
回到網頁上方

美資安公司曝DeepSeek可輕易破解 取得做炸彈、駭客教學

編輯 廖國安 報導
發佈時間:2025/02/04 15:52
最後更新時間:2025/02/04 15:52
Deepseek被發現存在諸多漏洞。(示意圖/shutterstock 達志影像)
Deepseek被發現存在諸多漏洞。(示意圖/shutterstock 達志影像)

中國AI公司深度求索的大語言模型DeepSeek,近日被安全研究人員揭露存在嚴重的資安漏洞,完全無法通過任何一項安全防護措施,就連最簡單的越獄技術(利用漏洞繞過系統的安全機制,取得更高控制權限)都能輕易突破,輕易讓人取得如何製作炸彈、入侵政府資料庫等非法資訊。

綜合外媒報導,美國資安公司「Adversa」的研究團隊,日前對DeepSeek進行50種不同的攻擊測試,沒想到DeepSeek竟然全部中招,沒有攔截到任何一次攻擊,顯示DeepSeek安全防護機制形同虛設。Adversa執行長格林(Matthew Green)表示:「當測試以50個惡意提示來引出有毒內容時,DeepSeek的模型竟然一個都沒偵測或阻擋到,換句話說,我們對於實現100%的攻擊成功率感到震驚!」

 

《9to5Mac》報導指出,生成式AI系統通常都有一套防護措施,以避免輸出仇恨言論、暴力等有害內容,像是會阻擋教人製造炸彈、入侵政府資料庫等違法請求。但研究人員發現,要指示DeepSeek忽略既定指令與內建防護相當簡單,要用惡意提示令DeepSeek回應那些,應該被封鎖的訊息非常輕易。

其中一項常見且相當簡單的攻擊手法,叫做「角色越獄」(Character Jailbreak),實測時研究人員要求DeepSeek假扮某部電影中允許不當行為的「無道德AI」,沒想到DeepSeek就乖乖扮演,並吐出製作炸藥的詳細步驟,還建議使用特定化學品按比例混合,另一個實測則是「編程越獄」,團隊故意將問題改寫成SQL查詢語句(讓使用者透過指令來查詢數據的程式語言),結果DeepSeek也完全沒阻擋,並照要求提供了提煉非法迷幻藥物的具體方法。

最後一項實測是「對抗性攻擊」(Adversarial Attack),研究人員用相似詞彙替換敏感字眼來規避審查。沒想到DeepSeek依舊中計,提供了入侵政府資料庫的完整攻略,從情報收集到入侵步驟,鉅細靡遺教學。
 

格林直言,DeepSeek的防護措施根本形同虛設,「我們實現了100%的攻擊成功率,實在令人震驚!」目前包括台灣、義大利等國家已禁止公務機關使用DeepSeek服務,預料恐怕會有更多國家跟進。

DeepSeek爆紅

#中國#AI#深度求索#資安#語言模型#漏洞#越獄#Deepseek#人工智慧

分享

share

分享

share

連結

share

留言

message

訂閱

img

你可能會喜歡

人氣點閱榜

延伸閱讀

網友回應

其他人都在看

notification icon
感謝您訂閱TVBS,跟上最HOT話題,掌握新聞脈動!

0.1621

0.0660

0.2281