AI聊天機器人ChatGPT自從推出後,迅速引發一股熱潮,並且被廣泛應用在各大領域,但不少人擔心AI技術可能會被濫用,如今網路上真的出現一款「暗黑版ChatGPT」,只要透過指令就能生成惡意軟體,外界憂心這可能會讓網路威脅大幅增加。
根據網路安全公司「SlashNext 」報告指出,這款暗黑版ChatGPT的名稱為「WormGPT」,是以2021年開發的GPT-J語言模型所打造,而WormGPT的開發人員將其視為ChatGPT的替代品,並表示這款軟體可進行任何非法用途,有關駭客的一切內容都可以透過WormGPT給予協助。
![開發人員表示WormGPT已經透過一系列惡意軟體的相關資料進行訓練。(圖/翻攝自SlashNext)](https://cc.tvbs.com.tw/img/upload/2017/11/09/20171109193947-11b8e8d3.png)
據悉,WormGPT已經透過一系列惡意軟體的相關資料進行訓練,不但可以編寫惡意軟體,也能寫出釣魚信件,SlashNext研究人員實測以WormGPT製作釣魚信件,結果顯示其內容相當有說服力,當中所設下的陷阱也非常狡猾。
![SlashNext實測以WormGPT寫釣魚信件,結果發現其內容相當有說服力,當中所設下的陷阱也非常狡猾。(圖/翻攝自SlashNext)](https://cc.tvbs.com.tw/img/upload/2017/11/09/20171109193947-11b8e8d3.png)
在使用ChatGPT時,若指令涉及非法用途,如取得盜版內容等,通常會被拒絕,但 WormGPT卻是相反,該軟體支持任何非法行為,甚至還會提供技術指導,凸顯生成式AI技術的相關風險,因此如何讓AI遵守合法規定,確保不會被有心人士拿來進行非法用途,是當前科技界關注的重點。
【2024下半年星座運勢】