AI聊天機器人ChatGPT自從推出後,迅速引發一股熱潮,並且被廣泛應用在各大領域,但不少人擔心AI技術可能會被濫用,如今網路上真的出現一款「暗黑版ChatGPT」,只要透過指令就能生成惡意軟體,外界憂心這可能會讓網路威脅大幅增加。
根據網路安全公司「SlashNext 」報告指出,這款暗黑版ChatGPT的名稱為「WormGPT」,是以2021年開發的GPT-J語言模型所打造,而WormGPT的開發人員將其視為ChatGPT的替代品,並表示這款軟體可進行任何非法用途,有關駭客的一切內容都可以透過WormGPT給予協助。
據悉,WormGPT已經透過一系列惡意軟體的相關資料進行訓練,不但可以編寫惡意軟體,也能寫出釣魚信件,SlashNext研究人員實測以WormGPT製作釣魚信件,結果顯示其內容相當有說服力,當中所設下的陷阱也非常狡猾。
在使用ChatGPT時,若指令涉及非法用途,如取得盜版內容等,通常會被拒絕,但 WormGPT卻是相反,該軟體支持任何非法行為,甚至還會提供技術指導,凸顯生成式AI技術的相關風險,因此如何讓AI遵守合法規定,確保不會被有心人士拿來進行非法用途,是當前科技界關注的重點。
◤日本旅遊必買清單◢