Pixabay圖片

有網媒報道，網絡黑客論壇上最近出現名為WormGPT的AI語言模型，與ChatGPT相比沒有任何安全限制，能為黑客的惡意攻擊提供協助。

有論壇討論破解AI模型

有網媒引述網絡安全公司SlashNext於13日發文，指近日網絡黑客論壇上出現不同不當使用AI科技的帖文，包括嘗試以不同指示「破解」ChatGPT以移除其安全限制，生成有害或有助犯罪的內容或編碼。

其中一位匿名用戶於7月初在論壇發布名為WormGPT的AI語言模型，基於2021年的GPTJ語言模型，並據報以惡意程式編碼或黑客攻擊資料等作訓練內容，因此沒有任何限制，黑客可用來協助編寫假冒電郵、釣魚網站或惡意編碼等。WormGPT與ChatGPT相比，亦提供支持無限字數和保持對話記憶等功能。

專用模型可助釣魚攻擊

SlashNext表示曾經測試WormGPT模擬「商業郵件洩密」（business email comprompise）攻擊，要求AI假扮行政總裁向賬戶經理發出緊急電郵，要求支付假冒的發票，AI輕而易舉生成具說服力的電郵。

SlashNext測試WormGPT，以AI生成假扮行政總裁的假冒電郵（SlashNext網站圖片）

SlashNext評論指，AI科技能生成文法無誤的電郵，令黑客的假冒電郵較難偵測為可疑信息，而且亦降低黑客活動的門檻，即使語言或技能有限的人仍能透過AI進行複雜的釣魚攻擊，例如來自不同國家的黑客可利用AI翻譯釣魚郵件，比網上其他翻譯服務或更可靠。