繼 WormGPT（使用面向惡意軟件的數據進行訓練的 ChatGPT 克隆版）之後，如今又出現了一種新的生成式人工智能黑客工具：FraudGPT，據稱至少另一種基于谷歌的 AI 聊天機器人 Bard 的工具正在開發中。
這兩個基于 AI 的機器人程序都出自同一人之手，此人似乎熱衷于專門針對衆多的惡意用途訓練的聊天機器人，包括網絡釣魚、社會工程攻擊以及利用漏洞和創建惡意軟件。
FraudGPT 于 7 月 25 日問世，由用戶名爲 CanadianKingpin12 的人在各種黑客論壇上四處宣傳，他稱這款工具是面向騙子、黑客和垃圾郵件發送者的。
圖 1. FraudGPT 在黑客論壇上推廣（圖片來源：SlashNext）
下一代網絡犯罪聊天機器人
網絡安全公司 SlashNext 的研究人員開展的調查顯示，CanadianKingpin12 正在積極使用從暗網獲取的不受限制的數據集訓練新的聊天機器人，或基于爲打擊網絡犯罪而開發的複雜的大型語言模型訓練聊天機器人。
CanadianKingpin12 在私下表示，他們在開發 DarkBART ——這是谷歌的對話生成式人工智能聊天機器人的 " 惡意版本 "。
研究人員還了解到，廣告商還可以訪問另一個名爲 DarkBERT 的大型語言模型，該模型由韓國研究人員開發，使用暗網數據進行訓練，但目的是爲了打擊網絡犯罪。
DarkBERT 可以根據相關的電子郵件地址提供給學術人士，但 SlashNext 強調，獲取郵件地址對黑客或惡意軟件開發人員來說遠遠談不上是挑戰，他們花上大約 3 美元就能從學術機構獲得電子郵件地址。
圖 2. 待售的 .EDU 電子郵件賬号（圖片來源：SlashNext）
SlashNext 的研究人員透露，CanadianKingpin12 表示，DarkBERT 機器人程序 " 勝過使用暗網數據進行訓練的同類中所有其他機器人程序 "。惡意版本已經過調整，可以執行以下用途：
策劃複雜的網絡釣魚活動，以人們的密碼和信用卡資料爲目标。
執行高級社會工程攻擊，以獲取敏感信息或獲得對系統和網絡的未授權訪問。
利用計算機系統、軟件和網絡中的漏洞。
創建和分發惡意軟件。
利用零日漏洞以牟取錢财或破壞系統。
正如 CanadianKingpin12 私下向研究人員透露，DarkBART 和 DarkBERT 都将擁有實時訪問互聯網的功能，并與谷歌鏡頭（Google Lens）無縫集成，用于圖像處理。
爲了演示 DarkBERT 惡意版本具有的潛力，開發者制作了以下視頻：
圖 3
目前尚不清楚 CanadianKingpin12 是在 DarkBERT 的合法版本中修改了代碼，還是僅僅獲取了模型的訪問權，隻是将其用于惡意用途。
無論 DarkBERT 的起源如何、威脅分子的說法到底有多可信，使用生成式 AI 聊天機器人的趨勢總之愈演愈烈，采用率也可能随之增加，因爲這種聊天機器人可以爲能力較差的威脅分子或那些希望将業務拓展到其他地區但缺乏語言技能的人提供一種簡單的解決方案。
SlashNext 的研究人員認爲，鑒于黑客已經能夠使用兩個這樣的工具，協助執行高級的社會工程攻擊，并且在不到一個月的時間内就開始肆虐，這表明了惡意 AI 對網絡安全和網絡犯罪領域帶來了重大影響。
