AI大模型的快速向前奔跑，让我们见识到了AI的无限可能，但也展示了AI在虚假信息、深度伪造和网络攻击方面的潜在威胁。
据安全分析平台Netenrich报道，近日，一款名为FraudGPT的AI工具近期在暗网上流通，并被犯罪分子用于编写网络钓鱼电子邮件和开发恶意软件。
黑客在售卖页表示，该工具可用于编写恶意代码、创建出“一系列杀毒软件无法检测的恶意软件”、检测网站漏洞、自动进行密码撞库等，并声称“该恶意工具目前已经售卖了超过3000份”。
01 恶意AI工具FraudGPT：可自动生成多种网络攻击代码
据报道，FraudGPT的运作方式是通过草拟一封电子邮件，以高度可信的方式诱使收件人单击所提供的恶意链接。它的主要功能包括：
创建钓鱼网站页面
FraudGPT可以生成看似真实的网络钓鱼电子邮件、短信或网站，诱骗用户泄露敏感信息，例如登录凭据、财务详细信息或个人数据；
找到最容易受害的目标
聊天机器人可以模仿人类对话，与毫无戒心的用户建立信任，导致他们在不知不觉中泄露敏感信息或执行有害操作；
创建无法检测的恶意软件
FraudGPT可以创建欺骗性消息，引诱用户点击恶意链接或下载有害附件，导致其设备感染恶意软件；
编写欺诈的短信、邮件
人工智能驱动的聊天机器人可以帮助黑客创建欺诈性文件、发票或付款请求，导致个人和企业成为金融诈骗的受害者。
据悉，FraudGPT是由名为 "CanadianKingpin" 的开发者提供。
它主要基于GPT-3的大型语言模型，在经过训练后，可以生成合乎逻辑且与事实相符的欺诈性文本。一旦付费购买，FraudGPT便可以帮助犯罪分子成功进行网络钓鱼和诈骗。
在发布FraudGPT后，Canadiankingpin还创建了自己的电台频道，宣布将提供其他欺诈服务，包括销售电子邮件线索、信用卡CVV码等。
根据Canadiankingpin的描述，他目前已经通过了EMPIRE、WHM、TORREZ、ALPHABAY在内的多个暗网市场的供应商认证。
