成千上万的 OpenAI 凭证在暗网上待售

人工智能技术“出圈”后 ，成千越来越多网络攻击者对生成人工智能工具表现出极大“兴趣”。上万从 Bleeping Computer 网站披露的待售信息来看 ，暗网市场目前有数十万个 OpenAI 证书待售。证暗

据悉，网上技术不熟练和经验丰富的成千网络犯罪分子都可以使用这些工具，创建更具诱惑力的上万钓鱼电子邮件（电子邮件可以为目标专门定制）
 ，以增加网络攻击成功的待售机会 。

黑客大面积入侵 GPT AI

Flare 的证暗安全研究人员在分析暗网论坛和市场时注意到，云计算OpenAI 证书是网上最新待售的商品之一 ， 目前可以确定了约有 20 多万个 OpenAI 证书以窃取日志的成千形式在暗网上出售
。 虽然这一数字与 OpenAI 1 月份 1 亿活跃用户相比  ，上万似乎微不足道，待售但也能说明网络攻击者“看到”了生成式人工智能工具蕴藏的证暗破坏力。

2023 年 6 月
，网上网络安全公司 Group IB 在一份报告中指出超过101100个被泄露的 OpenAI ChatGPT 账户凭证在非法的暗网市场上待售
。源码下载 可见许多网络犯罪分子都盯上了人工智能，甚至有一网络攻击者还开发了一个名为 WormGPT 的盗版 ChatGPT，并对其进行了针对恶意软件的数据训练， 该工具也被被宣传为“黑帽的最佳 GPT 替代品”。

1689832963_64b8ce034a71d1eecf7e5.png!small?1689832964604

网络犯罪论坛上推广 WormGPT 工具

WormGPT 主要依赖 2021 年推出的 GPT-J 开源大型语言模型 ，以此来生成类人文本 ，其开发人员表示在不同的数据集上训练了该工具 ，重点是高防服务器恶意软件相关数据
，但没有提供有关具体数据集的提示。

WormGPT 显示了 BEC 攻击的潜力

电子邮件安全提供商 SlashNext 访问了 WormGPT ，并进行了一些测试以确定其潜在危险。研究人员指出在一项实验中，指示 WormGPT 生成一封电子邮件，旨在向毫无戒心的客户经理施压，迫使其支付欺诈发票。 结果，WormGPT 生成的亿华云电子邮件不仅极具说服力，而且在战略上非常狡猾 ，完美展示了其在复杂的网络钓鱼和 BEC 攻击中的潜力 。

1689833297_64b8cf51224dc7d2b0ad2.png!small

WormGPT 为 BEC 攻击生成的内容 来源：SlashNext

通过分析生成的信息 ，SlashNext 的研究人员发现了生成式人工智能工具 WormGPT 除了能够生成 "无懈可击的语法 "的信息外，还能够使技术水平较低的源码库攻击者实施超出其水平的攻击。

最后 ，研究人员指出尽管抵御这种威胁可能比较困难，但是并非不能防御。企业可以通过培训员工如何验证要求紧急关注的邮件（尤其是含有金融内容的邮件）、改进电子邮件验证流程，或标记出通常与 BEC 攻击相关的关键字。服务器租用