WormGPT：ChatGPT 邪恶堂兄的知识指南
蠕虫GPT：闲聊GPT 邪恶堂兄的智慧指南
当 ChatGPT 在2022年面向公众推出时，这款AI聊天机器人席卷了整个世界。
这款软件由人工智能和研究公司OpenAI开发。ChatGPT是一款自然语言处理工具，能够回答问题并提供从数据集中获取的信息。它已经成为全球数百万用户进行实时信息收集、分析和撰写任务的宝贵工具。
特色功能
保护您的数字资产的网络安全最佳实践
面对现实：您的个人和商业数据一直面临着威胁–在您在线购物、银行和娱乐的过程中保护这些数字资产始终是头等大事。令人欣慰的消息是：现在比以往任何时候都有更多专注于安全的工具和策略可供选择。ENBLE最新的网络安全指南为您提供了实用的提示，以便您在不断演变的威胁环境中保持安全和高效。
ChatGPT的首个公开版本存在一个重要限制：无法访问互联网。然而，付费用户现在可以使用浏览器插件实现聊天机器人的实时访问互联网功能，并为其响应提供数据来源链接。
尽管一些专家认为这项技术可能达到互联网级别的颠覆，但其他人指出ChatGPT表现出了“自信的不准确性”。许多学生被工具抓住使用它来抄袭课程作业。除非数据集经过验证，否则ChatGPT和其他大型语言模型（LLMs）可能会无意中传播错误信息和宣传。
还有： 最好的AI聊天机器人
确实，现在聊天机器人可以访问互联网了，我们将看到这对其结果和回应的有效性产生长期影响。
此外，还存在监管担忧，美国联邦贸易委员会（FTC）正在调查Open AI对个人信息的处理以及创建其语言模型所使用的数据。
还有：生成AI将远远超越ChatGPT目前的能力。以下是其技术进步的一切。
然而，除了数据保护问题，每当出现新的技术创新时，滥用的途径也会出现。AI聊天机器人和LLMs被用于恶意目的只是时间问题–而且已经有一些工具上市了，其中包括WormGPT和FraudGPT。
什么是WormGPT？
2023年7月13日，网络安全公司SlashNext的研究人员发布了一篇博客文章，揭示了WormGPT的发现，这是一个在黑客论坛上推广销售的工具。
据论坛用户称，WormGPT项目旨在成为ChatGPT的非法“替代品”，“未来它将让您进行各种非法活动，并轻松在线销售。”
SlashNext获得了这个工具的访问权限，据称它是基于GPT-J语言模型的AI模块。WormGPT据称是根据包括与恶意软件相关的信息在内的数据源进行训练的，但具体的数据集仅为WormGPT的作者所知。
WormGPT可能有能力生成恶意代码，例如，或者说令人信服的钓鱼邮件。
WormGPT被用于什么目的？
WormGPT被描述为“类似于ChatGPT但没有道德限制或限制。”
ChatGPT设有一套规则，以阻止用户非道德地滥用聊天机器人。这包括拒绝完成与犯罪和恶意软件相关的任务。然而，用户不断寻找途径来规避这些限制，只要给出合适的提示。
研究人员能够使用WormGPT“生成打算迫使一个不知情的客户经理支付一份虚假发票的电子邮件。” 该团队对语言模型在完成任务上的出色表现感到惊讶，称结果为“非常有说服力[和]具备战略上的狡计。”
尽管他们没有透露是否尝试过编写恶意软件的服务，但AI机器人可能会这样做——因为ChatGPT没有这些限制。
WormGPT的未来发展如何？
根据安全专家Brian Krebs的说法，WormGPT是由一位二十多岁的葡萄牙开发者“Last”创建的。该系统大约有200名客户在使用，由于人们对这个聊天机器人的兴趣，Last似乎试图将项目朝着新的方向发展。
另外： 网络安全101：关于如何保护您的隐私和在线安全的一切
Last表示他希望将对话从恶意变为无限制，并为此在WormGPT中实施了一些约束。Last告诉Krebs：
“凡与谋杀、毒品交易、绑架、儿童色情、勒索软件、金融犯罪有关的都屏蔽。我们正在努力阻止商业电子欺诈，但目前还是有可能出现，不过大多数情况下它会存在不完整性，因为我们已添加了一些限制。我们的计划是将WormGPT标记为一种无黑帽限制的人工智能。”
另外： 这个由AI生成的加密发票欺诈差点骗了我，我可是个安全专家
然而，在报告发表的一天之后，WormGPT的Telegram 开发者频道被关闭。这可能意味着该项目仍在进行中，或者将重新品牌定位，但时间将证明一切。开发者说：
“归根结底，WormGPT只不过是一个无限制的ChatGPT。互联网上的任何人都可以使用众所周知的越狱技术，通过使用越狱版本的ChatGPT来达到相同的、甚至更好的结果。”
那么FraudGPT呢？
根据Trustwave的研究，一种名为FraudGPT的另一种恶意LLM于2023年7月出现在市场上。开发者在Telegram和暗网上宣传这项服务，称其为“ChatGPT的无限制替代方案。”
另外： 9个手机安全威胁及如何避免
开发者声称FraudGPT非常适合学习如何进行黑客攻击、编写恶意软件和恶意代码、创建网络钓鱼内容以及寻找漏洞。
无法验证开发者关于这个聊天机器人的声明，该机器人是以订阅的形式提供的。
WormGPT和FraudGPT与ChatGPT是否相同？
不会。ChatGPT是由OpenAI开发的，OpenAI是一家合法且受人尊敬的组织。
WormGPT和FraudGPT并非他们所创造的。它们实际上是黑客可以从先进的AI聊天机器人中获得灵感，使用LLMs开发自己的恶意工具的示例。
将来我们会看到更多类似WormGPT和FraudGPT的工具吗？
即使在新手和典型的骗子手中，自然语言模型也可以将基本的、容易避免的网络钓鱼和BEC诈骗转变为更有可能成功的复杂操作。毫无疑问，只要有利可图，网络犯罪分子就会追逐这一趋势——而WormGPT等工具只是地下市场即将推出的一系列新产品的开始。
正如研究人员所发现的那样，一些威胁行为者正试图通过提供订阅模式来获利于恶意LLMs。价格从每月100美元到数千美元的私人设置不等。
我们还应该考虑到，研究人员已经展示了如何绕过ChatGPT、Bard和Claude的安全防护措施。即使恶意LLMs没有超过地下市场上的少数模型，网络犯罪分子仍可能利用合法服务来实现自己的目的。
监管机构对滥用AI工具有何看法？
- 欧洲警察组织：欧洲警察组织在2023年的报告《大型语言模型对执法的影响》中表示，“监控……发展至关重要，因为用于促成有害输出的黑暗LLMs（大型语言模型）可能成为未来的关键犯罪商业模式。这对执法部门构成了新的挑战，危险分子将变得比以往任何时候都更容易实施犯罪活动而无需必要的先验知识。”
- 美国联邦贸易委员会：联邦贸易委员会正在调查ChatGPT的制造商OpenAI的数据使用政策和不准确性问题。
- 英国国家犯罪局（NCA）：英国国家犯罪局警告称，人工智能可能引发对年轻人的风险和滥用问题。
- 英国信息委员会办公室（ICO）：ICO提醒各组织，他们的人工智能工具仍受现有数据保护法律的约束。
ChatGPT可以用于非法目的吗？
虽然需要秘密策略，但只要有适当的提示，许多自然语言模型可以执行特定的动作和任务。
例如，ChatGPT可以起草专业电子邮件、求职信、简历、采购订单等。单单这一点就可以排除一些常见的网络钓鱼电子邮件的指标：拼写错误、语法问题和语言次序问题。这一点可能会给企业带来麻烦，企业试图检测和培训员工以识别可疑邮件。
SlashNext的研究人员表示：“网络犯罪分子可以利用这种技术自动创建高度具有说服力的伪造电子邮件，并个性化地发送给收件人，从而增加了攻击成功的机会。”
因此，即使LLMs拒绝明显违法的提示，网络犯罪分子仍然可以利用这些技术。
关于如何合法使用ChatGPT的逐步说明，请查看ENBLE在如何开始使用ChatGPT上的指南。
ChatGPT的价格是多少？
ChatGPT的基本模式是免费使用的。该工具可以回答一般查询，编写内容和代码，或生成从创意故事到市场项目的提示。
另外：如何访问、安装和使用AI ChatGPT-4插件（以及为什么你应该这样做）
ChatGPT Plus 订阅服务包括在chat.openai.com 上的使用，优先处理查询（减少等待时间），并提供高级功能，每月收费20美元。此外还提供为企业用户定制的版本。
