WormGPT：关于网络犯罪分子对 ChatGPT 的回答，您需要了解什么

[ad_1]

AI 聊天机器人被模仿用于恶意目的只是时间问题，而现在市场上就有这样一种工具，称为 WormGPT。

ZDNET 截图（来自 Twitter）

当 ChatGPT 于 2002 年 11 月 30 日向公众开放时，人工智能聊天机器人席卷了全世界。

该软件由人工智能和研究公司 OpenAI 开发。 ChatGPT 是一种自然语言处理工具，能够回答查询并根据从数据集（包括书籍和在线网页）收集的数据集提供信息，并已成为即时信息收集、分析和编写任务的重要工具。全球数百万用户。

还： ChatGPT 是什么？它为何如此重要？这是你需要知道的

虽然一些专家认为该技术可能会达到互联网级别的破坏性，但其他专家则指出 ChatGPT 表现出“明显的不准确性”。成群结队的学生被发现通过该工具抄袭课程作业，除非数据集经过验证，否则 ChatGPT 等工具可能会在不知情的情况下成为传播错误信息和宣传的工具。

事实上，美国联邦贸易委员会 (FTC) 正在调查 Open AI 对个人信息和用于创建语言模型的数据的处理。

然而，除了数据保护问题之外，每当出现新的技术创新时，滥用途径也会随之出现。 AI 聊天机器人被模仿用于恶意目的只是时间问题，而现在市场上就有这样一种工具，称为 WormGPT。

7 月 13 日，网络安全公司 SlashNext 的研究人员发表了一篇博客文章，揭露了 WormGPT 的发现，这是一种在黑客论坛上推销的工具。

据论坛用户称，WormGPT 项目的目标是成为 ChatGPT 的黑帽“替代品”，“让你可以做各种非法的事情，并在未来轻松地在网上出售。”

还： 诈骗者正在使用人工智能来冒充您所爱的人。以下是需要注意的事项

SlashNext 获得了该工具的访问权限，该工具被描述为基于 GPTJ 语言模型的 AI 模块。据称，WormGPT 已经接受了包括恶意软件相关信息在内的数据源的训练，但具体数据集仍然只有 WormGPT 的作者知道。

例如，WormGPT 可能会生成恶意代码或令人信服的网络钓鱼电子邮件。

WormGTP 被描述为“与 ChatGPT 类似，但没有道德界限或限制”。

ChatGPT 制定了一套规则来尝试阻止用户不道德地滥用聊天机器人。这包括拒绝完成与犯罪和恶意软件相关的任务。然而，用户不断寻找规避这些限制的方法。

研究人员能够使用 WormGPT“生成一封电子邮件，旨在迫使毫无戒心的客户经理支付欺诈性发票。” 该团队对语言模型处理任务的能力感到惊讶，称结果“非常有说服力” [and] 在战略上也很狡猾。”

还： Gmail 现在将帮助您编写电子邮件：如何访问 Google 的新 AI 工具

虽然他们没有透露是否尝试过恶意软件编写服务，但鉴于 ChatGPT 的限制不存在，人工智能机器人似乎可以尝试。

据报道，为推广该工具而推出的 Telegram 频道称，ZDNET 查看的帖子表明，开发人员正在创建一种订阅模式来访问，价格从 60 美元到 700 美元不等。频道成员“darkstux”声称，WormGPT 的用户已经超过 1,500 名。

不会。ChatGPT 是由合法且受人尊敬的组织 OpenAI 开发的。 WormGMT 不是他们的创造，而是网络犯罪分子如何从先进的人工智能聊天机器人中获取灵感来开发自己的恶意工具的一个例子。

即使在新手和典型的诈骗者手中，自然语言模型也可以将基本的、容易避免的网络钓鱼和 BEC 诈骗转化为更有可能成功的复杂操作。毫无疑问，只要有钱可赚，网络犯罪分子就会占据主导地位，而 WormGPT 只是一系列新的网络犯罪工具的开始，这些工具将在地下市场进行交易。

还： 成为 AI 提示工程师所需的 6 项技能

WormGPT 也不太可能是唯一的。

欧洲刑警组织：欧洲刑警组织在 2023 年报告《大型语言模型对执法的影响》中表示，“监控 […] 发展，因为经过训练以促进有害输出的黑暗法学硕士（大型语言模型）可能成为未来的关键犯罪商业模式。这给执法部门带来了新的挑战，恶意行为者在没有必要的先验知识的情况下实施犯罪活动将变得比以往任何时候都容易。”
联邦贸易委员会：FTC 正在调查 ChatGPT 制造商 OpenAI 的数据使用政策和不准确性。
英国国家犯罪局 (NCA)：NCA 警告称，人工智能可能会导致年轻人面临的风险和虐待激增。
英国信息委员会办公室（ICO）：ICO 提醒各组织，他们的人工智能工具仍受现有数据保护法的约束。