取消
搜索历史
热搜词
原创
活动
产业创新
转型理念
ENI专访
当前位置:首页 >文章发布 > 正文
自动生成恶意代码与钓鱼邮件:黑客展示“没有道德”的人工智能
来源:站长之家  作者: 佚名 2023-07-18 08:42:09
黑客展示“没有道德限制”的 WormGPT 聊天机器人:可自动生成木马、钓鱼链接。

据电子邮件安全提供商 SlashNext 表示,WormGPT 的开发者正在销售访问该聊天机器人的权限,该机器人可以帮助黑客创建恶意软件和网络钓鱼攻击。

一个黑客创建了自己的版本 ChatGPT,但具有恶意倾向:认识一下 WormGPT,这是一个专为协助网络犯罪分子设计的聊天机器人。

根据 SlashNext 的说法,WormGPT 的开发者正在一个热门的黑客论坛上销售该程序的访问权限。该公司在一篇博文中表示:「我们注意到恶意行为者现在正在创建类似 ChatGPT 的自定义模块,但更容易用于邪恶目的。」

看起来这名黑客在 3 月份首次介绍了这个聊天机器人,然后在上个月推出了它。与 ChatGPT 或 Google 的 Bard 相比,WormGPT 没有任何限制来阻止它回应恶意请求。

该程序的开发者写道:「该项目旨在提供 ChatGPT 的替代方案,可以让您执行各种非法操作,并在未来轻松地在网上出售它。」他继续说:「WormGPT 可以执行所有黑帽相关的活动,让任何人都可以在家中舒适地进行恶意活动。」

WormGPT 的开发者还上传了截图,显示您可以要求该机器人生成使用 Python 编程语言编写的恶意软件,并提供有关制作恶意攻击的提示。开发者表示,为了创建这个聊天机器人,他们使用了 2021 年推出的一种名为 GPT-J 的较旧但开源的大型语言模型。然后,该模型经过对恶意软件创建相关数据的训练,形成了 WormGPT。

当 SlashNext 尝试 WormGPT 时,该公司测试了该机器人能否为商业电子邮件泄露 ( BEC) 方案(一种网络钓鱼攻击)编写令人信服的电子邮件。

「结果令人不安。WormGPT 制作的电子邮件不仅非常有说服力,而且在战略上也很狡猾,展示了其进行复杂网络钓鱼和 BEC 攻击的潜力。」SlashNext 表示。

事实上,该机器人使用专业语言撰写了一条信息,敦促目标受害者汇款。WormGPT 还以没有拼写或语法错误的方式编写了电子邮件,这可能是网络钓鱼电子邮件攻击的危险信号。

SlashNext 表示:「总而言之,它类似于 ChatGPT,但没有道德界限或限制。」「这个实验凸显了生成式人工智能技术(如 WormGPT)在新手网络犯罪分子手中所带来的重大威胁。」

幸运的是,WormGPT 并不便宜。开发者以每月 60 欧元或每年 550 欧元的价格销售机器人的使用权限。还有一个买家抱怨说该程序「一文不值」,因为性能较弱。

然而,WormGPT 预示着生成式人工智能程序如何可能助长网络犯罪,特别是随着这些程序的发展成熟。

免责声明:本文系网络转载,版权归原作者所有。本文所用图片、文字如涉及作品版权问题,请联系删除!本文内容为原作者观点,并不代表本网站观点。
编辑:张煜洁
活动 直播间  | CIO智行社

分享到微信 ×

打开微信,点击底部的“发现”,
使用“扫一扫”即可将网页分享至朋友圈。