诺顿表示,其Genie应用程序将能够识别和阻止在线诈骗活动

诺顿表示,Genie应用程序可识别和阻止在线诈骗活动

发现网络诈骗比以前要困难得多。尼日利亚王子、糟糕的邮件书写和明显的假网址的日子已经过去了。

网络犯罪分子比以往任何时候都更加复杂。他们制作的电子邮件和短信看起来就像来自主要零售商的货运通知、真实朋友的财务帮助请求或老板要求你支付过期发票的备忘录。

这是因为成功的骗局可能会带来巨大的利润。根据联邦贸易委员会的数据,2022年美国消费者因诈骗而损失的金额达到了88亿美元。

专家表示,像ChatGPT这样的人工智能工具的兴起只会让骗子的工作变得更加容易,他们可以利用这些工具来创建大量高度定制且通常写得很好的消息。此外,这种技术还可以用于创建所谓的深度伪造,试图模仿人的音频或视频形式,使其看起来像是他们说或做了一些他们实际上没有说或做的事情。

一家网络安全公司的官员表示,解决这个迅速增长的问题的办法可能也在于人工智能。长期以来一直生产消费者防病毒软件的Norton正在推出一款名为Norton Genie的新免费应用程序和桌面工具,帮助普通人发现骗局并避免上当受骗。

阅读更多:

  • 使用ChatGPT撰写钓鱼邮件太容易了
  • 骗子试图通过钓鱼邮件吸引度假购物者
  • 联邦贸易委员会表示,2022年骗子的短信给消费者造成了3.3亿美元的损失

Genie于星期二在苹果应用商店和Norton网站上推出了早期访问版本,利用人工智能快速分析电子邮件、短信、网站或社交媒体帖子的文本、地址、包含的链接和其他组成部分,寻找可能表明它是骗局的红旗。

Norton的母公司Gen的首席技术官Michal Pechoucek表示,近年来,攻击者已经从攻击网络和设备转向了通过骗局、钓鱼和社交工程攻击来攻击使用它们的人。

“而我们所看到的整体人工智能的情况是,它使这些攻击更难以检测,对用户更加危险,”Pechoucek在一次采访中说。

因此,他说,为了保护消费者免受当前和未来的威胁,与人工智能对抗人工智能已经变得必要。

在这种情况下,人工智能的作用是为用户提供一种相对快速的方式,将电子邮件或短信的内容与Norton的消费者防病毒软件和其他网络安全操作收集的数百万个样本进行比较。根据其发现,人工智能可以认为该电子邮件或短信很可能是骗局,或者可能有可疑之处。它还将为用户提供下一步的建议,并提供一些关于为什么它认为该电子邮件或短信可能是恶意的见解。

虽然市面上还有其他提供相同服务的消费者服务,但它们不是实时工作,而是通过手工进行研究,并在24小时内向消费者提供答复,Gen的首席产品经理Sahil Pruthi说。但他表示,到那时,他们已经基本上已经决定是否要点击那个可能危险的链接或回复一个可疑的电子邮件。

“如果你认为自己正在被骗,你不应该打电话给你的朋友、你的兄弟,你应该能够立即得到答案,只需几秒钟,”Pruthi说。

虽然Genie可能还不够快,但在发现骗局方面基本上是正确的。在它推出之前的几天,我有机会玩了一下Genie的应用程序版本。像很多预发布的应用程序和软件一样,它有点慢和有些错误,但它基本上是正确的。

为了检查一个特定的文本或电子邮件是否是骗局,用户可以将文本复制并粘贴到Genie应用程序中,或者将屏幕截图拖放到Genie应用程序中。这些是一个被标记为骗局的文本的示例,以及Genie正确标记为安全的电子邮件的示例。

ENBLE

我收到的一条发到我个人手机上的短信通知我“借记卡已被锁定”,被标记为预付费骗局,这是网络犯罪分子试图诱使人们为虚假产品或服务提前付款的一种方式。从骗子假冒社会保障局的电子邮件中复制和粘贴的文本也被标记为这种类型的骗局,假冒一家顶级防病毒提供商的电子邮件的屏幕截图也是如此。

另一方面,亚马逊和星巴克发送给我的电子邮件广告的截图被正确标记为合法,谷歌给我发送的一条通知我的密码刚刚被更改的短信的照片也被正确标记为合法。

主要的问题出现在一封看起来像是我以前的有线电视供应商的账单的电子邮件上。当我复制和粘贴电子邮件正文的文本时,Genie说没有“可疑的内容”。但当我给它一个包含发件人电子邮件地址的电子邮件顶部的截图时(明显不是有线电视公司的官方地址),它说无法根据文本给出建议,但是“看起来可疑”。

其他虚假账单和发货通知的截图也产生了“看起来可疑”或“不确定”的不明确回应。

Pruthi承认Genie还不完美,至少目前还不完美,但完美是其创建者继续追求的目标。此外,AI将继续从用户提交的欺诈样本中“学习”,变得更加知识丰富和准确。

“我们正在慢慢接近目标,”他说,并补充说目前Genie的正确率大约是80[%]至90%。“我们会不断进行训练,力求达到100%。”