在野发现AI生成的恶意软件
HP最近拦截了一封电子邮件,其中包含由人工智能(AI)生成的投放器传递的标准恶意软件。在投放器中使用生成式AI的方式,这标志完全由人工智能创造的恶意软件有了明显的进化。
2024年6月,惠普公司发现了一封带有常见发票主题诱饵和加密 HTML 附件的钓鱼邮件。这种钓鱼邮件并不稀奇,但值得注意的是其中的加密方式。通常,网络钓鱼者会将恶意软件隐藏在附件中,而在这个案例中,攻击者在附件的JavaScript代码里嵌入了解密密钥。HP的首席威胁研究员Patrick Schlapfer解释说:“攻击者将AES解密密钥嵌入到了附件的JavaScript代码内,这很不寻常,因此我们对此进行了深入研究。”现在,惠普公布了他们的发现。
解密后的附件启动后呈现为一个网站界面,但实际上隐藏了VBScript和AsyncRAT信息窃取程序。VBScript是信息窃取程序的加载器,它向Windows注册表写入多个变量,并在用户目录中投放JavaScript文件,该文件随后作为计划任务执行。此外,还会创建一个PowerShell脚本,通过这一系列操作最终触发AsyncRAT恶意软件的运行。
所有这些都是相当标准的,但有一个方面有所不同。Schlapfer补充说:“VBScript代码结构清晰,每个重要命令都有注释,这还不寻常”。恶意软件通常不会包含注释,而这份脚本不仅包含注释还是用法语编写的,这在恶意软件中很少见。这些线索让研究人员认为,这个脚本可能不是由人类编写的,而是由生成式AI(gen-AI)编写的。
为了验证这一理论,研究人员使用了自己的Gen-AI来编写脚本,其结构和注释与发现的投放器软件非常相似。虽然结果不是绝对证据,但研究者们有信心认为这种恶意软件是由Gen-AI产生的。
不过,这事还是有点蹊跷。脚本为什么没有被进行混淆处理?为什么不删除这些注释?加密也是借助AI实现的吗?答案或许隐藏在公众对AI威胁的普遍看法中——它为新手恶意攻击者降低了技术门槛。
“通常情况下,” Schlapfer 的联合首席威胁研究员Alex Holland解释道,“当我们评估一次攻击时,我们会考察攻击者所需的技能和资源。在这次事件中,需要的资源非常少,Payload(恶意软件)AsyncRAT是公开可获取的,HTML传送也不需要任何编程知识。除了一个控制信息窃取器的C&C服务器外,没有其他基础设施。这种恶意软件本身很简单,也没有经过混淆处理。简而言之,这是一次低级别的攻击。”
这一结论增强了可能是新手使用生成式人工智能发动攻击的可能性,并且可能正是因为其新手原因,AI生成的脚本才没有混淆并进行了充分的注释。但即使没有这些注释,也几乎无法判断脚本是AI生成还是人工编写的。
这引发了一个新的问题。如果我们设想这种恶意软件是由一位新手制造的,并且在其中留下了使用AI技术的痕迹,那么可以推测,更为经验丰富的黑客在使用AI技术时可能会更加谨慎,从而减少留下此类线索的可能性。然而,实际上,这种情况也难以被检测和证实。
Holland表示:“我们知道AI技术可以被用来制造恶意软件,但目前还未有确凿的证据来证实这一点。现在我们有了一个数据点,它告诉我们攻击者正在攻击活动中使用AI。这表明,随着技术的进步,犯罪分子已经开始利用AI创造出更为复杂和有效的攻击手段。”
Holland补充说:“我认为很难预测这需要多长时间,”“但是考虑到生成式人工智能技术的快速发展,这不是一个长期趋势。如果非要我给出一个时间的话,我认为未来几年内这种情况肯定会发生。”
我们或许该向1956年的电影《人体异形》(Invasion of the Body Snatchers)致歉,因为现在恐怕得说一句:“它们已经在这里了!下一个就轮到你!下一个就轮到你!”