深度伪造技术迭代网络钓鱼策略

攻防
3年前

随着人工智能和深度伪造(Deepfake)技术领域变得越来越复杂,深度伪造技术对公司和个人构成的风险越来越大。最新软件和算法的日益成熟,令“孜孜不倦”害人的恶意黑客、骗子和网络罪犯始终领先监管机构一步,攻击威胁越来越难以防备。

大多数人可能认为自己或多或少熟悉传统网络攻击的套路,比如涉及系统入侵、病毒和勒索软件的那些。然而,2019年,一家英国能源公司的首席执行官(CEO)遭遇深度伪造音频技术电话诈骗。自此,网络犯罪领域突飞猛进,骗子防不胜防。

上述案例中,人工智能生成的深度伪造音频文件令受害CEO以为自己是在跟老板通话,于是在“老板”的指示下,给网络罪犯转账了将近25万美元。此后,一些网络安全专家不由考虑:深度伪造音频技术是否代表着新时代的主要安全问题?而整个世界都在争相寻找这一紧迫威胁的解决办法。

语音克隆和人工智能音频:网络犯罪新前沿

毫无疑问,音频深度伪造骗局是深度伪造技术更为怪异的一种应用。但是,正如我们所看到的,这种骗局显然可以成功应用,而且成功到极为令人信服。事实上,沦为网络攻击受害者的那位首席执行官公开表示,他通过“轻微的德国口音”和“轻快的腔调”认出了老板的声音。此外,无论从哪个方面看,网络罪犯的技术都更难以在一个月之内发现了。

撇开高端技术不谈,音频深度伪造背后的构建过程简单到令人惊讶。黑客已经调整了机器学习技术,一般情况下,通过间谍软件和设备收集几个小时的通话录音,就可以克隆出受害人的语音。收集的数据越多,录音质量越好,语音克隆的准确度就越高,实际运用的潜在危害也就越大。

只要建立起语音模型,恶意黑客的人工智能算法就可以“学习”如何模仿目标说话。人工智能会利用所谓对抗生成网络(GAN)系统,一边创建伪造音频,一边尝试发现其缺陷。每一次新的尝试,人工智能都能极大改进自身。这一过程一直持续到形成可靠的语音模拟,往往只需分析20分钟的录音就能成功。

这对很多高管,尤其是大公司的高管而言可不是什么好消息,他们的录音太好获取了。网上就记录着无数段演讲,还有社交媒体分享加持;电话、访谈和日常对话也相对容易入手。只要资源池里存够数据,深度伪造音频文件的准确度就相当惊人,网络罪犯能操纵深度伪造音频说任何话。

目前记录在案的很多深度伪造音频欺诈案例并没有达成罪犯的最终目标。但只要想想2019年非洲加蓬共和国的未遂政变就是深度伪造音频电话引发的,就会清楚这种技术能有多大的影响力。

进阶网络钓鱼遇上下一代安全

没采用深度伪造技术的常规网络钓鱼诈骗依然很有市场,85%的企业遭遇过网络钓鱼欺诈。然而,语音网络钓鱼者之所以对资金充裕的企业安全构成如此强大的威胁,其中一个关键原因是,深度伪造音频黑客能够绕过传说中的网络安全防护:企业VPN。

公司计算机网络可以抵御大多数复杂的恶意软件和病毒,VPN软件也会持续更新,留意新的问题和病毒类型。然而,人工智能生成的电话呼叫完全取决于人为失误、轻信和信任,让人防不胜防。

既然攥在手中的智能手机都不像自己以为的那么安全,不难想象网络罪犯可以通过多种方式穿透我们的防线。因此,有理由认为,要保护我们的隐私和漏洞免受深度伪造音频影响,也得靠人工智能解决方案,专为根除深度伪造音频而设计的那种。

科学家正在研究复杂而深远的算法,这些算法能够学习人类的语音模式和特点,可用于检测深度伪造音轨。

通过找出语音中的“畸变”,并自动对比录音和真实语音文件,这些伪造语音会被纳入反语音克隆安全设备中。从本质上讲,近期即将普及的此类反语音克隆安全系统,是恶意黑客用于行骗的同款人工智能工具的高级仿品。

专家强调,我们可以采取一些实际防护步骤,保护自己免受深度伪造音频诈骗。识别深度伪造欺诈骗局的最简单有效的方法之一,就是直接挂断电话,然后回拨。大多数深度伪造欺诈骗局都用的是预付费网络电话(VOIP)账户。只要回拨,受害人应该能够立即弄清电话那头是否真人。

深度伪造音频诈骗:即将到来的真实威胁

目前,深度伪造音频欺诈似乎距离我们还远,此项技术并未普及到成为大多数专业人士和个人的主要考虑。当然,这种情况在不久的将来可能会改变。人工智能飞速发展,这项支撑深度伪造的技术正变得越来越容易获得和使用。

虽然私营安全系统和国际网络犯罪打击工作正迅速赶上恶意黑客,但道高一尺魔高一丈,恶意黑客总在不断探索突破防线的新方法。有鉴于此,最好的建议就是保持警惕,做好准备,因为深度伪造音频诈骗可能会成为网络安全需处理的下一个大问题。

关键词:深度伪造(Deepfake);语音;网络钓鱼