自2022年底以来，随着生成式人工智能的兴起，网络安全领域遭遇了前所未有的挑战。仅在2023年，勒索软件的支付金额就飙升至超过11亿美元。更令人担忧的是，人工智能技术的普及使得网络犯罪活动变得更加频繁、持续和复杂。

据调查，有45%的企业高层管理者对人工智能可能加剧的安全威胁感到忧虑。英国国家网络安全中心（NCSC）指出，人工智能正使得网络犯罪变得更加“平民化”，即便是新手黑客也能轻易实施过去只有资深攻击者才能完成的复杂攻击。

在人工智能时代，网络钓鱼依然是黑客对企业的主要攻击手段。企业必须了解黑客如何利用人工智能，以便制定出全面有效的网络安全策略。

1. 提高效率和精确度：黑客可以利用大型语言模型（LLM）来自动化和简化攻击流程，使得攻击更加高效和精准。机器学习（ML）算法能够快速分析大量数据，帮助识别漏洞，并在最少人为干预的情况下执行攻击，从而提高网络钓鱼、恶意软件分发和安全漏洞利用的效率。

2. 绕过安全措施：尽管大多数LLM都采取了安全措施以防止恶意使用，但这些措施往往容易被绕过。此外，还存在一些与流行LLM（如WormGPT和DarkBERT）的恶意版本，它们被用来编写更加逼真的网络钓鱼邮件。这种攻击方式的可扩展性意味着黑客可以触及更广泛的受害者群体。

3. 逃避检测和适应防御：人工智能使黑客能够开发出更复杂的逃避检测的方法，并适应防御措施。LLM可以用于创建多态性恶意软件，这种软件能够不断改变其代码以规避传统安全系统的检测，从而提高攻击的成功率和速度。

没有员工的参与，就无法构建一个真正有弹性的组织。每个人都需要对当前的安全形势有基本的了解，尤其是在识别潜在威胁变得越来越困难的今天。通过了解这些背景，员工将能更好地发现异常情况，并有足够的警觉性来避免点击可疑链接、汇款或批准MFA提示。

-持续培训：为了保持员工的参与度，培训计划应设计为持续性的。培训内容应简短、有趣、实用且吸引人。模拟网络钓鱼攻击可以作为培训的一部分，让员工有机会将所学知识付诸实践。对于点击了网络钓鱼邮件的员工，应立即进行额外培训，以巩固学习成果。

- 个性化培训：随着时间的推移，系统应自动识别那些很少受到攻击的用户，并减少他们的培训频率，同时提高模拟攻击的难度。对于经常犯错的员工，则应提供更多的简短培训和模拟，以改善安全表现。

- 适应变化：网络安全威胁不断演变，攻击手段也在不断发展。例如，带有二维码的恶意邮件曾经罕见，但现在已变得普遍。企业需要为员工提供识别潜在威胁的工具和能力。

最终，企业必须认识到，在人工智能时代，网络安全威胁正在不断变化。黑客正利用人工智能工具发起复杂的网络钓鱼攻击，诱使员工点击恶意链接或泄露敏感信息。虽然实施安全解决方案至关重要，但仅靠这些是不够的。应对人工智能时代的网络安全威胁需要采取多方面的策略，包括强大的下一代技术解决方案、建立网络弹性文化（指企业防范、检测、应对 IT 中断并从中快速恢复的能力。），以及结合网络钓鱼模拟和持续培训，才能真正提升组织的安全防御能力。