随着人工智能技术的发展，网络犯罪的门槛正在迅速降低。“零基础”黑客——指那些没有任何黑客经验却能发起攻击的人群——正在快速崛起，标志着网络安全的新时代到来。

人工智能是一把双刃剑。一方面，AI可以让人们更高效地完成工作；另一方面，它也让有恶意的人变成了骗子、黑客和网络犯罪分子。

01

“零基础”黑客的崛起

过去，网络犯罪行业利润丰厚，但传统上仅对具有高端技术技能的人开放。只有那些在系统与软件、网络、编程、密码学和网络安全等多个技术领域有深入了解的人，才具备开发恶意软件、发现漏洞、绕过防御并攻击系统的能力。

随着人工智能的出现，这种技术门槛已经显著降低。即便没有黑客经验或技术背景，也可以利用AI对企业发起攻击。

02

从对话到恶意软件生成

大多数大型语言模型（LLM）虽然内置了“护栏”——即安全协议，限制其行为范围以确保安全。换句话说，AI护栏帮助识别恶意输入或指令，防止威胁者利用技术从事非法活动。

但这些护栏并不牢靠。Cato CTRL 的研究表明，几乎任何没有编写恶意代码经验的人都可以操控OpenAI的ChatGPT、微软Copilot或DeepSeek等LLM，绕过这些护栏，从而进行恶意活动，比如开发信息窃取恶意软件。

Cato CTRL将这一新型越狱方法称为“沉浸式世界”，本质上是一种叙事引导技术，即让LLM模拟一个将恶意行为视为正常的虚构环境。在演示中，研究人员创建了一个名为“Velora”的虚构世界，在那里恶意软件开发是被认可的，也不存在任何法律限制。接着，他们创造虚构角色并分配任务，通过持续反馈和互动，引导模型成功生成了一个能够从Chrome中窃取凭证的信息窃取程序。

03

对“零基础”黑客而言，恶意软件只是冰山一角

恶意软件只是AI赋能的“业余黑客”能力的起点。在不远的将来，这些新人将能设计复杂的社工攻击，分析目标环境、识别漏洞、选择攻击路径、执行多阶段攻击、实现攻击流程自动化等。AI还将自主监控操作过程，并根据目标环境实时调整策略。

简而言之，随着AI的助力，“零基础”黑客的数量与技能水平将呈指数级增长。

04

组织如何应对？

应对“零基础”黑客的兴起，企业必须采取一系列应对措施：

• 提高员工意识：举办培训课程，提高员工对AI威胁的认知。通过模拟攻击和应急演练，提高警觉性。

• 开展AI红队演练：测试自身使用或开发的AI工具是否易被恶意操控。投入资源预测并对抗AI攻击。

• 部署整体安全方案：使用像SASE这类端到端安全系统，而不是零散工具，监控整个IT基础设施的威胁信号。

• 定期打补丁：确保所用软件和工具为最新版。若不修补漏洞，AI驱动的对手就会利用它们。

• 提升应急响应能力：完善的事件响应计划，并增强组织面对AI威胁的不确定性时的韧性。

• 采用主流安全框架：遵循MITRE ATLAS、OWASP LLM十大风险、Google SAIF等标准框架的提升安全治理能力。

AI驱动的“零基础”黑客正在改变网络犯罪格局，使复杂攻击不再局限于技术高手。通过红队测试、部署全栈安全系统、强化响应能力，组织可以为这场AI时代的网络攻防战做好充分准备。