网络安全风险影响AI采用,但投资仍在加速

新闻
4小时前

本文关键看点:

#01

91%的企业高管表示"数据安全、隐私和风险问题"共同构成了未来六个月影响其AI战略的首要因素。


#02

60%的企业表示计划采用人工参与式方式管理AI代理,由人类员工验证每个代理的输出。


#03

58%的受访者表示,网络安全风险使其难以证明AI投入带来的投资回报。


以下正文内容基于英文原文编译,可能存在语义偏差,请以原文为准。


以下为正文


网络安全风险正成为影响企业高管AI决策的首要风险之一,毕马威(KPMG)在周二发布的一项季度AI脉搏调查中表示。根据该报告,大型企业的四分之三高管告诉毕马威,他们对AI工具相关的网络安全和隐私风险感到担忧。该调查还询问了有关治理方法和代理型AI的问题,展示了全球企业如何应对新的安全挑战。


1776842008782725.png


一、总体态势:担忧与应用并存

毕马威的调查显示:

  • 业界对AI带来的网络安全风险高度担忧

  • 但与此同时,商业社区对AI的应用却在快速推进,二者形成鲜明对比。

不过,调查也指出:

随着AI项目逐步成熟,企业在风险管理方面正变得更加从容、有序

二、风险管理能力:成熟度越高,信心越强

  • 在仍处于试验阶段的组织中:

    • 仅有 20% 的受访者对管理AI风险有信心

  • 而在AI领先企业中:

    • 这一比例提升至 49%

说明: 随着AI逐步嵌入实际业务运营,企业的治理框架正在同步强化

三、核心挑战:安全与滥用仍是最大痛点

即便是已经具备成熟AI项目的企业,仍面临明显挑战:

  • 44% 的受访者认为: 

网络安全问题 + 员工滥用行为,是当前最严重的风险

  • 对比数据:

    • 2025年Q4:约 1/3

    • 当前:已上升至 44%

趋势判断: 安全问题正在持续加剧,而非缓解

四、财务影响:安全问题正在拖累ROI

  • 58% 的企业表示: 

网络安全风险,使其难以证明AI投入的回报(ROI)

结论: 安全问题不仅是技术问题,更成为商业价值落地的关键阻碍

五、AI代理(Agent):高热度 + 高不确定性

1️⃣ 应用进展:

  • 超过 50% 的企业:已正式部署AI代理

  • 约 30%:仍处于测试阶段

2️⃣ 安全治理现状:

  • 43% 的企业:

    • 已嵌入安全控制机制

    • 并建立了监控与评估流程

  • 同样 43% 的企业:

    • 已明确划定“高风险用例”

    • 在这些场景中禁止代理自主决策

3️⃣ 人机协同趋势:

  • 近 60% 的企业计划采用: 

Human-in-the-Loop(人工参与式)模式

    • 即由人类对AI输出进行审核与确认

核心原则:

 AI代理只有在“人类掌控主导权”的前提下,才能真正释放价值。

六、战略优先级:安全已成为AI核心前提

  • 91% 的企业高管表示: 

数据安全、隐私与风险问题 

 是未来6个月AI战略的首要影响因素

说明: 网络安全已从“配套能力”,上升为AI战略的前置条件

七、最终结论:AI价值的实现取决于安全能力

毕马威总结指出:

AI的潜在价值已毋庸置疑, 但真正实现这一价值,取决于企业是否能够——  在“安全、可控”的前提下,对企业级工作方式进行重构。