负责MITRE的ATT&CK框架的亚当·彭宁顿在一个关于人工智能如何改变攻防双方拉锯的讨论中表示：“我们看到了[人工智能在防御方面]的优势，但也遇到了许多阻滞。

Pennington说，安全团队在许多方面使用人工智能的方式与黑客相似，尤其是快速编写代码。“不过，直接用于防御时确实需要谨慎，”他说。“误报一直是将机器学习和人工智能应用于国防时的一个难题。”

彭宁顿及小组成员的警告正值企业急于购买人工智能安全服务，往往对其效能或权衡价值漠不关心。

威胁情报数据库OpenSourceMalware的安全研究负责人Paul McCarty表示，他在大会上听到许多组织表示，他们“正在将预算从现有安全工具转向人工智能，因为他们不想被落下。”

“那是个非常非常糟糕的政策，”他说。“不要把预算转向人工智能。”

麦卡蒂说，他曾经怀疑人工智能在国防上的价值，但现在“已经看清了真相”。即便如此，他补充道，人工智能并没有让他的工作变得更容易——如果说有什么变化，那就是让工作更难。

“它的作用是填满我的管道，”他说，带来了新的数据和报告可供分析。“我比以往任何时候都更努力，因为我有更多数据，更多优质、高质量的东西可以查看。”

麦卡蒂表示，人工智能在第一阶段的数据收集中极具价值，但任何公司都不应信任它在没有人工监督的情况下完成更复杂的工作。

“如果是克劳德写的YARA rules，那大概就是垃圾，”他说。“你需要去测试它们，验证它们，微调它们。”

麦卡蒂补充说，大多数人工智能工具“将需要人类长期甚至永远参与其中。”“我们必须始终意识到必须有人在场，但我们也必须修改这些系统，更好地应对涌入的大量数据。

除了不完美的资源外，人工智能本身也是一个风险来源。

“这是一个我们没有考虑到的新表面区域，”DEF CON会议培训主管、前白宫网络安全工作人员Seeyew Mo说。

Pennington同意，人工智能处于相对不成熟的阶段，缺乏许多经过广泛评估和完善后才出现的安全防护措施。

“随着技术发展，出现了许多新风险，尤其是在技术尚未成熟的情况下，人们没有经过数十年积累的'如何应对威胁？'”他说。“从迅速注射到试图操控这些系统输出的结果，什么都做。”

麦卡蒂开玩笑说，未来每支夺旗网络安全演习的队伍都会有一人专门负责启动人工智能代理，对竞争队伍的代理发动提示注入攻击。

许多购买AI工具的企业很可能都在为利用前所未见技术的精妙AI攻击做好准备。但专家们在小组讨论中表示，实际情况并非如此。

“我们不必去寻找那些超级新奇、疯狂的东西，”麦卡蒂说。“人工智能正在帮助[黑客]完成那些已经成功的事情。”他举了一个例子：人工智能工具利用速度和规模来寻找exposed security keys for software development platforms。这些暴露钥匙的问题并不新鲜，但它们往往像大海捞针，等待被发现。“这些都是已经存在的东西，”麦卡蒂说，“但人工智能只是在猛烈地敲打它们。”

不过，人工智能的新颖特性正在给防御者带来新的难题。

“速度和速度几乎变得难以掌控，”彭宁顿说。“在某些情况下，我们看到演员动作太快，以至于我们察觉到了什么，而我们进入并开始采取行动的循环不再奏效。撤离已经发生了;他们已经穿越了很多星系了。”