Anthropic“玻璃翼计划”的50多家合作伙伴已发现约1万个关键/高危漏洞

新闻
8小时前
本文关键看点:


#01

发现漏洞的相对容易性与修复漏洞的难度相比,已构成网络安全的一大挑战。


#02

玻璃翼共发现了1万个潜在漏洞,但实际缩减后,实际经过人工验证、合法的关键/高危漏洞近1500 个,这个数字下降的幅度相当大。


#03

用Mythos发现漏洞的成本(用了多少token?)还是个迷,有人透露大约在每分钟500美元左右。


以下正文内容基于英文原文编译,可能存在语义偏差,请以原文为准。

以下为正文


Anthropic表示,参与"玻璃翼计划"(Project Glasswing)的50多家合作伙伴,已在其软件产品中发现了约1万个关键或高危漏洞。


该项目于今年4月启动,围绕Claude Mythos Preview构建,旨在作为其防御安全工作的组成部分。Anthropic曾表示,创建玻璃翼计划的背景是:其新前沿模型的能力"揭示了一个严峻的事实——AI模型的编码能力已达到一个临界点,它们在发现和利用软件漏洞方面的表现已能超越除最顶尖人类外的所有人"。彼时,Anthropic还承诺投入超过1亿美元的API使用额度,并额外向开源安全组织捐赠400万美元。


1780475443444201.png

Anthropic在上周晚些时候发布的一份更新报告中表示:"过去几个月,我们使用Mythos Preview扫描了超过1000个开源项目,这些项目共同支撑着互联网的很大一部分——以及我们自身的基础设施。"

在这一过程中,Mythos Preview在这些项目中发现了6202个高危或严重级别漏洞,其中1752个已由六家独立安全研究公司进行了评估。


维护者正面临漏洞报告洪潮


Anthropic指出,其中90.6%(1587个)"已被证明是有效的真正阳性,62.4%(1094个)被确认为高危或严重级别。这意味着,即使Mythos Preview不再发现新的漏洞,按照我们目前的二次分类真正阳性率,它也将额外在开源代码中暴露近3900个高危或严重级别漏洞——此外还有为玻璃翼计划合作伙伴发现的那些漏洞。"


报告作者指出,在开源软件维护的常规挑战之上,"维护者们正面临大量低质量的AI生成漏洞报告。事实上,几位维护者告诉我们,他们目前严重受到能力限制,有些人甚至要求我们放慢漏洞披露速度,因为他们需要更多时间来设计补丁。"


Anthropic估计,目前已向维护者披露了530个高危或严重级别漏洞,并计划再披露827个。在这530个漏洞中,75个已获得补丁,65个已发布公开advisory。该公司表示,这一数字相对较低的原因有三:首先,其协调漏洞披露政策规定的90天窗口尚未关闭;其次,可能存在漏计,因为一些漏洞可能在未披露的情况下已被修复;最后,安全生态系统已经超负荷运转。


"发现漏洞的相对容易性与修复漏洞的难度相比,已构成网络安全的一大挑战。"报告作者指出。


尽管如此,玻璃翼计划迄今为止的成功已促使该公司为其企业客户发布了测试版的Claude Security,并启动了网络验证计划(Cyber Verification Program),允许合法的安全研究人员在其工作中使用其模型,同时豁免部分安全保障限制。


Info-Tech Research Group首席分析师Mark Tauschek表示,Anthropic决定通过玻璃翼计划限制对Claude Mythos Preview的访问,这是最明确的信号之一,表明前沿AI能力已在网络安全领域越过了一个真正的临界点。


他表示,该公司"在系统卡片的透明度和玻璃翼计划的结构方面值得肯定。但对问题保持透明,并不等同于解决问题。"


Tauschek认为:"这次更新验证了一个现实:IT和安全负责人现在必须面对一个事实——发现软件漏洞的成本已大幅下降。如果单个AI模型能在几周内在上千个基础软件中发现数千个严重漏洞,那么从漏洞发现到利用之间的时间窗口将持续压缩。"


他补充道,那些仍将打补丁作为季度工作的组织,所面临的风险比以往任何时候都要大。


Tauschek还指出,一些维护者要求Anthropic放慢速度,这不应被视为对更好安全性的抗拒。"相反,这指向的是一个多年来一直在加剧的能力问题。许多企业依赖的开源项目,都是由小团队甚至志愿者维护的——往往是白天还有正职的人。"


关键瓶颈已发生转移

他同时表示,"依赖这些代码的组织却以巨大规模运营。AI可以加速发现,但它无法创造人类验证发现、设计安全补丁、测试补丁、以及部署补丁所需的能力。这也迫使我们重新思考纵深防御。"


DeepCove Cybersecurity首席技术官Kellman Meghu补充道,玻璃翼计划的更新对他来说并不意外。"我们公司几乎两年前就发现,在称职的研究人员手中,AI发现和利用漏洞的能力已大幅加速。"他指出,"我认为现在的变化是,驱动大语言模型提示词的入门门槛已大幅下降。这只会变得越来越容易,这就是我们面临的新现实。"


他表示,DeepCove"不得不加快其补丁和控制评估的节奏,现在这包括利用大语言模型来帮助识别和打补丁,或为其服务和客户基础设施构建补偿控制。"

据Meghu称,"发现漏洞现在很便宜,但打补丁仍然很慢,在许多情况下仍然受制于人力。客户有变更管理流程、监管测试窗口和变更冻结期,使得消化这种节奏变得非常困难。"


他指出,Anthropic的更新真正表明的是:"网络安全的瓶颈已从发现漏洞转移到足够快地吸收补丁和调整客户防御,以跟上步伐。"


这一观点与Anthropic的判断相呼应,后者指出:"修复此类漏洞的瓶颈,在于人类分类、报告以及设计和部署补丁的能力。"


新补丁节奏带来的运营压力"与进攻性威胁同样紧迫"。Meghu说,"我们的应对措施是将AI辅助审计构建到我们自己的开发流程中,并收紧关键依赖项的客户补丁SLA。但这并不是一个容易管理的过程。我们不会盲目信任LLM或智能体自主运行,这已导致LLM集成的操作员辅助流程发生了重大变化。"


此外,Beauceron Security首席执行官David Shipley指出:"每个人都在关注的标题新闻是,它发现了1万个潜在漏洞,然后其中6000个是高危的,但当你实际缩减数字时,你得到的数字更接近1500个真正经过人工验证的合法漏洞,所以这是一个相当大的下降。"


"(Anthropic还表示)1752个被评定为较高严重级别的漏洞中,90%经人工审查后发现是准确的,"他说。"很好,但这意味着这仍然只占它发现总数的约15%。"


据Shipley称,一个仍待回答的关键问题是发现每个漏洞的成本。"你烧了多少token?我听说大约是每分钟500美元,所以我真的很想知道成本是多少。"他表示,"当然,如果他们能告诉我们'我们发现了这么多',(他们也能回答)消耗了多少计算资源?"


他补充道,唯一的根本解决方案是"让软件制造商对其软件负责。这是摆脱这一乱局的唯一途径,因为正是这一根本性的利益错位导致了今天的问题。"


* 注:图片均来源于网络,无法联系到版权持有者。如有侵权,请与后台联系,做删除处理。