美国网络安全局使用Anthropic“Mythos”模型审计政府代码

Source
据三名知情人士透露,美国网络安全与基础设施安全局(CISA)正在使用人工智能初创公司Anthropic开发的“神话”(Mythos)模型,对美国政府软件代码进行审计,这进一步显示出美国政府在当前与白宫僵持不下的背景下,仍积极采用这家公司的人工智能工具。

消息人士称,CISA正在借助“神话”模型扫描政府代码仓库,寻找可能被外国情报机构或网络犯罪分子利用的软件缺陷和安全漏洞。该项工作由CISA内部的“攻击面评估”(Attack Surface Evaluation)团队负责,该团队专门为各政府机构开展数字安全评估和模拟攻防演练。其中两名消息人士表示,这些审计工作已经发现了大量漏洞,但未透露具体数量或细节;目前尚不清楚该团队已经覆盖了多少政府代码,以及发现的漏洞性质与严重程度。

对于相关问题,Anthropic方面并未回应记者的置评请求。一名CISA发言人上月曾表示会确认是否有内容可以公开,但此后未再回复进一步的邮件询问。

Anthropic与美国政府之间的关系一直跌宕起伏。今年2月,这家总部位于旧金山的公司因拒绝移除其产品中禁止用于自主武器和国内监控的安全防护措施,而与五角大楼发生严重冲突。美国国防部随后对Anthropic做出了正式的“供应链风险”认定,这一标签此前通常只用于被怀疑协助外国间谍活动的海外公司。这一前所未有的“黑名单”措施在3月被法官叫停,随后双方关系有所缓和。

缓和的一个关键节点,是Anthropic面向政府私下推出了“神话”模型,这一人工智能系统被描述为在发现和利用网络安全漏洞方面“极具能力”。据此前媒体报道,美国国家安全局(NSA)早在4月就开始在实际工作中使用“神话”,即便当时Anthropic仍处于被列入黑名单的状态。纽约时报则援引消息人士称,部分在绝密环境下测试“神话”的NSA分析员对其能力印象深刻。

与此同时,Anthropic也推出了面向公众的“神话”版本“寓言”(Fable),该公开模型在设计上加入了网络安全防护,限制用户直接利用其进行实际攻击。但在“寓言”上线后不久,白宫突然要求Anthropic禁止外国用户访问这一模型。这一要求引发了“寓言”模型的全球访问封锁,直到上周,美国政府才正式解除对该模型的出口管制限制。目前,美国政府在国家安全机构内部继续测试和评估Anthropic的技术,同时在监管及安全边界方面与该公司保持微妙博弈。