美政府召集马斯克等科技领袖开会 副总统质疑AI模型安全

Source
4月11日,据CNBC报道,在AI公司Anthropic发布其最新强大模型“Mythos”之前,美国副总统万斯和财政部长贝森特上周与多位头部科技公司的CEO举行了会议,就AI模型的安全性以及如何应对网络攻击等问题对他们进行了质询。


贝森特与万斯

据两位知情人士透露,此次会议通过电话进行。参加会议的科技领袖包括Anthropic CEO达里奥·阿莫代伊(Dario Amodei)、xAI CEO埃隆·马斯克(Elon Musk)、GoogleCEO桑达尔·皮查伊(Sundar Pichai)、OpenAI CEO萨姆·奥特曼(Sam Altman)、微软CEO萨提亚·纳德拉(Satya Nadella)、CrowdStrike CEO乔治·库尔茨(George Kurtz)以及Palo Alto Networks CEO尼科什·阿罗拉(Nikesh Arora)。

知情人士称,这些科技公司CEO会面的目的是讨论大语言模型的安全态势以及安全部署问题。与会官员还讨论了如果模型的发展朝着有利于攻击者(比如网络攻击)的方向演变时,应如何应对。

Anthropic一位负责人拒绝对该会议发表评论,但周五对CNBC表示,该公司在最近几周一直与高级政府官员就网络安全问题保持沟通,并已表示愿意支持“政府对该技术进行的测试与评估”。

“在对外发布模型之前,Anthropic已就Mythos预览版的完整能力向美国政府各部门的高级官员进行了简报,包括其在网络攻击和防御两方面的应用。从一开始,我们的优先任务就是尽早让政府了解情况,包括该模型能做什么、风险在哪里,以及我们如何管理这些风险。”Anthropic负责人称。

OpenAI和CrowdStrike拒绝对此次会议发表评论。白宫及其他相关公司尚未回应CNBC的置评请求。

Anthropic在本周二向有限合作企业推出了其Mythos AI模型,同时评估防止黑客利用该模型的措施。苹果、Google、微软、英伟达、Palo Alto Networks和CrowdStrike均位列其首批发布合作伙伴之中。

贝森特与美联储主席杰罗姆·鲍威尔(Jerome Powell)本周出人意料地召集美国各大银行负责人召开会议,讨论Mythos模型带来的潜在威胁,这表明特朗普政府对先进网络工具的担忧进一步加深。

这也表明,在特朗普总统试图将Anthropic的Claude平台从联邦机构中移除之际,Anthropic仍然参与着白宫关于AI的对话。Anthropic针对美国国防部对其供应链风险认定的法律挑战仍在法庭上进行,此前美国东西两岸的法院作出了两项相互对立的裁决。