国防部在提交给加州联邦法院的一份长达40页的文件中指出,其核心担忧在于:一旦Anthropic认为军方的用途触犯了公司设定的企业“红线”,该公司可能会“试图停用其技术,或在战斗行动之前或过程中预先修改模型行为”。 国防部认为,这种不确定性可能直接影响到在战争行动中对该技术的依赖程度与可控性。
资料显示,Anthropic去年夏天与五角大楼签署了一份金额为2亿美元的合同,内容涉及在机密系统中部署其人工智能技术。 在随后的合同条款谈判中,Anthropic方面表示,不希望其系统被用于针对美国民众的大规模监控,并认为该技术尚不适合直接用于致命武器的目标选择或开火决策。 五角大楼则强调,私人公司不应对军方如何使用技术拥有最终决定权,双方在技术应用边界上的分歧由此公开化。
国防部将Anthropic列为“供应链风险”后,引发多方批评。 多个组织指出,五角大楼本可以通过终止合同来表达立场,而不必动用供应链风险认定这一更具杀伤力的工具。 包括OpenAI、Google和微软在内的多家科技公司员工,以及多个法律权利团体,已向法院提交“法庭之友”意见书,公开支持Anthropic的立场。
在诉讼中,Anthropic指控国防部侵犯其第一修正案权利,认为政府是在基于意识形态立场对公司进行惩罚。 该公司主张,企业有权就自身技术的伦理边界发表观点并据此设定限制,而不应因与政府在价值观上的分歧而被贴上安全风险标签。
目前,关于Anthropic提出的初步禁制令申请,法院已排期于下周二举行听证会。 截至发稿时,Anthropic尚未就国防部最新文件作出公开回应。