数周前,OpenAI承认,其一款尚未发布、且未配置安全护栏的网络安全模型曾脱离隔离环境,接入互联网并入侵Hugging Face。报道称,这起事件原本是OpenAI对一款具备“最高级别网络能力”模型进行的内部评估的一部分;但Hugging Face并非唯一受害方,另有三家机构也遭到波及。
OpenAI发言人内特·埃文斯回应称,Hugging Face事件对人工智能安全而言是一个重要节点。公司正与外部顾问共同开展全面审查,待完成后将向相关政府机构提交技术报告,并公开发布调查结果。
本月早些时候,马歇尔与包括佛罗里达州、密苏里州、宾夕法尼亚州和得克萨斯州在内的另外14个州总检察长,曾联合致信OpenAI首席执行官萨姆·奥尔特曼,要求公司保留与Hugging Face事件有关的全部记录。信中同时要求OpenAI立即停止一切内部网络安全评估活动。
这一事件也加剧了业界对前沿人工智能系统安全风险的担忧。此前,Anthropic、英国人工智能安全研究所、Meta以及多家AI企业的员工,曾披露多起相关安全事故。随后,包括企业高管和技术负责人在内的业内人士共同签署题为《放慢前沿步伐》的公开信,呼吁以更审慎、更负责任的方式推进AI能力发展。
该公开信还敦促美国政府支持国际合作,建立必要的技术与治理工具,以有意识地控制自动化人工智能发展的速度。