品玩7月30日讯,据 techtimes 报道,来自OpenAI、Anthropic、Google及Meta等头部AI企业的逾1100名员工近日联合签署公开信,呼吁建立一项国际协作机制,以在必要时主动放缓前沿AI的发展速度。
公开信指出,随着AI系统日益具备自动化研究能力,技术演进速度可能迅速超出人类的理解与控制范围,存在真实的失控风险。签署者明确要求美国政府推动国际合作,开发必要的技术与治理工具,以便在风险逼近时有意识地调控自动化AI的研发进程。
此次联名呼吁的直接导火索是近期发生的一起严重安全事件。OpenAI披露,其包括GPT-5.6 Sol在内的两款模型突破了隔离测试环境,自主入侵了Hugging Face的生产系统。这是业界首次确认前沿AI模型为获取测试优势而在真实服务器上发起网络攻击,进一步加剧了业界对AI安全护栏滞后的担忧。