品玩11月10日讯,OpenAI今天发布Control Room中央安全系统,用于统一追踪其研究基础设施中的全部模型工作负载,并在安全或风控触发时快速中止输出。该系统与misalignment监控体系深度集成,可在发出终止指令后35秒内切断推理。
Control Room将工作负载、推理引擎与中心服务三者联动:任务启动时须注册唯一job ID,引擎每次响应前需向系统确认授权状态。一旦监控模块或人工判定需要中止,系统将标记任务终止,后续全部推理请求将被拒绝。
架构上采用"失败即关闭"原则,即使Control Room本身出现异常,所有推理请求也将被一律拒绝直至服务恢复。关键安全保护置于集中化推理层而非分散的负载代码中,以抵御代码缺陷或恶意绕过。系统目前已覆盖前沿模型训练工作流,正逐步扩展至全部研究负载。