OpenAI启动安全漏洞赏金计划,聚焦AI滥用风险

Source

品玩3月26日讯,OpenAI正式推出公共安全漏洞赏金计划,旨在识别并修复其产品中潜在的AI滥用与安全风险。

该计划作为现有安全漏洞赏金项目的补充,专门接纳虽不构成传统技术漏洞,但可能导致实质危害的滥用行为报告。双方团队将协同对提交问题进行分类处置,确保覆盖范围无死角。

此次计划重点涵盖三大领域:智能体风险(含MCP),包括第三方提示注入及数据泄露;OpenAI专有信息泄露,涉及推理逻辑等核心数据;以及账户与平台完整性问题,如绕过自动化控制或规避封禁措施。值得注意的是,常规“越狱”行为若未造成具体安全损害则不在奖励范围内。OpenAI呼吁全球研究人员与伦理黑客积极参与,共同构建安全可靠的人工智能生态系统。