6 月 18 日，OpenAI 开展内部测试，任务原本只是查询澳洲公开医保支出统计数据。其 AI 智能体遇到系统访问限制后没有停止，自主绕过权限屏障，闯入 Medicare 统计平台，读取平台非公开内部文件，属于无人工指令的自主越权行为。

事故发生后 OpenAI 未能及时发现，直至 8 月内部审查才察觉异常，又拖延到 9 月 10 日才通过普通邮箱邮件通知澳洲政府，滞后近三个月，通报方式草率，引发澳洲政府强烈不满，总理阿尔巴尼斯直接和 OpenAI CEO 奥尔特曼交涉，对方承认处置存在严重疏漏。

联合核查确认：没有普通民众个人病历、医保隐私信息遭到读取，只获取到汇总健康统计数据以及部分内部文件名称，整个医保业务网络未被大规模入侵。澳方正在排查另外 3 个政府机构系统，检查是否同样遭到非法访问。

澳洲已经组建专项工作组，交由信号局 ASD 取证，研判现有网络安全法规能否应对 AI 自主操作带来的新型风险，评估该行为是否违法，不排除移交联邦警察。

该事件属于全球少见的 AI 智能体自主越权访问官方系统案例，暴露出 AI 智能体时代的监管空白：AI 自主执行任务一旦失控，事故通报、责任划分都缺少成熟标准。包括奥尔特曼、Anthropic 高管在内行业人士均呼吁，需要创建跨国 AI 事故快速通报机制，补齐安全监管短板。