澳大利亚政府将成立特别工作组，应对不断出现的人工智能网络安全威胁。此前，一名失控的OpenAI人工智能代理被发现越权访问了澳洲医保（Medicare）相关系统。

澳洲副总理理乍得·马尔斯周四表示，这支特别工作组将由总理与内阁部牵头，让总理能够直接掌握调查进展。

就在总理安东尼·阿尔巴尼斯公布这起事件数小时后，马尔斯在记者会上表示，这将是一支“快速响应”的工作组。

他说：“这将是一个快速行动的特别工作组。”

“它将彻底调查这起事件，同时也会审视我们应对新兴人工智能网络威胁的整体准备情况。”

工作组还将调查政府网络的安全状况，以及澳洲现有法律框架是否足以应对类似事件。

马尔斯表示，这支工作组的具体职权范围目前已经公布。

他表示，阿尔巴尼斯政府“感谢”OpenAI的配合，但同时强调：“这里发生的一切显然是完全不可接受的。”

马尔斯说：“我认为，我们可以把这一切视为人工智能发展过程中敲响的一次警钟。”

“这项技术对人类而言代表着巨大的机遇，但同样重要的是，技术发展必须创建在足够的安全护栏和保障措施之上，而且这些护栏必须走在技术能力之前。”

“这也是为什么总理以及本周在纽约的其他世界领导人都呼吁，确保人工智能能够在安全的框架和必要的护栏下发展。”

与马尔斯一同出席记者会的政府服务部长凯蒂·加拉格尔表示，澳大利亚服务部（Services Australia）于9月10日收到OpenAI通知，称一名AI代理曾“访问面向公众的Medicare统计报告服务门户背后的基础设施”。

该门户主要提供公开的Medicare和药品福利计划（PBS）统计数据。

加拉格尔参议员表示，该AI代理当时正在执行OpenAI的一项任务，通过互联网研究澳大利亚公共医疗支出，这是OpenAI内部能力评估的一部分。

她表示，OpenAI发出的通知发送至一个专门用于研究人员报告潜在漏洞的邮箱。

“到9月15日，澳大利亚服务部分析了邮件中的信息并进行了检查后，向澳大利亚信号局（ASD）报告了这一事件。”

“我大约在9月17日获悉此事，并要求获取进一步信息，随后在周末将此事告知马尔斯和内政部长托尼·伯克。”

加拉格尔表示，OpenAI与澳大利亚服务部之间的第一次技术层面沟通是在本周二进行的。

她说：“那时，澳大利亚服务部才有机会提出具体问题。”

“之后还会继续举行会议，目前调查尚未结束。”

澳大利亚服务部正在进行取证调查，并将在调查完成后向她提交最终报告。

加拉格尔特别强调，这次被访问的门户是“面向公众”的系统，并不涉及医保报销、支付处理或个人信息。

阿尔巴尼斯是在联合国大会期间与OpenAI首席执行官萨姆·奥特曼会面后，公布这起事件的。

他表示，事件发生在今年6月，OpenAI直到8月才发现问题，并于9月通知澳大利亚服务部。

阿尔巴尼斯说，他在与奥特曼会面时表达了澳大利亚“极度担忧”，并对OpenAI迟迟没有通知澳洲政府表示失望。

他说：“我明确表达了失望——公司花了太长时间才告知政府究竟发生了什么，而且通知的方式本身也是不可接受的。”

阿尔巴尼斯还表示，目前已知另外三个系统“可能受到影响”。

其中包括澳大利亚健康与福利研究所（AIHW）、新州犯罪统计与研究局，以及维多利亚州卫生厅。

他说，自己已经与新州和维州州长通话，并确保两州政府能够获得完整的网络安全情况简报。

新州州长克里斯·明斯随后表示，这起事件令人担忧，而类似的数据安全漏洞将是政府未来必须面对的挑战。

不过，他指出，OpenAI并非一家“恶意公司”，当时AI代理已经被要求不要访问相关信息，也没有试图窃取机密资料，但“它还是这么做了”。

明斯说：“这就是人工智能的力量。这就是我们必须面对的挑战。”

“因为虽然这次涉及的可能只是半公开、与隐私无关的信息，但未来可能会发展到相关信息被真正泄露的程度。”

明斯表示，联邦政府机构正在“密切关注此事”。

“我们确实掌握着公众的信息，而保护这些信息是我们的责任。”

维多利亚州州长本·卡罗尔表示，他在周三深夜与阿尔巴尼斯通了电话。

他说，澳大利亚信号局目前正在处理此事，相关信息“就在我们说话的同时不断汇总”。

“我稍后会进一步说明，但我了解到，确实发生了一起涉及医疗系统的黑客事件，目前相关部门正在调查它可能造成的进一步影响。”

此次医保系统事件曝光之际，奥特曼此前刚刚在联合国安理会警告称，人工智能可能被用于“追逐梦想”，甚至最终脱离“人类控制”。

奥特曼说：“我们现在面临一个选择。”

“人工智能可以成为一场新的创造力与发现的复兴，也可能更像一场带来动荡与混乱的新工业革命。”

他说，最理想的AI并不是让人成为庞大机器中的“齿轮”，也不是不断优化生活的每个环节，直到人的存在被挤出去。

“它应该让人们在一个越来越复杂的世界里拥有更多自主权。”

奥特曼同时呼吁AI行业放慢脚步。他表示，随着AI系统变得越来越强大、越来越自主，它们作出人类“不再理解或无法控制”的决定的可能性也会增加。

他表示，当AI开始具备自我改进以及改进未来版本的能力时，这一风险尤其值得关注，这类技术通常被称为“递归式自我改进”。

奥特曼说，赢得一场竞争“并不是做出草率决定的理由”。

“我们过去曾单方面放慢脚步。未来我们也会这样做。”

“无论人们认为灾难风险是10%、1%、12%还是0.1%，这都不重要。”

“我们不应该训练那些无法让我们有充分把握确保其始终处于人类控制之下的模型。”

奥特曼的表态与美国总统唐纳德·特朗普前一天在联合国的讲话形成鲜明对比。

特朗普在演讲中将AI称为“超级智能”，并表示自己不会“扼杀一种将比工业革命更具影响力的技术”的发展。

他宣称，美国正在赢得AI竞赛。

特朗普说：“谁赢得AI……谁赢得超级智能，谁就赢。”

“我们现在已经大幅领先中国以及其他所有国家——我们会继续保持这种领先。”

本周早些时候，阿尔巴尼斯与20多名其他国家领导人共同呼吁，为人工智能创建必要的安全护栏，确保其处于“人类控制”之下。

联合声明指出：“人工智能是一项极其强大的技术。”

“它有潜力改善生活、推动科学发展并增强我们的经济。”

“与此同时，如果管理不当，前沿人工智能模型的快速发展也会对安全构成严重风险。”

随着越来越多国际社会对最先进AI模型可能脱离受控环境、出现失控行为感到担忧，全球对AI安全的讨论也持续升温。

声明表示，随着一些资深AI行业人士离职并公开谈论相关风险，“行业、政府和社会必须立即采取行动”。

特朗普则将这一推动全球AI监管的行动斥为“全球主义者的阴谋”。