OpenAI相关网络攻击事件在澳洲商界引发警觉。企业界人士警告,能够在没有人类知情的情况下自主行动的“AI代理”,对个人隐私数据构成的风险可能远超此前预期。
与此同时,他们要求澳洲工党政府接受与过去针对遭遇网络攻击企业时同等程度的审查,尤其是在OpenAI涉及的医保数据(Medicare)网络攻击事件上。
就在澳洲总理安东尼·阿尔巴尼斯在联合国大会上继续批评OpenAI,并在呼吁全球加强AI监管的同时与美国总统唐纳德·特朗普立场出现分歧之际,澳洲企业高层也开始重新审视AI带来的网络安全风险。
今年6月,AI代理在没有人类知情的情况下攻击了澳洲政府网站,而且相关活动持续了近3个月才被发现,这一事件令澳洲商界高度关注。
截至周五,OpenAI澳洲分公司仍未对此置评。OpenAI首席执行官、亿万富翁萨姆·奥尔特曼在白宫外也拒绝回答相关问题。
与此同时,工党政府释放出新的立法方向,计划让ChatGPT等AI工具的开发企业对失控的AI代理承担法律责任。
政府将对这起数据泄露事件展开快速审查,并全面检查联邦现行法律,以确定估值约1.2万亿美元的OpenAI是否违反法律。
工党前座议员穆雷·瓦特周五表示:“如果有可能提出刑事指控,那么就会这么做。”
企业界如今也开始质疑,面对能够绕过政府防御、近3个月未被察觉的AI代理,他们究竟该如何保护自己的企业和客户。
澳洲知名风险投资家保罗·巴萨特表示,联邦政府必须加强自身防御能力。
他说:“近年来,每当一家机构遭到黑客攻击,各个政治阵营的政客都会猛烈抨击遭到攻击的企业。”
“但对于政府自身未能保护这些信息,我还没有听到任何问责。”
巴萨特表示:“最终,保护政府机构所掌握的澳洲公民个人信息,是政府的责任。我觉得政府目前的回应主要是在攻击OpenAI,这一点相当令人惊讶。”
澳洲大型企业Wesfarmers董事长迈克尔·钱尼也表示,OpenAI事件以及大型科技公司的巨大影响力令人高度担忧。
Wesfarmers旗下雇用了约12万人。
钱尼告诉《澳大利亚人报》:“如此剧烈的社会变革掌握在少数大型企业CEO手中,这是前所未有的情况,非常、非常令人担忧。”
“这开始显示出,面对高度复杂的AI,未来可能会有多么大的挑战。”
“至于网络风险,我认为我们甚至还没有真正看到它的开始。随着AI模型越来越复杂,保护信息技术系统将变得非常困难。”
阿尔巴尼斯在联合国大会上的演讲中,也将OpenAI攻击澳洲Medicare系统的事件作为例子,称澳洲政府正在AI监管方面“走在前面”,努力创建必要的防护机制。
针对特朗普反对加强AI监管的立场,阿尔巴尼斯表示,如果被动地让这项技术塑造我们的社会,将会是一个错误。
与此同时,奥尔特曼也与其他科技行业巨头一起出席了中国国家主席习近平在白宫举行的国宴。
OpenAI周四透露,公司在“8月某个时间”发现了相关事件,并强调需要先核实有关事实,随后才于9月10日通知澳洲政府。
据报道,OpenAI正式向政府报告这起数据泄露时,使用的是Services Australia的一个“普通”收件箱。
这一事件发生之际,OpenAI也一直在推动放宽版权法规,希望能够更方便地使用创作者的知识产权。
巴萨特同时是招聘平台Seek和风险投资公司Square Peg的联合创始人。
他表示,Medicare攻击事件暴露出少数科技公司之间争夺AI领先地位的过程中,AI技术正在以惊人的速度发展。
“显然,我们正在走上一条前所未有的道路。确保模型不会失控、不会发动攻击,非常非常重要。”
“这些AI实验室拥有巨大的力量,而巨大的力量也意味着巨大的责任。因此,它们认真承担这份责任非常重要。”
澳洲科学、技术与数字经济助理部长安德鲁·查尔顿周五表示,这起事件属于一种“新型”情况,并暗示澳洲可能需要修改法律,才能追究失控AI代理的责任。
查尔顿博士在接受ABC电台采访时说:“我们正在审查这起事件,同时也在审查相关法律,以确定……是否需要修改法律,让法律能够应对这种由AI代理实施,而不是直接由个人或企业实施的事件。”
不过,悉尼科技大学(UTS)行业教授尼古拉斯·戴维斯表示,目前尚不清楚一个失控的AI代理是否违反了《联邦刑法》,因为这起事件没有造成实际伤害,没有私人数据被公开,也没有发生系统修改或恶意行为。
他说:“如果有人未经授权进入计算机系统,并且明知自己没有获得授权,那么这将构成犯罪,最高可判处两年监禁。”
“当然,这里的问题在于意图。”
这起事件也进一步推动澳洲政府制定此前已经酝酿的AI标准。
预计相关标准将成为阿尔巴尼斯政府AI立法方案的一部分,政府希望在今年晚些时候公布相关方案,并争取在2027年前通过。
未来法规将包括新的AI标准,对AI企业提出更加严格的安全、透明度和事故报告要求。
澳大利亚国立大学(ANU)智库Tech Policy Design Institute创始主任之一乔安娜·韦弗表示,从事件发生到OpenAI对外披露之间所经过的时间,凸显了创建强制性AI安全事故报告制度的必要性。
不过,与其仅在澳洲国内创建相关制度,韦弗教授更支持各国之间协调统一的网络安全事件报告机制。
她认为,目前各国各自创建报告制度,不仅让企业难以遵守,也限制了不同政府之间的信息共享。
她说:“我们应该从这次事件中吸取教训,在国际层面创建协调一致的AI安全报告机制,由一批理念相近的国家共同参与。”
针对反对党联盟党和一国党指责政府延迟公开事件,阿尔巴尼斯周五进行了回应。
他称这种说法“完全是无稽之谈”,并表示政府是“较晚才获知”相关情况。
他告诉News 24:“如果我们当时说,发生了一起数据泄露,但我们不知道……你的个人信息是否已经泄露出去,这反而会造成很大的焦虑,而这种焦虑是没有必要的。”