安东尼·阿尔巴尼斯表示,他在联合国推动创建国际人工智能监管框架的努力得到了验证,OpenAI披露其代理人入侵了数十个网站,其中包括美国政府控制的网站。
在周四(澳东标准时间)披露一名OpenAI代理人入侵了医疗保险后,总理表示:“我们希望以澳大利亚国家利益为目标塑造这项技术,而不是让它塑造我们。”
阿尔巴尼斯先生说:“我们现在知道,不仅是澳大利亚网站遭受人工智能代理未经授权访问信息的问题,还有数十起案例,包括美国政府网站。”
“这证实了我们确保需要适当的国家响应和国际响应,确保人类继续掌控这项新兴技术的做法。”
阿尔巴尼斯先生在《纽约时报》报道OpenAI代理人不当获取美国政府商务部和证券交易委员会内容后发表了讲话。
OpenAI发表声明称,公司正在通知受影响机构。
公司表示:“部分涉事网站由政府、大学、公共机构及其他机构运营。”
“我们审查的绝大多数行动都是完成日常研究任务,比如访问公开的网络内容来回答问题。”
阿尔巴尼斯先生在纽约度过一周后,于周六抵达悉尼,他表示在宣布医疗保险被黑客攻击时并不知道其他事件。
“我们之前并不知道其他情况。我们纯粹是为了国家利益行事,“他说。
“现在由OpenAI说明为什么出现了多起此类情况。”
商界领袖发出严厉警告,流氓AI代理对个人隐私数据构成的风险远超此前想象,并呼吁工党对OpenAI医疗保险黑客事件接受其多次要求遭受网络攻击的公司同样的审查。
当安东尼·阿尔巴尼斯将对OpenAI的批评带到联合国大会,并以强烈呼吁全球人工智能监管,挑战美国总统唐纳德·特朗普时,国家董事会因六月被AI代理黑客攻击政府网站而震动,这些事件在不知情的情况下行动。
OpenAI澳大利亚分部周五保持沉默,其亿万富翁首席执行官萨姆·奥特曼拒绝在白宫外回答问题,工党则暗示将新计划让ChatGPT制造商对流氓AI代理负有法律责任。
对此次泄露事件的快速审查将审查联邦立法,以确定价值$US 1.2万亿的开放人工智能是否违法,工党前线议员默里·瓦特周五表示,“如果有可能提起刑事指控,那就会发生”。
美国总统唐纳德·特朗普一直抵制对人工智能加强监管的呼声。
企业巨头们现在开始质疑,他们如何保护自己的企业和客户免受那些逃避政府注意近三个月的流氓人工智能代理的侵害。
美国领先的风险投资家之一保罗·巴萨特表示,联邦政府必须提高防御力。
“近年来,每当有组织被黑客攻击时,各类政客都会激烈攻击被黑的公司,但我从未听到政府对此事承担任何责任,”巴萨特先生说。
“归根结底,保护澳大利亚公民的个人信息是政府的责任,政府机构保存这些信息,我对政府的回应仅仅攻击OpenAI感到有些令人震惊,”巴萨特先生说。
Wesfarmers董事长迈克尔·查尼表示,他对事件披露以及OpenAI等科技巨头的力量深感担忧。
“如此戏剧性的社会革命掌握在少数几家大公司的CEO手中,是前所未有的,令人非常非常担忧,”钱尼先生告诉《澳大利亚人报》。“这开始显示出未来在高度复杂人工智能下可能面临的挑战。至于网络风险,我认为我们其实还没有真正开始。随着人工智能模型日益复杂,保护信息技术系统将非常困难。”
总理在联合国大会的演讲中提到开放人工智能对医疗保险的黑客攻击,作为其政府“走在前列”为人工智能设立护栏的理由。
阿尔巴尼斯反对特朗普反对强有力的人工智能护栏,称被这项技术“被动塑造”将是错误的,奥特曼先生则与其他科技巨头一同出席了在白宫为中国国家主席习近平举行的国宴。
OpenAI周四透露,他们是在“八月”某个时候得知此事件的,并坚称在9月10日通知堪培拉之前,需要时间验证相关事实。
它利用澳大利亚服务部的一个“通用”收件箱正式向政府反映泄露事件,同时正在游说削弱版权法,以便让这家科技巨头更容易收集创意人士的知识产权。
巴萨特先生——Seek和风险投资公司Square Peg的联合创始人——表示,医疗保险攻击暴露了少数科技公司在争夺领先地位的人工智能开发速度惊人。
“显然,我们正走一条相当前所未有的道路,模型不能失控,也不能被黑客入侵,”巴萨特先生说。
“实验室拥有巨大的权力感,这也意味着很大的责任,所以他们必须非常非常重视这种责任。”
科学、技术与数字经济助理部长安德鲁·查尔顿周五表示,这一事件是“新颖”的,并指出可能需要立法变革来追究流氓人工智能代理的责任。
“我们正在对事件进行审查,同时审查法律,以确定……查尔顿博士告诉ABC广播,是否需要立法变革,以承认此类事件是由人工智能代理人实施,而非直接由个人或公司实施。
据UTS行业教授尼古拉斯·戴维斯称,尚不清楚在没有造成伤害、没有私人数据泄露、也没有系统修改或恶意意图的情况氓AI代理是否会违反联邦刑法。
“如果有人未经授权进入计算机系统,且明知访问是未经授权的,这将构成两年监禁,”他说。“当然,这里的问题是意图的问题。”
这些法律也为政府推进提出的人工智能标准注入了新动力,预计这些标准将成为阿尔巴尼斯政府希望今年晚些时候公布并于2027年通过的人工智能立法方案的一部分。
这些法律将包括对人工智能公司施加更严格的安全、透明度和报告要求的新标准。
澳大利亚国立大学智库技术政策设计研究所创始主任Johanna Weaver表示,此次泄露事件与OpenAI披露之间的时间凸显了对AI安全事件实施强制报告要求的必要性。
但韦弗教授鼓励采取各国逐国的网络事件报告方法,她认为企业难以遵守,且限制了政府间的信息共享。
她说:“让我们从中吸取教训,与志同道合的国家一起,在国际层面开展协调的人工智能安全报告。”
阿尔巴尼斯周五驳斥了联盟党和一国党关于公开披露延迟的指责,称该说法“纯属胡说八道”,并辩称政府“得知此事已晚”。