悉尼市议会正考虑升级街道闭路电视（CCTV）系统，计划在现有摄像头中引入人工智能技术，自动分析公共场所的画面，并在发现异常行为时向监控人员发出警报。

根据澳洲新闻集团取得的10月市议会文件，悉尼市目前有超过100部摄像头全天候运行。拟议方案允许市议会通过摄像头内置功能或额外软件使用AI，帮助工作人员及时发现潜在安全风险。

系统可能识别的行为包括有人放下或拿走物品、车辆逆向行驶、人群突然聚集，以及人群突然奔跑等。

这意味着监控系统未来可能不再只是被动记录画面，还能主动分析现场情况，提醒工作人员留意异常事件。

AI可根据衣着和外观特征搜索人员

草案还提出引入“特征搜索工具”，允许监控人员根据画面中人物或车辆的外观特征进行检索。

可供搜索的特征包括性别、年龄、衣服颜色、头发颜色，以及是否背着背包或携带手提包。车辆方面，则可根据车型和颜色等信息进行查找。

例如，工作人员可以输入某人的衣着颜色、是否携带背包等描述，在监控画面中寻找符合条件的人物。

不过，悉尼市的拟议方案明确排除生物识别技术，包括面部识别。这意味着相关系统计划利用可见的外观特征辅助搜索，而不是通过人脸识别确认个人身份。

悉尼市发言人表示，新的行为守则草案将在最终决定前公开展示，供公众查阅。

市议会强调AI只负责提示，仍需人工核实

按照拟议方案，市议会可以采购AI辅助软件，从CCTV画面中识别潜在公共安全风险，并向安保操作员发送警报。

但AI不会直接决定采取行动。工作人员收到提示后，仍需查看相关画面，核实现场实际情况。

市议会还表示，未来闭路电视系统的招标工作将继续优先考虑居民、工作人员和访客的权利、自由及隐私。

西澳警方试行面部识别，三个月扫描逾90万张脸

悉尼考虑升级监控系统之际，澳洲其他地区已经在试验更具争议性的面部识别技术。

今年8月，珀斯Vincent市时隔16年更新闭路电视政策。相关草案涉及利用生物识别技术，识别被禁止进入市政设施的人员。市议会还在研究通过AI监测休闲中心溺水情况，以及识别使用角磨机盗窃自行车等行为。

与此同时，西澳警方正在全州试行实时面部识别技术。试验于今年6月启动，最初三个月内，警方在36个地点开展77次行动，扫描面孔超过90万次，最终逮捕79人，并出现8次错误警报。

伦理与网络安全专家David Tuffley认为，西澳政府在试验期间总体采取了相对谨慎的做法，但更值得关注的是，未来政府可能如何扩大这类技术的使用范围。

他担心，监控技术可能逐渐被用于针对特定群体或宗教活动，而公众未必能及时察觉监控范围的变化。

Tuffley预计，AI监控未来会更加普遍，体育赛事和机场可能成为重点应用场景。他指出，面部识别技术往往以提高便利性为理由推广，例如让旅客通过自动识别通道，减少排队等待。

但他强调，相关系统必须保留人工监督，不能在没有人类核实的情况下自行采取行动。

美国误识别案例引发技术风险担忧

美国曾发生两起面部识别错误指认事件。

在佛罗里达州，一名男子起诉多个执法机构，称自己被面部识别系统错误指认为涉嫌诱骗一名未成年女孩离开的人。系统判断他与监控画面中的男子有93%的匹配概率，但案发时他实际上身处距离现场近500公里的地方。他花了近一年时间才洗清嫌疑。

另一起事件发生在田纳西州。一名祖母被面部识别软件错误指控在北达科他州涉嫌欺诈，并在监狱中关押了5个月。她当时并不在北达科他州，而是在照顾自己的4名孙辈。

数字取证专家Stewart Pope指出，AI增强监控的一项风险在于，技术可能补全原本不存在的面部细节，从而导致错误识别。

他还担心，随着AI生成内容越来越逼真，真实证据也可能更容易受到质疑，被当事人指称为AI伪造。

AI正在改变犯罪方式，也给司法系统带来压力

澳洲联邦警察代理副署长Sandra Booth近期在联邦议会调查中谈到AI带来的新型犯罪风险。

她表示，年轻人过去可能需要数月甚至数年才会走向激进化，如今这一过程可能缩短至几天。部分年轻人通过网络社群寻找归属感，一些潜在犯罪者还会利用AI聊天机器人研究和策划袭击。

数字取证专家Pope则指出，AI正被用于制作虚假护照和签证材料，远程房贷、银行及贷款申请中也出现类似欺诈问题。

他解释，过去制作一张逼真的欺诈图片可能需要数小时，成功率却不高；AI能够快速批量生成数百甚至上千张图片，即使单张图片的成功率有限，也可能增加整体欺诈成功的机会。

AI生成虚假资料的问题也已延伸至司法领域。今年9月，联邦法院法官Simone Bingham命令移民律师Gurdial Singh Ranji Singh支付9600澳元诉讼费用。原因是他提交的两份法律文件中，有11项法律依据被发现是AI生成的虚假内容，或根本不存在。

新州地方法院资深法官Judith Gibson此前也曾警告，生成式AI被滥用正成为法院面临的严重问题。

澳洲高等法院首席大法官Stephen Gageler则表示，大量AI生成材料涌入司法系统，正在给法院带来难以持续的负担，法官逐渐成为机器生成证据的“人类过滤器和裁决者”。