澳洲《卫报》调查发现,人工智能“幻觉”问题已从普通用户使用时的偶发错误,渗透至澳洲公共政策制定体系。
调查通过程序筛查议会调查提交材料中的参考文献,并进一步人工核实,发现至少39份提交给澳洲政治调查的材料含有疑似AI生成的虚假引文,另有超过100份文件参考链接中出现ChatGPT网址标签。调查人员强调,未包含参考文献的AI生成文本无法通过此方法识别,实际数量可能远高于此。
AI幻觉的典型表现是生成具有完整学术格式的虚假论文——包含作者名、机构名、标题、期刊、年份和页码——但该论文根本不存在,有时还将虚假研究归到真实学者名下。若普通用户看到完整的学术引用格式,极易误以为真实存在。
ANU学者Christian Downie警告,若此趋势持续,议员可能依据并不存在的证据作出决策;更危险的是,一旦错误信息进入政府文件,其可信度可能被进一步放大,影响气候、移民、医疗、住房等公共政策制定。
调查发现的具体案例中,一份关于家庭暴力与自杀的议会调查提交材料引用了归到昆士兰大学副教授Divna Haslam名下的虚假研究,错误描述其团队研究结果,Haslam认为这“非常可怕”,因为虚假引用看起来极为真实,甚至Google的AI摘要也将其描述为真实论文。
另一份住房不平等调查提交材料引用了一项并不存在的悉尼大学教授Nicole Gurran的研究;参议院气候变化错误信息调查材料则把不存在的论文归到记者兼学者Margaret Simons名下,Simons本人一度怀疑自己是否真的写过这篇论文。
涉事机构Drilldown Reports承认在研究过程中使用AI,后来发现错误但已超过修改期限,认为主要是人为审核失误。Guardian采用的方法并非直接检测文件是否为AI生成,而是提取参考文献与CrossRef和Google Scholar等学术数据库比对,若20%以上参考资料无法匹配则进入人工核查。该方法存在天然局限——若AI生成文字但无参考资料则无法发现,因此39份仅为保守估计。
OpenAI回应称解决幻觉仍是持续研究领域,建议用户将AI输出视为“初稿”而非最终来源,需核实引语、数据和外部引用。Google表示AI Overviews的运作方式与传统搜索类似,但若网络本身已存在AI生成虚假信息,AI搜索再将其总结输出,则可能形成“错误信息循环”。
问题文件来自政治光谱各方的个人和组织,显示AI幻觉并非特定阵营问题。当前最值得警惕的是虚假信息进入“权威信息链”的机制:AI生成虚假研究→写入政策提交材料→议会接收→委员会引用→政府参考→媒体报道→搜索引擎抓取→AI再次总结→公众引用——原本不存在的研究由此获得“看起来非常真实”的公共存在。
随着未来议会、政府和法院文件可能出现更多AI生成内容,事实核查能力将成为维护公共决策可信度的关键防线。在这个信息真伪边界日益模糊的时代,维系公共讨论质量的钥匙,依然掌握在对证据来源的审慎追问与独立核实之中。