AI深度伪造诈骗拉响警报!ASIC称虚假投资“名人背书”案件激增

Source

ABC财经记者艾伦·科勒(Alan Kohler)和澳大利亚央行(RBA)行长米歇尔·布洛克(Michele Bullock)被卷入了一起利用AI深度伪造技术推广加密货币的诈骗骗局。

诈骗分子正利用名人、政客和公众信赖的人物形象,为虚假的投资项目“背书”。澳大利亚企业监管机构警告称,人工智能正在让这种骗局变得越来越普遍、越来越逼真,也越来越难以识别。

澳大利亚证券与投资委员会(ASIC)今天发布的一份报告指出,AI深度伪造视频大幅增加。诈骗分子通过这些视频诱骗受害者将资金投入虚假的投资平台和网站。

一篇虚假新闻报道,照片中澳大利亚广播公司(ABC)记者艾伦·科勒和澳大利亚央行(RBA)行长米歇尔·布洛克在ABC演播室里互相怒视。

ASIC表示,在过去12个月里已下架超过1.9万个诈骗内容,较前一年增加182%

这些骗局通常利用AI深度伪造技术,在社交媒体上冒充知名金融界人士或政界人士,再将受害者引导至虚假新闻网站,以此制造所谓的“社会认同”(social proof),随后诱导受害者进入可疑的投资网站。

这些骗局中最常被冒充的人物包括:澳大利亚总理安东尼·阿尔巴尼斯(Anthony Albanese)、反对党领袖安格斯·泰勒(Angus Taylor)、亿万富豪吉娜·莱因哈特(Gina Rinehart)、已故广播主持人约翰·劳斯(John Laws)、参议员宝琳·韩珊(Pauline Hanson),以及ABC自己的财经记者艾伦·科勒(Alan Kohler)

一个看起来十分正规的加密货币投资网站。

报告称,这些骗局通常从社交媒体广告开始,由所谓的名人进行“背书”,然后将受害者带到虚假新闻报道。这些报道吹捧虚假的投资平台,最终骗走受害者的钱。

一旦骗子获取了受害者的个人信息,他们就会进一步通过电话联系,向受害者提供所谓的“投资机会”,甚至先让受害者获得一些小额利润,以创建信任。

ABC并不陌生于遭到冒充。诈骗分子经常炮制诱导点击的文章,假装来自这家公共广播机构,迫使ABC在其网站上发布相关信息,提醒公众防范骗局。

这些虚假内容通常描绘某位知名人士,声称其掌握了某种隐藏的“致富秘诀”或投资方法,然后将受害者引导至诈骗网站。

根据国家反诈骗中心(National Anti-Scam Centre)最新报告,2025年澳大利亚人因诈骗损失超过20亿澳元,经济损失较前一年增加近8%

其中,投资诈骗占总损失的38%以上,达到8.377亿澳元;其次是付款转账诈骗,损失近1.67亿澳元

ASIC表示,诈骗分子反应非常迅速,善于跟随新闻热点调整诈骗内容,例如围绕利率和加密货币等热门话题行骗。

一场没完没了的“打地鼠”游戏

ABC资深财经记者艾伦·科勒(Alan Kohler)经常成为冒充诈骗的目标。他说:“创建信任花了一辈子的时间,但信任却很容易失去。”

他说,当他向Meta举报时,对方会删除相关账号,但很快又会出现新的账号。

“这就像打地鼠……刚打掉一个,它马上又冒出来。”

澳大利亚国民银行(NAB)前首席经济学家艾伦·奥斯特(Alan Oster)也是这些虚假广告中经常被冒充的对象。他第一时间担心的是,人们会误以为他真的为这些投资项目做了背书。

艾伦·奥斯特表示,允许这种情况发生“令人震惊”。

他说,最严重的时候,他每周会收到10条消息,都是有人告诉他自己看到了这些诈骗广告。

“我当时想,‘妈的,这太糟糕了。我怎么才能阻止它?’因为真的会有人因此损失钱,然后怪到我头上。所以我感觉非常糟糕。”

“这太令人震惊了,但显然他们(社交媒体公司)也无能为力,因为这些公司在海外运营。”

ASIC主席莎拉·考特(Sarah Court)表示,社交媒体公司必须采取更多措施保护用户。

她说:“我们认为,社交媒体公司在诈骗问题上有很多责任需要承担。”

她表示,新的诈骗防护框架将把社交媒体公司纳入整个防诈骗体系,努力阻止这种网络欺诈行为。

考特表示,ASIC正努力从源头打击这些诈骗活动。监管机构可以下架诈骗网站,并确保这些网站不会重新上线。

报告建议消费者始终检查投资项目是否持有澳大利亚金融服务许可证(AFSL)。不过,拥有许可证并不能保证相关项目一定合法,也不能保证其能够实现所宣称的投资回报。

监管机构警告称,一些诈骗网站甚至会冒充合法企业,包括冒用这些企业的AFSL信息。因此,用户必须确认自己投资的项目名称与许可证上的名称完全一致。

AI让诈骗越来越难以识别

考特表示,用于推广这些骗局的内容越来越精致,开始使用熟悉的品牌元素以及看起来非常真实的用户评价,使诈骗越来越难以被识别。

她说:“AI正在以多种方式显着加剧这一挑战。

过去,人们还可以通过调查投资项目来判断其是否合法。但如今,即使用户“非常仔细地查看、花时间核实”,仍然可能无法确定眼前的项目到底是真是假。

ASIC主席莎拉·考特表示,AI正在让诈骗更加逼真,也更加难以识别。

科勒表示,他怀疑情况“只会越来越糟”,并认为解决这类诈骗唯一切实可行的办法,就是进一步加强政府干预。

他说:“政府必须迅速介入,不能把这件事完全交给平台自己处理。”

“政府必须对这些平台采取强硬措施,包括罚款和监管。我认为,这很可能正在演变成一场紧急危机。

过去三年,监管机构已经下架超过3.34万个诈骗网站、社交媒体诈骗账号及网络钓鱼骗局

Meta(Facebook和Instagram母公司)的一名发言人在声明中表示,网络上被下架的诈骗数量增加,“可能反映出平台的诈骗检测和执法能力有所提高,并不一定意味着某个平台上的诈骗数量增加”。

该发言人还表示,公司已经推出人脸识别技术,用于识别冒充他人的诈骗广告,并称这一技术帮助用户举报量下降了22%

不过,Meta的声明没有回应相关问题,包括为什么这些诈骗广告仍然能够通过其审核系统获批,以及Meta从这些诈骗广告中赚取了多少钱