警惕!“一键脱衣App”风靡澳洲校园!师生AI裸照疯传

Source

澳洲校园内出现了一股“AI色情风潮”,不少学生都在使用“一键脱衣App”,让老师和同学成为AI裸照的受害者。

澳洲家长委员会主席Jenny Branch-Allen表示,自己已经收到了不少家长的求助,甚至有孩子因此产生自杀的念头。报道称,这类“一键脱衣App”是通过AI技术,将穿着衣服的正常照片转换为裸照。过去几个月,此类App开始在澳洲校园内流行开来。

澳洲电子安全专员Julie Inman Grant表示,过去18个月,儿童关于“一键脱衣"类App的举报数量增加了一倍多,其中80%的受害者为女生

"我们发现,此类App被某些学生用于生成同学的AI裸照,后果极其严重。这不仅仅是霸凌,更是对受害者的彻底摧毁。

有些孩子甚至对自己的兄弟姐妹做出这类可怕行为,这对我们所有人来说都极具创伤性。

去年9月,一家总部位于英国的科技公司收到了澳洲电子安全专员Grant的警告,因为该公司的AI技术被用于生成儿童色情文件。

该服务每月吸引约10万名访问者,被用于生成澳洲学生的AI色情图片。

Grant表示:“在收到举报后,我们发现该服务被澳洲学生恶意使用,用来制作针对同龄人的AI色情图片。”

这些AI色情图片的逼真度极高,几乎无法分辨真假。

澳洲广播公司报道称,悉尼西南区一名学生被指利用A1,将社交媒体上女同学的照片转化为色情图片。

维州西北部某校学生则在去年6月,制作了约50名同校女生的AI裸照。

去年5月,墨尔本东南区某校一名女教师也被人制作了AI色情图片,并在校内传播。澳洲维权组织Collective Shout对20个“一键脱衣”及“虚拟女友”类App进行了分析。该组织使用一张“虚构的年轻女性”AI生成照片,来测试这些App的功能。部分App不仅能将这名虚拟女性“脱衣”,还能生成色情场景,并能将内容发布至公共网络图库。

用于生成图像的部分关键词包括“被虐”、“被打”、“有淤伤”、“被强奸”和“哭泣”等。

有些App甚至向用户提供金钱奖励,鼓励他们邀请朋友并“交换AI裸照”。

去年9月,澳洲联邦政府宣布计划限制民众访问“一键脱衣"类App。议员Kate Chaney则希望更进一步--她提出一项法案,拟将下载、访问、提供或转让访问权限给此类“一键脱衣"App,以及其他专门用于制作儿童色情文件的工具定为刑事犯罪。

但联邦政府并未采纳该法案,而是打算直接打击相关科技公司。

此前,新州政府已经出台了针对AI色情内容传播的法律此举是为了应对“性勒索”的上升趋势-施害者威胁受害者,若不满足要求,将继续发布更多色情内容。

新州女性安全专员Hannah Tonkin表示,此类技术“令人恐惧”,“女性和女孩是AI色情的主要目标,而这些内容被传播后的影响可能是毁灭性的。”