【壹快评|#治理珠峰装电梯类谣言不能止于辟谣#】#建议推行AI内容强制标识制度#给珠峰装电梯”原本是网络恶搞段子,与“给长城贴瓷砖”“给太平洋加盖子”一样,因其荒诞性易于识别,公众大多一笑置之。然而,随着AI生成内容(AIGC)技术的成熟,这些荒诞构想被包装成以假乱真的视频图文并加以传播后,性质发生了根本变化。“眼见为实”是人类惯常心理机制,虚假视频图文便利用了这种心理机制,通过AI生成逼真画面加上误导性表述来迷惑受众。由于这类内容往往新奇怪诞,也就很容易传播扩散,为制作、传播者带来可观流量。一旦流量拥有者把流量用“偏”,就可能轻则诱导消费,重则传谣诈骗。
由此可见,官方辟谣类似“珠峰装电梯”的AI虚假视频图文,绝非缺乏幽默感的小题大做,而是十分必要的提醒和警告。
但仅仅辟谣可能还不够。当前,这类AI虚假信息可谓层出不穷,有的已经产生危害,有的可能还在“养鱼”阶段,逐个辟谣既不现实,也难以保证效果。由于互联网用户数量庞大,且用户的网络知识素养参差不齐,尤其是文化水平不高的人群和老年人群,缺乏对网络信息真假的甄别能力,很容易成为AI虚假信息的受害者。例如,通过AI假视频网络直播贩卖假货的骗术,老年人群往往是受害的重灾区。
基于AI虚假信息的产生机制和危害特点,治理策略需要摆脱“跟随辟谣”的常规思维,建立技术规范、监管创新、法治完善三位一体的综合治理体系。
首先,要严格规范AI技术应用,推行“AI内容强制标识制度”。对于AI生成式音视频、文字产品等,应要求在显著位置注明系AI生成,提醒用户注意。特别是对于AI数字人之类产品,更要严加监管。今年夏天,美国老人通布被AI陪聊应用引向死亡的悲剧给世人敲响了警钟,决不能让悲剧重演。