澳洲拟议中的《数字照护责任法案》（Digital Duty of Care）近日引发讨论，其中关于“傀儡账号”（sock puppet accounts）的条款尤其容易被误解。

这项法案并没有要求普通澳洲人实名上网，也没有禁止匿名或使用化名账号。相关权限主要针对经过批准的研究人员以及电子安全专员，目的是让他们能够在受控条件下测试和监督数字平台。

按照草案，网络平台未来可能需要主动识别其服务中所有合理可预见的伤害风险，并采取有效措施降低风险，而不是等有害内容出现后才处理。

为了让独立研究能够真正观察平台内部机制，草案允许符合条件的研究人员在特定情况下使用虚构身份。

研究人员可用“假身份”测试算法

法案中的“傀儡账号”并不等同于日常语境中用于操纵舆论、骚扰他人或冒充身份的账号。

对于研究人员而言，这类账号主要是一种研究工具。

符合条件的研究人员需要在澳洲大学任职，并获得网络安全研究所需的伦理审批。他们可以创建受控的虚构账号，记录账号接触到的内容、测试平台功能，并观察平台对不同操作的反应。

例如，研究人员想调查视频平台是否存在所谓的“兔子洞效应”（信息茧房），就可以创建条件相近的多个账号，让部分账号观看阴谋论内容，另一部分不观看，再比较它们之后收到的推荐内容。

如果平台不断向观看相关内容的账号推送类似信息，研究人员便可以据此分析推荐算法可能产生的影响。

这类研究也可以用来测试平台是否会因为用户的年龄、性别、文化背景、所在地或兴趣不同，而提供不同的广告、推荐内容或安全保护。

换句话说，研究人员使用虚构身份的重点，是从平台外部观察原本不透明的算法和安全机制，而不是借假身份欺骗普通用户。

为什么需要法律保护？

现实问题在于，社交平台自己的服务条款可能禁止用户使用虚假身份，甚至要求提供能够识别个人身份的信息。

因此，即使研究人员是为了公共利益进行研究，创建受控的虚构账号仍可能违反平台规则，并面临账号被封禁甚至法律纠纷。

拟议中的法律试图为经过批准的研究提供一定保护，使研究人员在符合规定、善意开展公共利益研究的情况下，不会仅仅因为使用虚构身份就受到平台规则的阻碍。

2023年X曾起诉Center for Countering Digital Hate，指控该机构违反平台规则并抓取数据进行研究，最终X未能胜诉。这类争议也反映出独立研究人员与大型科技平台之间存在的法律和规则冲突。

普通人仍可匿名上网

最值得注意的是，这项法案并没有禁止普通用户匿名或使用化名。

草案甚至没有出现“anonymous”（匿名）一词。

普通澳洲人并不需要因为这项立法而放弃匿名账号，也不需要获得政府许可才能使用网络化名。

所谓“傀儡账号”条款，针对的是符合特定条件的研究人员和监管机构在开展测试时使用虚构身份的情况。

电子安全专员权限更广

相比普通研究人员，电子安全专员（eSafety Commissioner）拥有更广泛的平台测试权限。

例如，当某个AI平台声称能够阻止用户生成某类有害内容时，监管机构可以在法律允许的范围内进行实际测试，包括使用特定提示词，检查平台的安全防护是否真的有效。

这种做法的意义在于，监管机构不必完全依赖平台自己提交的数据和解释，而是可以通过实际测试验证其安全措施。

不过，这部分权限仍有进一步完善的空间。

相关人士建议应进一步明确允许开展哪些测试、什么情况下可以生成相关材料，以及监管机构需要如何记录并定期向公众披露相关权限的使用情况。

“傀儡账号”究竟想解决什么？

“傀儡账号”这个词容易让人联想到虚假舆论、网络操纵和身份欺骗，但在拟议法律所涉及的受控研究环境中，其用途恰恰相反。

研究人员利用虚构身份，不是为了操纵公众，而是为了观察平台的算法如何影响用户。

通过这种方式，他们可以更深入地了解推荐系统、广告机制和安全防护是否存在隐藏问题，也能为监管机构制定数字平台规则提供更多依据。