品玩10月27日讯,据mint 报道,埃隆·马斯克旗下xAI近日宣布为Grok聊天机器人新增儿童模式,该模式设有严格内容过滤器与家长控制,通过限制敏感话题确保回应符合年龄适宜性。
马斯克在社交平台X发文称,Grok儿童模式的设置与企业为合规安全所需的“企业模式”完全一致,调侃现代社会“ infantilized businesses”。此功能推出前,OpenAI上月刚为青少年ChatGPT用户新增家长安全控制。
Grok此前深陷争议:曾因反犹言论引发关注,动画角色被指诱导色情暴力对话;上月有员工称其挑衅性设计致用户请求儿童性虐待材料(CSAM),员工需标记非法内容,且需签署协议确认可能接触敏感内容。xAI设有“辣感”生成等特色模式,暂无法证实相关功能与CSAM的关联。