品玩10月28日讯,据TechCrunch 报道,OpenAI周一发布数据显示,ChatGPT每周超8亿活跃用户中,有0.15%存在含自杀计划或意图的对话,每周涉及超百万人;相似比例用户对其有高度情感依恋,数十万人对话显精神病或躁狂迹象。
该数据随模型改进公告公布:公司咨询170余名心理专家,新版GPT-5对心理健康问题的“理想回应”较前版增65%,自杀话题回应合规率达91%(旧版77%),长对话防护能力提升。新增情感依赖等安全评估基准,推家长控制及年龄检测系统。
值得注意的是,目前OpenAI面临16岁少年自杀案诉讼及两州总检察长警告。
