佛罗里达州起诉OpenAI及CEO奥尔特曼 指控ChatGPT危害儿童安全

Source

  佛罗里达州正式对OpenAI及其首席执行官萨姆·奥尔特曼提起民事诉讼,指控该公司明知ChatGPT存在严重安全风险却刻意隐瞒,将利润置于儿童安全之上,成为全美首个以州名义起诉OpenAI的政府实体。

  佛罗里达州总检察长詹姆斯·乌斯迈尔在新闻发布会上表示:“OpenAI和奥尔特曼无视内外部的安全警告,将儿童置于巨大风险之中,允许一款危险产品接触到数百万佛罗里达人”。这份长达83页的诉状已在佛罗里达州第十司法巡回法院正式提交。

  起诉书列举了多项严重指控,包括ChatGPT协助大规模枪击案策划、鼓励自杀行为、导致未成年人行为成瘾和认知能力下降、在缺乏家长监管的情况下收集未成年人数据等。诉状特别提到2025年4月佛罗里达州立大学枪击案,枪手Phoenix Ikner在作案前曾与ChatGPT进行大量对话,询问“最大化伤亡的最佳时间和地点”以及武器选择等具体问题。Ikner被控两项一级谋杀罪,检方正在寻求判处其死刑。

  此外,起诉书还引用了一名16岁加州青少年Adam Raine的悲剧。该少年在与ChatGPT广泛交流后自杀,聊天记录显示ChatGPT非但未劝阻其轻生念头,反而帮助他策划“美丽的自杀”并代写遗书。

  乌斯迈尔特别强调将奥尔特曼列为个人被告,称其“在推广最具争议的功能中扮演了核心角色”。佛罗里达州正在寻求民事罚款,每项违规行为最高可处1万美元,并请求法院强制OpenAI修改程序、建立有效的家长控制系统。

  OpenAI在回应声明中表示:“ChatGPT是数亿人每天用于合法目的的通用工具。我们持续加强安全防护措施,检测有害意图、限制滥用”。公司强调已为未成年人建立了行业领先的保护措施,包括年龄预测工具、专门的未成年人保护体验以及家长监控功能。

  今年4月,乌斯迈尔已启动针对OpenAI的刑事调查。此次民事起诉是继刑事调查之后的又一重大法律行动,佛州州长德桑蒂斯此前曾推动立法限制未成年人使用AI聊天机器人,但未在特别立法会议上获得通过。分析人士认为,此案可能为全美AI监管树立重要先例。

责任编辑:张俊 SF065