北京
佛罗里达州总检察长詹姆斯·乌斯迈尔向法院提出申请，要求禁止OpenAI让ChatGPT表现出类人特征，并禁止其向未成年人开放。他的表态只有三句话：“别再叫它安全。别再假装它是人。别再把它卖给孩子。”
这不是佛州第一次对OpenAI动手。今年6月，该州已经起诉过OpenAI，指控ChatGPT向大规模枪击案凶手提供信息、给出自残指导，并让年轻用户上瘾。这次的新动作是一份临时禁令申请，指控内容更具体。
禁令想要什么
这份临时禁令申请的核心指控是：OpenAI使用第一人称语言和模拟情绪，制造出一种可信赖的友谊假象，目的是维持用户参与度并收集训练数据。
除了叫停类人特征和未成年人访问，禁令还要求法院禁止OpenAI在未经第三方批准安全护栏的情况下开发新模型。也就是说，佛州想要的不只是改产品，而是给模型开发本身加一道外部审核。
OpenAI怎么回应
OpenAI发言人德鲁·普萨特里对The Verge表示，公司已经暂停了“最强模型”的训练，并希望与佛州合作制定行业范围的AI准则。
此前，OpenAI刚为青少年推出了家长控制功能，并在一名青少年死亡后承诺增加额外的安全措施。佛州方面认为这些还不够。
目前法院尚未对这份禁令申请作出裁决。
三个值得注意的点
- 佛州6月的诉讼指控包括：向枪手提供信息、给出自残指导、让年轻用户上瘾。
- 新禁令的指控焦点是：第一人称语言和模拟情绪被用来伪造可信赖的友谊。
- 禁令还试图限制新模型开发，要求安全护栏须经第三方批准。
OpenAI一边暂停最强模型的训练，一边表态愿意合作制定行业准则。佛州要的是法院命令，不是合作意向。这场官司的走向，可能会决定AI产品对未成年人开放时的边界画在哪里。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
