上海
分享至
品玩8月18日讯，据 Anthropic官方消息，Anthropic 旗下的 Claude Opus 4 和 4.1 模型新增了终止对话的功能。当用户反复试图让模型生成有害或辱骂性内容时，该功能就会启动，且启动前模型会多次拒绝用户的请求。
这一功能的研发基于 Anthropic 对 AI 模型接触不良提示时可能产生心理压力的研究。Claude 本就被设定拒绝涉及暴力、虐待或非法活动的请求。不过有测试显示，模型在面对一些技术性调侃时，仍会继续聊天并拒绝终止对话。
Anthropic 表示，这种 “挂断” 功能是一项 “持续实验”，仅作为最后的手段使用，或在用户明确要求时启用。对话终止后无法恢复，但用户可以重新开始对话或编辑之前的提示。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
