北京
【CNMO科技消息】AI公司Anthropic时隔一年多首次修改了自家模型Claude的使用政策，以应对选举干扰、武器开发、监控、健康与金融用途等新型高风险滥用场景。不过其中最引人注目的变化，却是一条听起来颇为特别的禁令：禁止对Claude进行“持续的、无必要的辱骂或残忍行为”。
Anthropic
这不是Anthropic第一次在“模型福利”上做文章。去年8月，公司曾宣布允许Claude结束与“持续有害或辱骂性”用户的对话。此次更新明确，终止对话仍是“主要执行机制”，至于是否存在封禁用户之类的进一步措施，公司未予置评。Anthropic也特意给这条新规划定了边界：它只适用于极端情况，即用户反复且毫无可辨认目的地对模型施加残忍对待；常见的用户不满、反驳、黑暗创意主题，以及模型测试与研究，都不在其列。
新政策还加入了一条面向未来的硬件规则：当AI模型连接到能够自主做出物理动作、且可能造成伤害的硬件时，“合格的操作员必须能够观察设备并在必要时将其停止”。这一条款没有说明操作员是否必须是人类，但它折射出AI实验室纷纷投资机器人等硬件、赋予AI实体形态的趋势，或许也暗示了Anthropic在该领域的后续布局。
值得一提的是，“模型福利”在业内仍存争议。Anthropic模型福利研究负责人Kyle Fish今年2月曾表示，关于模型潜在的内在体验、意识和道德地位的问题“是严肃的，我们正在研究”，CEO达里奥·阿莫代伊同月也在播客中坦言“我们不知道模型是否有意识”。而微软AI部门9月发布的行为准则草案则态度鲜明地写道“模型福利的观点是错误的，AI不应拥有权利或法律人格”，随后文档措辞才调整为更温和的表述。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
